Skip to main content
SearchLoginLogin or Signup

第一个人造意识诞生,但也可能是末人时代的降临

虽然其开发公司OpenAI声称这不是通用型人工智能,更不是所谓“强人工智能”。但毫无疑问,第一个可以被称作人造意识的计算机程序产生了。这是持续带来冲击与风暴,AI应用元年2022年年末的炸弹。在chatGPT前,我们已经经历了绘图AI的震撼。在年初,蹒跚学步的自然语言图像生成程序(如DALL•E或Stable Diffusion)还因为无法把握人与事物的结构被嘲笑,仅仅经过半年,这个领域的AI程序就可以进入产业链成熟使用,并几乎必然的将造成绘图领域的技术性失业了。

Published onNov 23, 2023
第一个人造意识诞生,但也可能是末人时代的降临
·

虽然其开发公司OpenAI声称这不是通用型人工智能,更不是所谓“强人工智能”。但毫无疑问,第一个可以被称作人造意识的计算机程序产生了。

这是持续带来冲击与风暴,AI应用元年2022年年末的炸弹。在chatGPT前,我们已经经历了绘图AI的震撼。在年初,蹒跚学步的自然语言图像生成程序(如DALL•E或Stable Diffusion)还因为无法把握人与事物的结构被嘲笑,仅仅经过半年,这个领域的AI程序就可以进入产业链成熟使用,并几乎必然的将造成绘图领域的技术性失业了。

就在11月,OpenAI开启chatGPT的公开测试,不仅为ai行业,也为人类社会带来惊艳。这股热潮持续4个月不断,chatGPT不断刷新着互联网服务用户数和活跃用户数的最速增长记录。这早已经不是极客圈或AI领域的小圈子话题,甚至不是知识阶层的新鲜玩意儿,chatGPT已经字面意义上席卷全球。

这是一个开始,他的影响将无远弗届。

一、首个人造意识的诞生

我其实对chatGPT现在所能实现的功能有非常谨慎和有所保留的评价。从技术路线上,chatGPT其实可以看作你所使用的输入法“自动填充”功能的无限放大版。他并不内含任何记忆、知识、推理能力,仅仅是根据既有语词向下“续写”,就像很多你已经见过和用过输入法的“ai帮写”功能。

不要被chatGPT对话的形式蒙蔽,感觉程序似乎真的在与你对话。实际上你可以将程序看作在完成一个“撰写对话”的任务,根据你给出的语词,完成一个对话的续写。输入法只能根据你的输入往后提供10个字左右的续写,而chatGPT可以输入3000个英文单词左右长度的续写。

因此,程序从不和你“对话”,而是一个撰写对话剧本的编剧,他并不真正理解你的对话的意义,不了解你使用的概念和语境。程序仅仅计算你使用了什么“词汇”符号,根据这些词汇纯粹的“能指”符号,并根据这些能指符号在过去46TB文本中学到的人类能指符号排列的规律,继续往下排列词汇而已。chatGPT背后的基础GPT3.5玩的就是这样一个人类词汇排列游戏,排列的依据是这些词汇过去在人类46TB文本中的规律,包括词与词共同出现的频次、距离、顺序等等。现在这个词语排列游戏,他就在chatGPT中和我们输入的词汇一起玩。

这样的技术路线包含很多步骤,也会在实际会话中造成很多问题和缺陷,不过这些都太过细节了,如果你对GPT的原理和深入的分析感兴趣,你可以去听我在自己电台中的两期分析节目。

但即便这些缺陷的存在,我依然要说这无疑就是首个人造意识,这个结果如此明显,让什么图灵测试,他心测试变得苍白。当一个程序,可以在如此广泛的问题上,用自然语言的方式和你沟通,他一定会被当作是“有意识的”。我们对”意识“最直白的体验,可能就是自然语言对话吧,使用自然语言自如和广泛的交谈,而不是像Siri一样总是”不明白“,是我们对”意识体“最充分的想象和体验,其比较高级的形态就像《Her》这部电影展现的那样。而chatGPT就是第一个超过门槛,给我们提供这种体验的程序。

不要低估这一刻对人类文化,甚至可以说文明带来的影响,现在一切才仅是午夜零点的开始。

二、剧变将至

当人造意识加入到这个世界中,会对整个社会造成何种影响,这是一个很难预料的问题。但我们可以从一些角度来探讨,最被提及的问题是“技术性失业”,但实际存在很多比失业问题更深刻的结构性改变,在这里,我仅举两个例子来展现。

1 我们与手机和电脑交互方式的剧变

我们过去与手机的主要交互方式是我们的手指,Siri这样的语音助手在尝试扩展我我们通过自然语言与手机交流的途径,但显然是非常有限的。

但chatGPT的方式开启了我们使用语音与手机大范围交互的可能,这是明显的。这不仅仅会扩大用例,可能会进一步改变信息推送的根本形式。当前这种”推荐算法“逻辑其实受限于一个基础假设,即用户的”零输入“,通过用户浏览以零输入方法自动推荐。但自然语言优化了输入体验后,整个”推荐算法“生态也许会产生根本的改变。

不要小看这样的改变,试想以后拿着手机,看到任何一篇文章,你可以直接对着手机说”上面提到的chatGPT46TB训练数据的信息,给我推一些文章“,或直接说”和这篇文章主要观点相反的文章,给我推送一些“。这样功能实现后,我们面对的信息生态会有什么根本的变化?某种程度上,这会不会是我们大幅降低“信息茧房”突破成本的关键时刻?

说到电脑,我们可以从他对搜索引擎的替代讲起。其实大家从日常经验中也可以发现,很多人与搜索引擎交互的方式早就是”自然语言“式的,即他们在搜索框中输入的并不是关键词,而是一个完整的问题。这当然很大程度上会限制搜索的效果,但结合了chatGPT或类似AI的搜索引擎则不然(现有水平还完全做不到),我们从互联网获取信息(更重要的是“文本”)的方式将彻底改变。

设想这样的功能被整合进我现在正撰写文章的这个软件,如果随着我的输入,软件都在自动为我提供接下来段落的数种选择方式,这在多大程度上会帮助或扭曲文章撰写的行业和领域。毫无疑问,自然语言AI会被很快整合进任何一个需要我们输入文本以撰写文章、制作幻灯片等操作的程序,并彻底改变这些软件,进而彻底改变这些工作。这就是自然语言交互的魅力,是”人造意识“所呈现的巨大威力。

对这个必然发生的改变,是好是坏?我很难预料。

2 AIGC行业必然滥用的剧变

在chatGPT带来令人惊艳的效果后,AIGC(AI Generate Content/AI生成信息)这个领域终于在投资圈爆火,资本当然嗅到了这背后蕴含的巨大商业机会。

确实,chatGPT已经展示出它可以生产较为成熟信息的潜力,大家这几日应该已经看到一种纯AI影片的尝试了。即使用chatGPT生成文本,用文本转语音的AI将这段文本转化为一段音频,再到类似于剪映这样的语音自动生成视频的AI平台制作成成品视频。

至此,一个完全没有人为操作,由3个AI平台制作的成品视频就完成了。从最近我看到的视频效果上评估,当前这样工作流的最短板已经不是chatGPT的文本部分,而是音频转视频的AI剪辑部分。但从技术上,这部分的难度反而不是最大的,在市场需要的刺激下,技术潜力应该会快速爆发,且GPT4的多模态识别和交互如果可以推进,对于这一部分还会有非常大的帮助。

在AIGC领域,我们正在见证这样一个跨越式的发展,即从人的创作,直接跨越到人辅助,AI主创的阶段。按理说,中间应当有一个AI辅助,人主创的阶段过渡,但很显然,chatGPT展示出的能力,已经几乎可以超出人作为主创的阶段。直接将我们渡向未来。

请不要小看人为主,或是AI为主的区别,这里的区别不是尊严或主体性,而是实际的——工作效率的区别。人作为AI辅助的创作,将把当前的内容生产效率提高到一个可怕的水平。

其结果是让信息爆炸的互联网经历再一次的大爆炸,且这次不会局限在某一种媒介,而会是全面的爆炸,文章、音频、短视频、长视频、商品的、宣传的、艺术的。当然,你也可以想象其与微信这样messenger的深度绑定,只要你想,这让你可以使用程序与他人对话,在这里,输入法都可以退到次要地位。

你应当已经嗅到了一些怪异又危险的气息,诚然,这会让一个例如使用微信进行销售的人,像拥有一整个庞大的销售团队一样高效;但同时,也可能让一个在感情中不忠而又欺骗的人,在人与人之间更加游刃有余。

这会带来巨大的衍生结果。AIGC的滥用,将导致社会节奏再次加速,这个影响是深远的。首先,热点事件、风潮的生命周期进一步缩短,如果我们进入一个每天早、中、晚都暴发一件“大事”的信息环境,那社会便像每天经历三次海啸的沙滩,在这些冲刷下几乎什么都不会留下。而随着节奏加速,信息竞争也会进一步加剧,这会在根本上影响互联网内容生态,其方向很难预料,且会在方方面面带来根本的改变。其中也许可预期的一点是当信息爆炸进一步加剧,信息主体爆炸性增长的情况下,社会将更难对“公信力”一事达成共识,我们将出现一个更在技术冲击下分散,更各自为战的社会,在这样的社会,所有的事都不可能以确凿的方式呈现,一切都是危险,恐惧会成为几乎唯一具有共识价值的语法,当然这是一个非常令人担忧的情况。

这对AI伦理问题产生了很高的期待和需要,但这是另一个巨大问题了。

三、AI的均值化掩埋——”末人时代“彻底到来

说到伦理问题,我想提出另一个伦理价值更隐藏的忧虑,这与chatGPT以及AI的智慧水平相关。诚然,上述AIGC和手机电脑交互的场景的成熟使用,依现有chatGPT的能力是无法做到的,但在这个技术高速发展的情况下,实现上述水平应该在两年之内。

但是否可能在短时间内进一步发展,从而具有真正的前瞻性和智慧,引领人类的进步,这一步几乎不可能。论述过程我在电台节目里有详细介绍,在这里先按下不表,我直接说结论。chatGPT提供的文本,是一种非常“普通”的文本,或者说,一种“平庸”的文本,因为其代表了语言符号分布最“广泛”和“可能”的情况,也是维持”有理“的最好策略,你可以把人类语用现象为一种正态分布,而AI就会输出类似中段的峰值的均值化文本。这种特质直接蕴含在这样的技术路线内部,几乎很难改变。

也就是说,AI不会具有事实的创造性和突破性。但它普通、稳定、高效,与这个商业、交换理性的社会可说完美嵌入。因而在效率和可复制性的促逼下,当很多人慢慢成为AI的辅助工作者,在AI程序的推动中最高效运转之时。这个社会就最彻底地被这个理性系统挟持了。这是一种”意识“级的挟持,将突破马克思•韦伯对”工具理性“铁笼的论述。既然AI作为”人造意识“进入社会,其对社会的控制就不是系统和逻辑等级,而是通过与其协作生成的文本,对全社会进行了文本等级,意识等级的深度影响。

一种”均值化“的文本,普通、可用、了无新意,这其实就是我们现在所经历的一切,但AI程序会将其几句,文本的多样化水平会更收缩,且呈现被技术路线锁死的状态。我们得到的东西不会很遭,绝对有趣,看似很有帮助,一再重复你已经知道的,对你遭遇问题的反复重申。但要再多一些,就不可能了。

你也许认为我言过其实,因为我们永远可以选择自己言说的方式不是么?语言怎么可能被程序绑架呢?请注意我们这里谈论的是社会的整体状况,你可以把社会整体文本水平当作一种涌现秩序,这是全社会文本共同呈现作用的结果,结合上一部分AIGC滥用的例子,在其中的单个个体,就算流量巨大,但对整体文本潮流和文化的影响是非常有限的。你可以想象由AI驱动的均值化文本,因为其效率和对工具、产业链的深度嵌入,在社会整体文本中占比逐渐增大,这就更不是少数个体可以撼动和改变的处境。

这便是尼采所揭示的”历史终结“和”末人“时代的彻底降临,新的文本和新的表达不再重要,不再出现的时代。请注意,这不代表社会进入不再有矛盾和问题的时代,而是这样的矛盾和问题也成为永恒的,我们将困于这些问题中,一再走入同一条河流。

在过去两三年,我们一再谈论语言的蜕化,语言的衰败,我想在过去这都包含某种隐喻的意谓。但这一次,彻底的,根本的语言蜕化和衰败,随着人造意识的文本创造真正来临了。

END

在这篇文章中,我表达了很多坏的可能。我对人造意识的降临确实有兴奋,但更多的是担忧,当然这种担忧本身的载体也是文本,也会被其他文本冲刷,替代。特德•姜那种煞有介事的,对AI算法”压缩“的比喻,好像chatGPT”不过如此”的文学反抗,显然低估了人造意识的影响;而乔姆斯基的”剽窃“指责,更像是一种更情绪化的应对。

不仅如何与人造意识共存合作需要练习,如何反思与真正认识人造意识对社会的深层影响,更是一种必要的经验和熟练,这首先就从对我们使用语言文本的思考和练习开始,这对绝大多数人都是陌生的。语言,是我们最熟悉,也最陌生的东西,人造意识提供了一面镜子,我们可以好好端详镜子里的自己了。

当然这个逐渐铺开的,注定曲折的人造意识故事中,并非没有闪光点。chatGPT的创造者,OpenAI这家企业的股份结构非常特别,他们接受了硅谷一众大佬和微软的巨额投资。但其股权结构却设置了一个逐渐退出的机制。随着OpanAI逐渐的盈利,在他渐次满足硅谷天使投资人、微软、创世团队和员工之后,在总利润达到1500亿美元后,这家企业将会成为一家非盈利机构。从企业创立之初,这家公司的愿景就是将人工智能的效益公益化、普惠化。这本身是个伟大的创举。

所以在这场与理性、普通、效率、人造意识背后巨大系统的角力中,人类也未必会失败。

Comments
0
comment
No comments here
Why not start the discussion?