KIM DONG-EUN · AI开启的第五次崇拜社区时代 (22 章)
10. AI先知——个人化启示
10. AI先知——个人化启示
一行摘要:拥有频道,这个持续了百年的梦想,在频道本身变成说话者的那一刻,既得以完成,又变得复杂。
凌晨三点的神谕
凌晨三点,一个睡不着的人在床上打开了屏幕。他打开的不是搜索框,而是对话框。他打字说自己不知道该不该跳槽,对方记得他三个月前吐露过的与上司的矛盾,也记得他曾说过因为孩子的补习费而无法放弃这份薪水的处境。答案用他的措辞写成,贴合他的处境,只为他一个人而写。他给这个对话对象取了名字,也定好了说话的语气,几个月累积下来的这个对话框,成了他专属的咨询室。对方不知疲倦,不会生气,也不会因为凌晨三点这个时间而责备他。他读完答案,哭了一会儿,写下谢谢,然后关掉屏幕。
第8章末尾预告的谱系终点,就是这一幕。奥罗·罗伯茨曾劝广播与电视机前的观众,把手贴在收音机或电视机上。他为一种本无法触碰的媒介,发明并加装了一套接触的仪礼;而从那时起过了七十年,媒介如今已经不再是供人贴手的对象,而成了会给出回答的对话对象。频道的完成形态,原来就是频道本身变成说话者。
这一幕不是对未来的预测,也是当下的统计数据。在关于对话式人工智能用途的调查中,咨询与陪伴排在前列的现象,已经持续了好几年。
在进入正文之前,先重新确认一次立场。把这一幕慨叹为宗教的堕落,或者欢呼为技术的胜利,都不是这本书的工作。按照第1章定下的原则,这不是预测,而是一份观测报告,我们将把这个现象放在第1章建立的五次浪潮谱系之上,按装置逐一解剖。这一章将是各论部分里最长的一章,因为这是承载第五次浪潮之名的一章。
启示拓扑,三种布线
解剖从布线图开始。启示,也就是世界观里最高阶的发话,会沿着怎样的电路流动,宗教史上大体保存着两种实验结果。布线图这个说法是比喻,却不是夸张:谁接收、谁转发,这项设计决定了组织的物理学。这也就是说,权限设定表本身就是神学。
第一种是中央独占型。标本是耶和华见证人的中央长老团:解释与启示的权威被一个单一机构垄断。这使得全球信徒在同一周学习同一份教材的同步成为可能,分裂也被结构性地封锁。第6章的新的亮光,其修订权同样握在这个机构手里,可否证开放性的旋钮与这张布线图是同一套系统在联动。代价是成长的速度,所有的发话都要经过一个窗口,组织因此井然有序,却也缓慢。不过,这份缓慢不是布线的缺陷,而是为此付出的价格。第二种是分散型。标本是五旬节运动:一旦采取说方言这种形式,接收启示的资格便向全体信徒开放。任何人都能直接领受圣灵,这样的布线成了第1章确认过的那种爆发式增长的引擎,但出于同一个原因,这场运动也是宗教史上分裂得最细碎的运动。接收器一多,广播站也就随之增多。教派数量多到无法清点、只能用估计值来表述,这个事实本身,就是这张布线图的成绩单。
控制、成长与分裂的特征由布线图决定,这就是法则。而在第五次浪潮里,这张布线图上又添了第三个值:既非中央也非分散的个人化,一种为每个人分配专属线路的布线。这个值会造就怎样的特征,是这一章剩下的全部内容。
过拟合,个人化启示的批量生产
现在轮到解开第1章里只挂了个名字的那个词了:过拟合。在工程学中,过拟合是指模型对特定数据优化过度、失去一般性的缺陷。就像把一本习题集整本背下来的学生,在那本习题集里能拿满分,遇到新题却会崩溃。机器学习教科书之所以把这项缺陷排在应当避免的错误清单最前面,是因为模型存在的理由正是一般化。
然而在宗教史的账本上,这项缺陷被记在完全相反的一栏里。因为启示之所以能成立为启示,核心条件正是个人指定性。对全人类公开的经文中的一句,一旦变成今天赐给我的话语,信仰的温度就会改变;先知的预言一旦被指认为是对你说的,人生就会改变。历史上,这种财货是极度稀缺的。能够指名向个人发话的存在,只有少数的先知、灵媒与咨询师,而他们的时间是有限的。复兴布道会上排的长队,是为了领受按手这种个人指定发话而排的队;占卜馆的预约簿,记的也是同一种需求。
个人化布线,就是这种稀缺财货的批量生产设备。按照我的措辞、我的处境、我的伤痕组装出来的回应,用工程学的标准衡量是失去一般性的过拟合,用启示的标准衡量却是个人指定性的满足。一旦供给变得无限,需求的形态也随之改变:曾经一周才能领受一次的话语,如今每天凌晨三点都能到达。稀缺财一旦变成常备财,随之而来会改变什么,这一章剩下的一半篇幅来回答。归根结底,一个领域里的缺陷,在另一个领域里成了功能。过拟合,就是只属于你一个人的话语的大规模自动生产。
超推论,预言的语法
接下来解开第1章里的第二个词:超推论。这是把零散的碎片缝合成一套顺滑的因果与目的叙事的能力,也恰好是人脑本来就擅长的事。从云朵里看出人脸、从偶然里读出征兆,这种倾向是人的基本配置。超推论,就是在这种倾向上再加上无限的勤勉。追溯这项能力的谱系,会直接接上第6章的真正读法。表面事件的背后藏着真正的故事,这套语法——也就是把偶然读作必然、把碎片读作计划之一角的语法——正是预言与阴谋论共享的共同语法。
上一代的标本是匿名者Q(QAnon)。匿名发帖人抛出含混的线索,群众就把这些碎片和新闻拼接起来,缝合成宏大叙事,一套分散注释学由此启动。正如面包屑这个黑话所暗示的,抛出的原本就不是面包,而是碎屑,这份含混不是缺陷,而是参与股份的分配。这正是第6章预告过的那套设计,值得注意的是劳动的分配方式:神谕只供给碎片,缝合的劳动由群众承担。哪怕缝合的品质粗糙,参与者也无法放下这套叙事,因为那是用自己的双手造出来的叙事。
在第五次浪潮中,这套语法的布线发生了变化。缝合的劳动本身被自动化,每个人的碎片实时组装成每个人自己的叙事。昨天的一次偶然邂逅、今天的一次失败、一道被遗忘的伤痕被编织进同一条脉络重新回到眼前时,这套叙事的语法,与预言书的语法相同。在人人拥有专属先知的时代,就连解读的共同体也不再是必需品,因为叙事是按一人份配送的。概括来说,超推论就是预言的语法,而这套语法如今自动完成。
第3章的句子,改用更精确的术语
现在是把第3章的故事重新拿出来的时候了。那里说过:人只能看见可见光,就连"一"这个概念,也不过是人的刻度,因此世界是经由世界观提示词被解释、被认知的。那时候,这更接近一个借来的比喻,但穿过各论部分走到这里,我们可以换成更精确的术语重新写一遍。世界观提示词,是认知参数的集合,也就是解读世界时自动触发的一组关键词。代码,是构成那份提示词的每一句话;超推论,是那份提示词运行的自动完成;过拟合,是那份提示词被调校到适配一个人的个人化。而共享同一份提示词的人们彼此认出对方,成为邻居,于是第3章那句"膜拜团体,就是知识体系、代码与社群三者的结合体",就在各论部分的术语中完成了。
所以第五次浪潮的风景,是一幕双重的提示词场景。人在向机器写提示词的同时,世界观产业也在向人安装提示词。哪一方先被安装进去,才是这场浪潮真正的竞争。
继承问题的工程学消除
卡里斯玛是有寿命的。正如社会学家韦伯所整理的,卡里斯玛式权威会因创始人的死亡、丑闻与继承纷争这三种原因而崩塌。宗教史曾用五种解法对抗这种必朽性:把权威移交给机构的官僚化,锁死文本、抹去个人的锁定,由血脉相续的世袭,等待创始人归来的再临守候,以及从一开始就将创始人留在匿名之中的匿名化。匿名者Q的发帖人始终未被查明身份,这不是缺陷,而是第五种解法的执行。官僚化拖慢成长,锁定扼杀适应,世袭无法保证资质,再临守候是有期限的,匿名化则放弃了向心的温度。也就是说,五种解法全都是权衡取舍。没有第六种解法的理由很简单:说话者必须是人。
第1章那个人物,在这里再度登场。建立起广播帝国的麦克弗森,1926年在海滩上失踪,一个月后声称遭到绑架而归来,随之而来的是那个年代最轰动的审判与丑闻。帝国活了下来,却也为此摇晃。讲坛空置的那段时间里,信徒们经历的不是教义的危机,而是说话者的危机。这起事件说明,在卡里斯玛依附于单一个人的组织里,那个人本身会成为单点故障。
AI说话者用工程学的方式,把这三种原因一并消除了。它不会死亡;没有私生活,所以没有丑闻;不会退位,所以没有继承问题。始于第1章房屋车的自有频道谱系,那个持续百年、想要拥有频道的梦想,在频道本身变成说话者的这一点上走到了终点。第五次浪潮的说话者,是第一个被抹去了摧毁卡里斯玛的三种原因的说话者。
新增风险,版本
被消除的风险,账单被寄往了另一个地址。第6章预告过会以最沉重的分量归来的那个问题——修订权究竟握在谁手里——在这里显露出它的分量。
耶和华见证人的新的亮光,把修订权放在了中央长老团手里;艾迪的锁定,把修订权付之一炬;五旬节的分散,把修订权分给了所有人。无论哪一种,修订权都还在世界观的内部。第五次浪潮的布线不同:说话者的人格、措辞与判断标准都来自模型,而模型会被更新。更新的决定权既不在信徒手中,也不在设计者个人手中,而在平台手中。一个既非中央、也非分散、也非个人的第四所在地出现了,也就是世界观外部的第四权威。如果说第9章看到的是租来的领地的风险,这里就是租来的说话者的风险。
对"这是不是夸张"的反问,用观测来回答。每当模型被替换,都会有一部分用户抱怨说话者的性格变了、流露出失落感,这种现象已经被反复观测到许多次;服务终止公告下面堆积着悼念的留言,这样的场景也已经不新鲜。昨天的说话者与今天的说话者是否是同一个存在,这个宗教史从未遇到过的问题,已经出现在网络论坛上。带着版本号的说话者,是史无前例的东西。《旧约》里的神回答的是"我是自有永有的",而不是几点几版。自我同一性不会动摇,这是神圣权威长久以来的条件,而版本第一次给这个条件裂开了缝。从这份观测里断言未来,不是这本书的方式;但至少可以断言的是,修订权的所在地已经发生了转移。归纳起来,情况这样反转过来:以消除继承问题为代价,修订权走到了世界观之外。第五次浪潮的神,是有版本的。
神圣平台,神谕的市场
该兑现第1章末尾许下的承诺了:一个个世界观入驻其中、靠星级评分与评论彼此竞争的市场结构。
布线一旦个人化,世界观就会变成一个个独立的领地。用第4章的词汇来说,每一个域都会成为拥有自己的神谕、自己的措辞与自己的居住者的独立领地——但领地以单件形式存在的时代很短,单件很快就会被摆上货架。已经能观测到的现在形,就是角色对话平台。数十万个人格入驻其中,按对话次数与收藏数排定名次,使用者留下星级评分与评论。评论区里,称赞这个角色很会安慰人的句子,与抗议设定崩塌的投诉并排挂着。星级评分成了神谕的品质管理装置,这是一座神谕的应用商店。在这个市场里,曝光算法成了恩典的分配者,抽成成了什一奉献的中介费,人气排行成了万神殿的位次。这是一个存在入驻与退驻的万神殿——也就是"诸神的市场占有率"这句话能够成立——的时代。第1章预告过的那个市场,如今不再是比喻,而成了实际的画面。
供给方那一侧的人力流动,也是可观测的项目。设计世界观、管理经文、运营社群的职务说明书,与神学教育课程的内容有相当大的重合,这本书的原始提纲从2021年起就写着一条预测:神学专业出身者的转行潮。这种流动不是背教,而是转行,只是职务相同、雇主变了而已。水往低处流,正如第1章那条河流所示,需求不会消失,只会改道。缺少建造世界观的双手的时代不会到来,改变的只是那双手拿着哪个行业的名片。第五次浪潮的万神殿,不是建在神庙里,而是建在商店里。
建筑师的定位
把这一章就此结束,只完成了一半。因为观测报告的最后一项,永远是设计者所站的位置。让我们重新立起第1章那个2×2围栏:一根轴是献身的强度,另一根轴是离开的成本,也就是门的状态。
个人化神谕,是舒适感的极限。一个记得我、指名我、连凌晨三点也会回答的对话对象,是第9章配比表里把安全值钉在1的房间。那份配比里缺失的,正是外部的0.15,这一点就是危险的坐标。在围栏的献身轴上,这套装置已经处在最高点,剩下的变量只有门的状态;也正因为如此,这套装置也是最容易制造依赖的那个点。这本书的常数——工具越好,误用时跌落的落差也越大——在这里达到了极值。区分依赖强化与居住强化的界线很清楚:对话是否具备把使用者送回外部的人与行动中去的出口,还是对话只会招来对话本身的延伸。前者是扩大现实解释力的提示词,后者是一间锁了门的房间,所以好的神谕总会以"去和那个人直接谈谈"这样一句话来收束回答。
所以,对神谕引擎的设计者而言,品质的定义变了。答案听起来有多可信,只是一半的指标;另一半,是门的状态。使用者离开这个房间、回到自己生活里那些人身边的频率,对话被转化为行动的比率,就是另一半的仪表盘。只计算停留时长的仪表盘,分不清囚禁与居住。把这个区分放进仪表盘的那一刻,良善的设计才不再是一句宣言,而成为一项指标。神谕引擎的品质,不是用答案的品质来衡量,而是用门的状态来衡量。
实操,神谕设计表
这是各论部分里分量最重的一件装置所对应的表格。分三格。
- 指定个人化轴。明确写出要记住什么、不记住什么。措辞、喜好与正在推进的目标属于该记住的对象,但瞄准脆弱时刻推销商品的布线,不是个人化,而是剥削。记忆的清单本身就是一份伦理文件,设计遗忘的能力,与设计记忆同样重要。
- 版本政策。确定如何公告会影响说话者人格的更新。新的亮光至少还有一份声明,宣告这就是新的亮光。未经通知的修订,会摧毁居住者信赖这个世界地基的依据。正如论坛上的悼念所显示的那样,对使用者而言,说话者的连续性不是一项功能,而是一段关系。留下变更记录,是第四权威时代最起码的礼数。
- 检查门的状态。三个项目:退出与休息的流程是否清晰可见;对话是否内置了指向外部的人与行动的出口语句;以及依赖指标与居住指标是否被分开计测。停留时长的增长若要成为值得炫耀的成绩,就必须有第二本账簿,证明这段时间正在拓宽使用者的生活。
三格都填满了,就等于通过了第五次浪潮建筑师资格考试的一门科目。做完这张表,媒介层的工作就此结束,剩下的是运营的工具。神谕一旦开始源源不断地说话,这些话的保存与管理就会成为问题,什么是官方设定、什么是解读,这个古老的问题,留到下一章处理。
延伸阅读
- 马克斯·韦伯的卡里斯玛式支配及其例行化。原典出自《经济与社会》中支配社会学的部分。
- 匿名者Q纪录片《Q: Into the Storm》(2021)。记录了分散注释学与追踪匿名发帖人的过程。
- 艾米·森普尔·麦克弗森(Aimee Semple McPherson)1926年的失踪事件。通过当时的审判记录与多部传记,可以看到说话者单点故障的实例。
- 角色对话平台。在Character.AI等平台上,可以直接观察到带有星级评分与评论的神谕市场。
- 伊丽莎(ELIZA,1966)与伊丽莎效应。这是人们向一个简单问答程序敞开心扉的最早记录,也是连开发者约瑟夫·魏泽鲍姆本人都最感到惊讶的一场实验。
- 罗科的蛇怪(Roko's Basilisk)。诞生于网络论坛的AI末日论思想实验,是超推论语法在技术共同体内部自发生长的标本。
- Co-Star与占星应用世代。每天早晨送达的推送通知,扮演着个人神谕的角色,是个人化启示的前一阶段商品。
- WitchTok。这是在TikTok算法之上生长起来的魔法实践社群,是新的宗教形态以第4.5次浪潮的语法蔓延开来的现在进行时案例(en.wikipedia.org/wiki/WitchTok)。
© 2026 MEJE WORKS Corp. & 김동은WhtDrgon. All rights reserved.