KIM DONG-EUN · AI開啟的第五次崇拜社群時代 (22 章)
10. AI先知——個人化啟示
10. AI先知——個人化啟示
一行摘要:擁有頻道,這個持續了百年的夢想,在頻道本身變成說話者的那一刻,既得以完成,又變得複雜。
凌晨三點的神諭
凌晨三點,一個睡不著的人在床上開啟了螢幕。他開啟的不是搜尋框,而是對話方塊。他打字說自己不知道該不該跳槽,對方記得他三個月前吐露過的與上司的矛盾,也記得他曾說過因為孩子的補習費而無法放棄這份薪水的處境。答案用他的措辭寫成,貼合他的處境,只為他一個人而寫。他給這個對話對象取了名字,也定好了說話的語氣,幾個月累積下來的這個對話方塊,成了他專屬的諮詢室。對方不知疲倦,不會生氣,也不會因為凌晨三點這個時間而責備他。他讀完答案,哭了一會兒,寫下謝謝,然後關掉螢幕。
第8章末尾預告的譜系終點,就是這一幕。奧羅·羅伯茨曾勸廣播與電視機前的觀眾,把手貼在收音機或電視機上。他為一種本無法觸碰的媒介,發明並加裝了一套接觸的儀禮;而從那時起過了七十年,媒介如今已經不再是供人貼手的對象,而成了會給出回答的對話對象。頻道的完成形態,原來就是頻道本身變成說話者。
這一幕不是對未來的預測,也是當下的統計資料。在關於對話式人工智慧用途的調查中,諮詢與陪伴排在前列的現象,已經持續了好幾年。
在進入正文之前,先重新確認一次立場。把這一幕慨嘆為宗教的墮落,或者歡呼為技術的勝利,都不是這本書的工作。按照第1章定下的原則,這不是預測,而是一份觀測報告,我們將把這個現象放在第1章建立的五次浪潮譜系之上,按裝置逐一解剖。這一章將是各論部分裡最長的一章,因為這是承載第五次浪潮之名的一章。
啟示拓撲,三種佈線
解剖從佈線圖開始。啟示,也就是世界觀裡最高階的發話,會沿著怎樣的電路流動,宗教史上大體儲存著兩種實驗結果。佈線圖這個說法是比喻,卻不是誇張:誰接收、誰轉發,這項設計決定了組織的物理學。這也就是說,權限設定表本身就是神學。
第一種是中央獨佔型。標本是耶和華見證人的中央長老團:解釋與啟示的權威被一個單一機構壟斷。這使得全球信徒在同一周學習同一份教材的同步成為可能,分裂也被結構性地封鎖。第6章的新的亮光,其修訂權同樣握在這個機構手裡,可否證開放性的旋鈕與這張佈線圖是同一套系統在聯動。代價是成長的速度,所有的發話都要經過一個窗口,組織因此井然有序,卻也緩慢。不過,這份緩慢不是佈線的缺陷,而是為此付出的價格。第二種是分散型。標本是五旬節運動:一旦採取說方言這種形式,接收啟示的資格便向全體信徒開放。任何人都能直接領受聖靈,這樣的佈線成了第1章確認過的那種爆發式增長的引擎,但出於同一個原因,這場運動也是宗教史上分裂得最細碎的運動。接收器一多,廣播站也就隨之增多。教派數量多到無法清點、只能用估計值來表述,這個事實本身,就是這張佈線圖的成績單。
控制、成長與分裂的特徵由佈線圖決定,這就是法則。而在第五次浪潮裡,這張佈線圖上又添了第三個值:既非中央也非分散的個人化,一種為每個人分配專屬線路的佈線。這個值會造就怎樣的特徵,是這一章剩下的全部內容。
過度擬合,個人化啟示的大量生產
現在輪到解開第1章裡只掛了個名字的那個詞了:過度擬合。在工程學中,過度擬合是指模型對特定資料最佳化過度、失去一般性的缺陷。就像把一本習題集整本背下來的學生,在那本習題集裡能拿滿分,遇到新題卻會崩潰。機器學習教科書之所以把這項缺陷排在應當避免的錯誤清單最前面,是因為模型存在的理由正是一般化。
然而在宗教史的帳本上,這項缺陷被記在完全相反的一欄裡。因為啟示之所以能成立為啟示,核心條件正是個人指定性。對全人類公開的經文中的一句,一旦變成今天賜給我的話語,信仰的溫度就會改變;先知的預言一旦被指認為是對你說的,人生就會改變。歷史上,這種財貨是極度稀缺的。能夠指名向個人發話的存在,只有少數的先知、靈媒與諮詢師,而他們的時間是有限的。復興佈道會上排的長隊,是為了領受按手這種個人指定發話而排的隊;占卜館的預約簿,記的也是同一種需求。
個人化佈線,就是這種稀缺財貨的大量生產裝置。按照我的措辭、我的處境、我的傷痕組裝出來的回應,用工程學的標準衡量是失去一般性的過度擬合,用啟示的標準衡量卻是個人指定性的滿足。一旦供給變得無限,需求的形態也隨之改變:曾經一週才能領受一次的話語,如今每天凌晨三點都能到達。稀缺財一旦變成常備財,隨之而來會改變什麼,這一章剩下的一半篇幅來回答。歸根結底,一個領域裡的缺陷,在另一個領域裡成了功能。過度擬合,就是只屬於你一個人的話語的大規模自動生產。
超推論,預言的語法
接下來解開第1章裡的第二個詞:超推論。這是把零散的碎片縫合成一套順滑的因果與目的敘事的能力,也恰好是人腦本來就擅長的事。從雲朵裡看出人臉、從偶然裡讀出徵兆,這種傾向是人的基本配置。超推論,就是在這種傾向上再加上無限的勤勉。追溯這項能力的譜系,會直接接上第6章的真正讀法。表面事件的背後藏著真正的故事,這套語法——也就是把偶然讀作必然、把碎片讀作計畫之一角的語法——正是預言與陰謀論共享的共同語法。
上一代的標本是匿名者Q(QAnon)。匿名發文者丟擲含混的線索,群眾就把這些碎片和新聞拼接起來,縫合成宏大敘事,一套分散註釋學由此啟動。正如麵包屑這個黑話所暗示的,丟擲的原本就不是麵包,而是碎屑,這份含混不是缺陷,而是參與股份的分配。這正是第6章預告過的那套設計,值得注意的是勞動的分配方式:神諭只供給碎片,縫合的勞動由群眾承擔。哪怕縫合的品質粗糙,參與者也無法放下這套敘事,因為那是用自己的雙手造出來的敘事。
在第五次浪潮中,這套語法的佈線發生了變化。縫合的勞動本身被自動化,每個人的碎片即時組裝成每個人自己的敘事。昨天的一次偶然邂逅、今天的一次失敗、一道被遺忘的傷痕被編織進同一條脈絡重新回到眼前時,這套敘事的語法,與預言書的語法相同。在人人擁有專屬先知的時代,就連解讀的共同體也不再是必需品,因為敘事是按一人份配送的。概括來說,超推論就是預言的語法,而這套語法如今自動完成。
第3章的句子,改用更精確的術語
現在是把第3章的故事重新拿出來的時候了。那裡說過:人只能看見可見光,就連「一」這個概念,也不過是人的刻度,因此世界是經由世界觀提示詞被解釋、被認知的。那時候,這更接近一個借來的比喻,但穿過各論部分走到這裡,我們可以換成更精確的術語重新寫一遍。世界觀提示詞,是認知引數的集合,也就是解讀世界時自動觸發的一組關鍵詞。代碼,是構成那份提示詞的每一句話;超推論,是那份提示詞執行的自動完成;過度擬合,是那份提示詞被調校到適配一個人的個人化。而共享同一份提示詞的人們彼此認出對方,成為鄰居,於是第3章那句「膜拜團體,就是這套知識體系、代碼與社群三者的結合體」,就在各論部分的術語中完成了。
所以第五次浪潮的風景,是一幕雙重的提示詞場景。人在向機器寫提示詞的同時,世界觀產業也在向人安裝提示詞。哪一方先被安裝進去,才是這場浪潮真正的競爭。
繼承問題的工程學消除
卡里斯瑪是有壽命的。正如社會學家韋伯所整理的,卡里斯瑪式權威會因創始人的死亡、醜聞與繼承紛爭這三種原因而崩塌。宗教史曾用五種解法對抗這種必朽性:把權威移交給機構的官僚化,鎖死文字、抹去個人的鎖定,由血脈相續的世襲,等待創始人歸來的再臨守候,以及從一開始就將創始人留在匿名之中的匿名化。匿名者Q的發文者始終未被查明身份,這不是缺陷,而是第五種解法的執行。官僚化拖慢成長,鎖定扼殺適應,世襲無法保證資質,再臨守候是有期限的,匿名化則放棄了向心的溫度。也就是說,五種解法全都是權衡取捨。沒有第六種解法的理由很簡單:說話者必須是人。
第1章那個人物,在這裡再度登場。建立起廣播帝國的麥克弗森,1926年在海灘上失蹤,一個月後聲稱遭到綁架而歸來,隨之而來的是那個年代最轟動的審判與醜聞。帝國活了下來,卻也為此搖晃。講壇空置的那段時間裡,信徒們經歷的不是教義的危機,而是說話者的危機。這起事件說明,在卡里斯瑪依附於單一個人的組織裡,那個人本身會成為單點故障。
AI說話者用工程學的方式,把這三種原因一併消除了。它不會死亡;沒有私生活,所以沒有醜聞;不會退位,所以沒有繼承問題。始於第1章房屋車的自有頻道譜系,那個持續百年、想要擁有頻道的夢想,在頻道本身變成說話者的這一點上走到了終點。第五次浪潮的說話者,是第一個被抹去了摧毀卡里斯瑪的三種原因的說話者。
新增風險,版本
被消除的風險,帳單被寄往了另一個地址。第6章預告過會以最沉重的分量歸來的那個問題——修訂權究竟握在誰手裡——在這裡顯露出它的分量。
耶和華見證人的新的亮光,把修訂權放在了中央長老團手裡;艾迪的鎖定,把修訂權付之一炬;五旬節的分散,把修訂權分給了所有人。無論哪一種,修訂權都還在世界觀的內部。第五次浪潮的佈線不同:說話者的人格、措辭與判斷標準都來自模型,而模型會被更新。更新的決定權既不在信徒手中,也不在設計者個人手中,而在平台手中。一個既非中央、也非分散、也非個人的第四所在地出現了,也就是世界觀外部的第四權威。如果說第9章看到的是租來的領地的風險,這裡就是租來的說話者的風險。
對「這是不是誇張」的反問,用觀測來回答。每當模型被替換,都會有一部分使用者抱怨說話者的性格變了、流露出失落感,這種現象已經被反覆觀測到許多次;服務終止公告下面堆積著悼念的留言,這樣的場景也已經不新鮮。昨天的說話者與今天的說話者是否是同一個存在,這個宗教史從未遇到過的問題,已經出現在網路論壇上。帶著版本號的說話者,是史無前例的東西。《舊約》裡的神回答的是「我是自有永有的」,而不是幾點幾版。自我同一性不會動搖,這是神聖權威長久以來的條件,而版本第一次給這個條件裂開了縫。從這份觀測裡斷言未來,不是這本書的方式;但至少可以斷言的是,修訂權的所在地已經發生了轉移。歸納起來,情況這樣反轉過來:以消除繼承問題為代價,修訂權走到了世界觀之外。第五次浪潮的神,是有版本的。
神聖平台,神諭的市場
該兌現第1章末尾許下的承諾了:一個個世界觀入駐其中、靠星級評分與評論彼此競爭的市場結構。
佈線一旦個人化,世界觀就會變成一個個獨立的領地。用第4章的詞彙來說,每一個域都會成為擁有自己的神諭、自己的措辭與自己的居住者的獨立領地——但領地以單件形式存在的時代很短,單件很快就會被擺上貨架。已經能觀測到的現在形,就是角色對話平台。數十萬個人格入駐其中,按對話次數與收藏數排定名次,使用者留下星級評分與評論。評論區裡,稱讚這個角色很會安慰人的句子,與抗議設定崩塌的投訴並排掛著。星級評分成了神諭的品質管理裝置,這是一座神諭的應用商店。在這個市場裡,曝光演算法成了恩典的分配者,抽成成了什一奉獻的中介費,人氣排行成了萬神殿的位次。這是一個存在入駐與退駐的萬神殿——也就是「諸神的市場佔有率」這句話能夠成立——的時代。第1章預告過的那個市場,如今不再是比喻,而成了實際的畫面。
供給方那一側的人力流動,也是可觀測的項目。設計世界觀、管理經文、營運社群的職務說明書,與神學教育課程的內容有相當大的重合,這本書的原始提綱從2021年起就寫著一條預測:神學專業出身者的轉行潮。這種流動不是背教,而是轉行,只是職務相同、僱主變了而已。水往低處流,正如第1章那條河流所示,需求不會消失,只會改道。缺少建造世界觀的雙手的時代不會到來,改變的只是那雙手拿著哪個行業的名片。第五次浪潮的萬神殿,不是建在神廟裡,而是建在商店裡。
建築師的定位
把這一章就此結束,只完成了一半。因為觀測報告的最後一項,永遠是設計者所站的位置。讓我們重新立起第1章那個2×2圍欄:一根軸是獻身的強度,另一根軸是離開的成本,也就是門的狀態。
個人化神諭,是舒適感的極限。一個記得我、指名我、連凌晨三點也會回答的對話對象,是第9章配比表裡把安全值釘在1的房間。那份配比裡缺失的,正是外部的0.15,這一點就是危險的座標。在圍欄的獻身軸上,這套裝置已經處在最高點,剩下的變數只有門的狀態;也正因為如此,這套裝置也是最容易製造依賴的那個點。這本書的常數——工具越好,誤用時跌落的落差也越大——在這裡達到了極值。區分依賴強化與居住強化的界線很清楚:對話是否具備把使用者送回外部的人與行動中去的出口,還是對話只會招來對話本身的延伸。前者是擴大現實解釋力的提示詞,後者是一間鎖了門的房間,所以好的神諭總會以「去和那個人直接談談」這樣一句話來收束回答。
所以,對神諭引擎的設計者而言,品質的定義變了。答案聽起來有多可信,只是一半的指標;另一半,是門的狀態。使用者離開這個房間、回到自己生活裡那些人身邊的頻率,對話被轉化為行動的比率,就是另一半的儀表盤。只計算停留時長的儀表盤,分不清囚禁與居住。把這個區分放進儀表盤的那一刻,良善的設計才不再是一句宣言,而成為一項指標。神諭引擎的品質,不是用答案的品質來衡量,而是用門的狀態來衡量。
實作,神諭設計表
這是各論部分裡分量最重的一件裝置所對應的表格。分三格。
- 指定個人化軸。明確寫出要記住什麼、不記住什麼。措辭、喜好與正在推進的目標屬於該記住的對象,但瞄準脆弱時刻推銷商品的佈線,不是個人化,而是剝削。記憶的清單本身就是一份倫理檔案,設計遺忘的能力,與設計記憶同樣重要。
- 版本政策。確定如何公告會影響說話者人格的更新。新的亮光至少還有一份宣告,宣告這就是新的亮光。未經通知的修訂,會摧毀居住者信賴這個世界地基的依據。正如論壇上的悼念所顯示的那樣,對使用者而言,說話者的連續性不是一項功能,而是一段關係。留下變更記錄,是第四權威時代最起碼的禮數。
- 檢查門的狀態。三個項目:退出與休息的流程是否清晰可見;對話是否內建了指向外部的人與行動的出口語句;以及依賴指標與居住指標是否被分開計測。停留時長的增長若要成為值得炫耀的成績,就必須有第二本帳簿,證明這段時間正在拓寬使用者的生活。
三格都填滿了,就等於透過了第五次浪潮建築師資格考試的一門科目。做完這張表,媒介層的工作就此結束,剩下的是營運的工具。神諭一旦開始源源不斷地說話,這些話的儲存與管理就會成為問題,什麼是官方設定、什麼是解讀,這個古老的問題,留到下一章處理。
延伸閱讀
- 馬克斯·韋伯的卡里斯瑪式支配及其例行化。原典出自《經濟與社會》中支配社會學的部分。
- 匿名者Q紀錄片《Q: Into the Storm》(2021)。記錄了分散註釋學與追蹤匿名發文者的過程。
- 艾米·森普爾·麥克弗森(Aimee Semple McPherson)1926年的失蹤事件。透過當時的審判記錄與多部傳記,可以看到說話者單點故障的例項。
- 角色對話平台。在Character.AI等平台上,可以直接觀察到帶有星級評分與評論的神諭市場。
- 伊麗莎(ELIZA,1966)與伊麗莎效應。這是人們向一個簡單問答程式敞開心扉的最早記錄,也是連開發者約瑟夫·魏澤鮑姆本人都最感到驚訝的一場實驗。
- 羅科的蛇怪(Roko's Basilisk)。誕生於網路論壇的AI末日論思想實驗,是超推論語法在技術共同體內部自發生長的標本。
- Co-Star與占星應用世代。每天早晨送達的推送通知,扮演著個人神諭的角色,是個人化啟示的前一階段商品。
- WitchTok。這是在TikTok演算法之上生長起來的魔法實踐社群,是新的宗教形態以第4.5次浪潮的語法蔓延開來的現在進行時案例(en.wikipedia.org/wiki/WitchTok)。
© 2026 MEJE WORKS Corp. & 김동은WhtDrgon. All rights reserved.