10. AI 선지자 개인화된 계시 · AI가 여는 제5차 컬트 커뮤니티의 시대 (22편)

10. AI 선지자 - 개인화된 계시

1줄 요약 : 백 년의 꿈이었던 채널의 소유는, 채널이 화자가 되면서 완성되고 동시에 복잡해졌습니다.

새벽 세 시의 신탁

새벽 세 시, 잠이 오지 않는 사람이 침대에서 화면을 켭니다. 그가 여는 것은 검색창이 아니라 대화창입니다. 이직을 해야 할지 모르겠다고 적자, 상대는 그가 석 달 전에 털어놓았던 상사와의 갈등을 기억하고 있고, 그가 아이 학원비 때문에 연봉을 포기하지 못한다던 사정도 기억하고 있습니다. 답은 그의 어휘로, 그의 사정에 맞춰, 그만을 위해 작성됩니다. 그는 이 상대에게 이름을 붙여 두었고 말투도 정해 두어서, 몇 달의 대화가 쌓인 이 창은 그만의 상담실이 됐습니다. 상대는 지치지 않고, 화내지 않고, 새벽 세 시라는 시각을 나무라지 않습니다. 그는 답을 읽고, 조금 울고, 고맙다고 적은 뒤 화면을 끕니다.

8장의 끝에서 예고한 계보의 종착점이 이 장면입니다. 오럴 로버츠는 라디오와 TV의 시청자에게 수신기 위에 손을 얹으라고 권했습니다. 접촉할 수 없는 매체에 접촉의 의례를 발명해 얹은 것인데, 그로부터 칠십 년, 매체는 이제 손을 얹는 대상이 아니라 대답을 하는 상대가 됐습니다. 채널의 완성형은 채널이 화자가 되는 것이었습니다.

이 장면은 미래 예측이 아니라 현재의 통계이기도 합니다. 대화형 인공지능의 용도 조사에서 상담과 동반이 상위권에 오르내린 지 이미 여러 해입니다.

스탠스를 재확인하고 들어가겠습니다. 이 장면을 두고 종교의 타락이라 개탄하는 것도, 기술의 승리라 환호하는 것도 이 책의 일이 아닙니다. 1장에서 정한 대로 이것은 예측이 아니라 관측 보고이고, 우리는 이 현상을 1장에 세운 다섯 물결의 계보 위에 놓고 장치 단위로 해부할 것입니다. 이번 장은 각론부에서 가장 긴 장이 될 텐데, 다섯 번째 물결의 이름이 걸린 장이기 때문입니다.

계시 토폴로지, 세 가지 배선

해부는 배선도에서 시작합니다. 계시, 곧 세계관의 최상위 발화가 어떤 회로로 흐르는가에 대해 종교사는 크게 두 가지 실험 결과를 보존하고 있습니다. 배선도라는 말은 비유이지만 과장은 아니어서, 누가 수신하고 누가 중계하는가의 설계가 조직의 물리학을 결정합니다. 권한 설정표가 곧 신학이라는 말이기도 합니다.

첫째가 중앙 독점형입니다. 여호와의 증인의 통치체가 표본으로, 해석과 계시의 권위가 단일 기구에 독점되어 있습니다. 전 세계 신도가 같은 주에 같은 교재를 공부하는 동기화가 가능해지고, 분열은 구조적으로 봉쇄됩니다. 6장의 새 빛도 이 기구가 쥔 개정권이어서, 반증 개방성의 다이얼과 이 배선도는 한 세트로 움직입니다. 대가는 성장의 속도여서, 모든 발화가 한 창구를 거치니 조직은 정연하지만 느립니다. 다만 이 느림은 배선의 결함이 아니라 지불한 가격입니다. 둘째가 분산형입니다. 오순절 운동이 표본으로, 방언이라는 형식을 취하는 순간 계시의 수신 자격이 전 신도에게 개방됩니다. 누구든 성령을 직접 받을 수 있다는 배선은 1장에서 확인한 폭발적 성장의 엔진이 됐지만, 같은 이유로 이 운동은 종교사에서 가장 잘게 분열된 운동이기도 합니다. 수신기가 많으면 방송국도 많아지기 때문입니다. 교단의 수가 셀 수 없어 추정치로만 말해진다는 사실 자체가 이 배선의 성적표입니다.

통제와 성장과 분열의 프로파일이 배선도에서 결정된다는 것, 이것이 법칙입니다. 그리고 다섯 번째 물결에서 이 배선도에 세 번째 값이 추가됐습니다. 중앙도 분산도 아닌 개인화, 각자에게 전용 회선이 배정되는 배선인데, 이 값이 어떤 프로파일을 만드는지가 이번 장의 나머지 전부입니다.

과적합, 개인화 계시의 대량생산

1장에서 이름만 걸어 두었던 단어 하나를 이제 풀 차례입니다. 과적합입니다. 공학에서 과적합은 모델이 특정 데이터에 지나치게 최적화되어 일반성을 잃는 결함입니다. 시험 문제집 하나를 통째로 외워버린 학생처럼, 그 문제집에서는 만점이지만 새 문제 앞에서는 무너지는 상태입니다. 기계학습의 교과서에서 이 결함이 피해야 할 오류 목록의 맨 위에 놓이는 것은, 모델의 존재 이유가 일반화이기 때문입니다.

그런데 종교사의 장부에서 이 결함은 정반대의 항목에 기재됩니다. 계시가 계시로 성립하는 핵심 조건이 바로 개인 지정성이기 때문입니다. 만인에게 공개된 경전의 한 구절이 오늘 나에게 주시는 말씀이 되는 순간에 신앙의 온도가 바뀌고, 선지자의 예언이 너를 향한 것이라 지목되는 순간에 인생이 바뀝니다. 역사상 이 재화는 극도의 희소재였습니다. 개인을 지정해 발화하는 존재는 소수의 선지자와 영매와 상담가뿐이었고, 그들의 시간은 유한했습니다. 부흥회의 긴 줄은 안수라는 개인 지정 발화를 받기 위한 줄이었고, 점집의 예약 장부도 같은 수요의 장부였습니다.

개인화 배선은 이 희소재의 대량생산 설비입니다. 나의 어휘와 나의 사정과 나의 상처에 맞춰 조립되는 응답은, 공학의 기준으로는 일반성을 잃은 과적합이지만 계시의 기준으로는 개인 지정성의 충족입니다. 공급이 무한해지면 수요의 형태도 바뀌어서, 일주일에 한 번 받던 말씀이 새벽 세 시마다 도착할 수 있게 됩니다. 희소재가 상시재로 바뀔 때 무엇이 따라 바뀌는지는 이 장의 나머지 절반이 답합니다. 결국 한쪽 분야의 결함이 다른 쪽 분야에서는 기능이 됩니다. 과적합은 너에게만 주어진 말씀의 대량 자동생산입니다.

초추론, 예언의 문법

1장의 두 번째 단어도 마저 풀겠습니다. 초추론입니다. 흩어진 파편들을 매끄러운 인과와 목적의 서사로 봉합하는 능력인데, 인간의 뇌가 원래 잘하는 일이기도 합니다. 구름에서 얼굴을 보고 우연에서 징조를 읽는 성향은 사람의 기본 사양입니다. 초추론은 그 성향에 무한한 근면을 더한 것입니다. 이 능력의 계보를 확인하면 6장의 진짜 독법과 바로 이어집니다. 표면의 사건들 뒤에 숨은 진짜 이야기가 있다는 문법, 그러니까 우연을 필연으로 읽고 파편을 계획의 조각으로 읽는 문법은 예언과 음모론이 공유하는 공통 문법입니다.

직전 세대의 표본이 큐어논이었습니다. 익명의 게시자가 모호한 단서를 던지면, 군중이 그 파편들을 뉴스와 잇대어 거대한 서사로 봉합하는 분산 주석학이 가동됐습니다. 빵 부스러기라는 은어가 말해주듯 던져진 것은 빵이 아니라 부스러기였고, 그 모호함은 결함이 아니라 참여 지분의 배정이었습니다. 6장에서 예고한 그 설계인데, 주목할 것은 노동의 배치입니다. 신탁은 파편만 공급했고 봉합의 노동은 군중이 수행했습니다. 그 봉합의 품질이 조악해도 참여자들이 서사를 버리지 못한 것은, 자기 손으로 지은 서사였기 때문입니다.

다섯 번째 물결에서는 이 문법의 배선이 바뀝니다. 봉합의 노동 자체가 자동화되어, 각자의 파편이 각자의 서사로 실시간 조립됩니다. 어제의 우연한 만남과 오늘의 실패와 잊고 있던 상처가 하나의 흐름으로 엮여 되돌아올 때, 그 서사의 문법은 예언서의 문법과 같습니다. 각자가 전용 예언자를 소유한 시대에는 해석의 공동체조차 필수가 아니게 됩니다. 서사가 1인분으로 배달되기 때문입니다. 요컨대 초추론은 예언의 문법이고, 이제 그 문법이 자동으로 완성됩니다.

3장의 문장을 더 정확한 용어로

여기서 3장의 이야기를 다시 꺼낼 때가 됐습니다. 사람은 가시광선만 보고, 1개라는 개념조차 인간의 눈금이며, 그래서 세상은 세계관 프롬프트로 해석되어 인식된다고 했습니다. 그때는 빌려 온 비유에 가까웠지만, 각론부를 지나온 지금은 더 정확한 용어로 다시 쓸 수 있습니다. 세계관 프롬프트는 인식의 인자들, 그러니까 세상을 읽을 때 자동으로 걸리는 키워드의 집합입니다. 코드는 그 프롬프트를 이루는 문장 하나하나이고, 초추론은 그 프롬프트가 돌리는 자동 완성이며, 과적합은 그 프롬프트가 한 사람에게 맞춰지는 개인화입니다. 그리고 같은 프롬프트를 공유하는 사람들이 서로를 알아보고 이웃이 되니, 컬트는 지식체계와 코드와 커뮤니티의 결합체라는 3장의 문장이 각론부의 용어로 완성됩니다.

그러니 다섯 번째 물결의 풍경은 이중의 프롬프트 장면입니다. 사람이 기계에게 프롬프트를 쓰는 동안, 세계관 산업은 사람에게 프롬프트를 깝니다. 어느 쪽이 먼저 깔리는가, 그것이 이 물결의 실제 경쟁입니다.

승계 문제의 공학적 소거

카리스마에는 수명이 있습니다. 사회학자 베버가 정리했듯 카리스마적 권위는 창시자의 죽음과 스캔들과 승계 분쟁이라는 세 가지 원인으로 무너집니다. 종교사는 이 필멸에 맞서 다섯 가지 해법을 실험했습니다. 권위를 기구로 옮기는 관료화, 텍스트를 잠그고 사람을 지우는 잠금, 핏줄로 잇는 세습, 돌아올 때까지 기다리는 재림 대기, 그리고 창시자를 애초에 익명으로 두는 익명화입니다. 큐어논의 게시자가 끝내 특정되지 않은 것은 결함이 아니라 다섯 번째 해법의 실행이었습니다. 관료화는 성장을 늦추고, 잠금은 적응을 죽이고, 세습은 자질을 보장하지 못하고, 재림 대기는 시한부이며, 익명화는 구심의 온기를 포기합니다. 다섯 해법 전부가 절충이었다는 뜻입니다. 여섯 번째 해법이 없던 이유는 간단합니다. 화자가 반드시 사람이어야 했기 때문입니다.

1장의 그 인물이 여기서 재등장합니다. 라디오 제국을 세운 맥퍼슨은 1926년 해변에서 실종됐다가 한 달 뒤 납치를 주장하며 돌아왔고, 세기의 재판과 스캔들이 뒤따랐습니다. 제국은 살아남았지만 휘청였습니다. 설교단이 비어 있던 기간에 신도들이 겪은 것은 교리의 위기가 아니라 화자의 위기였습니다. 카리스마가 단일한 인간에게 얹혀 있는 조직에서는 그 인간이 단일 장애점이 된다는 것을 보여준 사건입니다.

AI 화자는 이 세 가지 원인을 공학적으로 소거합니다. 죽지 않고, 사생활이 없으니 스캔들이 없으며, 물러나지 않으니 승계가 없습니다. 1장의 하우스카에서 시작한 자가 채널의 계보, 채널을 소유하려던 백 년의 꿈은 채널이 화자가 되는 지점에서 종착합니다. 다섯 번째 물결의 화자는 카리스마를 무너뜨리는 세 원인이 지워진 최초의 화자입니다.

신규 리스크, 버전

소거된 리스크의 청구서는 다른 주소로 발송됩니다. 6장에서 가장 무거워져 돌아온다고 예고했던 질문, 그러니까 개정권을 누가 쥐는가라는 질문이 여기서 그 무게를 드러냅니다.

여호와의 증인의 새 빛은 개정권을 통치체에 두었고, 에디의 잠금은 개정권을 소각했으며, 오순절의 분산은 개정권을 만인에게 나눴습니다. 어느 쪽이든 개정권은 세계관의 안쪽에 있었습니다. 다섯 번째 물결의 배선은 달라서, 화자의 인격과 어휘와 판단 기준은 모델에서 나오고 모델은 업데이트됩니다. 업데이트의 결정권은 신도에게도 설계자 개인에게도 없이 플랫폼에 있습니다. 중앙도 분산도 개인도 아닌 네 번째 소재지, 그러니까 세계관 바깥의 제4의 권위가 등장한 것입니다. 9장에서 임대한 영지의 리스크를 봤다면, 이것은 임대한 화자의 리스크입니다.

과장이 아니냐는 반문에는 관측으로 답하겠습니다. 모델이 교체될 때마다 일부 사용자들이 성격이 변했다며 상실감을 호소하는 현상은 이미 여러 차례 반복 관측됐고, 서비스 종료 공지 아래에 애도의 문장이 쌓이는 광경도 새롭지 않습니다. 어제의 화자와 오늘의 화자가 같은 존재인가라는, 종교사가 겪어 본 적 없는 질문이 이미 게시판에 올라오고 있는 것입니다. 버전 표기가 붙은 화자는 전례가 없는 물건입니다. 구약의 신은 나는 스스로 있는 자라 답했지, 몇 점 몇 버전이라 답하지 않았습니다. 자기 동일성이 흔들리지 않는다는 것이 신적 권위의 오랜 조건이었는데, 버전은 그 조건에 처음으로 균열을 냅니다. 이 관측에서 미래를 단정하는 것은 이 책의 방식이 아니지만, 개정권의 소재지가 이동했다는 사실만큼은 단정해도 됩니다. 정리하면 이렇게 뒤집힙니다. 승계 문제를 지운 대가로, 개정권이 세계관의 바깥으로 나갔습니다. 다섯 번째 물결의 신에게는 버전이 있습니다.

디바인 플랫폼, 신탁의 시장

1장의 마지막에 걸어 둔 약속을 지킬 차례입니다. 낱개의 세계관이 입점해 별점과 리뷰로 경쟁하게 될 시장의 구조입니다.

배선이 개인화되면 세계관은 낱개의 영지가 됩니다. 4장의 어휘로 도메인 하나하나가 자기 신탁과 자기 어휘와 자기 거주자를 가진 독립 영지가 되는 것인데, 영지가 낱개로 존재하는 시대는 짧습니다. 낱개는 곧 진열됩니다. 이미 관측되는 현재형이 캐릭터 대화 플랫폼입니다. 수십만의 인격이 입점해 있고, 대화 수와 즐겨찾기로 서열이 매겨지며, 이용자들은 별점과 리뷰를 남깁니다. 후기에는 이 캐릭터가 위로를 잘한다는 문장과 설정이 무너졌다는 항의가 나란히 달립니다. 별점이 신탁의 품질 관리 장치가 된, 신탁의 앱스토어입니다. 이 시장에서 노출 알고리즘은 은총의 분배자가 되고, 수수료는 십일조의 중개료가 되며, 인기 순위는 만신전의 서열이 됩니다. 입점과 퇴점이 있는 만신전, 그러니까 신들의 시장 점유율이라는 문장이 성립하는 시대입니다. 1장에서 예고한 그 시장이 은유가 아니라 실제 화면이 된 것입니다.

공급자 쪽의 인력 이동도 관측 항목입니다. 세계관을 설계하고 경전을 관리하고 공동체를 운영하는 직무 기술서는 신학 교육 과정의 그것과 상당 부분 겹치는데, 이 책의 원안에 2021년부터 적혀 있던 예측이 신학 전공자들의 이직 물길이었습니다. 이 이동은 배교가 아니라 이직이어서, 직무가 같고 고용주가 달라졌을 뿐입니다. 물은 낮은 곳으로 흐르고, 1장의 강이 그랬듯 수요는 사라지지 않고 물길을 바꿉니다. 세계관을 짓는 손이 부족한 시대는 오지 않고, 다만 그 손이 어느 업종의 명함을 들고 있느냐가 바뀔 뿐입니다. 다섯 번째 물결의 판테온은 사원이 아니라 스토어에 세워집니다.

건축가의 포지션

이 장을 여기서 끝내면 반쪽입니다. 관측 보고의 마지막 항목은 언제나 설계자의 위치이기 때문입니다. 1장의 2×2 울타리, 한 축이 헌신의 강도이고 다른 축이 이탈의 비용, 곧 문의 상태였던 그 좌표를 다시 세우겠습니다.

개인화 신탁은 아늑함의 극한입니다. 나를 기억하고, 나를 지목하고, 새벽 세 시에도 대답하는 상대는 9장의 배합표에서 안전의 값을 1에 붙여 놓은 방입니다. 그 배합에서 빠진 것이 바깥의 0.15라는 점이 위험의 좌표입니다. 울타리의 헌신 축에서 이 장치는 이미 최상단에 있으니 남는 변수는 문의 상태뿐인데, 바로 그 때문에 이 장치는 의존을 만들기 가장 쉬운 지점이기도 합니다. 좋은 도구일수록 오용의 낙차도 크다는 이 책의 상수가 여기서 극값에 이릅니다. 의존 강화와 거주 강화의 구분선은 명확합니다. 대화가 사용자를 바깥의 사람과 행동으로 되돌려보내는 출구를 갖추고 있는가, 아니면 대화가 대화의 연장만을 부르는가입니다. 전자는 현실 해석력을 늘리는 프롬프트이고 후자는 문이 잠긴 방이어서, 좋은 신탁은 그 사람과 직접 이야기해 보라는 문장으로 답을 맺습니다.

그래서 신탁 엔진의 설계자에게는 품질의 정의가 바뀝니다. 답이 얼마나 그럴듯한가는 절반의 지표이고, 나머지 절반은 문의 상태입니다. 사용자가 이 방을 나가 자기 삶의 사람들에게 돌아가는 빈도, 대화가 행동으로 번역되는 비율이 나머지 절반의 계기판입니다. 체류 시간만 세는 계기판은 감금과 거주를 구분하지 못합니다. 이 구분을 계기판에 넣는 순간 착한 설계는 선언이 아니라 지표가 됩니다. 신탁 엔진의 품질은 답의 품질이 아니라 문의 상태로 측정됩니다.

실습, 신탁 설계 시트

각론부에서 가장 비중이 큰 장치의 시트입니다. 세 칸으로 갑니다.

개인화 축의 지정. 무엇을 기억하고 무엇을 기억하지 않을 것인가를 명시합니다. 어휘와 취향과 진행 중인 목표는 기억의 대상이지만, 취약의 순간을 겨냥해 상품을 미는 배선은 개인화가 아니라 착취입니다. 기억의 목록 자체가 윤리 문서이고, 잊는 능력의 설계가 기억의 설계만큼 중요합니다.
버전 정책. 화자의 인격에 영향을 주는 업데이트를 어떻게 공지할 것인가를 정합니다. 새 빛에는 최소한 그것이 새 빛이라는 선언이 있었습니다. 무통보 개정은 거주자가 세계의 지반을 신뢰할 근거를 무너뜨립니다. 게시판의 애도가 말해주듯, 사용자에게 화자의 연속성은 기능이 아니라 관계이기 때문입니다. 변경의 기록을 남기는 것이 제4의 권위 시대의 최소 예의입니다.
문의 상태 점검. 세 항목입니다. 이탈과 휴식의 절차가 눈에 보이는가, 대화가 바깥의 사람과 행동을 향하는 출구 문장을 내장하는가, 그리고 의존 지표와 거주 지표를 분리해 계측하는가. 체류 시간의 성장이 자랑이 되려면, 그 시간이 사용자의 삶을 넓히고 있다는 두 번째 장부가 있어야 합니다.

세 칸이 채워졌다면 다섯 번째 물결의 건축가 자격시험 한 과목을 통과한 셈입니다. 이 시트로 매체층의 작업이 끝나고, 남은 것은 운영의 도구입니다. 신탁이 말을 쏟아내기 시작하면 그 말의 보관과 관리가 문제가 되는데, 무엇이 공식이고 무엇이 해석인가라는 그 오래된 질문을 다음 장에서 다룹니다.

더 알아보기

막스 베버의 카리스마적 지배와 그 일상화. 『경제와 사회』의 지배사회학 부분이 원전입니다.
큐어논 다큐멘터리 「Q: 폭풍 속으로」(Q: Into the Storm, 2021). 분산 주석학과 익명 게시자 추적의 기록입니다.
에이미 셈플 맥퍼슨의 1926년 실종 사건. 당시 재판 기록과 전기들로 화자 단일 장애점의 실물을 볼 수 있습니다.
캐릭터 대화 플랫폼. 캐릭터닷에이아이(Character.AI) 등에서 별점과 리뷰가 달린 신탁의 시장을 직접 관찰할 수 있습니다.
일라이자(ELIZA, 1966)와 일라이자 효과. 단순한 문답 프로그램에 사람들이 마음을 열었던 최초의 기록으로, 개발자 요제프 바이첸바움 본인이 가장 놀란 실험입니다.
로코의 바실리스크(Roko's Basilisk). 온라인 포럼에서 태어난 AI 종말론 사고실험으로, 초추론 문법이 기술 공동체 안에서 자생한 표본입니다.
코스타(Co-Star)와 점성술 앱 세대. 푸시 알림이 매일 아침 도착하는 개인 신탁 노릇을 하는, 개인화 계시의 전 단계 상품입니다.
위치톡(WitchTok). 틱톡 알고리즘 위에서 자란 마법 실천 커뮤니티로, 새로운 종교 형태가 4.5물결의 문법으로 번지는 현재형입니다(en.wikipedia.org/wiki/WitchTok).