27장. AI 시대의 FTUE

AI가 첫 화면을 바꿔도, 사용자가 치르는 요금은 사라지지 않는다.

AI가 지어 준 첫 화면은 매끈하다. 사람마다 다르게 맞춰진 캐릭터가 알아서 앞에 서고, 말투까지 그 사람 결에 닿는다. 그런데 그 매끈한 화면 앞에서도 처음 온 사람은 여전히 시간을 들여 읽고, 머리를 써서 익히며, 처음 보는 것을 믿어야 하는지 망설인다. 11장에서 본 시간·집중력 요금과 신뢰의 부담은 화면을 누가 지었든 그대로 청구되기 때문이다.

지금까지 첫 화면은 모두가 같은 것을 보는 장면이었다. 우리가 한 장면을 짜 두면 누가 들어오든 그 장면을 만났다. 그런데 기계가 사람마다 다른 첫 화면을 알아서 지어 주는 일은 이미 시작됐다. 들어온 사람이 무엇을 고르는지, 어떤 결에 끌리는지를 읽어, 그에게 맞춰 캐릭터를, 말투를, 첫 동작을 다르게 내놓는다. 그래서 어떤 사용자는 따뜻한 첫 화면을 받고 다른 사용자는 날 선 첫 화면을 받는다. 같은 게임인데 둘의 최초가 다르다.

여기서 묘한 물음이 생긴다. 첫 경험이 사람마다 다르게 지어진다면, '최초'는 누구의 최초인가. 우리가 짠 하나의 최초가 사라지고 사용자 수만큼의 최초가 생긴다. 이 장은 그 변화를 조망하되, AI를 쓰는 여러 방식의 상세와 그 깊은 윤리는 부록 C로 미루고, 한 가지를 먼저 분명히 하고 시작한다. AI가 첫 경험을 바꾸는 건 맞지만 이 책이 세운 원리까지 바꾸지는 않는다는 것이다. 8계층도, 경험의 요금도, 게이머의 상식을 검문하는 일도 그대로다. AI는 그 원리를 새로 쓰는 것이 아니라, 그 원리를 더 빠르고 잘게 구현하는 도구일 뿐이다.

기계가 사람마다 다른 첫 화면을 짓는다

AI가 첫 경험에 들어오는 모습은 대개 세 갈래다. 하나는 사람마다 화면을 다르게 맞춰 주는 일로, 들어온 사람의 결을 읽어 그에게 어울릴 캐릭터를 앞에 세우고 그가 좋아할 만한 첫 동작을 먼저 권한다. 영상 서비스가 사람마다 다른 첫 화면을 깔아 주듯, 게임의 첫 화면도 사람마다 달라진다. 둘은 사용자와 말로 주고받는 일로, 정해진 튜토리얼 대신 사용자가 묻고 기계가 답하며 그 사람의 속도에 맞춰 안내한다. 셋은 그 자리에서 콘텐츠를 지어내는 일로, 사용자가 고른 결에 맞춰 캐릭터의 생김새나 대사를 즉석에서 만들어 낸다. 5부 내내 따라온 그 가상 게임으로 치면, 26장에서 팬이 고른 색과 무늬를 읽어 다음 캐릭터를 그 자리에서 지어 주는 식이다.

여기서 세 갈래의 나이를 갈라 둘 필요가 있다. 첫째 갈래, 곧 추천과 개인화는 20년이 넘은 기술이라 영상과 음악과 커머스가 이미 한 세대를 굴려 본 것이고, 이 시대에 정말 새로 온 것은 둘째와 셋째, 곧 말로 주고받는 안내와 즉석 생성 둘이다. 그런데 요금의 원리는 셋 모두에 같은 방식으로 적용된다. 오래된 갈래에서 배운 교훈이 새 갈래에도 그대로 통한다는 게 이 장의 바탕이고, 그래서 이 장의 사례 다수가 생성형 이전의 것이어도 낡지 않는다.

이 셋이 겨냥하는 곳은 우리가 앞에서 이미 본 곳이다. 처음 들어온 사람은 백지에 가깝고, 그 백지를 어림짐작하는 일이 첫 경험 설계의 오랜 곤란이었다. 26장에서 그 곤란을 사용자의 첫 선택으로 풀었다면, AI는 같은 곤란을 다른 방식으로 푼다. 사용자가 고른 것뿐 아니라 그가 머문 시간, 손가락이 멈춘 자리, 비슷한 사람들의 행동까지 끌어모아 그를 더 빨리 짐작하니, 백지에 첫 줄을 긋는 일을 더 잘하게 된 셈이다.

하지만 더 잘 짐작한다는 것이 늘 맞게 짐작한다는 뜻은 아니다. 처음 온 사람에 대해 AI도 결국 아는 게 적어서, 비슷한 사람들이 이랬으니 너도 그러리라 미루어 짚는데, 그 미룸이 빗나가면 첫 화면부터 엉뚱한 사람으로 대접한다. 백지를 잘못 읽으면 백지인 채로 두느니만 못한 첫인상이 된다. 사람마다 맞춰 준다는 약속은, 잘못 맞췄을 때 더 크게 어긋난다는 위험을 늘 함께 데려온다.

둘째 갈래에는 고유한 실패가 있다. 말로 안내하는 기계는 모를 때도 자신 있게 말한다. 처음 온 사람이 "이거 어떻게 해요"라고 물었는데 안내가 틀린 조작법을 또렷한 말투로 일러 주면, 그는 그 말대로 눌러 보고 안 되는 경험을 첫 세션에서 한다. 사람 안내원의 머뭇거림은 의심할 단서라도 주지만 기계의 매끈한 오답에는 단서조차 없고, 처음 온 사람은 틀린 안내를 의심할 지식이 가장 없는 사람이라 자신 있는 오답의 요금을 가장 비싸게 치른다.

둘째 갈래에는 실패 이전의 문턱도 있다. 말로 주고받는 안내의 첫 화면은 흔히 빈 입력창 하나다. 무엇이든 물어보라는, 무엇이든 할 수 있다고 말하는 빈 칸 앞에서 처음 온 사람은 무엇부터 쳐야 할지 몰라 굳는다. 26장에서 본 그대로다. 깊은 자유도는 처음 온 사람에게 놀이터가 아니라 시험지이고, 무한한 자유를 약속하는 빈 칸은 그 시험지의 가장 극단적인 모양이다. 그러니 말로 안내하는 첫 화면에도 같은 처방이 간다. 빈 칸 대신 누를 수 있는 첫 질문 두엇을 깔아 주고, 자유는 그가 이 대화에 익숙해진 만큼씩 연다.

셋째 갈래의 실패는 세계의 결이 깨지는 쪽이다. 즉석에서 지어낸 캐릭터의 생김새나 대사가 세계관의 결을 벗어나면, 따뜻한 세계라 약속해 놓고 첫 화면에서 차가운 말씨의 캐릭터가 나오는 식의 어긋남이 생긴다. 첫 화면이 스스로 약속을 깨는 셈이다. 그래서 생성된 화면은 내보내기 전에 표본을 뽑아 18장의 첫인상 점검을 돌린다. 화면이 사용자 수만큼 생겨 전수 검수가 불가능하니, 표본 추출이 검수의 현실적인 손이 된다. 이 세 갈래의 실패를 다루는 상세한 도구는 부록 C에 있다.

MEJE 아이동월드로 보면 가능성과 위험이 같이 보인다. AI가 팬이 고른 색과 손짓의 결을 읽어 그 팬에게 어울리는 아이동을 즉석에서 지어 줄 수 있는데, 잘 맞으면 팬은 세상에 하나뿐인 자기 최애 아이동을 만나지만 잘못 읽으면 팬의 마음과 다른 아이동이 자기 최애라며 나타난다. 잘못 읽힌 추천을 아쉬워도 받아들이는 사람도 있지만, 팬은 자기 마음과 다른 걸 자기 최애라 들이미는 순간 등을 돌린다. 맞춰 주는 힘이 클수록, 어긋났을 때의 실망도 크다.

개인화하면 무조건 좋다는, 솔깃한 가정

AI를 다루는 장이니, 어느새 상식이 되어 버린 가정 하나를 검문소에 세운다. "개인화하면 무조건 좋다, 사람마다 맞춰 줄수록 더 나은 경험이다"라는 가정이다.

이 가정이 무엇을 당연하다고 전제하는지 본다. 모두에게 같은 것을 주는 건 게으른 설계이고, 사람마다 맞춰 주는 것이 더 친절하고 더 효과적이며, 맞춤이 정교할수록 사용자가 더 만족하고 더 오래 머문다고 본다. 이 전제는 맞춤이 잘 통한 사례들에서 자랐고, 절반은 옳다. 잘 맞춘 첫 화면은 분명히 빗나간 첫 화면보다 낫다.

그런데 처음 온 사람의 자리에서 보면 빈틈이 보인다. 맞춰 준다는 건 그 사람을 무언가로 규정했다는 말이기도 해서, 그가 한 번 고른 것으로 그를 어떤 사람이라 정하고 그 정함에 맞춰 다음을 깐다. 잘 맞으면 편하지만 잘못 맞으면 그는 자기가 아닌 사람으로 대접받는다. 게다가 맞춰 준 경험만 계속 받으면 사용자는 자기가 모르던 결을 만날 기회를 잃어서, 따뜻한 걸 골랐다고 따뜻한 것만 받으면 그 안에 갇힌다. 한 사람을 위한 최초가 그 사람을 넓히는 대신 좁힐 수 있는 것이다. 개인화는 맞을 때만 좋고, 어긋나거나 사람을 가둘 때는 안 하느니만 못하다. 맞춤의 정교함이 곧 경험의 좋음은 아니다.

더 깊은 빈틈은 역설의 모양을 하고 있다. 첫 경험은 정의상 그 사람에 대해 아는 게 없는 자리, 추천 시스템이 콜드 스타트라 부르는 자리다. 그러니까 개인화가 가장 필요해 보이는 자리가 사실은 개인화가 가장 무능한 자리다. 데이터가 쌓인 단골에게는 잘 맞추는 기계가, 정작 첫인상이 갈리는 그 순간에는 가장 서툴다. 이 역설을 모른 채 첫 화면부터 정교하게 맞추려 들면, 기계는 모자란 짐작에 확신의 옷을 입혀 내놓는다.

본질만 남기고 바꾼다. 사람마다 다른 결을 읽어 더 어울리는 첫 경험을 준다는 목표는 남기되, "무조건 좋다"는 단정을 던다. 개인화는 잘 맞을 때 좋은 도구이지 그 자체로 선이 아니다. 그래서 맞춰 주되, 잘못 맞췄을 때 사용자가 빠져나갈 길과 우리가 알아챌 눈을 함께 짠다. 그리고 8계층도, 요금도, 관습 검문도 AI가 짠 첫 화면에 그대로 적용한다. AI가 지어 준 화면이라고 해서 요금이 사라지지 않으며, 잘못 맞춘 첫 화면은 오히려 더 큰 집중력 요금을 물린다. 원리는 그대로고, AI는 그 원리 위에서 일하는 도구다.

개인화된 최초는 재기도, 지키기도 어렵다

사람마다 첫 경험이 다르면, 그것을 재고 책임지는 일이 까다로워진다. 5부에서 우리는 첫 화면을 단계로 쪼개 어디서 새는지를 봤는데, 첫 화면이 사람마다 다르면 모두가 같은 화면을 거치지 않으니 한 자리의 이탈을 견주기 어렵다. 첫 경험을 한 번 잘 만들어 두고 모두에게 검수할 수도 없다. 화면이 사용자 수만큼 있는 셈이라, 어떤 사용자가 어떤 첫 화면을 받았는지조차 다시 들여다보기 어려울 때가 있다. 측정과 검수가 다 어려워지는 것이다.

여기에 공정성 문제가 더해진다. 맞춰 주는 기계가 어떤 결의 사람에게는 좋은 첫 화면을, 다른 결의 사람에게는 빈약한 첫 화면을 줄 수 있는데, 그럴 의도가 없어도 많이 본 부류는 잘 맞히고 드문 부류는 못 맞히는 쏠림이 생긴다. 누구의 최초는 정성껏 지어지고 누구의 최초는 대충 지어진다면, 그건 첫 만남에서부터 사람을 차별한 셈이다. 개인화된 최초는 잘 맞을 때의 달콤함만큼 어긋날 때와 쏠릴 때의 위험을 안고 있다. 이 측정과 검수와 공정성을 실제로 어떻게 다루는지는 본문 밖의 일이다(→ 부록 C).

비용이 하나 더 있다. 모두가 같은 최초를 겪던 시절에는 첫 경험이 공유 기억이 됐다. "그 구간에서 다들 헤맸잖아"라는 말 한마디로 처음 만난 사람들이 웃을 수 있었고, 그렇게 공유된 최초가 커뮤니티의 모닥불 노릇을 했다. 사람마다 다른 최초는 그 모닥불을 끈다. 내 첫 화면을 겪은 사람이 세상에 나 하나뿐이라면 그 최초는 이야깃거리가 되지 못한다. 24장에서 우리가 꺼내고 싶은 출력으로 커뮤니티를 꼽았는데, 맞춤이 정교해질수록 그 출력 하나를 깎는 셈이니 개인화에는 이 충돌의 비용까지 셈에 넣어야 한다. 맞춰 줄수록 최초는 외로워진다.

그래서 AI가 지은 첫 경험에는 신뢰의 울타리가 필요하다. 세 개의 기둥으로 친다. 첫째는 왜 이걸 보여 주는지를 알 수 있게 하는 일로, 사용자가 받은 첫 화면이 어디서 왔는지 무엇을 보고 그를 이렇게 짐작했는지가 어렴풋이라도 비쳐야 한다. 둘째는 끌 수 있게 하는 일로, 맞춤이 거슬리거나 빗나갔을 때 사용자가 그 맞춤을 멈추고 보통의 첫 화면으로 돌아갈 손잡이가 있어야 한다. 셋째는 틀렸을 때 고칠 수 있게 하는 일로, 기계가 그를 잘못 읽었을 때 사용자가 "나는 그런 사람이 아니다"라고 바로잡으면 그 바로잡음이 반영되어야 한다. 왜 보여 주는지, 끌 수 있는지, 틀리면 고치는지. 이 셋이 없으면, 맞춰 준다는 친절은 사용자가 통제할 수 없는 참견이 된다.

음악 앱들은 이 울타리를 손잡이의 모양으로 내놓는다. 알려진 바로는 스포티파이가 추천에 쓰이는 자기 취향 정보에서 마음에 안 드는 곡이나 목록을 직접 빼고, 어떤 결을 덜 받을지를 손볼 수 있게 열어 두었다고 한다. 기계가 읽은 나를 내가 다시 고칠 수 있게 한 셈이다. 추천이 빗나가도 사용자가 직접 바로잡을 길이 있으면, 한 번의 어긋남이 곧장 등 돌림으로 가지 않는다. 게임의 첫 화면에 AI를 들일 때도 같은 손잡이를 함께 짠다.

▶ 내 화면에 대입하는 세 가지

AI로 도구만 바뀌었나, 원리도 바뀌었나.

생성된 화면이 일반인이 모르는 약속을 그대로 쓰고 있지 않나.

AI에 맡겨도 검문 세 가지는 사람이 직접 돌리고 있나. 셋 중 하나라도 흐릿하면, AI는 요금을 줄여 준 것이 아니라 더 매끈하게 가린 것이다.

그래서, 원리를 먼저 세우고 AI를 그 위에 올린다

AI 시대의 첫 경험을 짤 때 순서가 거꾸로 되기 쉽다. 새 도구가 손에 들어오면 그 도구로 무엇을 할 수 있는지부터 묻게 되는데, 물어야 할 순서는 그 반대다. 먼저 이 첫 경험에서 무엇을 이루려는지, 어느 계층에게 말하는지, 어떤 요금을 아껴 줄지, 어떤 관습을 검문할지를 정하고, 그 원리가 선 다음에 AI가 그것을 더 잘 구현할 자리가 어디인지를 찾는다. 도구가 목표를 정하게 두지 않고, 목표가 도구의 자리를 정하게 하는 것이다. 그래서 AI를 첫 경험에 넣을 때 던지는 첫 질문은 "AI로 무엇을 할까"가 아니라 "이 원리를 구현하는 데 AI가 정말 더 나은가"다.

이 결정도 측정으로 이어진다. AI가 맞춰 준 첫 화면이 정말 더 나았는지는 맞춰 주지 않은 보통의 첫 화면과 견줘 봐야 아니까, 일부 사용자에게는 일부러 맞춤을 끈 화면을 주어 둘을 나란히 본다. 앞에서 사람마다 다른 화면은 재기도 검수하기도 어렵다고 했는데, 이 대조군 유보가 그 어려움을 뚫는 표준 해법이다. 맞춤을 받은 사람들이 보통 화면을 받은 사람들보다 더 잘 머무는지 아니면 오히려 어긋나 더 빨리 떠나는지를 나란히 본다. 그리고 맞춤이 거슬려 꺼 버린 사람이 얼마나 되는지, 어느 결의 사람들이 유독 못 맞춰졌는지를 본다. 개인화가 자랑이 아니라 검증의 대상이 되는 순간, AI는 비로소 첫 경험을 짓는 믿을 만한 도구가 된다.

참고 콘텐츠

이 장의 개념이 드러나는 다른 매체·분야의 사례.

추천 시스템의 원리

콜드 스타트 문제 : 처음 온 사람은 데이터가 없어 기계도 잘 못 맞힌다. 백지를 어림짐작하는 첫 경험의 오랜 곤란이 그대로다.

개인화 제품의 일반 패턴

스포티파이의 '내 취향에서 제외' : 특정 곡이나 목록을 추천 계산에서 빼는 손잡이를 곡 메뉴에 둔다. 처음엔 플레이리스트 단위로 열었다가 나중에 개별 곡까지 뺄 수 있게 넓혀, '그때만 들은 곡'이 내 취향을 비틀지 않게 내가 직접 정정한다. 기계가 읽은 나를 내가 다시 고치게 열어 두면, 한 번의 어긋남이 곧장 등 돌림으로 가지 않는다.
필터 버블 : 서비스가 내 취향에 맞춰 걸러 줄수록 내 결 밖의 것을 점점 못 만나, 보이지 않는 거품 안에 갇힌다는 진단이다. 맞춤이 정교할수록 가둠도 단단해진다는 경고로, 추론 밖으로 나갈 길을 일부러 열어 두라는 근거가 된다.

신뢰 / 투명성의 원리

메타의 '이 광고가 표시되는 이유' : 피드의 광고 점 세 개 메뉴에서 왜 이걸 보여 주는지를 사용자가 직접 펼쳐 본다. 어떤 활동과 관심사가 이 노출로 이어졌는지를 주제별로 비추고, 그 자리에서 광고주를 숨기거나 설정을 손볼 수 있게 한다.

게임의 사례

'하데스'의 갓 모드 : 사용자가 켜 두면 받는 피해를 줄여 주고, 죽을 때마다 그 경감을 조금씩 더 키워 막힌 사람이 끝내 넘어가게 돕는다. 사용자가 켜고 끄고 정도를 손볼 수 있는 손잡이라, 맞춤을 사용자가 통제하는 한 가지 모범을 보여 준다.

나머지 참고 콘텐츠는 이 글 끝의 '27장 부록'에 모아 두었다(단행본에서는 부록 D로 묶인다).

설계 노트 ▶ 직접 해보기

우리 게임의 첫 경험에서, AI에게 맡기면 더 나아질 자리를 딱 한 곳만 고른다. 사람마다 첫 화면을 맞춰 주는 곳일 수도, 사용자와 말로 안내하는 곳일 수도, 콘텐츠를 그 자리에서 지어 주는 곳일 수도 있다.

그 한 곳에 대해 묻는다. 여기서 AI가 사용자를 잘못 읽으면 무슨 일이 벌어지고, 그 어긋남을 우리는 어떻게 알아채는가. 그리고 신뢰의 울타리 세 줄을 적는다. 사용자는 왜 이 화면을 받았는지 알 수 있는가, 맞춤을 끌 수 있는가, 틀렸을 때 바로잡을 수 있는가. 한 줄이라도 비어 있다면, 그 자리에 AI를 넣기 전에 그 울타리부터 친다. (AI를 어느 수준까지 관여시킬지, 그 위험과 윤리를 어떻게 다룰지를 짚는 정밀한 도구는 부록 C.)

마지막으로 한 줄로 판정한다. AI가 도구만 바꾸고 8계층·요금·관습 검문이라는 원리를 그대로 떠받치면 통과시키고, 원리 대신 도구가 첫 화면을 정하게 두었다면 다시 원리부터 세운다.

한 줄 요약: AI는 처음 온 백지 같은 사람을 더 빨리 짐작해 사람마다 다른 첫 화면을 지어 주지만, 더 잘 짐작하는 것이 늘 맞게 짐작하는 것은 아니다. "개인화하면 무조건 좋다"는 가정은 절반만 옳다. 잘 맞으면 좋고, 어긋나거나 사람을 가두면 안 하느니만 못하다. 개인화된 최초는 재기도 검수하기도 어렵고 공정성의 위험을 안으니, 왜 보여 주는지·끌 수 있는지·틀리면 고치는지의 울타리를 친다. 무엇보다 8계층·요금·관습 검문이라는 원리는 그대로고, AI는 그 원리를 구현하는 도구일 뿐이다. 도구가 목표를 정하게 두지 않는다. 다음 장: 1장부터 여기까지, 익숙함을 멈춰 세우고, 최초를 문턱으로 나누고, 사용자를 계층으로 쪼개고, 경험의 요금과 충돌과 계기판을 짚고, 마지막으로 그 모든 원리가 새 도구 위에서도 그대로 선다는 걸 봤다. 이제 흩어진 표와 질문과 결정을 한자리에 모을 차례다. 부록 A가 설계와 사용자의 도구를, 부록 B가 세계와 경험의 도구를, 부록 C가 계기판과 참조의 도구를, 부록 D가 장별 참고 콘텐츠를 묶어, 누구의 것도 아닌 당신 게임의 첫 경험 설계서 한 권을 완성한다.

27장 부록: 참고 콘텐츠 모음

본문의 참고 콘텐츠 절에는 이 장의 논증에 직결되는 핵심 몇 개만 남기고, 나머지를 여기에 매체별로 모았다. 추천 시스템의 원리에서 시작해 개인화 제품의 일반 패턴, 대화형 안내, 신뢰와 투명성, 도구와 목표의 순서, 도로와 호텔 같은 오프라인을 지나 영상과 게임의 그림으로 끝난다. 특정 제품의 기능은 빠르게 바뀌니, 여기서는 빨리 낡지 않을 원리와 실패 양식이 드러나는 사례 위주로 골랐다. 이 장의 세 논점, 곧 개인화가 가장 필요해 보이는 첫 만남이 사실은 데이터가 없어 가장 못 맞히는 콜드 스타트의 역설, 개인화·대화형 안내·즉석 생성이라는 세 갈래마다 다른 실패 양식, 그리고 왜 보여 주는지 알리고 끌 수 있게 하고 틀리면 고치게 하는 신뢰의 울타리를 옆에 두고 읽으면, 항목마다 붙인 "살펴볼 점"이 어디에 닿는지 보인다.

추천 시스템의 원리

틱톡 추천 피드의 초기 탐색 : 막 들어온 계정은 아는 게 적어 첫 세션이 거의 탐색에 가깝고, 피드가 덜 맞춰진 채로 굴러간다. 짧은 영상마다 머문 시간과 손가락이 멈춘 곳을 빠르게 읽어, 백지에 첫 줄을 긋는 속도를 끌어올린다. 살펴볼 점: 콜드 스타트를 묻지 않고 행동 관찰로 푸는 방식의 속도와, 그 속도가 사람을 빨리 가둘 수도 있다는 양면을 본다.
비개인화 폴백 : 아는 게 없을 때는 무난한 인기 항목을 먼저 보여 준다는 원리로, 잘못 맞추느니 보통의 첫 화면이 낫다고 본다. 살펴볼 점: 모자란 짐작에 확신의 옷을 입히지 않는다는 판단 기준이 우리 첫 화면에도 있는지 본다.
가입 직후 취향 묻기 : 첫 선택 몇 개로 백지에 첫 줄을 긋는 흔한 방식으로, 26장의 첫 선택과 같은 곤란을 다른 손으로 푼다. 살펴볼 점: 묻는 수와 무게가 어느 선을 넘으면 백지를 푸는 도구가 도로 시험지가 되는지 본다.
스포티파이 가입 직후 아티스트 고르기 : 첫 실행에서 좋아하는 아티스트 몇 명 이상을 고르게 해, 데이터가 없는 백지에 첫 줄을 긋는다. 그 몇 개의 선택으로 홈 화면과 첫 추천 목록을 곧장 그 사람 결로 깐다. 살펴볼 점: 첫 몇 개의 선택이 곧장 첫 화면의 결이 되는, 콜드 스타트 처방의 표준 구현이다.
협업 필터링의 "비슷한 사람" 추론 : 닮은 사람들의 행동으로 미루어 짚되, 그 미룸이 빗나가면 첫인상부터 엉뚱해진다. 살펴볼 점: 개인화의 실패가 기술 결함이 아니라 추론의 본성에서 시작된다는 것, 그래서 정정의 손잡이가 늘 따라가야 한다는 것을 본다.
일회성 행동을 취향으로 굳히는 추천 : 선물로 유모차를 한 번 샀더니 한동안 유모차만 권하는 식의 실패는 어느 커머스에서나 관찰되는 양식이다. 행동은 정직한 신호지만, 한 번의 행동을 정체성으로 굳히면 그 신호가 거꾸로 사람을 가둔다. 살펴볼 점: 선택을 확정이 아니라 가설로 읽으라는 26장의 원칙이 기계에도 그대로 필요하다는 것, "이건 내 취향이 아니다"라고 정정할 손잡이가 있는지 본다.

개인화 제품의 일반 패턴

넷플릭스의 작품 썸네일 개인화 : 같은 작품인데 사람마다 다른 대표 이미지를 깐다. 우마 서먼이 나온 작품을 본 사람에겐 펄프 픽션 썸네일에 서먼이 나오는 컷을 내놓는 식으로, 첫 화면 자체를 그 사람 결에 맞춰 다시 짓는다. 살펴볼 점: 같은 서비스인데 사람마다 최초가 다르다는 이 장의 출발점을 가장 또렷하게 구현한 사례라, 맞을 때와 어긋날 때의 진폭을 같이 본다.
마이크로소프트 오피스의 클리피(1997) : 문서가 편지처럼 보이면 "편지를 쓰시나 봐요?"라며 끼어들던 도우미로, 맥락을 자주 잘못 읽는 데다 같은 참견을 반복했고 끄는 길도 또렷하지 않아 미움받다 이후 버전에서 빠졌다. 살펴볼 점: 왜 보여 주는지, 끌 수 있는지, 틀리면 고치는지의 세 기둥이 비면 친절이 참견이 된다는 것을, 생성형 이전의 기술이 이미 보여 줬다.
타깃의 임신 예측 쿠폰 일화 : 미국 마트 타깃이 구매 패턴으로 임신을 추정해 관련 쿠폰을 보냈고, 한 아버지가 딸의 임신을 마트보다 늦게 알게 됐다는 이야기가 2012년 기사로 널리 회자된다. 일화의 세부는 검증이 어렵다는 지적도 따른다. 살펴볼 점: 맞춘 개인화도 왜 보여 주는지가 숨겨지면 친절이 아니라 감시로 읽힌다는, 투명성 기둥의 근거가 된다.

대화형 안내의 원리

항공사 챗봇의 자신 있는 오답과 배상 판정 : 캐나다의 한 항공사 챗봇이 가족상 할인 요금을 여행 뒤에 신청해도 된다고 잘못 안내했고, 2024년 현지의 분쟁 조정 기구는 챗봇도 웹사이트의 일부이니 회사가 그 말에 책임을 지라며 차액 배상을 판정했다. 살펴볼 점: 매끈한 오답의 요금을 결국 회사가 치른다는 것, 말로 안내하는 화면을 들일 때 오답의 책임 설계까지 함께 짜야 한다는 본문의 경고가 판례의 모양으로 확인된 일이다.

신뢰 / 투명성의 원리

왜 이걸 보여 주는지 비추기 : 받은 화면이 어디서 왔는지 어렴풋이라도 보여야 참견이 아닌 친절이 된다. 살펴볼 점: 울타리 첫 기둥의 일반 원칙이라, 우리 첫 화면의 추천에 출처 한 줄이 비치는지 본다.
개인화의 공정성 쏠림 : 많이 본 부류는 잘 맞히고 드문 부류는 못 맞히는 쏠림이 생겨, 첫 만남부터 사람을 다르게 대접할 수 있다. 살펴볼 점: 어느 결의 사람들이 유독 못 맞춰지는지를 나눠 재고 있는지, 최초의 품질이 부류에 따라 갈리지 않는지 본다.

도구와 목표의 순서

도구가 목표를 정하게 두지 않기 : 새 기술이 손에 들어와도 먼저 무엇을 이룰지를 정하고, 그 위에서 AI가 더 나은 자리만 찾는다. 살펴볼 점: "AI로 무엇을 할까"가 아니라 "이 원리를 구현하는 데 AI가 정말 더 나은가"가 첫 질문이 되어 있는지 본다.

오프라인 / 일상

내비게이션 맹신과 자동화 편향 : 안내를 의심 없이 따르다 막힌 길이나 물가로 들어간 사고가 여러 나라에서 보도되어 왔고, 기계의 확신에 찬 안내 앞에서 사람의 의심이 무뎌지는 경향은 자동화 편향이라는 이름으로 연구되어 왔다. 살펴볼 점: 머뭇거리는 사람의 안내보다 매끈한 기계의 오답이 더 위험한 이유, 그리고 처음 온 사람일수록 의심할 지식이 없다는 본문의 경고가 도로 위에서도 그대로 벌어진다.
호텔 컨시어지의 첫 손님 응대 : 노련한 컨시어지는 처음 온 손님을 단정하지 않고 가벼운 질문 두엇으로 가설을 세운 뒤, 반응을 보며 추천을 좁혀 가고 모르는 것은 모른다고 말하고 알아봐 준다. 살펴볼 점: 콜드 스타트를 다루는 사람의 원형이라, 확신 대신 질문으로 시작하고 어긋나면 바로 고치는 태도가 기계 안내가 배울 기준선이 된다.

영화·드라마·애니메이션의 그림

영화 '마이너리티 리포트'(2002)의 갭 매장 장면 : 매장 스캐너가 주인공의 눈을 읽고 '야카모토 씨, 어서 오세요'라며 지난 구매를 묻는다. 그런데 그 눈은 이식받은 남의 눈이라, 시스템은 확신에 차서 그를 엉뚱한 사람으로 대접한다. 살펴볼 점: 잘 읽었다는 확신과 실제로 맞게 읽었는가가 다른 문제라는 것, 확신에 찬 오인이 어떤 대접이 되는지 본다.
드라마 '블랙 미러'의 '조앤 이즈 어풀'(2023) : 스트리밍 회사가 가입자 한 사람 한 사람을 주인공으로 한 드라마를 자동으로 지어 내보낸다. 사람마다 다른 최초를 기계가 만들어 준다는 미래의 극단을 보여 주는데, 그 생성된 '나'가 실제 나와 어긋날 때 어떤 배신감을 주는지를 동시에 비춘다. 살펴볼 점: 즉석 생성이 끝까지 가면 무엇이 되는지, 그리고 어긋난 생성이 청구하는 신뢰의 요금을 본다.
애니 '사이코패스'(2012)의 시빌 시스템 : 모든 시민의 잠재 범죄 수치를 스캔해 사람을 수치로 분류하고 그에 맞춰 대접한다. 그런데 그 분류가 빗나가는 사람이 있어서, 죄를 저지르는 순간에도 낮은 수치로 읽히는 예외가 존재한다. 살펴볼 점: 정교한 분류일수록 한 번 빗나갈 때 더 크게 어긋난다는 경고를, 분류가 사람의 대접을 정하는 세계로 확대해 본다.

게임의 사례

'레프트 4 데드'(2008)의 AI 디렉터 : 정해진 곳에 적을 두지 않고, 그 판 사용자의 체력·탄약·진행·긴장도를 읽어 적과 보급을 다르게 깐다. 같은 맵인데도 사람마다 다른 경험이 되도록, 그때그때의 상황을 미루어 맞춰 짓는다. 살펴볼 점: 사람마다 다른 경험을 짓는 일이 생성형 이전부터 게임 안에 있었다는 것, 다만 읽는 대상이 취향이 아니라 그 순간의 상태라는 차이를 본다.
'포르자' 시리즈의 드라이바타 : 실제 플레이어가 브레이크를 밟고 코너를 도는 결을 학습해, 그 사람처럼 모는 AI 분신을 만들어 다른 사람 게임에 등장시킨다. 살펴볼 점: 개인화가 사람을 본떠 내는 데까지 가면, 본떠진 내가 남의 첫 경험에 등장한다는 새로운 책임이 생긴다는 것을 본다.