《블랙 미러》 〈곧 돌아올게〉(Be Right Back): 이제는 현실일까요?

1〈곧 돌아올게〉에서는 무슨 일이 일어날까요?

〈곧 돌아올게〉는 《블랙 미러》(Black Mirror) 시즌 2의 첫 번째 에피소드예요. 영국 Channel 4에서 2013년 2월 11일에 방영됐어요. 찰리 브루커가 각본을 쓰고 오언 해리스가 연출했어요. 헤일리 앳웰이 마사를, 돔놀 글리슨이 그녀의 연인 애시를 연기해요.

에피소드 초반에 애시가 갑자기 세상을 떠나요. 한 친구가 마사를 어떤 서비스에 가입시켜 주는데, 이 서비스는 애시가 온라인에 쓰고 공유한 모든 것을 학습한 뒤 그를 흉내 내요. 처음에는 메시지만 보내요. 나중에는 그의 목소리로 전화 통화도 할 수 있게 돼요. 마지막으로 회사는 훨씬 더 기묘한 것을 제안해요. 바로 몸이에요. 이 에피소드는 기기 자체보다, 단계마다 마사가 어떤 감정을 느끼는지에 더 관심을 두어요.

현재 많은 나라에서 이 에피소드는 시리즈의 다른 에피소드와 함께 Netflix에서 스트리밍돼요. 결말은 여기서 다루지 않을게요.

2단계별로 보면: 2026년에는 무엇이 존재할까요?

텍스트: 현실이 된 부분

대규모 언어 모델은 누군가의 과거 메시지를 참고해 그 사람의 표현, 말의 리듬, 유머를 빌린 답장을 쓰도록 유도할 수 있어요. 2021년 샌프란시스코 크로니클은 조슈아 바보가 GPT-3 기반 사이트인 Project December를 이용해 세상을 떠난 약혼녀와의 대화를 시뮬레이션한 이야기를 보도했어요. 그 결과는 놀라울 만큼 익숙하게 느껴질 수 있어요. 하지만 모델이 빈틈을 추측으로 메우기 때문에 틀릴 수도 있어요.

목소리: 가능하지만 위험해요

2022년 6월, Amazon은 세상을 떠난 할머니의 목소리로 아이에게 이야기를 읽어 주는 알렉사 기능을 시연하면서, 1분이 안 되는 음성만 있으면 된다고 밝혔어요. 2023년 Microsoft 연구진은 3초짜리 샘플로 목소리를 흉내 낼 수 있는 모델을 발표했고, 이후 악용 위험 때문에 후속 모델을 일반에 공개할 계획이 없다고 밝혔어요. 음성 클론과 텍스트 클론 비교 글에서 장단점을 설명해요.

몸: 여전히 허구예요

한 사람의 데이터로 만들어 집에서 함께 살며 그 사람으로 통할 수 있는 안드로이드를 판매하는 회사는 없어요. 휴머노이드 로봇은 존재하지만, 생김새와 움직임이 기계 같아요.

3이 에피소드와 겹쳐 보이는 실제 이야기

2015년 11월, 로만 마주렌코가 모스크바에서 세상을 떠났어요. 그의 가까운 친구이자 AI 스타트업 Luka의 공동 창업자인 유지니아 쿠이다는 그가 보낸 옛 문자 메시지를 모으고, 친구와 가족에게도 더 보내 달라고 부탁했어요. 그녀의 팀은 이 메시지로 추모 챗봇을 만들었고, 이 이야기는 2016년 10월 케이시 뉴턴이 The Verge에 소개했어요.

The Verge에 따르면 쿠이다는 마주렌코가 세상을 떠난 뒤 〈곧 돌아올게〉를 보았고, 복잡한 감정이 들었다고 해요. 그녀는 “하지만 이게 정말 우리에게 도움이 되는 걸까?” 하고 자문했어요. 그의 친구 중 일부는 이 봇에서 위로를 받았고, 다른 이들은 잘못된 일이라고 느꼈어요. 그녀의 회사는 이후 AI 동반자 챗봇 앱인 Replika를 출시했어요.

그리프봇과 연구 결과 가이드에서 이 역사와 이후의 연구를 다뤄요.

4이 에피소드가 그리프 테크에 대해 정확히 짚은 점

• 복제본은 주어진 것만 알아요. 애시 시뮬레이션은 그가 공유한 것으로 학습하는데, 그것이 그 사람의 전부는 아니에요. 실제 시스템도 같은 한계가 있어요.
• 언제든 곁에 있는 위로는 떨치기 어려울 수 있어요. 케임브리지 대학교 연구자들은 2024년, 이런 제품이 시뮬레이션을 쉽게 일시 중지하고, 이용을 그만두고, 존엄하게 은퇴시킬 수 있는 방법을 제공해야 한다고 권고했어요.
• 익숙하다고 해서 진짜인 것은 아니에요. 시뮬레이션이 그럴듯하게 느껴질수록 작은 실수 하나가 더 아프게 다가올 수 있어요.

5이 에피소드가 빠뜨린 점

• 동의. 애시는 시뮬레이션되는 데 동의한 적이 없어요. 메시지에는 다른 사람들의 말도 담겨 있어요. 이것이 왜 중요한지는 동의 가이드에서 설명해요.
• 개인정보. 데이터가 어디로 가는지, 누가 읽을 수 있는지, 모델 학습에 쓰이는지는 에피소드가 건너뛰는 현실적인 질문이에요.
• AI 표시. EU AI법은 2026년 8월부터 사람들이 AI 시스템과 상호작용하고 있다는 사실을 알려야 한다고 규정해요. 법은 나라마다 다르며, 이 내용은 일반 정보일 뿐 법률 자문이 아니에요.

6비슷한 것을 시도하기 전에

1. 무엇을 느끼고 싶은지, 그리고 오히려 더 힘들어진다면 어떻게 할지 스스로에게 물어보세요.
2. 도구가 항상 그 사람이 아닌 AI로 자신을 표시하는지 확인하세요.
3. 직접 선택하지 않는 한 먼저 메시지를 보내지 않는 도구를 고르세요.
4. 메시지가 어디에 저장되는지, 업로드되는지 알아보세요.
5. 그 사람이 무엇을 원했을지, 가까운 가족은 어떻게 느끼는지 생각해 보세요.
6. 어떤 결정을 내리든 원본 메시지의 사본은 직접 보관해 두세요.

7솔직하게 말하는 Memory Clone의 위치

Memory Clone은 이 에피소드의 첫 단계와만 닮았어요. Memory Clone은 현재 알파 버전인 Windows 데스크톱 앱으로, WhatsApp, Messenger, Instagram, Discord처럼 직접 내보낸 채팅과 메모를 바탕으로 비공개 AI 시뮬레이션을 만들어요. 한 사람이 바로 당신에게 어떻게 글을 썼는지를 학습하고, 다른 관계의 사적인 내용이 대화에 섞이지 않도록 설계되어 있어요.

• 텍스트만 지원해요. 음성 메시지, 사진, 동영상은 사용하지 않으며, 목소리를 복제하지도 않아요. 몸도 아바타도 없어요.
• 그 사람이 아니에요. 모든 클론은 AI 시뮬레이션으로 표시돼요. 누군가가 글을 쓰던 방식을 되살릴 수는 있지만, 그 사람처럼 생각하거나 느끼거나 새로운 것을 기억할 수는 없어요.
• 기본적으로 조용해요. 자연스러운 안부를 켜지 않는 한 먼저 메시지를 보내지 않아요.
• 로컬 우선. 가져온 원본과 메모리 인덱스는 내 PC에 남아요.

마음의 준비가 되었을 때, 다운로드 페이지에서 알파 버전에 대해 알아볼 수 있어요. 서두를 필요는 없어요.