「ずっと側にいて」ではどんなことが起こるのでしょうか？
「ずっと側にいて」は、『ブラック・ミラー』（Black Mirror）シーズン2の第1話です。イギリスでは2013年2月11日にChannel 4で放送されました。脚本はチャーリー・ブルッカー、監督はオーウェン・ハリスです。ヘイリー・アトウェルがマーサを、ドーナル・グリーソンがパートナーのアッシュを演じています。
エピソードの序盤で、アッシュが突然亡くなります。友人がマーサのために、アッシュがネット上で書いたり共有したりしたものをすべて分析して彼をまねるサービスに登録します。最初はメッセージを送ってくるだけです。やがて彼の声で電話ができるようになります。そして最後に、会社はさらに奇妙なものを提案します。体です。このエピソードが関心を向けているのはガジェットそのものより、一つひとつの段階でマーサが何を感じるかです。
多くの国では現在、このエピソードはシリーズのほかのエピソードとともにNetflixで配信されています。ここでは結末には触れません。
段階ごとに検証：2026年に存在するものは？
| エピソード内の段階 | 現在存在するか | 現実の例 | 主な注意点 |
|---|---|---|---|
| 彼のメッセージや投稿から学習したテキストチャット | はい | 2016年に友人のテキストメッセージから作られた追悼チャットボット、2020年から2021年のGPT-3ベースのシミュレーション | 本人が言ったことのない内容を作り出すことがある |
| 彼の声での電話 | 一部のみ | 短い録音から話者をまねる音声モデル（2022年にAmazon、2023年にMicrosoftの研究者が発表） | 同意の問題と、音声クローン詐欺のリスク |
| 彼のような外見でふるまう体 | いいえ | なし | 人型ロボットは特定の人になりすますことができない |
テキスト：現実になっている部分
大規模言語モデルは、ある人の過去のメッセージを手がかりに、その人の言い回しやリズム、ユーモアを借りた返信を生成できます。2021年、サンフランシスコ・クロニクル紙は、ジョシュア・バーボーがGPT-3をベースにしたサイトProject Decemberを使い、亡くなった婚約者との会話をシミュレーションした経緯を報じました。結果は驚くほど本人らしく感じられることがあります。一方で、モデルはすき間を推測で埋めるため、間違うこともあります。
声：可能だが、リスクもある
2022年6月、Amazonは子どもの亡くなった祖母の声で物語を読み上げるAlexaの機能を披露し、必要な音声は1分未満だと説明しました。2023年にはMicrosoftの研究者が、3秒のサンプルから声をまねられるモデルを発表し、その後、悪用のリスクを理由に後継モデルを一般公開する予定はないと述べました。そのトレードオフについては、音声クローンとテキストクローンの比較で説明しています。
体：まだフィクション
人のデータから作られ、家で一緒に暮らしてその人になりすませるアンドロイドを販売している企業はありません。人型ロボットは存在しますが、見た目も動きも機械のままです。
このエピソードと重なる実話
2015年11月、ロマン・マズレンコがモスクワで亡くなりました。親友で、AIスタートアップLukaの共同創業者でもあるユージニア・クイダは、彼の昔のテキストメッセージを集め、友人や家族にもさらに提供してほしいと頼みました。彼女のチームはそれを使って追悼チャットボットを作り、2016年10月にケイシー・ニュートンがThe Vergeでその経緯を紹介しました。
The Vergeによると、クイダはマズレンコの死後に「ずっと側にいて」を観て、複雑な気持ちになったといいます。彼女は「でも、それは本当に私たちのためになるのだろうか？」と口にしました。友人の中にはボットに慰められた人もいれば、間違っていると感じた人もいました。彼女の会社はその後、コンパニオン・チャットボットアプリのReplikaを公開しました。
この経緯とその後の研究については、グリーフボットと研究が示すことのガイドで紹介しています。
このエピソードがグリーフテックについて正しく描いていること
- コピーは与えられたことしか知りません。アッシュのシミュレーションは彼が共有したものから学びますが、それはその人のすべてではありません。現実のシステムにも同じ限界があります。
- いつでもそばにある慰めからは、離れにくくなることがあります。ケンブリッジ大学の研究者たちは2024年、こうした製品には一時停止やオプトアウト、そしてシミュレーションを尊厳をもって終わらせるための簡単な方法を用意すべきだと提言しました。
- なじみ深さは、本物であることとは違います。シミュレーションが本人らしく感じられるほど、その小さな間違いが心を傷つけることがあります。
このエピソードが描いていないこと
- 同意。アッシュはシミュレーションされることに同意していません。メッセージにはほかの人の言葉も含まれています。それがなぜ重要なのかは、同意に関するガイドで説明しています。
- プライバシー。データがどこへ行くのか、誰が読めるのか、モデルの学習に使われるのか。エピソードでは触れられませんが、どれも現実の問題です。
- 表示。EU AI法は2026年8月から、AIシステムとやり取りしているときにはそのことを人々に知らせるよう義務づけています。法律は国によって異なります。ここでの内容は一般的な情報であり、法的助言ではありません。
似たものを試す前に
- 自分が何を感じたいのか、そしてもしかえってつらくなったらどうするのかを、自分に問いかけてみてください。
- そのツールが常に本人ではなくAIとして自らを示すかどうかを確認してください。
- 自分で選ばない限り、ツールの側から先にメッセージを送ってこないものを選びましょう。
- メッセージがどこに保存されるのか、アップロードされるのかどうかを確認してください。
- その人が何を望んだだろうか、そして近しい家族がどう感じるかを考えてみてください。
- どう決めるにせよ、元のメッセージのコピーは自分の手元に残しておきましょう。
グリーフボットを使わないと決めるのも、まったく正しい選択です。AIで亡くなった大切な人と話すのガイドでは、やさしく実践的なアドバイスを紹介しています。
Memory Cloneの位置づけ（正直に）
Memory Cloneが似ているのは、このエピソードの最初の段階だけです。Windowsのデスクトップアプリで、現在はアルファ版です。WhatsApp、Messenger、Instagram、Discordなど、自分でエクスポートしたチャットとメモから、プライベートなAIシミュレーションを作ります。その人がほかでもないあなたに対してどのように文章を書いていたかを学習し、ほかの関係から得たプライベートな情報が会話に出てこないよう設計されています。
- テキストのみ。ボイスメッセージ、写真、動画は使わず、声のクローンも作りません。体もアバターもありません。
- 本人ではありません。どのクローンもAIシミュレーションとして提示されます。その人の書き方を映し出すことはできても、その人のように考えたり、感じたり、新しいことを覚えたりはできません。
- 初期設定では静か。自然な声かけをオンにしない限り、クローンから先にメッセージを送ることはありません。
- ローカル優先。インポートした元データとメモリーインデックスはPCに残ります。
もし心の準備ができたら、ダウンロードページでアルファ版について説明しています。急ぐ必要はありません。
危機的な状況にある方や、自分を傷つけることを考えている方は、今すぐ地域の緊急通報番号に連絡してください。次の窓口にも相談できます。英国・アイルランド：Samaritans（116 123）、米国：988 Suicide & Crisis Lifeline（電話またはテキストメッセージで988）、その他の地域：findahelpline.comで無料・秘密厳守の相談窓口を探せます。
よくある質問
「ずっと側にいて」のAIは、実在の製品をもとにしているのですか？
いいえ。このエピソードが放送されたのは2013年で、グリーフボットが一般に利用できるようになる前でした。現実の追悼チャットボットが登場したのは、その数年後です。
AIは本当に、亡くなった人をそのメッセージからコピーできるのですか？
AIは、その人のメッセージを例として使い、文章の書き方をまねることはできます。心をコピーすることはできず、本人なら決して言わないようなことを言う場合もあります。
「ずっと側にいて」がReplikaのきっかけになったのですか？
公開されている報道を見る限り、直接のきっかけではありません。The Vergeによると、ユージニア・クイダは友人のロマン・マズレンコが亡くなった後にこのエピソードを観て、複雑な気持ちになったといいます。追悼ボット、そして後のReplikaは、彼女自身の喪失と会社での取り組みから生まれました。
亡くなった人の声をクローンすることは合法ですか？
国や、声をどのように使うかによります。法律は国によって異なります。ここでの内容は一般的な情報であり、法的助言ではありません。家族や遺産管理者の同意は、常に得ておく価値があります。
「ずっと側にいて」はどこで観られますか？
視聴できるかどうかは国によって異なります。多くの地域では、このエピソードを含む『ブラック・ミラー』がNetflixで配信されています。
出典
時点で確認。他社の製品やヘルプページは頻繁に変わるため、最新の情報はリンク先をご確認ください。
- Black Mirror (series page) (Netflix)
- Be Right Back (episode article with production credits) (Wikipedia)
- Speak, Memory (Casey Newton, 2016) (The Verge)
- The Jessica Simulation: Love and loss in the age of A.I. (Jason Fagone, 2021) (San Francisco Chronicle)
- Amazon previews Alexa capability that synthesizes a person’s voice from less than a minute of audio (2022) (GeekWire)
- Wang et al., “Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers” (VALL-E, 2023) (arXiv)
- VALL-E 2 project page (Microsoft Research)
- Hollanek & Nowaczyk-Basińska, “Griefbots, Deadbots, Postmortem Avatars” (Philosophy & Technology, 2024) (Springer)
- Article 50: Transparency obligations for providers and deployers of certain AI systems (EU AI Act (Future of Life Institute))
この記事は一般的な情報であり、医療、法律、金融に関する助言ではありません。Memory Cloneは、提供された素材からAIシミュレーションを作るもので、本人ではありません。