O czym jest „Zaraz wracam”?
„Zaraz wracam” („Be Right Back”) to pierwszy odcinek drugiego sezonu serialu Czarne lustro (Black Mirror). Wyemitowano go na brytyjskim Channel 4 11 lutego 2013 roku. Scenariusz napisał Charlie Brooker, a wyreżyserował go Owen Harris. Hayley Atwell gra Marthę, a Domhnall Gleeson jej partnera, Asha.
Na początku odcinka Ash nagle umiera. Przyjaciółka zapisuje Marthę do usługi, która analizuje wszystko, co Ash napisał i udostępnił w sieci, a potem go naśladuje. Najpierw tylko wysyła wiadomości. Później potrafi rozmawiać przez telefon jego głosem. W końcu firma proponuje coś znacznie dziwniejszego: ciało. Odcinek mniej interesuje się gadżetami, a bardziej tym, co Martha czuje na każdym etapie.
W wielu krajach odcinek można dziś oglądać na Netflixie razem z resztą serialu. Nie zdradzamy tu zakończenia.
Etap po etapie: co istnieje w 2026 roku?
| Etap w odcinku | Czy istnieje dziś? | Przykład z rzeczywistości | Główne zastrzeżenie |
|---|---|---|---|
| Czat tekstowy wyuczony z jego wiadomości i postów | Tak | Chatbot upamiętniający zbudowany w 2016 roku z SMS-ów przyjaciela; symulacje oparte na GPT-3 w latach od 2020 do 2021 | Może wymyślać rzeczy, których dana osoba nigdy nie powiedziała |
| Rozmowy telefoniczne jego głosem | Częściowo | Modele głosu naśladujące mówiącego na podstawie krótkich nagrań, pokazane przez Amazon w 2022 roku i badaczy Microsoftu w 2023 roku | Zgoda oraz ryzyko oszustw z użyciem sklonowanego głosu |
| Ciało, które wygląda i zachowuje się jak on | Nie | Brak | Humanoidalne roboty nie są w stanie uchodzić za konkretną osobę |
Tekst: to, co jest prawdziwe
Duże modele językowe można ukierunkować dawnymi wiadomościami danej osoby, tak by odpowiedzi zapożyczały jej zwroty, rytm i poczucie humoru. W 2021 roku San Francisco Chronicle opisał, jak Joshua Barbeau użył Project December, serwisu opartego na GPT-3, do symulowania rozmów ze swoją zmarłą narzeczoną. Efekt może wydawać się zaskakująco znajomy. Może też być błędny, bo model wypełnia luki domysłami.
Głos: możliwy i ryzykowny
W czerwcu 2022 roku Amazon pokazał funkcję Alexy, która czytała dziecku bajkę głosem jego zmarłej babci, i podał, że wystarczyło do tego mniej niż minuta nagrania. W 2023 roku badacze Microsoftu opisali model, który potrafił naśladować głos na podstawie trzysekundowej próbki, a później oświadczyli, że nie planują publicznie udostępniać jego następcy z powodu ryzyka nadużyć. Nasze porównanie klonów głosu i klonów tekstowych wyjaśnia, co się na co wymienia.
Ciało: wciąż fikcja
Żadna firma nie sprzedaje androida zbudowanego z danych człowieka, który mógłby zamieszkać w twoim domu i uchodzić za tę osobę. Humanoidalne roboty istnieją, ale wyglądają i poruszają się jak maszyny.
Prawdziwa historia, która odbiła się echem
W listopadzie 2015 roku w Moskwie zginął Roman Mazurenko. Jego bliska przyjaciółka Eugenia Kuyda, współzałożycielka start-upu AI Luka, zebrała jego stare SMS-y i poprosiła przyjaciół i rodzinę o kolejne. Jej zespół zbudował z nich chatbota upamiętniającego, którego Casey Newton opisał w The Verge w październiku 2016 roku.
Według The Verge Kuyda obejrzała „Zaraz wracam” po śmierci Mazurenki i miała mieszane uczucia. Zastanawiała się na głos: „Ale czy to naprawdę jest dla nas dobre?”. Niektórzy jego przyjaciele uznali bota za pocieszający, inni czuli, że to niewłaściwe. Jej firma uruchomiła później Replikę, aplikację z chatbotem-towarzyszem.
Nasz przewodnik griefboty i co mówią badania omawia tę historię i późniejsze badania.
Co odcinek trafnie pokazuje o technologiach dla osób w żałobie
- Kopia wie tylko to, co dostała. Symulacja Asha uczy się z tego, czym się dzielił, a to nie jest cały człowiek. Prawdziwe systemy mają to samo ograniczenie.
- Od pocieszenia dostępnego zawsze trudno się oderwać. Badacze z Cambridge zalecili w 2024 roku, by takie produkty oferowały łatwe sposoby na przerwę, rezygnację i godne „wycofanie” symulacji.
- Znajome to nie to samo co prawdziwe. Im bardziej przekonująca wydaje się symulacja, tym bardziej mogą boleć jej drobne pomyłki.
Czego odcinek nie pokazuje
- Zgoda. Ash nigdy nie zgodził się na symulowanie. Wiadomości zawierają też słowa innych osób. Nasz poradnik o zgodzie wyjaśnia, dlaczego to ważne.
- Prywatność. Dokąd trafiają dane, kto może je czytać i czy służą do trenowania modeli: to realne pytania, które odcinek pomija.
- Oznaczanie. Unijny AI Act wymaga, by od sierpnia 2026 roku ludzie byli informowani, że rozmawiają z systemem AI. Przepisy różnią się w zależności od kraju; to informacja ogólna, a nie porada prawna.
Zanim spróbujesz czegoś podobnego
- Zapytaj siebie, co masz nadzieję poczuć i co zrobisz, jeśli będzie ci od tego trudniej.
- Sprawdź, czy narzędzie zawsze przedstawia się jako AI, a nigdy jako ta osoba.
- Wybieraj narzędzia, które nigdy nie piszą pierwsze, chyba że sam tego zechcesz.
- Dowiedz się, gdzie przechowywane są wiadomości i czy są wysyłane na serwer.
- Zastanów się, czego chciałaby ta osoba i jak czują się najbliżsi.
- Niezależnie od decyzji zachowaj własne kopie oryginalnych wiadomości.
Rezygnacja z jakiegokolwiek griefbota to całkowicie dobry wybór. Nasz poradnik o rozmowie ze zmarłą bliską osobą za pomocą AI zawiera łagodne, praktyczne wskazówki.
Gdzie jest Memory Clone, szczerze
Memory Clone przypomina tylko pierwszy etap z odcinka. To aplikacja na komputery z Windows, obecnie w wersji alfa, która tworzy prywatną symulację AI z czatów wyeksportowanych przez ciebie samodzielnie, na przykład z WhatsAppa, Messengera, Instagrama czy Discorda, a także z notatek. Uczy się, jak dana osoba pisała właśnie do ciebie, i jest zaprojektowana tak, by prywatne szczegóły z innych relacji nie trafiały do twoich rozmów.
- Tylko tekst. Nie korzysta z wiadomości głosowych, zdjęć ani wideo i nie klonuje głosów. Nie ma ciała ani awatara.
- To nie ta osoba. Każdy klon jest przedstawiany jako symulacja AI. Może oddawać to, jak ktoś pisał, ale nie potrafi myśleć, czuć ani zapamiętywać nowych rzeczy tak, jak robiłaby to ta osoba.
- Domyślnie milczy. Nigdy nie pisze pierwszy, chyba że włączysz naturalne odezwania.
- Najpierw lokalnie. Zaimportowane oryginały i indeks wspomnień zostają na twoim komputerze.
Jeśli i kiedy poczujesz się gotowy, strona pobierania wyjaśni, czym jest wersja alfa. Nie ma pośpiechu.
Jeśli przeżywasz kryzys albo myślisz o zrobieniu sobie krzywdy, zadzwoń teraz pod lokalny numer alarmowy. Możesz też skontaktować się z: Wielka Brytania i Irlandia Samaritans, 116 123; Stany Zjednoczone 988 Suicide & Crisis Lifeline, zadzwoń lub napisz SMS pod 988; inne kraje bezpłatny, poufny telefon zaufania znajdziesz na findahelpline.com.
Najczęściej zadawane pytania
Czy AI z odcinka „Zaraz wracam” jest oparta na prawdziwym produkcie?
Nie. Odcinek wyemitowano w 2013 roku, zanim griefboty stały się publicznie dostępne. Prawdziwe chatboty upamiętniające pojawiły się kilka lat później.
Czy AI naprawdę potrafi skopiować zmarłą osobę z jej wiadomości?
AI potrafi naśladować to, jak ktoś pisał, korzystając z jego wiadomości jako przykładów. Nie potrafi skopiować jego umysłu i może mówić rzeczy, których ta osoba nigdy by nie powiedziała.
Czy „Zaraz wracam” zainspirowało powstanie Repliki?
Z publicznie dostępnych relacji nie wynika, by bezpośrednio. The Verge podał, że Eugenia Kuyda obejrzała ten odcinek po śmierci swojego przyjaciela Romana Mazurenki i miała co do niego mieszane uczucia. Jej bot upamiętniający, a później Replika, wyrosły z jej własnej straty i pracy jej firmy.
Czy klonowanie głosu zmarłej osoby jest legalne?
To zależy od kraju i od sposobu użycia głosu. Przepisy różnią się w zależności od kraju; to informacja ogólna, a nie porada prawna. Zawsze warto zabiegać o zgodę rodziny i spadkobierców.
Gdzie można obejrzeć „Zaraz wracam”?
Dostępność zależy od kraju. W wielu regionach Black Mirror, łącznie z tym odcinkiem, można oglądać na Netflixie.
Źródła
Sprawdzono . Produkty i strony pomocy innych firm często się zmieniają; aktualne szczegóły znajdziesz pod linkami.
- Black Mirror (series page) (Netflix)
- Be Right Back (episode article with production credits) (Wikipedia)
- Speak, Memory (Casey Newton, 2016) (The Verge)
- The Jessica Simulation: Love and loss in the age of A.I. (Jason Fagone, 2021) (San Francisco Chronicle)
- Amazon previews Alexa capability that synthesizes a person’s voice from less than a minute of audio (2022) (GeekWire)
- Wang et al., “Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers” (VALL-E, 2023) (arXiv)
- VALL-E 2 project page (Microsoft Research)
- Hollanek & Nowaczyk-Basińska, “Griefbots, Deadbots, Postmortem Avatars” (Philosophy & Technology, 2024) (Springer)
- Article 50: Transparency obligations for providers and deployers of certain AI systems (EU AI Act (Future of Life Institute))
Ten artykuł ma charakter ogólnoinformacyjny i nie stanowi porady medycznej, prawnej ani finansowej. Memory Clone tworzy symulację AI z dostarczonych przez ciebie materiałów; nie jest tą osobą.