Odpowiedzialne innowacje: Cyfrowe duchy zmarłych

Śmierć do dziś pozostaje nieodwracalna, ale nowe technologie pozwalają nam na iluzję nieśmiertelności. Cyfrowe wskrzeszanie zmarłych to coraz popularniejsza usługa, która może poważnie zmienić sposób, w jaki przeżywamy żałobę - pisze Dominik Zieliński z Sieci Badawczej Łukasiewicz – ITECH Instytut Innowacji i Technologii.

Publikacja: 22.07.2024 23:42

Odpowiedzialne innowacje: Cyfrowe duchy zmarłych

Foto: Adobe Stock

Pop-kultura jest miejscem niejednego powrotu zmarłych gwiazd do “żywych”. W 2012 roku hologram rapera 2Pac’a wystąpił na Coachelli u boku całkiem prawdziwego Snoop Dogga. Parę lat później w kinach mogliśmy zobaczyć film Łotr 1 z cyklu Gwiezdnych Wojen, gdzie w roli przywódcy Gwiazdy Śmierci ponownie obsadzono Petera Cushinga, po ponad 20 latach od śmierci aktora. Rozwój efektów specjalnych generowanych komputerowo przyczynił się do liczby wskrzeszeń, ale stać było na nie jedynie dużych producentów.

Pojawienie się AI wywraca tę sytuację do góry nogami. W 2021 roku amerykańskie media nagłośniły sprawę mężczyzny, który stworzył chatbota imitującego swoją zmarłą żonę. Wówczas skończyło się kontrowersją i wycofaniem usług ze strony OpenAI. Dziś, po raptem kilku latach, usługa wskrzeszania krewnych staje się ogólnodostępna.

Jak przywrócić zmarłych do życia?

Cyfrowe kopiowanie zmarłych to koncept, który nie jest nowy (pisał o nim Stanisław Lem w Kongresie Futurologicznym z 1971 roku), ale jego wdrożenie długo nie było możliwe. Jedną z pierwszych prawdziwych usług cyfrowego klonowania zmarłych oferowała firma Eternime, która zaczęła podbijać Internet w 2017 roku hasłami o “życiu wiecznym”. Usługa nie przyjęła się, wyprzedzając popyt i ówczesne możliwości techniczne. Rewolucja nastąpiła dopiero na przełomie 2022 i 2023 roku, gdy rynek niespodziewanie podbił ChatGPT, a opinia publiczna dowiedziała się o technologicznej walce o dominację na rynku modeli językowych. Powstałe wówczas (i wciąż rozwijane) modele AI pozwoliły zautomatyzować procesy, które dotychczas wymagały długiej i ciężkiej pracy człowieka. Ich zakres zastosowań wydaje się perfekcyjnie skrojony pod usługę cyfrowego wskrzeszania zmarłych. Dzięki sztucznej inteligencji możliwe jest:

- generowanie tekstu (imitującego wybrany styl i treść),

- “czytanie” tekstu (zamiana tekstu na dźwięk przy pomocy wybranego głosu),

- generowanie obrazów (tworzenie “od zera” lub edycja istniejących obrazów),

- animowanie obrazów (generowanie animacji imitującej ruch elementów na podstawie danego zdjęcia),

- generowanie filmów (stworzenie filmu na podstawie danego promptu).

Powyższa lista nie jest wyczerpująca, ale opisane wyżej funkcje są więcej niż wystarczające, aby stworzyć iluzję postaci, czy też osoby, “żyjącej” w przestrzeni cyfrowej - w formie tekstu, wypowiedzi, a nawet filmów, czy też w formie interaktywnej, takiej jak czatbot. Efektem jest funkcjonująca w Internecie cyfrowa persona, którą możemy określić mianem cyfrowej kopii osoby zmarłej lub cyfrowego ducha.

Jak to możliwe? Musimy pamiętać, że model językowy nie jest tworem zdolnym do “rozumienia”. Podstawowa zasada działania opiera się na trenowaniu. Ogólnodostępne modele takie jak Chat GPT działają w oparciu o olbrzymią bazę tekstów, dzięki którym model, “karmiony” pytaniem jakie zadamy, jest w stanie wygenerować najbardziej prawdopodobny tekst . Dlatego im więcej informacji o zmarłej osobie dostarczymy, tym większe prawdopodobieństwo, że wypowiedzi cyfrowego ducha będą przypominać jego protoplastę. Dlatego też warto pamiętać - cyfrowa rekonstrukcja osoby zmarłej nie jest wskrzeszeniem jako takim. Jest to technologiczna iluzja, która na podstawie prawdopodobieństwa pozwala naśladować sposób wypowiedzi osoby zmarłej. Nie zmienia to faktu, że może to być iluzja naprawdę przekonująca i dostarczająca wyjątkowych przeżyć.

Czy prawo stoi po stronie cyfrowych duchów?

Aktualnie oferta poświęcona tworzeniu cyfrowych duchów jest jeszcze relatywnie skromna i taką usługę oferują głównie chińskie start-upy, m.in. Silicon Intelligence i Super Brain. Są to firmy, które opierają się na produkcji “wirtualnych influencerów” - fikcyjnych postaci, które funkcjonują w mediach społecznościowych niczym żywe osoby . W krajach zachodnich wybór jest raczej mały, ale obecne są m.in. Replika i Project December , która deklaruje, że już za 10 dolarów pozwoli porozmawiać z cyfrową rekonstrukcją kogokolwiek, “nawet zmarłych”. Pod uwagę warto wziąć także systemy pozwalające stworzyć cyfrowego bliźniaka za życia, takie jak Eter9, LifeNaut czy Virtual Barry . Po śmierci taki cyfrowy bliźniak stawałby się de facto cyfrowym duchem osoby zmarłej, funkcjonującym niezależnie od jej woli, a wręcz zamiast niej.

Co ciekawe, właśnie „oddolnie” stworzona cyfrowa rekonstrukcja przysporzyła firmie Project December pierwszych problemów . W 2021 roku głośna stała się sprawa mężczyzny, który skorzystał z usług firmy, by rozmawiać ze swoją zmarłą narzeczoną. Doniesienia te skłoniły OpenAI do zamrożenia dostępu Project December do kodu ChatGPT. Regulamin OpenAI nie zakazuje wprost tworzenia cyfrowych duchów, natomiast wymaga do tego zgody "pierwowzoru” (co, w przypadku śmierci, staje się mocno problematyczne) lub wyraźnego zaznaczenia, że czatbot stanowi “symulację” lub “parodię”. Aktualnie Project December twierdzi, że funkcjonuje w oparciu o autorską technologię.

Powyższy przypadek obrazuje pierwszy z istotnych dylematów dotyczących cyfrowych duchów - w jakim zakresie można wykorzystywać wizerunek zmarłych osób? Czy potrzebna jest ich zgoda? Dyskusja ta jest szczególnie żywa w Hollywood, gdzie Gildia Aktorów protestowała m.in. przeciw zapisom, które miały dawać wytwórniom prawo do wykorzystywania wizerunku artystów, np. w formie głosu odtworzonego przez AI czy postaci przywróconych “do życia” z pomocą efektów specjalnych . Ten dylemat powinien jednak interesować każdego z nas, mówimy wszak o dość skrajnym przypadku ochrony danych i dóbr osobistych. Jak wskazują prawnicy, również w Polsce temat ten pozostaje nierozwiązany . Wprawdzie istnieją przepisy chroniące zmarłych, ale dotyczą one zwykle pozostałości po nich, a prawodawca nie podejmuje kwestii ochrony “cyfrowej tożsamości” zmarłych, zwłaszcza aktywnie funkcjonującej w przestrzeni cyfrowej.

Cyfrowe duchy nie są jeszcze terminem obecnym w publicznym dyskursie, ale wyniki pierwszych badań właśnie zaczynają się pojawiać. Amerykańscy naukowcy zapytali społeczeństwo, co sądzi o cyfrowych kopiach zmarłych . Ponad połowa respondentów w Stanach Zjednoczonych uważa cyfrowe duchy za społecznie akceptowalne, jeśli dana osoba przed śmiercią wyrazi zgodę na takie wykorzystywanie jej wizerunku. Przy braku takiej zgody, tylko 3% osób uznało “wskrzeszenie” osoby zmarłej za społecznie akceptowalne. Jednocześnie 59% badanych przyznało, że nie chciałoby, by ich wizerunek został wskrzeszony pośmiertnie. Zdaniem autorów badania, optymalnym rozwiązaniem polityczno-prawnym byłby domyślny zakaz cyfrowego wskrzeszania osób zmarłych, o ile same nie wyrażą na to zgody. A co, gdyby na cyfrowym wskrzeszaniu można by zarobić? Takie pytanie zadali sobie naukowcy z Japonii, a 20% japońskich badanych przyznało, że udzieliłoby informacji o sobie na pośmiertny użytek, gdyby za życia otrzymało odpowiednie wynagrodzenie .

Czy cyfrowi zmarli nam szkodzą?

Wobec powyższych opinii warto odpowiedzieć sobie na proste pytanie – czy cyfrowe duchy są dla nas szkodliwe? Rozwiązanie tego dylematu wymaga spojrzenia pod kątem psychologicznym oraz socjologicznym. Pierwsze zagrożenie jakie się pojawia, to zaburzenie procesu żałoby. Żałoba jest skomplikowanym, lecz naturalnym procesem psychologicznym. Forma żałoby jest wysoce zależna nie tylko od indywidualnych cech danej osoby, ale także od społecznego kontekstu. Niemniej, aby przebiegła w sposób zdrowy, musi ona się w końcu zakończyć, docierając do stanu akceptacji. Jak ostrzegają Bernadetta Janusz i Lucyna Drożdżowicz : “Zdarza się (...), że poszczególne osoby w rodzinie nie są w stanie uznać, że «obiekt już nie istnieje», przynajmniej w takiej relacji, w jakiej to było dotąd. Mamy wówczas do czynienia z protestem przeciw realności, który może trwać wiele lat i manifestować się w formie symptomów psychopatologicznych u poszczególnych osób w rodzinie”. Wytworzenie cyfrowej wersji zmarłej osoby, uniemożliwia wypłakanie się, wyrażenie złości i pożegnanie z osobą zmarłą. Skutek jest taki, że przeżywająca osoba nie będzie wstanie wrócić do wcześniejszego życia emocjonalnego. Podobne wnioski można wyprowadzić z psychologii egzystencjalnej. W nurcie tym uważa się, że zaakceptowanie swojej śmiertelności jest jednym z elementów gwarantujących wysoką jakość życia. Innymi słowy, odrzucenie śmiertelności uniemożliwia nam życie w pełni .

Przyglądając się także pod kątem socjologicznym, badacze z Cambridge sięgnęli wzrokiem w przyszłość i zaproponowali trzy prawdopodobne i problematyczne scenariusze, które mogą wydarzyć się w wyniku popularyzacji usług cyfrowego wskrzeszania zmarłych . Stanowią one świetny materiał do namysłu nad szansami i zagrożeniami, jakie stwarza ta technologia.

1. Pierwszy scenariusz: śmiertelnie chora kobieta zostawia 8-letniemu synowi swoją cyfrową kopię, aby pomóc mu z przejściem żałoby.

Oczywistym ryzykiem jest niekontrolowana relacja czatbota z dzieckiem. Dzieci mogą być szczególnie podatne na wpływ technologii AI , mając problem z rozróżnieniem prawdy od fikcji i taka technologia mogłaby być wykorzystana nawet do zatajenia faktu śmierci rodzica przed dzieckiem. Rozporządzenie ws. AI przyjęte przez Parlament Europejski wprost wskazuje, że AI, które może manipulować zachowaniem grup wrażliwych, w tym dzieci, jest niedopuszczalne .

2. Drugi scenariusz: Starsza osoba – w ukryciu przed dorosłymi dziećmi - opłaciła 20-letnią subskrypcję na funkcjonowanie swojego cyfrowego ducha, aby ułatwić im żałobę po swojej śmierci.

Druga historia zakłada nieoczywiste podejście do wyrażania zgody. Rozmawialiśmy już o zgodzie osoby zmarłej, ale przecież równie istotna jest zgoda osoby, która opłakuje osobę zmarłą. Nietrudno sobie wyobrazić sytuację, w której rodzina może wcale nie chcieć kontaktu z cyfrowym klonem osoby zmarłej. Szczególnie traumatyczne mogą okazać się niespodziewane wiadomości e-mail lub inne formy kontaktu podejmowane przez cyfrowego ducha (!), zwłaszcza gdy rodzina nie jest świadoma istnienia cyfrowej kopii osoby zmarłej. Należy podkreślić, że ten kontakt nie musi się ograniczać do wiadomości tekstowych – AI pozwala na łatwe generowanie wiadomości głosowych, a nawet filmów z udziałem nieżyjącej już osoby. Jednocześnie kontakt ten może zostać niespodziewanie przerwany, np. w wyniku awarii systemu lub bankructwa usługodawcy.

3. Trzeci scenariusz: Dorosła kobieta prosi cyfrowego ducha zmarłej matki o podanie rodzinnego przepisu na spaghetti carbonarę. Zamiast przepisu, zmarła matka radzi córce, by zamówiła danie na dowóz.

Ostatnia historia pokazuje przykład nie tak przewrotny, ale wciąż istotny – cyfrowe duchy zmarłych mogą stanowić wyjątkowo nieetyczną przestrzeń reklamową. Taka forma promocji nie tylko pozbawia szacunku wizerunek zmarłych, ale także może manipulować zachowaniem rodziny. Ponieważ na dzień dzisiejszy brakuje rozwiązań prawnych chroniących przed tego typu reklamą, użytkownicy pozostają na łasce usługodawcy, który może - ale nie musi - zakazać takich praktyk. Nietrudno wyobrazić sobie także rozwinięcie procederu wyłudzeń, który dzieje się już dzisiaj, gdy hakerzy przejmują konta naszych bliskich prosząc o przelew. Równie dobrze zmarła babcia może poprosić o przelew na szczytny cel, który okaże się kontem oszusta.

Człowiek człowiekowi wilkiem – dostawcy AI celują w nasze najwrażliwsze punkty

Przesadą byłoby zakładać, że wszystkie praktyki wskrzeszania zmarłych byłyby niezdrowe. Problem w tym, że - pomimo przypuszczeń i potencjalnych scenariuszy - na ten moment nie istnieją badania, które jednoznacznie wskazywałyby na szkodliwy lub korzystny wpływ cyfrowych duchów na proces żałoby. Nie można jednak pozostawić tego tematu bez dalszych badań. Sposób, w jaki przeżywamy żałobę jest silnie uwarunkowany społecznie - zależy od kultury w jakiej żyjemy, tradycji religijnej, a nawet mody. Zanim rozpowszechni się praktyka cyfrowego wskrzeszania zmarłych, należy sprawdzić czy nie przyczynimy się do rozwoju kultury żałoby z gruntu szkodliwej. Aktualnie trafne wydają się wnioski wspomnianych badaczy z Uniwersytetu w Cambridge , którzy uważają, że:

1. Cyfrowe duchy powinny być w szczególności niedostępne dla dzieci,

2. Powinno się wymagać zgody od osoby kopiowanej i funkcjonującej pośmiertnie,

3. Powinno się wymagać zgody od rodziny na kontakt z cyfrowym duchem osoby zmarłej,

4. Osoba korzystająca z cyfrowych zmarłych musi być świadoma, że rozmawia z AI,

5. Osoba korzystająca z AI musi być świadoma, że AI nie jest zdolne do świadomości, a klon zmarłej osoby jest tylko imitacją w formie kodu,

6. Należy przyjąć przemyślane i wrażliwe procedury usunięcia lub archiwizacji cyfrowych klonów zmarłych.

Nawet tak precyzyjne zalecenia mogą stać się skomplikowane w rzeczywistości. Weryfikacja wieku w Internecie wciąż jest niechlubnym przykładem, jak łatwo oszukać cyfrowe obostrzenia. Dlatego też, patrząc z perspektywy systemu, potrzebny jest nacisk na prawodawców, którzy stworzą warunki pozwalające ograniczać funkcjonowanie cyfrowych duchów oraz nacisk na usługodawców, którzy rozwiną swoje innowacje w sposób społecznie odpowiedzialny.

Pop-kultura jest miejscem niejednego powrotu zmarłych gwiazd do “żywych”. W 2012 roku hologram rapera 2Pac’a wystąpił na Coachelli u boku całkiem prawdziwego Snoop Dogga. Parę lat później w kinach mogliśmy zobaczyć film Łotr 1 z cyklu Gwiezdnych Wojen, gdzie w roli przywódcy Gwiazdy Śmierci ponownie obsadzono Petera Cushinga, po ponad 20 latach od śmierci aktora. Rozwój efektów specjalnych generowanych komputerowo przyczynił się do liczby wskrzeszeń, ale stać było na nie jedynie dużych producentów.

Pozostało 96% artykułu
Opinie i komentarze
Jan Widacki: Modernizacja stacji bazowej telefonii komórkowej nie musi być rozbudową
Opinie i komentarze
Prof. Jan Widacki: Miliardy za częstotliwości kosztem inwestycji?
Opinie i komentarze
Michał Targiel, partner PwC Polska: Inwestycje w AI warunkiem przetrwania
Opinie i komentarze
Jakub Olek, TikTok: Staliśmy się ofiarą geopolityki
Materiał Promocyjny
Przewaga technologii sprawdza się na drodze
Opinie i komentarze
Steven Bailey, NCC Group: Dane użytkowników będą przeniesione do Europy
Walka o Klimat
„Rzeczpospolita” nagrodziła zasłużonych dla środowiska