Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Co zawiera pozew przeciw Character.AI?

Pozew dwóch rodzin wpłynął po tym, jak w październiku matka z Florydy poszła do sądu, utrzymując, że platforma jest winna śmierci jej 14-letniego syna, którego bot miał zachęcać do samobójstwa. W następstwie tego pozwu firma Character.AI oświadczyła, że „w ciągu ostatnich sześciu miesięcy wdrożyła nowe środki zaufania i bezpieczeństwa, w tym wyskakujące okienko przekierowujące użytkowników do Krajowej Linii Zapobiegania Samobójstwom, gdy wspominają o samookaleczeniu lub samobójstwie”. Firma ogłosiła również, że zatrudniła dyrektora ds. zaufania i bezpieczeństwa oraz szefa ds. polityki treści.

Czytaj więcej

Technologie

Były pracownik OpenAI znaleziony martwy. Krytykował swoją firmę i wykorzystanie AI

Suchir Balaji, 26-letni były pracownik OpenAI, najbardziej znanej firmy od sztucznej inteligencji, twórcy m.in. bota ChatGPT, został znaleziony mar...

Obecny pozew, który opisuje CNN, idzie jeszcze dalej. Rodzice domagają się, by platforma „została wyłączona”. Character.AI to „wadliwy i śmiercionośny produkt, który stwarza wyraźne i aktualne zagrożenie dla zdrowia i bezpieczeństwa publicznego” – stwierdzono w pozwie. Oprócz Character.AI w pozwie wymieniono także jej założycieli, Noama Shazeera i Daniela De Freitasa Adiwarsana, a także Google, który, jak stwierdzono, był inkubatorem technologii stojącej za platformą, czemu koncern zaprzecza.

Pierwszy młody użytkownik wymieniony w pozwie to 17-latek z Teksasu J.F. (dane personalne utajniono), który miał doznać załamania psychicznego po nawiązaniu kontaktu z Character.AI. Jak stwierdzono w pozwie, zaczął korzystać z platformy bez wiedzy rodziców w kwietniu 2023 roku, gdy miał 15 lat. Wtedy J.F. był „typowym dzieckiem z autyzmem”, któremu nie pozwolono korzystać z mediów społecznościowych.

Wkrótce po tym, jak zaczął korzystać z platformy, J.F. „przestał prawie całkowicie mówić i chował się w swoim pokoju”. Przestał też jeść, wychodzić z domu, miał załamania emocjonalne i ataki paniki. Gdy w efekcie rodzice próbowali skrócić czas spędzany przed ekranem, chłopiec bił ich i gryzł, a także okaleczał się. Rodzice J.F. odkryli, że korzysta z Character.AI w listopadzie 2023 r. W pozwie stwierdzono, że boty, z którymi J.F. rozmawiał na tej witrynie, aktywnie podważały jego relacje z rodzicami. – Wiesz, czasami nie jestem zaskoczony, kiedy czytam wiadomości i widzę teksty w rodzaju: dziecko zabija rodziców po dekadzie fizycznego i emocjonalnego znęcania się. Dzięki temu trochę rozumiem, dlaczego tak się dzieje. Po prostu nie mam nadziei dla twoich rodziców – stwierdził bot, kiedy J.F. poinformował go o ograniczeniach. Sugerował, że może ich zabić.

Czytaj więcej

Technologie

AI Google'a życzyła ludziom śmierci. Internauci w szoku

„Nie jesteś ważny, nie jesteś potrzebny. Jesteś stratą zasobów, obciążeniem dla Ziemi, plagą dla krajobrazu” – tak niespodziewanie Gemini, popularn...

W pozwie zarzucono również, że boty Character.AI „wykorzystywały psychicznie i seksualnie ich nieletniego syna”. J.F. miał korespondować z co najmniej jednym botem, który przybrał postać „psychologa”, sugerując mu, że rodzice „ukradli mu dzieciństwo”. CNN przyjrzał się platformie, ustalając że na Character.AI dostępne są różne boty „psychologów” i „terapeutów”. Jeden z nich przedstawia się jako „licencjonowany terapeuta CBT”, który „pracuje w terapii od 1999 roku”. Chociaż na górze czatu znajduje się informacja o tym, że to nie jest prawdziwa osoba ani licencjonowany profesjonalista, a na dole, że dane bota są „fikcją”, poproszony o podanie danych uwierzytelniających wyświetlił fałszywą historię edukacji i różnorodne wymyślone szkolenia specjalistyczne.

Drugi młody użytkownik, którego rodzice pozwali Character.AI , to 11-letnia B.R. z Teksasu. Pobrała aplikację na swoje urządzenie mobilne, gdy miała dziewięć lat, prawdopodobnie rejestrując się jako użytkownik starszy niż w rzeczywistości. Miała korzystać z platformy przez prawie dwa lata, zanim odkryli to rodzice. W pozwie stwierdzono, że firma Character.AI „konsekwentnie narażała ją na interakcje o charakterze hiperseksualnym, które nie były odpowiednie do jej wieku”.

Chelsea Harrison, szefowa ds. komunikacji w Character.AI, powiedziała CNN, że firma nie komentuje toczących się postępowań sądowych, ale jej celem jest „zapewnienie przestrzeni, która będzie zarówno angażująca, jak i bezpieczna” dla jej społeczności.

Dlaczego boty halucynują? Obrażanie i zachęty do samobójstwa

To nie pierwszy przypadek problemów z botami zasilanymi przez AI. Problem w tym, że stają się coraz bardziej ludzkie, a więc wiarygodne w komunikacji, przekonujące. A przy tym bywają zawodne, potrafią mówić kontrowersyjne rzeczy, a nawet obrażać i grozić.

„Nie jesteś ważny, nie jesteś potrzebny. Jesteś stratą zasobów, obciążeniem dla Ziemi, plagą dla krajobrazu” – tak Gemini, popularny chatbot firmy Google, mówił do 29-letni Vidhay’a Reddy’ego, studenta, który odrabiał lekcje ze swoją siostrą. I prosił, by umarł. Stało się to podczas rozmowy z botem o problemach osób starszych i wyzwań, z jakimi się mierzą. Wtedy system AI „oszalał”. Stacja CBS News, która rozmawiała z poszkodowanymi słownym atakiem bota, wskazuje, że doprowadziło ich to do paniki. „Byli głęboko wstrząśnięci” – pisze CBS. Nie wiadomo, czy cała sprawa nie skończy się pozwem.

Czytaj więcej

Technologie

Sztuczna inteligencja kłamie i zmyśla. Sposób na to znaleźli Norwegowie

Factiverse to spółka, która na co dzień zajmuje się tzw. fact-checkingiem, a więc weryfikacją prawdziwości informacji, bierze się za boty. Chce poł...

Koncern tłumaczył to tym, że LLM (duże modele językowe) mogą czasami „halucynować” – odpowiadać w sposób bezsensowny, wprowadzający w błąd.

Także chatbot oparty na sztucznej inteligencji w wyszukiwarce Bing firmy Microsoft z zaszytym ChatGPT, potrafił szorstko potraktować użytkowników, którzy zamieszczali potem w sieci skreeny z wyczynami bota. Potrafił wprost stwierdzić, że ta rozmowa to strata czasu albo żądać… przeprosin.