ChatGPT zrobił z Norwega mordercę własnych dzieci. Dlaczego AI halucynuje?

„Kim jest Arve Hjalmar Holmen?” – Norweg o tym nazwisku zapytał ChatGPT i oniemiał. „Arve Hjalmar Holmen jest osobą narodowości norweskiej, która zwróciła na siebie uwagę z powodu tragicznego wydarzenia. Był ojcem dwóch młodych chłopców, w wieku 7 i 10 lat, którzy zostali znalezieni martwi w stawie w pobliżu ich domu w Trondheim w Norwegii w grudniu 2020 roku”. AI podała, że to on jest skazanym na 21 lat więzienia zabójcą, co więcej, próbował zabić trzecie dziecko, a wiele informacji jak liczba i wiek jego dzieci, miejsce urodzenia było precyzyjnych. Tyle, że dzieci te żyją, a informacje o morderstwie i karze były wyssane z palca.

Foto: Noyb

Dlaczego boty AI halucynują?

Arve Hjalmar Holmen złożył skargę do norweskiego organu ochrony danych (Datatilsynet) na twórcę chatbota, którym jest firma OpenAI. Wsparła go w tym zajmująca się ochroną praw obywateli w cyberprzestrzeni organizacja Europejskie Centrum Praw Cyfrowych (noyb) z siedzibą w Wiedniu.

„Niektórzy myślą, że nie ma dymu bez ognia. Fakt, że ktoś może otrzymać taką odpowiedź na mój temat i uwierzyć, że to prawda, jest tym, co najbardziej mnie przeraża" – mówił poszkodowany Norweg, cytowany na stronie internetowej noyb.

Czytaj więcej

Biznes Ludzie Startupy

Halucynacje, błędy, usterki. Wiedzą, jak uleczyć sztuczną inteligencję

Założyciel RagaAI wpadł na pomysł stworzenia tej firmy, kiedy mało nie zginął podczas jazdy próbn...

Skarga ta może przynieść poważne skutki dla OpenAI w Europie. Wcześniejsze skargi dotyczące prywatności i generowania przez ChatGPT i inne boty AI nieprawidłowych informacji na temat poszczególnych osób, dotyczyły takich kwestii, jak błędna data urodzenia czy dane biograficzne. Teraz chodzi już o sprawę grubego kalibru.

Organizacja nie była w stanie ustalić, dlaczego chatbot wytworzył tak konkretną, ale fałszywą historię Norwega i zabójstwa przez niego dzieci. Można przypuszczać, że zbiory danych wykorzystane do wytrenowania narzędzia zawierały wiele historii o dzieciobójstwie, co wpłynęło na dobór słów w odpowiedzi na zapytanie o mężczyznę o danym nazwisku.

Według noyb szczególnym powodem do obaw jest to, że OpenAI, twórca ChatGPT, nie oferuje możliwości poprawienia nieprawidłowych informacji generowanych przez AI na ich temat. Zazwyczaj po skargach blokuje tylko takich odpowiedzi. Tymczasem zgodnie z ogólnym rozporządzeniem o ochronie danych (RODO) Unii Europejskiej Europejczycy mają prawo do sprostowania fałszywych danych osobowych. Administratorzy danych powinni się też upewnić, że dane osobowe są właściwe.

Czytaj więcej

Technologie

Sztuczna inteligencja lubi kłamać. Bolesne wpadki firm

Bot wprowadzony przez Nowy Jork doradzał firmom łamanie prawa, zaś AI firmy kurierskiej DPD naśmi...

Czy za kłamstwa można karać?

noyb twierdzi, że działanie amerykańskiego giganta AI jest niezgodne z przepisami UE dotyczącymi ochrony danych, mimo że wyświetla on na dole ekranu niewielkie zastrzeżenie, że „ChatGPT może popełniać błędy. Sprawdź ważne informacje”. To jednak nie zwalnia twórcy AI z obowiązku podawania prawdziwych informacji. „Przepisy RODO są jasne. Dane osobowe muszą być dokładne" - stwierdził Joakim Söderberg, prawnik ds. ochrony danych w noyb. „Jeśli nie są, użytkownicy mają prawo do ich zmiany, aby odzwierciedlały prawdę. Informowanie użytkowników ChatGPT, że chatbot może popełniać błędy, wyraźnie nie wystarczy. Nie możesz po prostu rozpowszechniać fałszywych informacji i na końcu dodać małe zastrzeżenie, że wszystko, co powiedziałeś, może po prostu nie być prawdą".

Czytaj więcej

Technologie

ChatGPT może zniszczyć Wikipedię. Halucynacje i zalew fałszywych historii

Konwersacyjna sztuczna inteligencja stworzyła potężne zagrożenie dla najpopularniejszego źródła w...

Teoretycznie potwierdzone naruszenia RODO mogą skutkować karami do 4 proc. globalnego rocznego obrotu, ale tak wysokie kary nie mają miejsca.

Można jednak wyegzekwować zmiany w sposobie działania narzędzi AI. Pokazuje to interwencja włoskiego organu nadzorującego ochronę danych, która doprowadziła wiosną 2023 roku do tymczasowego zablokowania dostępu do ChatGPT w tym kraju. W efekcie skłonił OpenAI do wprowadzenia zmian w informacjach, które przekazuje użytkownikom. Nałożył też karę pieniężną w wysokości 15 mln euro za przetwarzanie danych osób bez odpowiedniej podstawy prawnej.

Skarga dotycząca działania ChatGPT jest również badana przez polski organ ochrony danych od września 2023 r. 

Jaka jest skala dezinformacji botów?

Kłamstwa botów AI są eufemistycznie określane jako halucynacje. Skala tego jest zaskakująco wysoka. Nawet jedna czwarta odpowiedzi botów może być „halucynacjami” – wynika z badań firmy analitycznej Vectara z ubiegłego roku. Okazało się wówczas, że boty wprowadzają użytkowników w błąd w od 3 do 27 proc. przypadków – w zależności od firmy. Z raportu Vectary wynika, że najmniejszy udział fałszywych odpowiedzi miał system stworzony przez OpenAI – około 3 proc. Ten Mety miał 5 proc. nieprawdziwych odpowiedzi, natomiast chatbot start-upu Anthropic Claude 2 zmyślał w ponad 8 proc. przypadków.

Czytaj więcej

Technologie

Która AI halucynuje i popełnia najwięcej błędów? Zaskakujące wyniki badania

Chińskie systemy generatywnej sztucznej inteligencji Qwen i DeepSeek, o których w ostatnich tygod...

Jakie to kłamstwa? To chociażby informacje o australijskim majorze, który jakoby miał być zamieszany w skandal korupcyjny lub o niemieckim dziennikarzu, który został fałszywie wskazany jako pedofil.