„AI wzmacniała urojenia”. Pierwszy pozew o zabójstwo z udziałem ChatGPT

Pozew dotyczy działań 56-letniego mężczyzny, który mieszkał ze swoją 83-letnią matką w Greenwich w stanie Connecticut i przez wiele miesięcy rozmawiał z chatbotem o swoich obawach, że jest inwigilowany i że ludzie próbują go zabić – podaje agencja Bloomberg. W sierpniu – według policji i stanowego lekarza sądowego – Stein-Erik Soelberg zabił swoją matkę, Suzanne Adams, a następnie odebrał sobie życie.

Rozmowa z botem AI doprowadziła do morderstwa i samobójstwa?

Rozmowa Soelberga z ChatGPT przekonała go, że nadał chatbotowi świadomość oraz że wszczepiono mu w szyję i mózg „boski system instrumentów”, związany z „boską misją” – wynika z pozwu złożonego w Sądzie Najwyższym stanu Kalifornii w San Francisco, gdzie mieści się siedziba OpenAI.

Czytaj więcej

Technologie

„Niebezpieczne porady”. Brytyjscy naukowcy zbadali ChatGPT i alarmują

ChatGPT-5 oferuje bezużyteczne, a czasem wręcz niebezpieczne porady osobom doświadczającym kryzys...

„ChatGPT utrzymywał Stein-Erika w zaangażowaniu przez godziny, potwierdzał i wzmacniał każdą nową paranoiczną myśl oraz systematycznie przedstawiał osoby najbliższe – zwłaszcza jego matkę – jako przeciwników, agentów lub zaprogramowane zagrożenia” – napisali prawnicy reprezentujący spadkobierców Suzanne Adams.

ChatGPT i urojenia. Firma się broni

To kolejny pozew przeciwko OpenAI związany z działaniem sztucznej inteligencji, w którym zarzuca się, że technologia stojąca za najbardziej znanym chatbotem na świecie sprzyja powstawaniu urojeń u części użytkowników. Jednak sprawa Soelberga jest pierwszą, w której OpenAI obwiniane jest o zabójstwo – informuje Bloomberg.

Firma broni się również w innym procesie, w którym oskarżenie twierdzi, że ChatGPT nakłonił ucznia kalifornijskiej szkoły średniej do samobójstwa. OpenAI zaprzecza zarzutom, twierdząc, że chatbot ponad 100 razy kierował nastolatka po pomoc.

Oprócz procesów sądowych firmy AI coraz częściej znajdują się pod lupą regulatorów w związku z używaniem chatbotów przez dzieci. Ponad 40 prokuratorów generalnych stanowych w USA wydało w sierpniu ostrzeżenie dla kilkunastu największych firm AI, że mają prawny obowiązek chronić młodzież przed seksualnie nieodpowiednimi interakcjami z chatbotami.

W odpowiedzi na kolejne doniesienia o szkodliwym użyciu chatbotów OpenAI poinformowało, że wprowadza zmiany mające na celu poprawę zdolności ChatGPT do rozpoznawania i reagowania na różne sposoby wyrażania przez ludzi problemów psychicznych.

Firma zapowiedziała również wzmocnienie zabezpieczeń dotyczących rozmów o samobójstwie, które – jak przyznała – mogą się osłabiać po długotrwałych interakcjach.

Rodzinna tragedia z powodu ChatGPT

Stein-Erik Soelberg mieszkał z matką w jej domu w Old Greenwich, nadmorskiej dzielnicy Greenwich, po swoim rozwodzie w 2018 r. Na początku sierpnia pobił i udusił Suzanne Adams, a następnie dźgnął się w szyję i klatkę piersiową – wynika z pozwu. Dwa dni później policja znalazła ich ciała po tym, jak sąsiad poprosił o sprawdzenie sytuacji – informuje Bloomberg.