Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 91% artykułu

19 zł za pierwszy miesiąc czytania RP.PL

Rzetelne informacje, pogłębione analizy, komentarze i opinie. Treści, które inspirują do myślenia. Oglądaj, czytaj, słuchaj.

„Rzeczpospolita” najbardziej opiniotwórczym medium października!
Technologie
Chińska firma stworzyła imponującego robota. Ma wiele wspólnego z „Rodziną Addamsów”
Technologie
Zamrożeni poczekają na lekarstwo. Nowy kontrowersyjny sposób wydłużania życia
Technologie
Prąd z grzybów. Żywe baterie mogą zasilać elektronikę, a potem zniknąć
Technologie
Przełom w ochronie środowiska? Wodoodporny i ekologiczny papier może zastąpić plastik
Technologie
Chiny rzuciły wyzwanie Ameryce. Zaleją świat dużo tańszymi humanoidami i robo-psami