Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 91% artykułu

99 zł za rok czytania RP.PL

O tym jak szybko zmienia się świat. Ameryka z nowym prezydentem. Chiny z własnymi rozwiązaniami AI. Co się dzieje w kraju przed wyborami. Teraz szczególnie warto wiedzieć więcej. Wyjaśniamy, inspirujemy, analizujemy

Technologie
Przełom w komputerach kwantowych? Amerykański koncern ogłasza wielki sukces
Technologie
Która AI halucynuje i popełnia najwięcej błędów? Zaskakujące wyniki badania
Technologie
Elon Musk wypuszcza nową AI. „Najmądrzejsza na Ziemi”
Technologie
Towarzysze w smutku i samotności. Człowiek może liczyć na pomoc i ciepło robota
Technologie
Naukowcy stworzyli materiał, który ma być rekordowo twardy i elastyczny