Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 90% artykułu

Już za 19 zł miesięcznie przez rok

Jak zmienia się Polska, Europa i Świat? Wydarzenia, społeczeństwo, ekonomia i historia w jednym miejscu i na wyciągnięcie ręki.

Subskrybuj i bądź na bieżąco!

Reklama
Technologie
Szpiegostwo i zmasowane ataki? Chiny umieją już sterować pszczołami
Technologie
AI Elona Muska w amoku. Grok obraża Muska, X i sam siebie
Materiał Promocyjny
Tak zaawansowane technologie pomogły Andrzejowi Draganowi w stworzeniu futurystycznego teledysku Quebonafide
Technologie
Ten koncern obiecuje 3 tys. km zasięgu po 5 minutach ładowania. Nowa era baterii?
Technologie
Sztuczna inteligencja poprowadziła biznes. Zaskaujący wynik eksperymentu
Reklama
Reklama
Reklama
Reklama