Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 90% artykułu

Tylko 9 zł z Płatnościami powtarzalnymi

Jak zmienia się Polska, Europa i Świat? Wydarzenia, społeczeństwo, ekonomia i historia w jednym miejscu i na wyciągnięcie ręki.
Subskrybuj i bądź na bieżąco!
Technologie
Człowiek z naklejką na czole. Amerykanie mają sposób na zmęczenie
Materiał Promocyjny
Mieszkania na wynajem. Inwestowanie w nieruchomości dla wytrawnych
Technologie
Potężna broń Rosji okazała się chińską. To zła wiadomość dla Ukrainy
Technologie
Pokojówka przyszłości odmieni hotele. Ten robot nie tylko sprząta
Technologie
Ukraina może w końcu odeprzeć rosyjskie drony. Pomoc z zaskakującej strony
Technologie
AI wchodzi już w każdy kąt. Cyfrowy asystent najlepszym przyjacielem człowieka