Reklama
Rozwiń
Reklama

Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 90% artykułu

RP.PL i The New York Times w pakiecie!

Kup roczną subskrypcję w promocji Black Month - duet idealny i korzystaj podwójnie!

Zyskasz dodatkowo pełny dostęp do The New York Times na 12 miesięcy.

W pakiecie otrzymasz dostęp do NYT: News, Games, Cooking, Audio, Wirecutter i The Athletic.

Reklama
Technologie
„On mnie rozumie, rodzice nie". Nastolatki uciekają do chatbotów AI, a eksperci biją na alarm
Materiał Promocyjny
Aneta Grzegorzewska, Gedeon Richter: Leki generyczne też mogą być innowacyjne
Technologie
AI nie słucha ludzi, którzy chcą ją wyłączyć. Zaskakujące wyniki testów
Technologie
Tak „doktor Bot” leczy Polaków. Czy AI zastąpi lekarza?
Technologie
ChatGPT, Gemini i inne boty AI to wyjątkowo groźne lizusy. Naukowcy biją na alarm
Materiał Promocyjny
Raport o polskim rynku dostaw poza domem
Technologie
Polskie firmy coraz częściej myślą o suwerenności cyfrowej
Materiał Promocyjny
Manager w erze AI – strategia, narzędzia, kompetencje AI
Reklama
Reklama