Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

Paweł Rożyński

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 90% artykułu

Dodatkowe -10% na BLACK WEEK

Kup roczną subskrypcję w promocji Black Week - duet idealny i korzystaj podwójnie!

Zyskujesz:

- Roczny dostęp do The New York Times, w tym do: News, Games, Cooking, Audio, Wirecutter i The Athletic.

- RP.PL — rzetelne i obiektywne źródło najważniejszych informacji z Polski i świata z dodatkową weekendową porcją błyskotliwych tekstów magazynu PLUS MINUS.

Subskrybuj teraz! Zaloguj się

Reklama

plebiscyt pokazuje słowa ze świata technologii, które wchodzą do codziennego użytku i tworzą język p

Technologie

Konkurs na technologiczne słowo roku rozstrzygnięty. Silne piętno AI

W plebiscycie zorganizowanym przez ING Hubs Poland stworzono listę 20 najpopularniejszych terminów. Numerem 1, c...

Materiał Promocyjny

Startupy poszukiwane — dołącz do Platform startowych w Polsce Wschodniej i zyskaj nowe możliwości!

Dzięki Funduszom Europejskim dla Polski Wschodniej (FEPW) firmy z tego regionu mają nowe możliwości na finansowanie innowacyjnych pomysłów. Polska Agencja Rozwoju Przedsiębiorczości (PARP) oferuje startupom w Polsce Wschodniej dostęp do siedmiu Platform startowych, które dają realne wsparcie lokalnych biznesów i zwiększenie konkurencyjność przedsiębiorstw. Są to partnerstwa ośrodków innowacji dające darmowe, kompleksowe programy wsparcia startupów od momentu rejestracji spółki.