Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

Paweł Rożyński

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 90% artykułu

Czytaj więcej, wiedz więcej!
Rok dostępu za 99 zł.

Tylko teraz! RP.PL i NEXTO.PL razem w pakiecie!
Co zyskasz kupując subskrypcję?
- możliwość zakupu tysięcy ebooków i audiobooków w super cenach (-40% i więcej!)
- dostęp do treści RP.PL oraz magazynu PLUS MINUS.

Subskrybuj teraz! Zaloguj się

Najbardziej na zmianach ucierpią zawody związane z pracą biurową, w których zbieranie i analiza dany

Technologie

Te zawody znikną przez AI w pierwszej kolejności. „Radykalne i szybkie zmiany”

W perspektywie najbliższych pięciu lat niemal co trzeci z obecnych zawodów może zostać zastąpiony przez algorytm...

Zakłócanie systemów nawigacji to poważne zagrożenie w sytuacji, gdy samochody będą coraz częściej pr

Technologie

Powstał system nawigacji odporny na zakłócenia i dokładniejszy od GPS

Australijska firma Q-CTRL zademonstrowała i z powodzeniem przetestowała system nawigacji kwantowej „Ironstone Op...

Showroom Lenovo i Motorola znajduje się w Warszawie w budynku Prudential. Wstęgę przecinają: Matt Do

Technologie

Lenovo i Motorola dalej rosną na polskim rynku

Na początku kwietnia obie marki technologiczne otworzyły w Warszawie swój pierwszy w Polsce i drugi w Europie sh...

OpenAI, firma kierowana przez Sama Altmana, jest jednym z głównych beneficjentów gwałtownego rozwoju

Technologie

AI szybko dogania ludzką inteligencję i tanieje. Ujawniono najnowsze dane

Koszty sztucznej inteligencji spadają w błyskawicznym tempie, jednocześnie modele AI coraz szybciej doganiają lu...

Materiał Partnera

Konieczność transformacji energetycznej i rola samorządów

Polityka klimatyczna i rynek energii w Polsce: podstawy prawne, energetyka społeczna. praktyczny proces powołania i rejestracji spółdzielni energetycznych oraz podpisania umowy z OSD