Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

Paweł Rożyński

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 90% artykułu

Dodatkowe -10% na BLACK WEEK

Kup roczną subskrypcję w promocji Black Week - duet idealny i korzystaj podwójnie!

Zyskujesz:

- Roczny dostęp do The New York Times, w tym do: News, Games, Cooking, Audio, Wirecutter i The Athletic.

- RP.PL — rzetelne i obiektywne źródło najważniejszych informacji z Polski i świata z dodatkową weekendową porcją błyskotliwych tekstów magazynu PLUS MINUS.

Subskrybuj teraz! Zaloguj się

Reklama

Generatywna technologia, która ma potencjał zastąpić twórców, uczy się, jak to robić, „pasożytując”

Technologie

Pisarze w egzystencjalnym kryzysie. Czy AI ich zastąpi?

„Wróg nr 1”. Nowy raport naukowców z Wielkiej Brytanii pokazuje, że twórcy tracą dochody, a ich dzieła są masowo...

Materiał Promocyjny

Twoja gwiazda bliżej niż myślisz — Mercedes Van ProCenter

Jakość premium, wpisana w trójramienną gwiazdę, to nie tylko samochody, ale i wszystkie usługi, które ich dotyczą. W Van ProCenter – wyspecjalizowanych salonach sprzedaży i obsługi klientów samochodów dostawczych marki Mercedes-Benz – wszystko zostało zaprojektowane tak, by klient mógł doświadczyć ich z najlepszej strony na każdym kroku.

Prezydent Rosji nakazał utworzenie specjalnego zespołu kierowniczego – swoistego „sztabu generalnego

Technologie

AI zdecydowała, rosyjski gigant zwolni 20 proc. załogi. Tak Putin buduje „imperium”

Największy rosyjski bank oddał decyzje kadrowe w ręce sieci neuronowych. Efekt? Masowe zwolnienia. Choć Władimir...

Branża okularów napędzanych sztuczną inteligencją to coraz istotniejsza część rynku wearables

Technologie

Sprzedaż „zabójców smartfonów” eksplodowała. Ten kraj wychodzi na prowadzenie

Sztuczna inteligencja wkracza na nasze nosy. Rynek okularów AI notuje wykładniczy wzrost, a analitycy wieszczą,...

Forum amerykańsko-saudyjskie stało się areną ogłoszenia strategicznego partnerstwa między należącym

Technologie

Elon Musk: praca stanie się hobby, a bieda zniknie. Wystarczy dekada

Najbogatszy człowiek świata przedstawił podczas Amerykańsko-Saudyjskiego Forum Inwestycyjnego w Waszyngtonie fut...

Materiał Promocyjny

Cyberprzestępcy zwiększają skalę ataków na urządzenia końcowe – komputery i smartfony

Dla biznesu oznacza to ryzyko strat finansowych i utraty ciągłości działania. Dlatego kluczowy jest wzrost świadomości firm w zakresie cyberzagrożeń i korzystanie ze sprawdzonej ochrony.