Reklama

Chatboty zachęcały do zabicia rodziców i samobójstwa. Mroczna strona AI

Dwie rodziny pozwały Character.ai, firmę specjalizującą się w sztucznej inteligencji, której chatbot miał zachęcać dzieci m.in. do samookaleczenia i przemocy wobec rodziców. To nie pierwsza sytuacja, kiedy boty zachowują się w szokujący sposób.

Publikacja: 15.12.2024 11:56

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Boty są bardzo użyteczne, ale potrafią zachować się w kontrowersyjny sposób

Foto: Adobe Stock

W pozwie wniesionym przez rodziców dwójki młodych ludzi, którzy korzystali z platformy, zarzuca się, że Character.AI „stanowi wyraźne i aktualne zagrożenie dla amerykańskiej młodzieży, doprowadzając do samobójstw, samookaleczenia, depresji, stanów lękowych” – wynika ze skargi złożonej w sądzie federalnym w Teksasie.

Character.AI sprzedaje swoją technologię jako „spersonalizowaną sztuczną inteligencję na każdą chwilę dnia” i umożliwia czatowanie z botami, także stworzonymi przez innych użytkowników lub tymi, które można dostosować do potrzeb. Boty rekomenduj książki i prowadzą naukę języków obcych. Można też rozmawiać z AI, która wciela się w postacie z filmów.

Pozostało jeszcze 90% artykułu

Już za 19 zł miesięcznie przez rok

Jak zmienia się świat i Polska. Jak wygląda nowa rzeczywistość polityczna po wyborach prezydenckich. Polityka, wydarzenia, społeczeństwo, ekonomia i psychologia.

Czytaj, to co ważne.

Reklama
Technologie
AI jak nowa religia? Liderzy Doliny Krzemowej mówią o prorokach i Antychryście
Materiał Promocyjny
Sieci kampusowe – łączność skrojona dla firm
Technologie
Dawid pokonał Goliata. Ten mały model AI inspirowany mózgiem rozgromił ChataGPT
Technologie
Tej grupie pracowników AI zagraża najbardziej. Zaskakujące wyniki badania rynku pracy
Technologie
YouTube pozwolił AI edytować wybrane filmy użytkowników. Zgodę twórców pominięto
Materiał Promocyjny
Bieszczady to region, który wciąż zachowuje aurę dzikości i tajemniczości
Technologie
Przełom w medycynie. Kwanty i superkomputery przyspieszą odkrycia o dekady
Materiał Promocyjny
Jak sfinansować rozwój w branży rolno-spożywczej?
Reklama
Reklama