Reklama
Rozwiń
Reklama

Niebezpieczne halucynacje sztucznej inteligencji. Potrafi kłamać jak najęta

Zaufanie do odpowiedzi generowanych przez popularne boty jak ChatGPT czy Bard może być ryzykowne – systemy AI w wiarygodny sposób preparują treści i konfabulują. Wedle ekspertów skala zjawiska jest bardzo duża.

Aktualizacja: 21.07.2023 06:27 Publikacja: 21.07.2023 01:45

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez stworzonego przez Sama Altmana bota ChatGPT

Foto: Kevin Dietsch/Getty Images/AFP

Badacze z Rangaraya Medical College w Indiach przeprowadzili doświadczenie, które miało na celu sprawdzić precyzję ChatGPT w generowaniu danych i częstotliwość tzw. halucynacji AI. Skupili się na materiałach naukowych i ich źródłach, jakie miał dostarczyć rewolucyjny bot od OpenAI. Zadawali pytania, a potem weryfikowali w sieci prawdziwość i dokładność odpowiedzi, a także odniesienia do źródeł. Wyniki eksperymentu zaskakują – spośród 178 przeanalizowanych odpowiedzi ChatGPT aż 69 nie miało cyfrowego identyfikatora obiektu, czyli tzw. DOI (DOI (Digital Object Identifier to ciąg cyfr identyfikujący dowolną własność intelektualną w sieci), a 28 w ogóle nie miało jakichkolwiek odniesień w wyszukiwarce Google’a. To oznacza, że treści te zostały wyssane z palca.

Pozostało jeszcze 89% artykułu

RP.PL i The New York Times w pakiecie za 199zł!

Kup roczną subskrypcję w promocji Black Month - duet idealny i korzystaj podwójnie!

Zyskujesz:

- Roczny dostęp do The New York Times, w tym do- News, Games, Cooking, Audio, Wirecutter i The Athletic.

- RP.PL- twoje rzetelne i obiektywne źródło najważniejszych informacji z Polski i świata z dodatkową weekendową porcją błyskotliwych tekstów, wnikliwych analiz i inspirujących rozmów w ramach magazynu PLUS MINUS.

Reklama
Technologie
Czy można jeszcze ufać własnym oczom? Eksperci mówią, jak rozpoznać wideo stworzone przez AI
Materiał Promocyjny
Czy polskie banki zbudują wspólne AI? Eksperci widzą potencjał, ale też bariery
Technologie
Kometa 3I/ATLAS rozbudza wyobraźnię. Zaskakuje naukowców i inspiruje teorie o obcych
Technologie
Bot pomógł zajść w ciążę. To pierwszy taki przypadek. AI wyleczy niepłodność?
Technologie
Czy AI zastąpi obsługę klienta? Chatbot zaczął przeklinać i nazwał się bezużytecznym
Materiał Promocyjny
Urząd Patentowy teraz bardziej internetowy
Technologie
„On mnie rozumie, rodzice nie". Nastolatki uciekają do chatbotów AI, a eksperci biją na alarm
Reklama
Reklama
REKLAMA: automatycznie wyświetlimy artykuł za 15 sekund.
Reklama