Reklama
Rozwiń
Reklama

Niebezpieczne halucynacje sztucznej inteligencji. Potrafi kłamać jak najęta

Zaufanie do odpowiedzi generowanych przez popularne boty jak ChatGPT czy Bard może być ryzykowne – systemy AI w wiarygodny sposób preparują treści i konfabulują. Wedle ekspertów skala zjawiska jest bardzo duża.

Aktualizacja: 21.07.2023 06:27 Publikacja: 21.07.2023 01:45

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez stworzonego przez Sama Altmana bota ChatGPT

Foto: Kevin Dietsch/Getty Images/AFP

Badacze z Rangaraya Medical College w Indiach przeprowadzili doświadczenie, które miało na celu sprawdzić precyzję ChatGPT w generowaniu danych i częstotliwość tzw. halucynacji AI. Skupili się na materiałach naukowych i ich źródłach, jakie miał dostarczyć rewolucyjny bot od OpenAI. Zadawali pytania, a potem weryfikowali w sieci prawdziwość i dokładność odpowiedzi, a także odniesienia do źródeł. Wyniki eksperymentu zaskakują – spośród 178 przeanalizowanych odpowiedzi ChatGPT aż 69 nie miało cyfrowego identyfikatora obiektu, czyli tzw. DOI (DOI (Digital Object Identifier to ciąg cyfr identyfikujący dowolną własność intelektualną w sieci), a 28 w ogóle nie miało jakichkolwiek odniesień w wyszukiwarce Google’a. To oznacza, że treści te zostały wyssane z palca.

Pozostało jeszcze 89% artykułu

RP.PL i The New York Times w pakiecie za 199zł!

Kup roczną subskrypcję w promocji Black Month - duet idealny i korzystaj podwójnie!

Zyskujesz:

- Roczny dostęp do The New York Times, w tym do- News, Games, Cooking, Audio, Wirecutter i The Athletic.

- RP.PL- twoje rzetelne i obiektywne źródło najważniejszych informacji z Polski i świata z dodatkową weekendową porcją błyskotliwych tekstów, wnikliwych analiz i inspirujących rozmów w ramach magazynu PLUS MINUS.

Reklama
Technologie
Dowody mrocznej strony AI. Współtwórca Anthropic ostrzega przed zagrożeniem
Technologie
Zaskakujące wyniki badań: AI miała znacząco przyspieszyć pracę, a ją spowalnia
Technologie
Tajemnica długowieczności. Sensacyjne wyniki badania naukowców
Technologie
Przełom w ochronie balistycznej. Chińska tkanina bije kevlar na głowę
Materiał Promocyjny
Jak budować strategię cyberodporności
Technologie
To miał być triumf rosyjskiej AI i robotyki. Skończyło się katastrofą
Reklama
Reklama
REKLAMA: automatycznie wyświetlimy artykuł za 15 sekund.
Reklama
Reklama