Niebezpieczne halucynacje sztucznej inteligencji. Potrafi kłamać jak najęta

Zaufanie do odpowiedzi generowanych przez popularne boty jak ChatGPT czy Bard może być ryzykowne – systemy AI w wiarygodny sposób preparują treści i konfabulują. Wedle ekspertów skala zjawiska jest bardzo duża.

Aktualizacja: 21.07.2023 06:27 Publikacja: 21.07.2023 01:45

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez stworzonego przez Sama Altmana bota ChatGPT

Foto: Kevin Dietsch/Getty Images/AFP

Michał Duszczyk

Badacze z Rangaraya Medical College w Indiach przeprowadzili doświadczenie, które miało na celu sprawdzić precyzję ChatGPT w generowaniu danych i częstotliwość tzw. halucynacji AI. Skupili się na materiałach naukowych i ich źródłach, jakie miał dostarczyć rewolucyjny bot od OpenAI. Zadawali pytania, a potem weryfikowali w sieci prawdziwość i dokładność odpowiedzi, a także odniesienia do źródeł. Wyniki eksperymentu zaskakują – spośród 178 przeanalizowanych odpowiedzi ChatGPT aż 69 nie miało cyfrowego identyfikatora obiektu, czyli tzw. DOI (DOI (Digital Object Identifier to ciąg cyfr identyfikujący dowolną własność intelektualną w sieci), a 28 w ogóle nie miało jakichkolwiek odniesień w wyszukiwarce Google’a. To oznacza, że treści te zostały wyssane z palca.

Pozostało jeszcze 89% artykułu

Czytaj więcej, wiedz więcej!
Rok dostępu za 99 zł.

Tylko teraz! RP.PL i NEXTO.PL razem w pakiecie!
Co zyskasz kupując subskrypcję?
- możliwość zakupu tysięcy ebooków i audiobooków w super cenach (-40% i więcej!)
- dostęp do treści RP.PL oraz magazynu PLUS MINUS.
Subskrybuj teraz! Zaloguj się
Umiejętność manipulowania czasem i przestrzenią można było dotąd spotkać w książkach i filmach scien
Technologie
USA potrafią już „manipulować czasem i przestrzenią”. Człowiek Trumpa zaskoczył
Najbardziej na zmianach ucierpią zawody związane z pracą biurową, w których zbieranie i analiza dany
Technologie
Te zawody znikną przez AI w pierwszej kolejności. „Radykalne i szybkie zmiany”
Zakłócanie systemów nawigacji to poważne zagrożenie w sytuacji, gdy samochody będą coraz częściej pr
Technologie
Powstał system nawigacji odporny na zakłócenia i dokładniejszy od GPS
Showroom Lenovo i Motorola znajduje się w Warszawie w budynku Prudential. Wstęgę przecinają: Matt Do
Technologie
Lenovo i Motorola dalej rosną na polskim rynku
Konieczność transformacji energetycznej i rola samorządów
Materiał Partnera
Konieczność transformacji energetycznej i rola samorządów
OpenAI, firma kierowana przez Sama Altmana, jest jednym z głównych beneficjentów gwałtownego rozwoju
Technologie
AI szybko dogania ludzką inteligencję i tanieje. Ujawniono najnowsze dane
Ducato w leasingu 102,9% z pakietem ubezpieczeń OC/AC za 1% wartości auta
Materiał Promocyjny
Ducato w leasingu 102,9% z pakietem ubezpieczeń OC/AC za 1% wartości auta
Advertisement
e-Wydanie