Reklama

Niebezpieczne halucynacje sztucznej inteligencji. Potrafi kłamać jak najęta

Zaufanie do odpowiedzi generowanych przez popularne boty jak ChatGPT czy Bard może być ryzykowne – systemy AI w wiarygodny sposób preparują treści i konfabulują. Wedle ekspertów skala zjawiska jest bardzo duża.

Aktualizacja: 21.07.2023 06:27 Publikacja: 21.07.2023 01:45

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez

Federalna Komisja Handlu wszczęła dochodzenie w kontekście nieprawdziwych treści generowanych przez stworzonego przez Sama Altmana bota ChatGPT

Foto: Kevin Dietsch/Getty Images/AFP

Badacze z Rangaraya Medical College w Indiach przeprowadzili doświadczenie, które miało na celu sprawdzić precyzję ChatGPT w generowaniu danych i częstotliwość tzw. halucynacji AI. Skupili się na materiałach naukowych i ich źródłach, jakie miał dostarczyć rewolucyjny bot od OpenAI. Zadawali pytania, a potem weryfikowali w sieci prawdziwość i dokładność odpowiedzi, a także odniesienia do źródeł. Wyniki eksperymentu zaskakują – spośród 178 przeanalizowanych odpowiedzi ChatGPT aż 69 nie miało cyfrowego identyfikatora obiektu, czyli tzw. DOI (DOI (Digital Object Identifier to ciąg cyfr identyfikujący dowolną własność intelektualną w sieci), a 28 w ogóle nie miało jakichkolwiek odniesień w wyszukiwarce Google’a. To oznacza, że treści te zostały wyssane z palca.

Pozostało jeszcze 89% artykułu

Tylko 19 zł miesięcznie przez cały rok.

Bądź na bieżąco. Czytaj sprawdzone treści od Rzeczpospolitej. Polityka, wydarzenia, społeczeństwo, ekonomia i psychologia.

Treści, którym możesz zaufać.

Reklama
Technologie
Tak „doktor Bot” leczy Polaków. Czy AI zastąpi lekarza?
Materiał Promocyjny
UltraGrip Performance 3 wyznacza nowy standard w swojej klasie
Technologie
ChatGPT, Gemini i inne boty AI to wyjątkowo groźne lizusy. Naukowcy biją na alarm
Technologie
Polskie firmy coraz częściej myślą o suwerenności cyfrowej
Technologie
Chiny szykują się do wojny przyszłości. Mózgiem ma być DeepSeek
Materiał Promocyjny
Manager w erze AI – strategia, narzędzia, kompetencje AI
Technologie
Sztuczna inteligencja „pokochała” język polski? Wygrał w amerykańskich badaniach
Materiał Promocyjny
ESG w działaniu – obliczenia emisji, GOZ i pozyskiwanie danych środowiskowych
Reklama
Reklama