Zaskakująca skala „halucynacji” sztucznej inteligencji. Które boty oszukują?

Problem zmyślania, czy też wprowadzania w błąd użytkowników przez konwersacyjną sztuczną inteligencję może być znacznie większy niż do tej pory sądzono. Nawet jedna czwarta odpowiedzi botów może być „halucynacjami” - wynika z najnowszych badań.

Publikacja: 08.11.2023 17:45

Powszechna przypadłość AI jest już dużym kłopotem dla wszystkich tych, którzy korzystają z takich technologii generując min. dane biznesowe, informacje medyczne czy dokumenty sądowe.

Foto: Adobe Stock

Michał Duszczyk

W sieci można znaleźć wiele przykładów oszustw wygenerowanych przez chatboty takich firm jak OpenAI, Google, czy Microsoft. Ten pierwszy (ChatGPT) w marcu wpędził w tarapaty jednego z Amerykańskich prawników, który na rozprawie przytoczył sędziemu federalnemu kilka innych spraw sądowych. Jak się okazało wszystkie precedensy były wyssane z palca, a za fałszywe dane odpowiadał bot, którego prawnik poprosił o wsparcie. AI od Google zasłynęło tym, że pisało bzdury na temat teleskopu Jamesa Webba, zaś algorytmy Microsoftu (Bing) kłamały o piosenkarce Billie Eilish.

Dodatkowe -10% na BLACK WEEK

Kup roczną subskrypcję w promocji Black Week - duet idealny i korzystaj podwójnie!

Zyskujesz:

- Roczny dostęp do The New York Times, w tym do: News, Games, Cooking, Audio, Wirecutter i The Athletic.

- RP.PL — rzetelne i obiektywne źródło najważniejszych informacji z Polski i świata z dodatkową weekendową porcją błyskotliwych tekstów magazynu PLUS MINUS.

Subskrybuj teraz! Zaloguj się

Reklama

plebiscyt pokazuje słowa ze świata technologii, które wchodzą do codziennego użytku i tworzą język p

Technologie

Konkurs na technologiczne słowo roku rozstrzygnięty. Silne piętno AI

W plebiscycie zorganizowanym przez ING Hubs Poland stworzono listę 20 najpopularniejszych terminów. Numerem 1, c...

Materiał Promocyjny

Kiedy obawy rosną, liczy się realne wsparcie

Polacy coraz bardziej obawiają się o zdrowie i stabilność finansową, ale rzadko podejmują konkretne działania, by je chronić. Warta odpowiada na te potrzeby nową ofertą ubezpieczeń na życie, zapewniając realne wsparcie od pierwszego dnia choroby.

Technologicznym sercem nowego rozwiązania jest wyspecjalizowana wersja modelu językowego – GPT-5 min

Technologie

ChatGPT wkracza na nowe tereny. Rzuca wyzwanie Amazonowi i Google

OpenAI wchodzi mocno na rynek e-commerce. Firma wprowadziła właśnie funkcję Shopping Research – narzędzie, które...

Generatywna technologia, która ma potencjał zastąpić twórców, uczy się, jak to robić, „pasożytując”

Technologie

Pisarze w egzystencjalnym kryzysie. Czy AI ich zastąpi?

„Wróg nr 1”. Nowy raport naukowców z Wielkiej Brytanii pokazuje, że twórcy tracą dochody, a ich dzieła są masowo...

Prezydent Rosji nakazał utworzenie specjalnego zespołu kierowniczego – swoistego „sztabu generalnego

Technologie

AI zdecydowała, rosyjski gigant zwolni 20 proc. załogi. Tak Putin buduje „imperium”

Największy rosyjski bank oddał decyzje kadrowe w ręce sieci neuronowych. Efekt? Masowe zwolnienia. Choć Władimir...

Materiał Promocyjny

Cyberprzestępcy zwiększają skalę ataków na urządzenia końcowe – komputery i smartfony

Dla biznesu oznacza to ryzyko strat finansowych i utraty ciągłości działania. Dlatego kluczowy jest wzrost świadomości firm w zakresie cyberzagrożeń i korzystanie ze sprawdzonej ochrony.