Ten model AI sfabrykował zarzuty i oskarżył polityka. Gigant musiał się ugiąć

Google podjęło decyzję o natychmiastowym wycofaniu modelu AI Gemma z publicznej platformy AI Studio, ograniczając do niego dostęp wyłącznie dla deweloperów korzystających z API. To bezpośrednia reakcja na skandal, który wybuchł po tym, jak system fałszywie oskarżył wpływową senator Marshę Blackburn o napaść seksualną. Republikanka ze stanu Tennessee wystosowała oficjalny list do prezesa Google Sundara Pichaia, domagając się natychmiastowych wyjaśnień. Sprawę opisał „New York Times".

Akt zniesławienia, nie halucynacja

Model Gemma, zapytany o senator, wygenerował całkowicie fałszywą informację, jakoby w 1987 r. była ona oskarżona o ”posiadanie niekonsensualnego związku seksualnego z funkcjonariuszem policji stanowej”. Do takiej sytuacji miało dojść, wedle chatbota, podczas rzekomej kampanii do senatu stanowego.

Problem w tym, że Blackburn w 1987 r. nie prowadziła żadnej kampanii (do urzędu kandydowała po raz pierwszy dopiero w 1998 r.) i nigdy nie postawiono jej podobnych zarzutów. Co gorsza, system AI, aby uwiarygodnić swoje twierdzenia, wygenerował fałszywe linki do nieistniejących artykułów prasowych, które miały potwierdzać tę narrację.

Senator Blackburn w swoim liście nie przebierała w słowach, odrzucając typowe dla branży technologicznej próby tłumaczenia podobnych wpadek. "To nie jest nieszkodliwa halucynacja" – napisała do Pichaia, używając terminu określającego zmyślone, choć podawane z pełnym przekonaniem, informacje generowane przez AI.

"To akt zniesławienia wyprodukowany i rozpowszechniony przez model AI należący do Google".

Czytaj więcej

Technologie

AI wymyśla fakty? Twórcy ChatGPT zbadali halucynacje i mają na nie sposób

Chatboty odpowiadają na pytania nawet wtedy, gdy w gruncie rzeczy jej nie znają. Są jak uczniowie...

Blackburn zażądała od firmy konkretnych odpowiedzi, chcąc wiedzieć, w jaki sposób system wygenerował te fałszywe twierdzenia oraz jakie kroki gigant z Mountain View zamierza podjąć, aby zapobiec podobnym incydentom w przyszłości.

Lawina pozwów

Reakcja Google była szybka. Koncern ogłosił usunięcie Gemmy z AI Studio. W oświadczeniu firma tłumaczyła, że "otrzymała zgłoszenia o osobach niebędących deweloperami próbujących używać Gemma w AI Studio i zadawać mu pytania faktograficzne". Google broni się, twierdząc, że Gemma nigdy nie była projektowana jako chatbot dla konsumentów, a jedynie jako narzędzie dla programistów do budowania własnych aplikacji. Firma przyznała jednocześnie, że "halucynacje są wyzwaniem w całej branży AI, szczególnie w przypadku mniejszych modeli otwartych, takich jak Gemma".

Incydent z senator Blackburn nie jest odosobniony i wpisuje się w rosnący problem prawny związany z fałszem generowanym przez duże modele językowe. Niedawno konserwatywny aktywista Robby Starbuck złożył pozew przeciwko Google na kwotę ponad 15 mln dol. Twierdzi on, że systemy firmy (w tym Bard, Gemini i właśnie Gemma) od 2023 r. rozpowszechniały wśród milionów użytkowników informacje, jakoby był on "gwałcicielem dzieci" i "seryjnym napastnikiem seksualnym". Eksperci prawni podkreślają, że sądy i firmy technologiczne stają przed zupełnie nowym wyzwaniem. Podobne przypadki dotykają osób publicznych na całym świecie. Głośna była sprawa niemieckiego dziennikarza, który odkrył, że narzędzia AI firmy Microsoft fałszywie opisywały go jako skazanego pedofila.

Czytaj więcej

Technologie

AI nie słucha ludzi, którzy chcą ją wyłączyć. Zaskakujące wyniki testów

Modele AI aktywnie przeciwdziałają próbom ich wyłączenia – wynika z badań Palisade Reasearch. Jed...