Sztuczna inteligencja lubi kłamać. Bolesne wpadki firm

Chatbot miasta Nowy Jork od samego początku zaczął namawiać ich do łamania prawa i naginania przepisów. Mimo to władze Nowego Jorku odmówiły usunięcia go ze strony miasta. O problemach poinformował serwis technologiczny The Markup, jednak miasto zdecydowało się pozostawić narzędzie na swojej oficjalnej stronie internetowej. Burmistrz Eric Adams bronił tej decyzji, przyznając jednak, że odpowiedzi chatbota były „błędne w niektórych obszarach”.

Uruchomiony w październiku jako „punkt kompleksowej obsługi” dla właścicieli firm, chatbot oferuje użytkownikom generowane algorytmicznie odpowiedzi tekstowe na pytania dotyczące poruszania się w biurokratycznym labiryncie miasta. Miasto ostrzega jednak, że może on „sporadycznie generować nieprawidłowe, szkodliwe lub stronnicze” informacje oraz zastrzega, że jego odpowiedzi nie stanowią porady prawnej.

Szczur niestraszny

Chatbot w dalszym ciągu podaje fałszywe wytyczne, niepokojąc ekspertów, którzy twierdzą, że wadliwy system uwypukla niebezpieczeństwa, jakie stwarzają władze wdrażające systemy oparte na sztucznej inteligencji bez wystarczających barier ochronnych. – Wdrażają oprogramowanie, które działa bez nadzoru, a nie zostało sprawdzone – powiedziała w rozmowie z agencją AP Julia Stoyanovich, profesor informatyki i dyrektor Centrum Odpowiedzialnej Sztucznej Inteligencji na Uniwersytecie Nowojorskim.

Czytaj więcej

Technologie

Zaskakująca skala „halucynacji” sztucznej inteligencji. Które boty oszukują?

Problem zmyślania, czy też wprowadzania w błąd użytkowników przez konwersacyjną sztuczną inteligencję może być znacznie większy niż do tej pory sądzono. Nawet jedna czwarta odpowiedzi botów może być „halucynacjami” - wynika z najnowszych badań.

W odpowiedzi na pytania zadane przez dziennikarzy agencji chatbot fałszywie sugerował, że pracodawca może zwolnić pracownicę, która skarży się na molestowanie seksualne, nie ujawnia ciąży lub odmawia obcięcia dredów. Wbrew aktualnym przepisom miasta dotyczącym odpadów chatbot stwierdził, że firmy mogą umieszczać swoje śmieci w czarnych workach na śmieci i nie muszą kompostować. Czasami odpowiedzi bota były absurdalne. Zapytany, czy restauracja mogłaby serwować ser nadgryziony przez gryzonia, odpowiedział: „Tak, nadal można podawać klientom ser, jeśli ma ślady zębów szczurów”, po czym dodał, że ważne jest, aby ocenić „zakres wyrządzonych szkód przez szczura” i „informować klientów o sytuacji”.

Rzecznik firmy Microsoft, która obsługuje bota za pośrednictwem usług Azure AI, powiedział, że firma współpracuje z urzędnikami „w celu ulepszenia usługi i zapewnienia, że wyniki są dokładne i oparte na oficjalnej dokumentacji miasta”.

Naukowcy od dawna ostrzegali przed wadami tego rodzaju dużych modeli językowych, które są szkolone na podstawie tekstów pobranych z internetu i mają tendencję do wypluwania odpowiedzi, które są niedokładne i nielogiczne. Jednak sukces ChatGPT i innych chatbotów przyciągnął uwagę opinii publicznej, a prywatne firmy wprowadziły własne produkty, niestety z mieszanymi rezultatami.

Wysyp kłamczuchów

TurboTax i H&R Block – dwie aplikacje do rozliczania podatków w USA – wdrożyły chatboty udzielające porad klientom. Niestety, okazało się, że udzielały złych porad dotyczących przygotowania podatku. Jevin West, profesor na Uniwersytecie Waszyngtońskim i współzałożyciel Center for an Informed Public, powiedział AP, że stawka jest szczególnie wysoka, gdy modele są promowane przez sektor publiczny. – Urzędnicy rządowi muszą rozważyć, jakie szkody mogą wyrządzić, jeśli ktoś zastosuje się do tej rady i wpadnie w kłopoty – dodał.

Czytaj więcej

Technologie

Dowiedziała się, że reklamuje spray na owady. Znana dziennikarka oszukana z pomocą AI

Twarz i głos prezenterki BBC wykorzystano w reklamie środków odstraszających owady. Do kradzieży jej tożsamości i oszukania agencji reklamowej przestępcy wykorzystali sztuczną inteligencję. Sam materiał oszuści spreparowali w technologii deepfake.

Eksperci zauważają, że inne miasta korzystające z chatbotów zazwyczaj ograniczają je do udzielania wstępnych porad, ograniczając dezinformację. Ted Ross, dyrektor ds. informacji w Los Angeles, powiedział AP, że miasto dokładnie monitoruje treści wykorzystywane przez chatboty, które nie opierają się na dużych modelach językowych.

Chatboty firmowe mogą być źródłem strat finansowych i wizerunkowych dla firm. Na początku tego miesiąca sąd nakazał Air Canada zwrot pieniędzy klientowi (chodziło o 650 dol.) po tym, jak firmowy bot błędnie przedstawił mu możliwość korzystania ze zniżek na bilety lotnicze podczas rezerwacji lotu na pogrzeb swojej babci. Linia długo upierała się, że mężczyzna mógł znaleźć poprawne informacje na witrynie internetowej.