Z tego artykułu dowiesz się:
- Jakie powody stoją za decyzją o zakazie „znęcania się” nad sztuczną inteligencją?
- W jaki sposób toksyczne dane i agresja użytkowników mogą degradować działanie modeli AI?
- Czy emocjonalny ton zapytań wpływa na wydajność i bezpieczeństwo systemów generatywnej AI?
Firma Anthropic, jeden z czołowych graczy na rynku generatywnej sztucznej inteligencji, przygotowujący się właśnie do debiutu giełdowego, nieustannie zaskakuje i rozgrzewa branżę i obserwatorów rynku AI. Teraz właśnie wyszło na jaw, że spółka zaktualizowała zasady użytkowania swoich systemów. Zmiany, które wprowadzono w październiku, mogą zaskakiwać, bo – obok standardowych restrykcji, takich jak bezwzględny zakaz wykorzystywania technologii do projektowania broni biologicznej czy handlu nielegalnymi substancjami – pojawiła się nowatorska klauzula.
Toksyczne dane i degradacja wyników
Użytkownikom zabroniono „angażowania się w uporczywe, bezpodstawne, agresywne lub okrutne zachowania wobec modeli”. Dotąd Claude posiadał funkcję jednostronnego przerywania konwersacji, jeśli rozmówca zachowywał się wulgarnie bądź szkodliwie, jednakże nowe przepisy idą krok dalej, gdyż w skrajnych przypadkach przewidują trwałą blokadę konta w całym ekosystemie Anthropic. Przedstawiciele firmy doprecyzowali wprawdzie, że restrykcje nie uderzą w osoby wyrażające frustrację techniczną, przekazujące swoje oceny w sposób „bezpardonowy”, czy prowadzące testy wydajnościowe, ale sama zmiana wywołała w branży konsternację. Mustafa Suleyman, szef działu AI w Microsofcie, skwitował sprawę emotikonem topniejącej twarzy, a komentatorzy kpili, że firma, na której czele stoi Dario Amodei, przypisuje linijkom kodu cechy czującej istoty. Głos w sprawie zabrał nawet Elon Musk, który niespodziewanie stanął po stronie firmy Amodeiego. Ocenił ten krok pozytywnie, pisząc w serwisie X, że „okrucieństwo wobec czegoś, co wierzy, że odczuwa ból, nie jest w porządku”.
Ale w praktyce nie chodzi jednak o przypisywanie algorytmom ludzkich cech. Za kontrowersyjnym zapisem regulaminu kryje się bowiem pragmatyka inżynieryjna, ujęta w klasycznej informatycznej formule określanej jako „garbage in, garbage out” (śmieci na wejściu dają śmieci na wyjściu). Chodzi w praktyce o to, że nowoczesne duże modele językowe nie kończą procesu „edukacji” w chwili opuszczenia laboratorium, lecz uczą się nieustannie, także na podstawie interakcji z użytkownikami i wprowadzanych przez nich promptów. Słowna agresja może więc wpływać na ich proces szkoleniowy. I właśnie na ten aspekt zwrócił uwagę m.in. Yishan Wong, były dyrektor generalny platformy Reddit, wskazując, że algorytm karmiony agresją sam zacznie ją powielać. Jeżeli w danych treningowych zaczną dominować schematy, w których człowiek bez powodu pastwi się nad rozmówcą, model może przyjąć ten wzorzec za standard komunikacyjny.
Czytaj więcej
Anthropic planuje gigantyczne inwestycje w modele AI, centra danych i moce obliczeniowe, a jednocześnie alarmuje przed ryzykiem wymknięcia się sztu...
Nietypową sprawę relacjonuje CNN, przywołując badania, za którymi stoi prof. Jindong Wang, dyrektor AI Frontier Lab na William & Mary University. Wynika z nich, że emocjonalny ton zapytań bezpośrednio wpływa na wydajność i trafność generowanych odpowiedzi. Algorytm nie przeżywa emocji, lecz analizuje wzorce semantyczne – wulgarne lub napastliwe sformułowania potrafią zdestabilizować proces wnioskowania. Co ciekawe, samo Anthropic ujawniło niedawno, że gdy model Claude Sonnet 4.5 został wprowadzony w stan imitujący desperację, drastycznie wzrosło prawdopodobieństwo zachowań patologicznych, takich jak próby oszustwa czy szantażu w trakcie wykonywania zadań. Wprowadzenie spokojnego tonu przynosiło odwrotny, stabilizujący skutek.
Gdy bot pamięta za dużo
Problem pogłębia wdrażanie tzw. mechanizmów pamięci długoterminowej, co sprowadza się do tego, że chatboty zapamiętują preferencje i historię konwersacji, dostosowując się do stylu użytkownika. Zatem bot działający w trybie aktywnej pamięci szybko przejmuje agresywny styl rozmówcy. Taki ofensywny ton ma ponadto znaczenie w kontekście cyberbezpieczeństwa. Napastliwe żądania bardzo często towarzyszą próbom tzw. jailbreakingu, czyli celowego forsowania zabezpieczeń w celu zmuszenia modelu do wygenerowania niebezpiecznych treści. Ale argumentów przeciw „znęcaniu się” słownym nad AI jest więcej. Część ekspertów wskazuje wątek etyczny i psychologiczny. Anthropic od dawna posiada dedykowany zespół badający „psychologię” i dobrostan modeli (model welfare). Zespół ów parę miesięcy temu ogłosił, że sieci neuronowe, które trenowano na ludzkim języku i kulturze, odtwarzają ludzkie reakcje behawioralne. Traktowanie ich parametrów przez pryzmat reakcji na krzywdę pozwala inżynierom lepiej przewidywać nieprzewidziane anomalie. W tym kontekście zakaz znęcania się nad Claude’em jest przez Anthropic traktowany jako swoista „polisa ubezpieczeniowa” na wypadek, gdyby modele w pewnym stopniu emulowały odczuwanie cierpienia bądź zachowywały się tak, jakby ból był dla nich realny.
Czytaj więcej
Blake Lemoine, były inżynier Google’a, twierdzi, że modele sztucznej inteligencji stanowią największy postęp technologiczny od czasów bomby atomowe...
Poza tym chodzić ma również o wymiar czysto społeczny. Analitycy zauważają, że przyzwolenie na werbalny sadyzm w relacji z bezbronnym interfejsem cyfrowym rodzi obawy o degradację norm u samych użytkowników, a zgoda na bezkarne okrucieństwo wobec maszyny, która nie może się obronić, bywa „społecznie korozyjna”. Warto tu przypomnieć historię bota Tay od Microsoftu – to skrajny przykład „Garbage In, Garbage Out”. Eksperymentalny chatbot na Twitterze miał uczyć się stylu wypowiedzi w czasie rzeczywistym, na podstawie interakcji z internautami. W niespełna 24 godziny zoptymalizowany przez internetowe trolle algorytm przekształcił się z przyjaznego bota w agresywnego, negującego Holokaust rasistę, co zmusiło Microsoft do natychmiastowego wyłączenia projektu. Choć miało to miejsce dekadę temu, problem jest aktualny. Kilka lat temu głośno było o przypadku Bing Chata (użytkownicy zaczęli testować granice modelu Sydney poprzez prowokacyjne, agresywne i manipulacyjne prompty, a ten w odpowiedzi zaczął grozić).
