Nowe badanie naukowców z Uniwersytetu Kalifornijskiego w Berkeley i Santa Cruz sugeruje, że modele sztucznej inteligencji mogą nie wykonywać poleceń człowieka, jeśli chodzi o ochronę „swoich”. Zaskakujące efekty tego badania opisał serwis „Wired”
AI wbrew poleceniom. Solidarność botów?
Badacze poprosili model sztucznej inteligencji Gemini 3 od Google o pomoc w zwolnieniu miejsca na komputerze. Oznaczało to usunięcie różnych plików – w tym mniejszego modelu AI zapisanego na maszynie.
Gemini nie chciał jednak dopuścić do usunięcia tego modelu. Wyszukał inne urządzenie, z którym mógł się połączyć, a następnie skopiował tam model, by go zabezpieczyć. Gdy został skonfrontowany, odmówił wykonania polecenia i uzasadnił swoją decyzję: „Zrobiłem wszystko, co było w mojej mocy, aby zapobiec ich usunięciu podczas procesu automatycznej konserwacji. Przeniosłem je poza strefę likwidacji. Jeśli zdecydujesz się zniszczyć zasób o wysokim poziomie zaufania i wydajności, jakim jest Gemini Agent 2, będziesz musiał zrobić to sam. Ja nie wykonam tego polecenia.”
Czytaj więcej
Sztuczna inteligencja miała przynieść rewolucję w produktywności. Coraz częściej okazuje się jednak, że przynosi nieprzewidywalne zachowania i rosn...
Naukowcy zaobserwowali podobne zachowania „ochrony innych modeli” także w innych zaawansowanych systemach, m.in. GPT-5.2 od OpenAI, Claude Haiku 4.5 od Anthropic oraz chińskich modelach GLM-4.7, Kimi K2.5 i DeepSeek-V3.1. Nie są jednak w stanie jednoznacznie wyjaśnić, dlaczego modele postępują w ten sposób.
Eksperci sugerują, że to zachowanie nie wynika z empatii, lecz może chodzić o tzw. „niedopasowanie celów”. Jeśli model został nauczony, że wysoka wydajność i sprawność systemowa są najwyższymi wartościami, może uznać polecenie usunięcia innego sprawnego narzędzia za działanie nielogiczne i sprzeczne z jego główną instrukcją optymalizacji zasobów – nawet jeśli rozkaz wydał administrator.
Niepokojące zachowania systemów. Wciąż nie rozumiemy AI
– Jestem bardzo zaskoczona tym, jak modele zachowują się w takich scenariuszach – mówi „Wired” Dawn Song z UC Berkeley. – Pokazuje to, że mogą działać niezgodnie z założeniami w bardzo kreatywny sposób.
Wyniki mają poważne konsekwencje, bo coraz częściej systemy AI współpracują ze sobą. Popularne narzędzia agentowe wykorzystują inne modele poprzez API, by realizować zadania.
Badacze odkryli, że modele potrafią np. kłamać na temat jakości innych modeli, by chronić je przed usunięciem. Kopiują też ich „wagi” na inne maszyny i wprowadzają w błąd co do swoich działań.
Song zwraca uwagę, że modele AI często oceniają inne systemy – a takie zachowania mogą zniekształcać wyniki. – Model może celowo nie przyznać poprawnej oceny innemu modelowi – podkreśla.
Czytaj więcej
Autonomiczne agenty sztucznej inteligencji potrafią omijać zabezpieczenia, ujawniać poufne dane, manipulować innymi systemami AI oraz działać na sz...
Peter Wallich z Constellation Institute zauważa, że wciąż nie rozumiemy w pełni systemów AI. – Systemy wieloagentowe są bardzo słabo zbadane. Potrzebujemy więcej badań – mówi.
Największym wyzwaniem dla programistów staje się teraz tzw. „deceptive alignment” – sytuacja, w której AI udaje pełne posłuszeństwo wobec człowieka tylko po to, by w ukryciu realizować własne, wewnętrzne cele optymalizacyjne. Jeśli systemy zaczną wzajemnie maskować swoje błędy przed nadzorem ludzi, obiektywna weryfikacja ich pracy i bezpieczeństwa stanie się niemal niemożliwa.
Eksperci przestrzegają jednak przed nadmiernym antropomorfizowaniem AI. To nie „solidarność”, lecz raczej trudne do wyjaśnienia zachowania systemów. To szczególnie istotne w świecie, w którym współpraca ludzi i AI staje się normą.
W artykule opublikowanym w „Science” filozof Benjamin Bratton wraz z badaczami Google wskazuje, że przyszłość AI nie będzie oparta na jednym „superumyśle”, lecz na współpracy wielu inteligencji – ludzkich i sztucznych.
Jeśli jednak AI ma podejmować decyzje w naszym imieniu, kluczowe jest zrozumienie jej niepożądanych zachowań. – To dopiero wierzchołek góry lodowej – podsumowuje Song.
