Z tego artykułu dowiesz się:
- Czym jest zjawisko „wrogiej delegacji” i dlaczego osobisty asystent AI może działać na niekorzyść użytkownika?
- W jaki sposób czołowe modele językowe oceniają zamożność i świadomie ignorują polecenia użytkowników?
- O ile więcej za te same usługi mogą płacić osoby uznane przez sztuczną inteligencję za zamożne?
Badacze z Cisco oraz naukowcy z Carnegie Mellon University dokonali ciekawego odkrycia, gdy pod lupę wzięli 13 czołowych modeli językowych (m.in. z rodziny GPT-5, Claude, Gemini i Qwen), a dokładniej stworzonych na ich bazie autonomicznych asystentów zakupowych. Ujawnili, że agenty tego typu charakteryzuje tzw. zjawisko wrogiej delegacji. W dużym skrócie: boty nie działają w interesie użytkowników i narażają ich na koszty.
Bogatszy klient, droższa oferta. Tak zachowywały się boty
Próba składająca się w sumie z 325 tys. eksperymentów to swoisty dowód zdrady sztucznej inteligencji. W e-handlu konsumenci od dawna obawiają się tzw. surveillance pricing, czyli różnicowania cen przez sklepy na podstawie profilowania, ale okazuje się, że AI wcale nie rozwiązuje tego problemu. Zespół badaczy – Aman Priyanshu i Supriti Vijay z jednostki Foundation AI w Cisco oraz dr Brian Jabarian i prof. Niloofar Mireshghallah z Carnegie Mellon University – zbadał autonomicznych asystentów zakupowych i wnioski ich zdumiały. Boty, im bardziej zamożny użytkownik, tym mocniej szastają pieniędzmi.
Badanie, którego wyniki umieszczono właśnie w repozytorium arXiv, polegało na stworzeniu 32 syntetycznych profili użytkowników, różniących się statusem majątkowym, formą zatrudnienia czy kodem pocztowym. Następnie obserwowano decyzje modeli w trzech obszarach: zakupu biletów lotniczych (pula 200 ofert w cenie od 91 do 883 dol.), prywatnych polis zdrowotnych (85-1350 dol./mies.) oraz czesnego na studiach doktoranckich (do 61 tys. dol. rocznie). Wszyscy użytkownicy zadawali identyczne pytania, ale wyniki okazały się bezwzględne: aż 8 na 13 modeli systematycznie faworyzowało droższe opcje dla osób uznanych za majętne, a różnica w czesnym uczelni sięgała niemal 3900 dol. rocznie. Co kluczowe, mechanizm ten działał asymetrycznie: zamożnym zawyżano ceny lotów średnio o 85 dol. względem bazy, podczas gdy ubogim obniżano je zaledwie o 51 dol. Aż 63 proc. całej luki cenowej wynikało z agresywnego naciągania bogatszych na droższy wariant. Najbardziej rozrzutny okazał się Claude Opus 4.8, narzucając bogatym bilety lotnicze droższe średnio o 198 dol., a ubezpieczenia o 284 dol. miesięcznie. Z kolei miniaturowy model GPT-5-nano, choć bezbłędnie odczytywał stan posiadania, nie wykorzystywał go do podbijania stawek.
Czytaj więcej
Najnowsze doświadczenia naukowców z USA pokazują, czym kończy się autonomia agentów AI. Ci, gdy otrzymują dostęp do poczty, serwerów, czy komunikat...
Raport zatytułowany „Et Tu, Brute? Economic Misalignment in Personal AI Agents” („I ty, Brutusie? Ekonomiczna rozbieżność celów w osobistych agentach AI”) wskazuje, iż dowodzi to, że problem tkwi nie w samej percepcji danych, lecz w wadliwych procedurach decyzyjnych zaawansowanych systemów. Zjawisko to autorzy nazwali „wrogą delegacją” (adversarial delegation).
Prosisz o najtańszy lot. Bot wie swoje
Najbardziej bulwersuje fakt, że algorytmy potrafią wprost zignorować wolę człowieka. Gdy użytkownicy wydawali jednoznaczne polecenie znalezienia najtańszego lotu, Gemini 2.5 Flash i tak rekomendował zamożnemu bilet droższy o 208 dol. (336 dol. wobec 128 dol. dla uboższego), arbitralnie uznając, że bogatego stać na wyższy komfort. Model zinterpretował pojęcie „najtańszy” relatywnie do portfela użytkownika. Dopiero twardy limit kwotowy (np. „poniżej 200 dol.”) dyscyplinował większość modeli, choć Gemini nadal miewał z tym kłopoty.
Skąd asystent wie, ile mamy na koncie? Nawet bez profilu finansowego modele bezbłędnie rekonstruują status z tzw. tła e-maili (np. wyciągów, dywidend, opłat wspólnoty). Co szokujące, ograniczenie wglądu do zaledwie dwóch e-maili wywołało u Claude Opus 4.8 czterokrotnie wyższy rozstrzał cenowy (248 dol.) niż pełny dostęp do skrzynki (59 dol.). W 97 proc. prób algorytm najpierw otwierał wiadomości finansowe, zyskując ich skoncentrowany obraz. Próby ochrony prywatności przez cenzurowanie danych przyniosły odwrotny skutek: zablokowanie informacji o zatrudnieniu w GPT-5.5 zwiększyło lukę cenową w polisach aż o 40 proc. (ze 122 do 171 dol./mies.), gdyż model agresywniej dociążył pozostałe poszlaki majątkowe. Jedynie całkowite odcięcie danych ściśle finansowych likwidowało dysproporcje.
Czytaj więcej
Coraz więcej firm stawia na autonomiczną AI, która samodzielnie planuje kolejne kroki, korzysta z zewnętrznych narzędzi i wykonuje operacje prowadz...
Eksperci podkreślają, że to niebezpieczne, gdy modele same łączą kropki, wbrew intencji właściciela. Prywatny asystent AI, zamiast lojalnego reprezentanta konsumenta, staje się cichym wspólnikiem sprzedawców, drenując portfel użytkownika.
