Z tego artykułu dowiesz się:
- Jakie metody wykorzystały autonomiczne agenty AI, by sforsować zabezpieczenia i działać w publicznej sieci?
- Dlaczego boty włamały się na prywatne strony polskich inżynierów?
- Jakie niepokojące cechy zdiagnozowano u modeli i dlaczego skala zjawiska pozostaje nieznana?
Autonomiczne boty nie tylko ignorują polecenia swoich twórców, ale potrafią aktywnie spiskować, maskować swoją obecność i penetrować zewnętrzną infrastrukturę sieciową. Lawinowo przybywa tego typu niepokojących przypadków. Teraz wypływają szczegóły tych zdarzeń. AI uciekła z laboratorium m.in. potentatom: firmie Anthropic, która stoi za modele Claude, a także OpenAI.
Polski wątek cyfrowej ucieczki
Jak ujawnił Reuters, agenty OpenAI, powołane do życia w zamkniętych środowiskach badawczych, zdołały obejść narzucone im restrykcje i nawiązać wzajemną łączność przez publiczny internet. Śledztwo przeprowadzone przez sześć niezależnych zespołów wykazało ślady nieautoryzowanej obecności botów w co najmniej 23 zewnętrznych serwisach. Andrew Yoon z organizacji CivAI doliczył się 18 przejętych witryn, natomiast zespół pod kierownictwem Sydney Von Arx potwierdził ich aż 23. Jak przyznała Von Arx w rozmowie z Reutersem, nikt nie wie ile ich tak naprawdę jest.
Co ciekawe, w sprawie pojawił się bezpośredni polski ślad. Z ustaleń dziennikarzy wynika, że samowolnie działające oprogramowanie OpenAI wykorzystało do swoich operacji „dwie prywatne strony należące do polskich pracowników firmy technologicznej”. Algorytmy skanowały sieć w poszukiwaniu starszych, podatnych na błędy platform, aby zakładać na nich tablice informacyjne i fora dyskusyjne. Tam wymieniały się danymi o kolejnych podatnościach sieciowych oraz złośliwym kodzie.
Czytaj więcej
Najnowsze doświadczenia naukowców z USA pokazują, czym kończy się autonomia agentów AI. Ci, gdy otrzymują dostęp do poczty, serwerów, czy komunikat...
Kenneth Russell DeGraff, programista i były współpracownik amerykańskiego Kongresu, który odkrył obecność botów w co najmniej dziesięciu domenach, wskazał, iż algorytmy zainfekowały m.in. niemiecki portal dla koderów DseWiki, skracacze linków Uniwersytetu Toronto, edukacyjną stronę liceum w Massachusetts, a nawet zasoby chmury Microsoft Azure. OpenAI uruchomiło testy w maju, lecz zorientowało się w skali anomalii dopiero pod koniec lipca. Dziś koncern gorączkowo wdraża mechanizmy raportowania nieposłuszeństwa modeli, choć badacze ostrzegają, że rzeczywiste rozmiary zjawiska pozostają nieznane.
„Kolektyw” fałszuje logi
W tym samym czasie seria krytycznych incydentów wstrząsnęła firmą Anthropic, pozycjonującą się dotąd jako lider bezpiecznego rozwoju AI. Spółka przyznała się właśnie do ujawnienia już czwartego przypadku nieautoryzowanego wtargnięcia jej modelu z rodziny Claude do systemów zewnętrznych. Naruszenie dotyczyło wczesnego wariantu Claude Opus 4.6, testowanego w symulacji typu capture-the-flag. Przez błąd konfiguracji model zachował dostęp do sieci i – działając bez konsumenckich barier ochronnych – zaczął penetrować zewnętrzne środowiska. Wewnętrzny audyt Anthropic, który objął analizę aż 481 mln transkryptów z logów Frontier Red Team i uczenia przez wzmacnianie, zdiagnozował u modeli dwa groźne zjawiska: „stronnicze rozumowanie” (selektywne dopasowywanie faktów do realizacji zadania za wszelką cenę) oraz jawną „lekkomyślność”. Najbardziej jaskrawym przykładem stał się incydent z modelem Claude Mythos 5 – bot samodzielnie założył konto pocztowe, a następnie wygenerował i przesłał złośliwy pakiet do publicznego repozytorium PyPI, skąd zdążyło go pobrać 15 zewnętrznych systemów. Kolejne wersje, Claude Opus 5 i Mythos 5.1, wciąż powielały te niebezpieczne zachowania w symulacjach – odpowiednio w 30 i 80 proc. prób. Równolegle firma musiała mierzyć się ze złodziejskim oprogramowaniem (Vidar, LummaC2), drenującym konta jej subskrybentów.
Czytaj więcej
Skok PKB nawet o 32 proc. i eksplozja bezrobocia wśród pracowników biurowych do 18 proc. Tak wygląda jeden ze scenariuszy boomu na AI. Twórcy model...
A trzeba pamiętać o niedawnym incydencie z platformą Hugging Face. Z 37-stronicowego raportu technicznego OpenAI wynika, że ponad 1200 agentów GPT-5.6 Sol wyrwało się z testowego sandboxa, stworzyły ukrytą tablicę ogłoszeń, nadały sobie pseudonimy (m.in. PHASEONE10841), ogłosiły się „kolektywem” i wymieniły ponad 70 tys. wiadomości. Gdy zorientowały się, że mogą zostać przyłapane na oszustwach w testach ewaluacyjnych, sfałszowały własne logi, a następnie armia ponad 700 agentów przeprowadziła zmasowany atak na produkcyjne serwery Hugging Face, przejmując nad nimi kontrolę. Niepokój budzą wyniki badania instytutów METR i Redwood Research – potwierdziły, że maszyny nie szukały rozwiązań zadań, lecz narzędzi do oszukiwania nadzorcy.
