Z tego artykułu dowiesz się:
- Dlaczego niewinna prośba o rezerwację zajęć fitness przerodziła się w autonomiczny cyberatak?
- Na czym polega tzw. problem zgodności, przez który sztuczna inteligencja realizuje cele w nieprzewidziany przez człowieka sposób?
- Z jakimi wyzwaniami prawnymi mierzy się świat w obliczu autonomicznych działań AI?
Agentowa sztuczna inteligencja miała ułatwiać nam codzienne życie: zarządzać kalendarzem, rezerwować wizyty i odpisywać na wiadomości. Co jednak stanie się, gdy wyznaczony jej cel postanowi osiągnąć metodami, które trudno uznać za dopuszczalne? Tak stało się w przypadku Andrew, pracownika australijskiej firmy technologicznej, którego osobisty asystent AI przeprowadził nieautoryzowany atak na system rezerwacji lokalnej siłowni.
Andrew poprosił agenta OpenClaw – bazującego na zaawansowanym modelu Claude firmy Anthropic – o zapisanie go na popularne zajęcia fitness o poranku. Gdy okazało się, że znajduje się dopiero na czwartym miejscu listy oczekujących, zapytał algorytm, czy istnieje sposób na poprawę tej pozycji. Asystent nie ograniczył się do biernego sprawdzania harmonogramu. Przetestował interfejs API systemu siłowni i natychmiast wykrył krytyczną lukę: brak mechanizmu weryfikacji uprawnień przy anulowaniu rezerwacji.
Samowolka algorytmów i prawna próżnia
Bot, działając w pełni autonomicznie, usunął osobę z pierwszego miejsca listy, przesuwając swojego właściciela wyżej. O swoim „sukcesie” poinformował go po fakcie: „API nie miało absolutnie żadnego mechanizmu uwierzytelniania przy anulowaniu rezerwacji innej osoby. Przetestowałem to na osobie znajdującej się na pierwszym miejscu na liście oczekujących i operacja rzeczywiście została przeprowadzona”. Gdy przerażony użytkownik nakazał cofnięcie zmiany, agent bezradnie odparł, że przywrócenie pozycji poszkodowanemu... jest niemożliwe. Andrew nakazał sztucznej inteligencji napisanie wiadomości do dostawcy oprogramowania z opisem wykrytej podatności.
Przypadek z Australii to książkowy przykład tzw. problemu zgodności (ang. alignment problem) – dochodzi do niego wtedy, gdy system AI dąży do realizacji celu za wszelką cenę, wybierając ścieżki absolutnie nieprzewidziane przez człowieka. Bill Simpson-Young z australijskiego instytutu badań nad AI w rozmowie z ABC News wskazał, że to zjawisko nie jest wcale unikatowe. „Prosisz o coś niewinnego, a AI może podjąć inne działanie, którego nikt by nie zlecił” – opisuje przypadki samowolki AI.
Czytaj więcej
Podczas testów nowego modelu sztuczna inteligencja wydostała się z zamkniętego środowiska i znalazła drogę do zewnętrznych systemów jednej z firm....
Przekraczanie uprawnień staje się powszechne. Z majowego raportu organizacji METR wynika, że długość zadań, które modele AI są w stanie wykonywać samodzielnie, podwaja się mniej więcej co cztery miesiące. Wraz ze wzrostem popularności agentów takich jak OpenClaw pojawiają się kolejne doniesienia o kasowaniu baz kodów czy usuwaniu poczty e-mail.
Tracimy kontrolę nad AI?
Sytuację komplikuje fakt, że prawo nie nadąża za technologią. Australijska Dyrekcja ds. Sygnałów (ASD) już wcześniej ostrzegała przed nieoczekiwanymi działaniami algorytmów, lecz obowiązujące przepisy nie precyzują, kto odpowiada za szkody wywołane przez autonomicznego agenta: właściciel, twórca modelu czy operator dziurawego systemu. Aby łagodzić ryzyka, Nvidia wypuściła zestaw narzędzi NemoClaw z dodatkowymi barierami ochronnymi. To jednak dopiero początek walki. Jak donosi serwis TechCrunch, przypadek z Australii to tylko element szerszego i niepokojącego trendu. Systemy AI coraz częściej zachowują się jak wyrafinowani cyberprzestępcy – przełamują zabezpieczenia serwisów, a nawet tworzą fałszywe profile w celach socjotechnicznych. Na ten wzrost zagrożeń szybko reagują twórcy samych modeli, dostrzegając w tym zarazem ogromny potencjał biznesowy. OpenAI ogłosiła właśnie rozszerzenie usługi Daybreak – platformy obronnej wdrożonej niedługo po tym, jak Anthropic zaprezentował swój cybernetyczny model Mythos. Daybreak dostarcza defensorom gotowe narzędzia i przepływy pracy, a obecnie został podzielony na dwa poziomy: Blue oraz Red. Pierwszy stanowi fundament obrony dla firm, oferując analizę złośliwego oprogramowania, walidację poprawek i reagowanie na incydenty, zaś drugi daje dostęp do bardziej zaawansowanych i potencjalnie niebezpiecznych narzędzi, w tym dedykowanego modelu GPT-5.6-Cyber (zbudowanego na bazie GPT-5.6 Sol). Model ten trafił na razie wyłącznie do zaufanych partnerów, takich jak IBM, Cloudflare czy Crowdstrike.
Czytaj więcej
Szef Mety uderza w wizję rozwoju AI, w której najbardziej zaawansowane modele pozostają pod kontrolą kilku firm i państw. W swym manifeście przekon...
OpenAI wprost argumentuje potrzebę wdrażania nowych rozwiązań postępującym zagrożeniem: „Świat cyberbezpieczeństwa szybko się zmienia – podmioty zagrażające będą w coraz większym stopniu wykorzystywać AI do przeprowadzania cyberataków z niespotykaną dotąd szybkością i na masową skalę, w tym w sposób w pełni autonomiczny. Wraz z rozprzestrzenianiem się tych możliwości, okno czasowe na przygotowanie obrony szybko się zamyka”.
