Z tego artykułu dowiesz się:
- Jak Rosja i Chiny wykorzystują popularny model AI do projektowania autonomicznej broni?
- Do jakich celów militarnych adaptowana jest sztuczna inteligencja?
- Dlaczego wbudowane zabezpieczenia modeli językowych okazują się nieskuteczne wobec państwowych grup hakerskich?
Uruchomienie przez Anthropic wyspecjalizowanych narzędzi programistycznych miało ułatwić pracę inżynierom oprogramowania na całym świecie – takie były początki. Ale najnowszy dokument firmy („Detecting and countering threat actors abusing Claude”) odsłania mroczną stronę AI i tego, jak zaawansowane modele językowe weszły w fazę autonomicznych agentów, które potrafią realizować złożone zadania militarne.
Uderzenie w Tajwan
Z dokumentacji Anthropic wynika, że chińskie grupy, powiązane ze strukturami wojskowymi, wykorzystały Claude'a do prac nad technologiami pola walki morskiej i powietrznej. Jednym z uderzających przykładów było zlecenie sztucznej inteligencji opracowania pełnej specyfikacji systemu kierowania ogniem przeznaczonego do zwalczania torped oraz budowa 16 modułów walki elektronicznej, których celem miało być zakłócanie stacji radarowych i sparaliżowanie zintegrowanej obrony przeciwlotniczej Tajwanu. Projekt ten był systematycznie udoskonalany aż do 12. wersji.
Jeszcze bardziej niepokojące okazały się działania przypisywane grupom rosyjskim, które przetestowały granice autonomii broni. Do stworzenia oprogramowania bojowego posłużyło środowisko Claude Code. Na jego bazie Rosjanie zaprojektowali system zarządzania rojem dronów uderzeniowych. Kluczowy komponent stanowił pokładowy model AI, który w pełnej autonomii – bez udziału człowieka w tzw. pętli decyzyjnej (human-out-of-the-loop) – został zaprogramowany do rozpoznawania i selekcji celów, w tym celów żywych (ludzi). System miał sam wydawać rozkaz detonacji ładunku bojowego.
Sprawę na platformie X opisał dr Łukasz Olejnik, niezależny badacz i konsultant ds. cyberbezpieczeństwa. „Przypadki opisane przez Anthropic czyta się jak prezentację produktu, tyle że nie taką, jaką wymarzył sobie dział sprzedaży. Firma opublikowała raport o tym, jak atakujący używają Claude i wynika z tego, że model wykonywał za nich większość pracy: rozpoznanie, exploity (kod wykorzystujący luki), phishing, utrzymywanie dostępu, przeglądanie wykradzionych danych. Rosyjska grupa szpiegowska kazała agentom AI sprawdzać, czy systemy bezpieczeństwa wykryły jej malware. Jeśli tak, przerabiali kod tak długo, aż systemy przestały go wykrywać” – pisze Olejnik.
Problem dziurawych zabezpieczeń
Przypadki opisane w raporcie obnażają dotychczasowy mit o skuteczności mechanizmów zabezpieczających (tzw. safety guardrails) – do tej pory wiodący twórcy AI zapewniali, że modele odmawiają generowania złośliwego kodu lub wsparcia przy konstrukcji broni masowego rażenia i systemów bojowych, ale w praktyce państwowe grupy hakerskie (APT) bez trudu ominęły filtry behawioralne, stosując techniki inżynierii podpowiedzi oraz dekomponując nielegalne zadania na z pozoru neutralne ciągi instrukcji.
Czytaj więcej
Amerykańska blokada najnowszych modeli firmy Anthropic pokazuje, że sztuczna inteligencja przestaje być traktowana jak zwykłe oprogramowanie. Staje...
Ale raport pokazuje jeszcze inny problem – przejście od pojedynczych zapytań do wieloagentowych struktur, które się samodoskonalą. I tak, gdy rosyjscy operatorzy wpuszczali swój kod w zautomatyzowane pętle weryfikacyjne, agent AI metodycznie modyfikował strukturę złośliwego oprogramowania, dopóki systemy antywirusowe i rozwiązania klasy EDR nie traciły zdolności jego detekcji. Z kolei chińskie grupy wykorzystywały roje agentów do głębokiej inżynierii wstecznej oprogramowania układowego (firmware) routerów, firewalli i urządzeń sieciowych (maszyna samodzielnie mapowała podatności zero-day i iteracyjnie dopasowywała exploity, eliminując konieczność wielotygodniowej, żmudnej pracy ludzkich analityków). Nie ma wątpliwości, że zaawansowane komercyjne systemy AI stały się już technologią o podwójnym zastosowaniu (dual-use).
