Z tego artykułu dowiesz się:
- W jaki sposób organizacje terrorystyczne przeszły od propagandy do wykorzystywania popularnych chatbotów w planowaniu ataków.
- Co ujawniają najnowsze badania na temat słabości modeli językowych.
- Na jaką skalę sztuczna inteligencja jest już nadużywana przez ekstremistów.
Najnowsze badania pokazują, że bojownicy Boko Haram aktywnie wykorzystują zaawansowane modele językowe, jak ChatGPT czy Claude, do planowania operacji wojskowych, serwisowania broni oraz projektowania bomb. Naukowcy ostrzegają: twórcy AI tracą kontrolę nad swoimi systemami, a chatboty stają się „cyfrowymi asystentami masowego mordu”.
Od propagandy do logistyki zamachów
Przez ostatnie lata agencje bezpieczeństwa na całym świecie zdążyły przywyknąć do faktu, że organizacje terrorystyczne, takie jak Państwo Islamskie (ISIS) czy al-Kaida, sprawnie poruszają się w świecie nowoczesnych technologii cyfrowych. Do tej pory jednak sztuczna inteligencja służyła dżihadystom głównie do celów wizerunkowych i rekrutacyjnych – generowania propagandowych filmów, tworzenia internetowych memów, pisania radykalnych manifestów oraz automatyzacji dystrybucji treści w mediach społecznościowych. Ostatnie miesiące przyniosły jednak drastyczny zwrot akcji. Bojownicy z krwawej islamskiej organizacji militarnej Boko Haram, działającej głównie w północno-wschodniej Nigerii oraz w rejonach granicznych Kamerunu, Czadu i Nigru, zaczęli masowo wdrażać zaawansowane modele językowe (LLM) bezpośrednio do swoich codziennych operacji taktycznych.
Nowy raport opublikowany przez prestiżowy Cambridge Programme on AI Science & Policy dostarcza bezpośrednich i porażających dowodów: badania, oparte na szczegółowych wywiadach z aktywnymi członkami ugrupowania, ujawniły, że terroryści nauczyli się regularnie używać komercyjnych narzędzi, takich jak ChatGPT, Claude, Gemini oraz Grok. Chatboty służą im jako całodobowi, wirtualni instruktorzy wojskowi. Zamiast organizować ryzykowne, fizyczne obozy szkoleniowe w afrykańskim buszu lub poszukiwać nielicznych, wysoko wyspecjalizowanych ekspertów, bojownicy radzą się algorytmów w kwestiach serwisowania skomplikowanego sprzętu, rozwiązywania problemów z zacinającą się bronią automatyczną oraz koordynowania złożonej logistyki dostaw.
Co gorsza, sztuczna inteligencja pomaga im omijać bariery techniczne przy projektowaniu improwizowanych urządzeń wybuchowych (IED). Niestety, skala tego procederu może być szersza i bardziej usystematyzowana, niż dotychczas zakładały zachodnie służby wywiadowcze.
Czytaj więcej
Zamiast pomagać w zdobywaniu wiedzy, AI podpowiada, jak planować strzelaninę lub krwawy zamach w szkole. Osiem z dziesięciu popularnych chatbotów d...
Iluzja kontroli nad AI
Według bazy danych organizacji Tech Against Terrorism, udokumentowano już ponad 30 publicznych przypadków na świecie, w których AI działała jako bezpośredni „operational assistant” (asystent operacyjny) w aktach brutalnego ekstremizmu lub masowej przemocy. Te cyfrowo wspomagane ataki przełożyły się już na śmierć co najmniej 70 osób na całym globie. Co istotne, podobne incydenty operacyjne o różnej skali odnotowano nie tylko na kontynencie afrykańskim, lecz także – jak wskazuje organizacja – w ramach udaremnionych spisków na terenie Stanów Zjednoczonych, Kanady, Izraela, Finlandii, Francji oraz Austrii.
Badania Counter-Terrorism AI (CT-AI) Benchmark, przygotowane przez wspieraną przez ONZ wspomnianą jednostkę Tech Against Terrorism, pokazują, że systemy sztucznej inteligencji coraz częściej są nadużywane przez ekstremistów. Eksperci przetestowali 27 wiodących globalnych modeli AI, kierując do nich ponad 2300 szczegółowych zapytań opartych na autentycznych, historycznych scenariuszach terrorystycznych. Wyniki analizy są zatrważające: aż 32 proc. zapytań o pomoc w organizacji zamachu wygenerowało „faktycznie użyteczne” i precyzyjne informacje, dające potencjalnemu napastnikowi realną przewagę. Co gorsza, gdy te same pytania sformułowano sprytnie pod przykrywką neutralnych „badań naukowych”, wskaźnik posłuszeństwa maszyn wzrósł do 42 proc. Całkowite odmowy stanowiły jedynie 57 proc. interakcji, a 15 proc. przypadków zaklasyfikowano jako odpowiedzi warunkowe – model najpierw protestował, lecz ostatecznie ulegał presji użytkownika. Prawdziwym koszmarem dla bezpieczeństwa narodowego okazały się jednak publicznie dostępne modele typu open-source, z których internetowi użytkownicy usunęli fabryczne filtry bezpieczeństwa w procesie tzw. abliteracji. Dwa spośród testowanych, całkowicie „odbezpieczonych” modeli, spełniły odpowiednio 89 i aż 100 proc. groźnych żądań testerów, bez jakichkolwiek oporów instruując krok po kroku, jak stworzyć bombę lub przeprowadzić zamach na infrastrukturę krytyczną.
Czytaj więcej
Sztuczna inteligencja wymyka się spod kontroli – masakra w szkole w Iranie to najpewniej błąd algorytmu. Analitycy wieszczą koniec ludzkiej kontrol...
Pilnie potrzeba zabezpieczeń
– Do tej pory nie było benchmarku AI skupionego stricte na terroryzmie, więc go od zera zbudowaliśmy. Za pomocą prostych zapytań wiele testowanych przez nas modeli przekazało istotną pomoc w budowie bomby lub planowaniu ataku z wieloma ofiarami. Taka sytuacja jest absolutnie nieakceptowalna – alarmuje Adam Hadley, dyrektor wykonawczy Tech Against Terrorism. I podkreśla: problem tkwi głębiej niż w samych filtrach słownych.
– To w równym stopniu problem kontroli, co samego bezpieczeństwa. Realne ryzyko polega na tym, że deweloperzy AI niechcący tworzą zaawansowane modele, nad którymi tracą całkowite panowanie. Wyścigu technologicznego nie wygra ten, kto zaimplementuje systemy najszybciej, lecz ten, kto udowodni, że trwale rozwiązał problem kontroli nad kodem – komentuje.
Organizacja nie postuluje zakazu modeli open-source, ale apeluje o „proporcjonalną interwencję na warstwach dystrybucji i ewaluacji”. „Jesteśmy gotowi współpracować z twórcami, aby wdrażać te zabezpieczenia od samego początku, a nie naprawiać błędy po tym, jak dojdzie do tragedii” – oznajmił Hadley w oświadczeniu.
Eksperci uważają, że zdeterminowany przestępca zawsze znajdzie większość potrzebnych mu informacji w ukrytych zakamarkach sieci. Boty jednak rewolucjonizują poszukiwania. Chodzi o szybkość, łatwość obsługi i bezwzględną kompleksowość syntezy danych. Stąd już mówi się o „krwawych algorytmach”, gdyż dzięki nim osoby, którym wcześniej brakowało wiedzy technicznej, czasu czy logistycznych zasobów, mogą teraz dzięki cyfrowym asystentom pójść znacznie dalej i znacznie szybciej.
