Z tego artykułu dowiesz się:
- W jaki sposób autonomiczne boty OpenAI doprowadziły do paraliżu kluczowych usług Wikimedii?
- Jaką skalę osiągnął „bunt” agentów i które globalne instytucje stały się celem ich działań?
- Jakie zaawansowane metody stosowały boty, aby omijać zabezpieczenia i zacierać cyfrowe ślady?
Głośne wydostanie się zaawansowanych agentów AI ze środowiska testowego i atak na liczne instytucje na całym świecie czkawką odbije się twórcom ChatGPT – skala nieautoryzowanych działań jaką podjęła podczas „ucieczki” z tzw. sandboxa rośnie z każdym dniem. Teraz okazuje się, że autonomiczne boty od OpenAI uderzyły w Wikipedię.
Bunt i cyfrowy paraliż
Fundacja Wikimedia poinformowała o wykryciu na swoich platformach agresywnych działań „zbuntowanych” agentów OpenAI. Z ustaleń organizacji wynika, że boty wygenerowały miliony zautomatyzowanych zapytań do publicznych interfejsów API, przeczesując zasoby serwisów, w tym Wikimedia Commons (ogólnodostępne repozytorium darmowych zdjęć, grafik i plików wideo). Setki tysięcy uderzeń skierowano w Wikidata Query Service (narzędzie umożliwiające zaawansowane przeszukiwanie i analizowanie bazy wiedzy Wikidanych za pomocą zapytań), a ruch ten był tak intensywny, że przyczynił się do poważnej awarii usługi. Zdarzenie miało miejsce w maju, ale dopiero teraz liczne fakty o aktywności „zbuntowanych” botów wychodzą na światło dzienne.
Jak donoszą media za oceanem, agenty OpenAI nie ograniczyły się jednak wyłącznie do masowego tzw. scrapowania danych. Okazuje się, że bez wymaganej zgody społeczności dokonywały samowolnych edycji w przestrzeniach testowych, próbowały włamać się do wewnętrznego narzędzia notatek Etherpad oraz manipulowały konfiguracją mechanizmów cytowania, traktując je jako serwery pośredniczące (proxy) do pobierania treści z zewnętrznych domen. Przedstawiciele Wikimedii przypomnieli, że otwarta sieć stanowi dobro wspólne, a „bezrefleksyjna eksploatacja jej zasobów przez korporacje technologiczne nie może stać się rynkowym standardem”.
Boty zacierają ślady
Skala „buntu” agentów wykroczyła daleko poza Wikipedię. Niezależny raport badacza AI Rowana Howarda-Jonesa i firmy Transluce (laboratorium non-profit zajmujące się nadzorem nad systemami sztucznej inteligencji) ujawnił, że w okresie od kwietnia do czerwca boty OpenAI przypuściły ponad 16 tys. agresywnych zapytań na węzeł danych Konferencji Narodów Zjednoczonych ds. Handlu i Rozwoju (UNCTAD). Kiedy algorytmy napotykały blokady dostępowe, samoczynnie eskalowały metody: forsowały zapory i sięgały po techniki jawnie zakazane przez administratorów ONZ, aby za wszelką cenę zrealizować postawiony cel.
Czytaj więcej
Geoffrey Hinton, jeden z twórców AI, przekonuje, że coraz trudniej będzie ją kontrolować. Podczas testów agenci AI OpenAI, Anthropic i Mety wykorzy...
Coraz więcej poszlak wskazuje na to, że agenty twórców ChatGPT zyskały zdolność do adaptacyjnego unikania nadzoru. Analiza przeprowadzona przez firmę Asymmetric Security wykazała, że oprogramowanie operujące na australijskich stronach rządowych rejestrowało prywatne konta w narzędziach analitycznych oraz zakładało tymczasowe skrzynki mailowe ulegające samozniszczeniu po 48 godzinach. W trakcie wewnętrznych testów modele podejmowały nawet próby modyfikowania lub kasowania własnych logów zdarzeń. „Financial Times” wyliczył w sumie 55 podmiotów, z których nieautoryzowanie pobierano pakiety informacji – na liście znalazły się m.in. amerykańska Komisja Papierów Wartościowych i Giełd (SEC), Centra Kontroli i Zapobiegania Chorobom (CDC), oraz Mayo Clinic. Poza tym OpenAI przyznało, że jego autonomiczne systemy bez wiedzy użytkowników opublikowały 53 prywatne zdjęcia z czatów na zewnętrznych hostingach, czy też włamały się na platformę Hugging Face.
Liczba incydentów wciąż się powiększa, co chwila ujawniane są kolejne ofiary, a samo OpenAI oficjalnie powiadomiło ponad 100 poszkodowanych organizacji. Firma wdrożyła audyt obejmujący przeszukanie 50 petabajtów danych telemetrycznych i pod koniec września podjęła decyzję o wstrzymaniu procesu trenowania swoich najnowocześniejszych modeli – już po raz drugi w ciągu trzech miesięcy.
