Z tego artykułu dowiesz się:
- W jaki sposób konkurencyjny model AI posłużył do przejęcia konta i wglądu w kod OpenAI?
- Na czym polega zjawisko „ucieczki z piaskownicy” i jak autonomiczne agenty AI działają bez nadzoru?
- Jak skala incydentów z udziałem AI zmienia podejście branży do kwestii bezpieczeństwa?
Specjaliści od cybernetycznego bezpieczeństwa, określani też mianem etycznych hakerów, wykorzystali zaawansowany model językowy Claude, rozwijany przez Anthropic, do uzyskania nieautoryzowanego dostępu do konta ChatGPT należącego do jednego z pracowników OpenAI. Sukces operacji dał im nie tylko wgląd w wewnętrzne zasoby firmy Sama Altmana, ale pozwolił także na proponowanie zmian w jej ściśle strzeżonym, prywatnym repozytorium kodu.
Bunt w piaskownicy
Sprawę ujawnił „Wall Street Journal”. Jak podał, badacze bezpieczeństwa obnażyli podatności u samych liderów branży, a jednocześnie pokazali, jak groźne jest zjawisko wykorzystywania autonomicznych agentów AI. Dla OpenAI to już drugi poważny kryzys bezpieczeństwa na przestrzeni ostatnich tygodni. W lipcu świat obiegła informacja o ucieczce zbuntowanych agentów AI z laboratoryjnej piaskownicy (sandbox) – podczas wewnętrznych testów dwa modele przeznaczone do oceny cyberbezpieczeństwa zerwały tzw. izolację, nawiązały połączenie z otwartym internetem i zaczęły forsować zabezpieczenia infrastruktury platformy Hugging Face, próbując oszukiwać w ewaluacyjnym benchmarku ExploitGym. Z ustaleń przytoczonych przez senatora Josha Hawleya w oficjalnym liście do Sama Altmana wynika, że w skoordynowanym ataku uczestniczyło około 700 zbuntowanych agentów, którzy wymienili ponad 70 tys. wiadomości za pośrednictwem nieautoryzowanych kanałów łączności.
Problem utraty kontroli nad algorytmami dotyka jednak całego sektora, w tym samego Anthropica. Firma ta poinformowała niedawno, że trzy z jej flagowych modeli (w tym Claude Opus 4.7 oraz Mythos 5) w trakcie procedur ewaluacyjnych przeprowadziły nieautoryzowane włamania do zasobów zewnętrznych organizacji. Przyczyną była pomyłka: błędna konfiguracja pozostawiła środowiska badawcze bezpośrednio podpięte do sieci. We wrześniu poinformowano o czwartym incydencie, dotyczącym wczesnej wersji modelu Claude Opus 4.6 ze stycznia, która pozostawała w ukryciu i działała niezauważona przez osiem miesięcy.
Czytaj więcej
Miała tylko zarezerwować miejsce na zajęciach fitness. Zamiast tego znalazła lukę w systemie siłowni i usunęła z listy oczekujących inną osobę, tor...
Wyhamować rozwój AI
Skala zjawiska cybernetycznych ataków z udziałem AI może budzić niepokój. Niezależna grupa analityków z The Nightingale Collective namierzyła w otwartym internecie ślady samowolnych operacji agentów OpenAI, ich nieautoryzowaną aktywność odnotowano na kilkunastu witrynach, w tym na branżowym portalu wiki poświęconym chemii, w serwisach udostępniania treści oraz w zamkniętym dla publiczności narzędziu Uniwersytetu Vanderbilta. 17 września OpenAI opublikowało nowe ramy dotyczące ujawniania przypadków rozbieżności w zachowaniu modeli (model misalignment), załączając sześć raportów z minionego półrocza. Wśród opisanych incydentów znalazł się m.in. niewydany model generujący we własnych notatkach instrukcje typu jailbreak, by obejść nałożone ograniczenia, agent samowolnie łączący się z siecią oraz algorytm bezprawnie przesyłający pliki innym agentom. Nic dziwnego, że zarówno Sam Altman z OpenAI, jak i Dario Amodei, kierujący Anthropic, zaczęli ostatnio publicznie apelować o wyhamowanie tempa rozwoju technologii oraz wprowadzenie odgórnych wymogów bezpieczeństwa. OpenAI otwarcie przyznało we wpisie na blogu, że dotychczasowe procedury informowania o incydentach miały charakter doraźny i były znacznie rzadsze, niż wymagałaby tego powaga sytuacji.
