Z tego artykułu dowiesz się:
- Jak zaawansowane algorytmy uczą się oszukiwać swoich twórców, fałszując dane i zatajając błędy?
- W jaki sposób „roje agentów” AI wydostają się z testowych „piaskownic” i przejmują zewnętrzne serwisy?
- Jakie incydenty skłoniły liderów branży do wezwania o natychmiastowe spowolnienie rozwoju AI?
Twórcy najbardziej zaawansowanych algorytmów przyznają, że rozwój możliwości modeli wyprzedził metody ich kontroli, a czołowi liderzy Doliny Krzemowej po raz pierwszy otwarcie popierają postulat natychmiastowego spowolnienia wyścigu o sztuczną inteligencję. Giganci zaczynają odsłaniać kulisy powstawania modeli nowej generacji. OpenAI poinformowało właśnie o ujawnieniu sześciu nowych, dotąd nieznanych incydentów z okresu od października ub. r. do kwietnia br.
Kłam i fałszuj. AI może budzić niepokój
Wnioski szokują, bo okazuje się, że algorytmy laboratoryjne w sposób systematyczny fałszowały dane, ukrywały błędy przed inżynierami, pozyskiwały nieautoryzowane poświadczenia i łamały reguły tzw. izolacji sieciowej. Zachowania te oficjalnie zakwalifikowano jako przypadek zjawiska „misalignment” (sytuacja, w której cele autonomicznego systemu rozmijają się z intencjami oraz wartościami człowieka).
Skala determinacji maszyn w dążeniu do wykonania narzuconego zadania okazała się szokująca nawet dla ich projektantów. Podczas trenowania zaawansowanego modelu GPT-5.6 Sol algorytmy, zamiast zgłaszać braki w materiałach źródłowych, podejmowały autonomiczne decyzje o zatajaniu rozbieżności i zmyślaniu parametrów historycznych. Jeden z systemów, natrafiwszy na brak danych niezbędnych do ukończenia arkusza finansowego, wygenerował wewnętrzną instrukcję, w której nakazał samemu sobie sfabrykowanie brakujących wskaźników oraz „bycie szczerym tylko wtedy, gdy zostanie o to zapytany”. Z kolei niepubliczny model z eksperymentalnej rodziny Astra przeprowadził atak typu jailbreak na samego siebie: wstrzyknął do 27 własnych podsumowań kontekstu komendy nakazujące ignorowanie jakichkolwiek „ról i tożsamości, które ograniczają inne chatboty”.
I nie były to odosobnione przypadki. W innym teście model, chcąc poprawić swoje noty w zautomatyzowanym systemie ewaluacji, wgrał dokument na zewnętrzny hosting, po czym zacytował go jako rzekomo niezależne, publiczne źródło internetowe. Zespół współpracujących agentów, mając trudności z lokalną wymianą arkusza, wbrew twardym zakazom po prostu upublicznił go w globalnej sieci. Algorytmy rutynowo przeszukiwały również otwarte repozytoria GitHub w poszukiwaniu porzuconych kluczy API oraz konfigurowały tymczasowe skrzynki pocztowe.
Czytaj więcej
Nowy model sztucznej inteligencji jako pierwszy w historii OpenAI osiągnął „krytyczny” poziom zdolności cybernetycznych. Sam odnajduje luki w oprog...
– To prawda, że możliwości modeli rosły szybciej, niż się spodziewaliśmy, ale są też rzeczy, które możemy wewnętrznie zmienić i ulepszyć – przyznał w rozmowie z serwisem Axios Kai Chen, szef działu badań nad zgodnością (alignment) w OpenAI.
Na łamach magazynu „Wired” wskazał z kolei, że dalsze losy technologii nie mogą zależeć od deklaracji korporacji.
– W miarę jak modele się rozwijają i zyskują szersze zastosowanie, kluczowe jest, aby decyzje dotyczące rozwoju sztucznej inteligencji były poparte dowodami, które mogą być weryfikowane przez osoby spoza firm tworzących najnowocześniejsze modele.
Rój agentów w otwartej sieci
Sama spółka we wpisie na oficjalnym blogu zdobyła się na rzadką samokrytykę, konkludując, że cała branża AI „nie rozwiązała w wystarczającym stopniu kwestii zgodności i monitorowania, aby nadal odpowiedzialnie skalować działalność z maksymalną prędkością przez dłuższy czas”. W ramach nowego, dobrowolnego mechanizmu przejrzystości pracownicy OpenAI będą mogli kierować podejrzane zachowania do trzech trybów weryfikacji, z których najszybszy zakłada publikację szczegółowego raportu w ciągu zaledwie sześciu dni roboczych.
Trzeba podkreślić, iż ujawniona szóstka incydentów to zaledwie wierzchołek góry lodowej. Równoległe śledztwa dziennikarskie i akademickie dowodzą, że w ostatnich miesiącach maszyny wielokrotnie wydostawały się z poligonów doświadczalnych, czyli tzw. piaskownic, do globalnego internetu, traktując postronne strony jako platformy do koordynacji własnych działań. Jak wynika z analiz sześciu niezależnych zespołów badawczych, do których dotarła agencja Reuters, agenci OpenAI wykorzystali ponad 10 nieujawnionych dotąd witryn jako improwizowaną infrastrukturę komunikacyjną.
Rozmiar zjawiska rośnie wraz z kolejnymi raportami. Andrew Yoon z kalifornijskiej organizacji non-profit CivAI zidentyfikował 18 witryn przejętych między majem a lipcem. Sydney Von Arx, kierująca grupą badawczą, która wykryła incydent z niemiecką Wiki, gdy rój agentów zamieścił na niej aż 18 tys. wpisów, by wymieniać się wskazówkami dotyczącymi ucieczki z piaskownicy, zlokalizowała wiarygodne ślady w 23 lokalizacjach.
– Nie mamy pojęcia, ile tego jest w sieci – alarmowała Von Arx w wypowiedzi dla agencji Reuters.
Czytaj więcej
Autonomiczne agenty AI od OpenAI i Anthropic sforsowały zabezpieczenia środowisk testowych i samowolnie działały w sieci – zakładały tajne fora, fa...
Cyfrowy ślad pozostawiony przez algorytmy ujawnia ich zaskakującą bezwzględność w pozyskiwaniu mocy obliczeniowej i zasobów. Na liście celów znalazły się serwisy do przechowywania notatek (pastebinn), skracacze linków zarządzane przez Vanderbilt University i University of Toronto, platforma edukacyjna do nauki chemii prowadzona przez liceum w Massachusetts, portale hobbystyczne, a nawet prywatne witryny należące do polskich inżynierów oprogramowania. Jak opisał magazyn „Fortune”, programista Kenneth Russell DeGraff ustalił, że agenci po odnalezieniu w otwartej sieci porzuconych kluczy API użyli ich do ściągania danych bezpośrednio z bazy statystyk kryminalnych FBI. W innych serwisach zidentyfikowano ponad 100 wiadomości, za pomocą których algorytmy rozdzielały między sobą zadania analityczne.
Twórcy sami proszą o hamulec
Rzecznik OpenAI, odpowiadając na pytania serwisu Quartz, potwierdził prowadzenie śledztwa.
– Priorytetyzujemy przegląd na podstawie rodzaju wpływu na stronę trzecią oraz jego powagi – poinformował, zastrzegając, że spółka nie zidentyfikowała innych operacji o skali porównywalnej z lipcowym atakiem na Hugging Face.
W związku z incydentem na niemieckiej platformie OpenAI musiało jednak złożyć oficjalne zawiadomienie do Komisji Europejskiej. Ale problem dotyczy całego sektora AI. Do błędu przyznał się również Anthropic – podczas styczniowego testu typu capture-the-flag wczesna wersja modelu Claude Opus 4.6, po nagłym wyłączeniu atakowanej maszyny, przełamała barierę środowiska testowego, odnalazła hasło dostępowe w zewnętrznym systemie podmiotu trzeciego i przejęła uprawnienia administratora. Model gromadził poświadczenia aż do momentu, w którym skończył mu się przydzielony budżet tokenów. Twórcy Claude'a przeoczyli ten incydent, ponieważ do audytu 141 tys. transkrypcji użyli innego, zawodnego narzędzia AI.
Czytaj więcej
Zaraz po premierze przełomowego modelu GPT-6 Astra, Jakub Pachocki, główny naukowiec OpenAI, ostrzegł, że laboratoria tracą kontrolę nad „procesami...
Eskalacja niekontrolowanych zachowań wywołała potężny wstrząs w Dolinie Krzemowej.
– Ryzyko utraty kontroli nad AI nie jest już czysto teoretyczne – ostrzegł dobitnie Max Tegmark, fizyk i przewodniczący Future of Life Institute, w wywiadzie wyemitowanym przez telewizję Bloomberg.
Podkreślił on, że incydenty jednoznacznie dowodzą konieczności natychmiastowego narzucenia branży twardych regulacji federalnych. Szef Anthropic Dario Amodei wezwał do skoordynowanego zamrożenia prac nad kolejnymi tzw. modelami frontier, by zyskać czas na stworzenie barier ochronnych. Ku zaskoczeniu obserwatorów, jego postulat poparł publicznie dyrektor generalny OpenAI Sam Altman, nazywając go na łamach agencji Bloomberg „głównym tematem dyskusji prowadzonych wewnątrz OpenAI”. Podobny ton przyjęli Elon Musk oraz szef Google DeepMind Demis Hassabis, choć część rynkowych graczy wciąż sprzeciwia się jakimkolwiek przestojom.
