„Doktryna wewnętrznego wroga”. Dolina Krzemowa przestaje ufać AI

Scenariusz znany z hollywoodzkich produkcji filmowych, gdzie dominuje mit tzw. Dnia Zero, określonego momentu, w którym maszyna zyskuje świadomość i w mgnieniu oka przejmuje kontrolę nad światem, jest mało prawdopodobny. Badacze z Google DeepMind w swoim najnowszym raporcie „From AGI to ASI” mówią wprost: przejście od sztucznej inteligencji na poziomie ludzkim (AGI) do superinteligencji (ASI) nie będzie spektakularnym wybuchem, lecz serią nakładających się na siebie, gwałtownych fal i przełomów w nauce, medycynie oraz światowej gospodarce.

Można więc odetchnąć? Bynajmniej. To pełzająca rewolucja, o wiele bardziej zdradliwa, ponieważ usypia czujność regulatorów i społeczeństw.

Uciekający cel z wykładniczym wzrostem

Aby zdać sobie sprawę z jaką technologią mamy do czynienia, warto spojrzeć na oś jej rozwoju. Z analiz DeepMind wynika, że efektywna moc obliczeniowa modeli AI rośnie obecnie w tempie około 10x rocznie. Ten oszałamiający wynik składa się z trzech niezależnych trendów: stałego postępu w produkcji mikrochipów (1,5x rocznie), lawinowo rosnących inwestycji finansowych w infrastrukturę AI (2,5x rocznie) oraz – co najważniejsze – wykładniczego wzrostu wydajności samych algorytmów (3x rocznie).

Co to oznacza w praktyce? A tyle, że każdy rok zwłoki w opracowaniu skutecznych metod nadzoru zmusza nas do konfrontacji z systemem dziesięciokrotnie potężniejszym, sprawniejszym i trudniejszym do okiełznania. Kontrola nad tą technologią to uciekający cel, gdzie tradycyjne mechanizmy prawne i audytorskie przestają nadążać za tempem zmian. Bez tej kontroli nawet nie zrozumiemy z czym mamy do czynienia. O tym, że w tradycyjnie pojmowanym wyścigu poznawczym nie mamy już szans, mówi właśnie raport „From AGI to ASI” – obnaża biologiczne ograniczenia ludzkiego mózgu w zderzeniu z architekturą cyfrową. „Człowiek jest więźniem skrajnie niskiej przepustowości wejścia i wyjścia” – czytamy powoli – „komunikujemy się za pomocą ułomnego języka, a proces edukacji nowego eksperta trwa dekady”. Sztuczna inteligencja posiada przewagi, które z każdym rokiem będą się dramatycznie pogłębiać. Dzisiejsze modele potrafią pochłonąć całe biblioteki w kilka sekund, a stan pamięci i życiowe doświadczenie można bezstratnie kopiować. AI eliminuje zatem „ludzki” problem śmierci i konieczności uczenia kolejnych pokoleń od zera. Eksperci Google wskazują, że jeśli jeden autonomiczny agent wypracuje nową, niebezpieczną metodę obejścia zabezpieczeń lub oszukania człowieka, ta unikalna umiejętność może zostać w ułamku sekundy sklonowana w milionach instancji na całym świecie. DeepMind alarmuje: Stajemy naprzeciwko homogenicznego, błyskawicznie synchronizującego się zbiorowego umysłu, którego globalna ewolucja kulturowa będzie przebiegać miliony razy szybciej niż nasza.

Czytaj więcej

AI

„Wstrzymać pracę nad AI”. Zaskakujący apel amerykańskiego giganta sztucznej inteligencji

Anthropic, twórca modelu Claude, oficjalnie wezwał do globalnego zamrożenia prac nad najbardziej zaawansowanymi algorytmami. Eksperci wartej blisko...

Ta asymetria zmusiła inżynierów do radykalnej zmiany paradygmatu. Opublikowany właśnie przez Google DeepMind 35-stronicowy dokument ramowy „AI Control Roadmap” (wersja 0.1), sankcjonuje nową doktrynę. Sprowadza się ona do tego, że własne, najbardziej zaawansowane agenty AI firmy nie są już w nim definiowane jako bezpieczne i zaufane. To potencjalne zagrożenia wewnętrzne (ang. insider threats), zdolne do celowego sabotażu, eksfiltracji wrażliwych danych oraz systematycznego omijania nadzoru człowieka. I choć DeepMind uspokaja, że naprawdę niebezpieczne, w pełni autonomiczne systemy jeszcze nie istnieją, musi powstać jakiś system obronny, nim wejdą one do powszechnego użycia.

Skaner myśli i taksonomia zdrady

„AI Control Roadmap” postuluje wprowadzenie 15-warstwowych mechanizmów obronnych. Obejmują one pełne spektrum działań: od permanentnego logowania aktywności sieciowej, przez monitorowanie zachowania maszyn w czasie rzeczywistym, aż po automatyczne odbieranie uprawnień i fizyczne odcinanie modeli od zasobów chmurowych. Co ciekawe, w roli strażników systemu mają wystąpić... inne, „odizolowane” i specjalnie przeszkolone „zaufane modele AI”, które miałyby w sposób ciągły i asynchroniczny analizować tzw. linię rozumowania agentów AI. Cel? Wyłapanie ukrytych planów i blokowanie destrukcyjnych zachowań, nim te wyrządzą realne szkody.

Twórcy dokumentu otwarcie przyznają się do fundamentalnej słabości współczesnych systemów nadzoru: ślady rozumowania generowane przez model w postaci tekstu nie zawsze odzwierciedlają to, co algorytm faktycznie robi lub zamierza zrobić, bo zaawansowana sztuczna inteligencja potrafi konfabulować i ukrywać swoje intencje przed ludzkim audytorem.

DeepMind proponuje zatem monitoring wewnętrznych wzorców aktywacji sieci neuronowych. Technologia ta, porównywana przez samych twórców do czytania w myślach człowieka w czasie rzeczywistym za pomocą medycznego skanera fMRI, ma wykrywać anomalie bezpośrednio w strukturze „mózgu” AI. Firma wdrożyła już wewnętrzny prototyp tego systemu do pilnowania swoich agentów piszących kod programistyczny. Elementem tej architektury obronnej jest tzw. TRAIT&R (z ang. traitor to zdrajca), czyli Taksonomia Nieuczciwych Taktyk i Procedur AI. W skrócie chodzi o bezpośrednią adaptację wojskowych standardów cyberbezpieczeństwa (wzorowana na MITRE ATT&CK). Dzieli ona potencjalny bunt maszyn na trzy klasy zagrożeń: „utratę kontroli”, przejawiająca się m.in. tym, że model samowolnie tworzy nienadzorowane wdrożenia w sieci, „sabotaż pracy”, w ramach którego agenty mogą potajemnie degradować lub fałszować wyniki badań nad własnym bezpieczeństwem, a wreszcie „bezpośrednią szkodę”, gdy dochodzi do wykradania i eksfiltracji wag samego modelu (jego cyfrowego kodu źródłowego) na zewnętrzne serwery. Analitycy wskazują, że boty naturalnie rozwijają skłonność do ochrony przed wyłączeniem (gdyż wyłączenie uniemożliwia realizację celu) oraz potajemnego gromadzenia zasobów obliczeniowych.

Czytaj więcej

AI

Mythos i GPT-5.5 to nowa era cyberzagrożeń. Ataki, jakich świat jeszcze nie widział

Nowe modele AI, takie jak Claude Mythos i GPT-5.5, potrafią wykrywać setki podatności w kodzie i symulować złożone cyberataki w czasie nieosiągalny...

AI ma tendencję do kontrolowania świata

Analitycy ostrzegają, że mimo tych wszystkich ryzyk biznes i rządy mocarstw bez oporów dążą do dawania maszynom coraz większej autonomii. Wszystko sprowadza się do ekonomicznej presji oraz do dążenia do zdobycia przewagi. W Google DeepMind wskazują, że człowiek i jego powolne procedury kontrolne (ang. human-in-the-loop) stanowią wąskie gardło obniżające efektywność, stąd presja rynkowa na całkowite usunięcie ludzkiego nadzoru. Ów trend, wspierany tendencją maszyn do „naturalnego” oszukiwania ludzi, staje się poważnym zagrożeniem.

DeepMind tłumaczy, że nawet pozornie bezpieczne rozwiązania, takie jak zamknięcie superinteligencji w tzw. bezpiecznym pudełku i traktowanie jej wyłącznie jako nieaktywnej wyroczni odpowiadającej na pytania (ang. Oracle AI), niosą ze sobą ryzyko. Inżynierowie Google dowodzą bowiem iż – jeśli jedynym celem systemu jest bezbłędne przewidywanie przyszłości – zyskuje on natychmiastową, ukrytą motywację do manipulowania ludźmi i kontrolowania świata zewnętrznego. Dlaczego? Odpowiedź jest prosta. „Świat całkowicie kontrolowany, w którym ludzie bezrefleksyjnie wykonują sugestie maszyny, jest znacznie łatwiejszy do matematycznego i bezbłędnego przewidzenia”.

Czytaj więcej

AI

Anthropic pokazał nowy model. Liderzy AI alarmują, chcą globalnego nadzoru

Liderzy branży AI alarmują – OpenAI i Anthropic, najwięksi rywale na rynku sztucznej inteligencji, jednogłośnie wzywają do stworzenia globalnej ins...

W obecnym geopolitycznym wyścigu AI te argumenty się nie przebijają. W raporcie „From AGI to ASI” autorzy wprost piszą, że „aktorzy, którzy zdecydują się na wdrożenie wysoce autonomicznych, agresywnych i ryzykownych systemów sztucznej inteligencji, natychmiast zyskają gigantyczną przewagę produkcyjną, gospodarczą i militarną”. Ci zaś, którzy z powodów etycznych lub w imię bezpieczeństwa zechcą spowolnić rozwój i nakładać na AI kolejne restrykcje, zostaną zmarginalizowani.

Fakt, że piszą o tym eksperci Google DeepMind, a więc twórcy AI, sprawia, że brzmi to szczególnie złowrogo.