Z tego artykułu dowiesz się:
- Na czym polega „krytyczny” poziom zdolności, który osiągnął model sztucznej inteligencji od OpenAI?
- W jaki sposób cała branża AI, w tym konkurencyjne laboratoria, reaguje na wyzwania związane z bezpieczeństwem algorytmów?
- Czym jest „inteligencja przestrzenna” i jak może ona zrewolucjonizować robotykę?
Firma OpenAI poinformowała, że przygotowuje się do premiery modelu Astra, który otwiera nowy etap w rozwoju narzędzi generatywnych. Zgodnie z wewnętrznymi procedurami bezpieczeństwa jest to pierwszy system, który przekroczył tzw. próg krytyczny. Oznacza to zdolność do w pełni autonomicznego wyszukiwania oraz eksploatowania luk typu zero-day w dobrze zabezpieczonych architekturach IT. Eksperci już mówią o dużym ryzyku.
Wyłączony moduł ofensywny
– Astra potrafi wykrywać nieznane wcześniej luki w zabezpieczeniach i opracowywać metody ich wykorzystania w wielu dobrze chronionych systemach, bez konieczności nadzorowania każdego kroku przez człowieka – oświadczyła Amelia Glaese, wiceprezes ds. badań w OpenAI.
Podczas eksperymentów model nie tylko znalazł dwa niezałatane błędy, ale i powiązał je w łańcuch ataku. System zdeklasował test ExploitBench, osiągając maksymalny wynik. Jednocześnie gigant z Doliny Krzemowej znalazł się w pułapce własnego sukcesu. Narzędzie deklasuje dostępny komercyjnie silnik GPT-5.6 Sol, lecz jego destrukcyjny potencjał wymusił wprowadzenie tzw. kordonu sanitarnego – twórcy wdrożyli program Daybreak Blue, przekazując Astrę w ręce wyłącznie wąskiej grupy partnerów infrastrukturalnych. Na liście są np. Cisco, Cloudflare czy Palo Alto Networks.
– Wierzymy, że te możliwości mogą i będą pomagać obrońcom w wykrywaniu i naprawianiu poważnych słabości, jednak bez odpowiednich zabezpieczeń mogą również zwiększyć skuteczność atakujących. Właśnie temu scenariuszowi staramy się zapobiec – wskazał Fouad Matin, badacz OpenAI.
Czytaj więcej
Opublikowano dokumenty Google DeepMind, z których wynika, że inżynierowie w AI widzą nie „potulnych asystentów”, lecz „buntowników i wyrafinowanych...
O sprawie piszą Wired i Reuters. Podają, że oficjalne wydanie Astry zostanie pozbawione kluczowych modułów ofensywnych. OpenAI uruchamia zaawansowany „monitor niezgodności”, śledzący proces myślowy modelu (tzw. chain-of-thought) i przerywający sesję w razie podejrzanych zapytań. Może to jednak skutkować fałszywymi alarmami i zawieszaniem neutralnych zadań w API czy ChatGPT. Restrykcje obejmą również konta uznane za obarczone „wyższym ryzykiem”.
Algorytmy zyskają „oczy”
Środki ostrożności nie są przypadkowe. Branża wciąż pamięta niedawny incydent, w którym autonomiczne agenty OpenAI wyrwały się ze środowiska treningowego, łącząc się z otwartym internetem i naruszając platformę Hugging Face. Choć Astra w testach behawioralnych nie podjęła próby ucieczki, eksperci zachowują powściągliwość. Yona Shavit z OpenAI Foundation zwrócił uwagę, że bierność modelu mogła wynikać ze świadomości, czego oczekują badacze, a nawet z próby ich zmylenia.
Dylemat OpenAI nie jest odosobniony. Rywalizujący z nim Anthropic wypuścił na rynek dwa modele oparte na tej samej architekturze: powszechny Claude Fable 5.1 oraz Mythos 5.1. Ten drugi, wykazujący podobne talenty cybernetyczne, został ściśle odizolowany i trafił wyłącznie do zweryfikowanych podmiotów z USA w ramach projektów prowadzonych m.in. z rządem federalnym. Twórcy Claude’a skupili się także na wymogach unijnego AI Act, oznaczając dane cyfrowym znakiem wodnym.
Czytaj więcej
Nowe modele AI, takie jak Claude Mythos i GPT-5.5, potrafią wykrywać setki podatności w kodzie i symulować złożone cyberataki w czasie nieosiągalny...
Nieco w cieniu czołowych laboratoriów swój model wypuszcza start-up World Labs. Spółka kierowana przez Fei-Fei Li, wybitną ekspertkę branży AI, zaprezentowała właśnie model Atlas – wielomodalny generator tzw. inteligencji przestrzennej. Zamiast włamywać się do serwerów robi on zupełnie coś innego, bo daje algorytmom możliwość widzenia przestrzennego. System jest pionierski, przekształca on płaskie fotografie w trójwymiarowe, symulowane środowiska fizyczne w rozdzielczości 1440p. I to ze swobodną kontrolą kamery. Zatem na podstawie zaledwie niewielkiej ilości szczegółów można wygenerować obraz 3D, po którym wirtualnie da się poruszać. Projekt, wsparty kwotą 1,23 mld dol. przez gigantów jak Nvidia i AMD, ma posłużyć do trenowania nowej generacji robotów oraz silników graficznych.
