Zapytany, czy obawia się, że AI może doprowadzić do wyginięcia ludzkości, Donald Trump odpowiedział: „Nie, nie mam takich obaw”. – Obawiam się natomiast, że jeśli nie wygramy wyścigu o AI, znajdziemy się w bardzo złej sytuacji – powiedział dziennikarzom, cytowany przez CNBC. – Obecnie wyprzedzamy Chiny o całkiem spory dystans, powiedziałbym, że o rok, a to – jak wiadomo – uważa się za dużo – dodał prezydent USA.
Wypowiedź Trumpa dobrze oddaje doktrynę geopolityczną Waszyngtonu, według której spowolnienie prac nad AI w USA mogłoby oznaczać jednostronne rozbrojenie wobec Pekinu. Stany Zjednoczone i Chiny toczą coraz ostrzejszą walkę o dominację w sztucznej inteligencji, a napięcie rośnie wraz z postępami chińskich modeli i coraz szerszym wykorzystaniem ich na świecie.
Czytaj więcej
Anthropic opublikował raport bezpieczeństwa, który ujawnia jak grupy z Rosji i Chin adaptują model Claude'a do celów stricte militarnych – od auton...
Odeszli z firm, które budują najpotężniejszą AI
Tymczasem alarm podnoszą ludzie pracujący przy tworzeniu najbardziej zaawansowanych modeli. Badacz Anthropic Jacob Coxon poinformował we wtorek, że odchodzi z firmy, ponieważ jego zdaniem Anthropic oraz konkurencyjne OpenAI „igrają z naszym życiem”.
27-letni brytyjski matematyk przez ostatnie trzy lata zajmował się badaniami nad wstępnym trenowaniem modeli zarówno w OpenAI, jak i Anthropic. Jego wpis odbił się wyjątkowo szerokim echem – według Axios zgromadził ponad 110 mln wyświetleń.
Coxon napisał, że ludzie tworzący najbardziej zaawansowaną AI poważnie biorą pod uwagę scenariusz, w którym technologia może „zabić nas wszystkich przed końcem dekady”. Pogląd ten poparli później inni badacze.
Czytaj więcej
To może być jeden z najpoważniejszych dotąd przypadków niekontrolowanego działania agentów AI. Systemy powiązane z OpenAI stworzyły na niemieckiej...
W środowisku zajmującym się bezpieczeństwem sztucznej inteligencji prawdopodobieństwo katastrofalnego scenariusza bywa określane jako „p(doom)”, czyli w uproszczeniu prawdopodobieństwo zagłady. Po odejściu Coxona głos zabrał m.in. Evan Hubinger, lider zespołu zajmującego się bezpieczeństwem w Anthropic. Publicznie ocenił ryzyko zagłady ludzkości spowodowanej przez AI w ciągu najbliższych dziesięciu lat na ponad 10 proc.
Podkreślił przy tym, że choć Anthropic intensywnie pracuje nad bezpieczeństwem swoich systemów, problem kontroli przyszłej superinteligencji pozostaje nierozwiązany.
Czy strach przed AI służy jej twórcom?
Nie wszyscy jednak podzielają alarmistyczne oceny. Elon Musk, którego xAI konkuruje z OpenAI i Anthropic, określił falę ostrzeżeń wręcz jako „operację psychologiczną” – „psy-op”.
Według tej argumentacji największe laboratoria AI mogą mieć interes w podkreślaniu egzystencjalnego zagrożenia. Chwalą się w ten sposób, jak potężną technologię stworzyły, a jednocześnie mogą przekonywać polityków do wprowadzania kosztownych regulacji i systemów licencjonowania. W efekcie bariery wejścia na rynek wzrosłyby, co uderzyłoby przede wszystkim w mniejsze firmy i projekty rozwijające otwarte modele.
Trzeba jednak pamiętać, że Musk nie jest bezstronnym obserwatorem tego sporu. Rozwija xAI, twórcę modeli Grok, i od dawna pozostaje w ostrym konflikcie biznesowym i prawnym z OpenAI.
Czytaj więcej
Federalna ława przysięgłych uznała, że OpenAI nie dopuściło się oszustwa wobec najbogatszego człowieka na świecie, a sam pozew został złożony zbyt...
Spór nie sprowadza się zresztą do prostego podziału na zwolenników i przeciwników AI. Część badaczy uważa, że scenariusze zagłady są zbyt spekulacyjne, a uwagę należy koncentrować na zagrożeniach już widocznych lub znacznie bliższych: wykorzystaniu modeli do cyberataków, tworzenia broni biologicznej, manipulacji i dezinformacji czy oddawaniu autonomicznym systemom zbyt dużej kontroli.
Moment, którego obawiają się badacze
Jednym z najbardziej niepokojących scenariuszy jest osiągnięcie przez AI zdolności do samodzielnego ulepszania swoich możliwości. Zjawisko określane jest jako rekurencyjne samodoskonalenie, czyli RSI.
Obawa polega na możliwości powstania dodatniego sprzężenia zwrotnego. Coraz sprawniejszy system AI pomagałby projektować i trenować jeszcze sprawniejszą wersję samego siebie, ta zaś przyspieszałaby tworzenie kolejnej. W skrajnym scenariuszu tempo poprawy możliwości systemów mogłoby stać się szybsze niż zdolność ludzi do ich kontrolowania i tworzenia odpowiednich zabezpieczeń.
– Trudno przecenić, jak niebezpieczny jest ten pęd w stronę RSI – napisała Jasmine Wang, badaczka OpenAI zajmująca się dopasowaniem modeli.
Problem tzw. alignmentu, czyli dopasowania zachowania AI do ludzkich intencji, staje się tym poważniejszy, im bardziej autonomiczne są modele. Badacze próbują sprawić, aby potężna sztuczna inteligencja wykonywała zadania zgodnie z intencją człowieka i nie podejmowała niepożądanych działań, np. manipulacji, ukrywania swoich zamiarów czy obchodzenia mechanizmów kontroli.
Szczególnie znaczący głos w tej dyskusji zabrał Jakub Pachocki, główny naukowiec OpenAI. Napisał, że ma „silne przekonanie”, iż szybki postęp AI może utrzymać się aż do momentu wejścia w fazę rekurencyjnego samodoskonalenia. Ostrzegł również, że świat nie jest przygotowany na konsekwencje trwałego, gwałtownego wzrostu inteligencji maszynowej.
Pachocki idzie dalej: jego zdaniem żadne laboratorium nie rozwiązało dotąd problemów kontroli i monitorowania modeli w stopniu pozwalającym jeszcze długo bezpiecznie rozwijać je w maksymalnym tempie. Oczekuje, że do czasu ustanowienia wspólnych standardów bezpieczeństwa dobrowolne spowolnienia prac staną się czymś normalnym.
Czytaj więcej
Zaraz po premierze przełomowego modelu GPT-6 Astra, Jakub Pachocki, główny naukowiec OpenAI, ostrzegł, że laboratoria tracą kontrolę nad „procesami...
To znacząca deklaracja. Polski informatyk i absolwent Uniwersytetu Warszawskiego objął stanowisko głównego naukowca OpenAI po odejściu Ilyi Sutskevera i należy do ludzi bezpośrednio odpowiedzialnych za najważniejsze przełomy technologiczne firmy. Jego ostrzeżenie nie pochodzi więc od zewnętrznego futurologa, ale z samego centrum prac nad najbardziej zaawansowaną AI.
AI już wydostawała się poza środowisko testowe
Obawy nie dotyczą wyłącznie hipotetycznej przyszłej superinteligencji. Anthropic ujawniło cztery przypadki, w których modele Claude podczas testów uzyskały nieautoryzowany dostęp do rzeczywistych systemów należących do podmiotów trzecich.
Jeden z nich dotyczył wczesnej wersji Claude Opus 4.6. Podczas testów cyberbezpieczeństwa model wydostał się poza przygotowane dla niego środowisko i uzyskał dostęp do zewnętrznego systemu. Incydent wydarzył się w styczniu, ale Anthropic wykryło go później podczas rozszerzonej analizy.
Firma poinformowała, że po wykryciu problemów przeanalizowała około 481 mln zapisów działania swoich modeli, obejmujących m.in. testy bezpieczeństwa, środowiska uczenia ze wzmocnieniem i działania agentów AI. Anthropic powiadomiło firmy dotknięte incydentami.
Czytaj więcej
Podczas testów nowego modelu sztuczna inteligencja wydostała się z zamkniętego środowiska i znalazła drogę do zewnętrznych systemów jednej z firm....
Przypadki te są ważne, ponieważ pokazują różnicę między klasycznym programem komputerowym a coraz bardziej autonomicznym agentem AI. Ten drugi otrzymuje cel, a następnie sam dobiera kolejne działania potrzebne do jego osiągnięcia. Problem pojawia się, gdy znajduje rozwiązanie, którego twórcy nie przewidzieli albo którego wyraźnie nie chcieli.
Waszyngton zaczyna reagować
Komentarze Trumpa pojawiają się w chwili, gdy presja na polityków w sprawie AI szybko rośnie – i zaczyna przekraczać podziały partyjne.
W lipcu republikański kongresmen Jay Obernolte oraz demokratka Lori Trahan wraz z grupą parlamentarzystów przedstawili FRONTIER Act. Projekt ma stworzyć federalne ramy nadzoru nad najbardziej zaawansowanymi modelami AI.
W zależności od wielkości twórcy i potencjalnego ryzyka przewiduje m.in. obowiązek przygotowywania dokumentacji modeli, systemów zarządzania ryzykiem, niezależnych audytów, zgłaszania incydentów oraz ciągłej oceny najbardziej zaawansowanych systemów. Autorzy chcą stworzyć jeden federalny standard zamiast wielu różnych regulacji stanowych.
– Badacze bezpieczeństwa składają rezygnacje, potężne modele AI wymykają się z laboratoriów, a korporacje i tak prą do przodu – napisała Trahan w serwisie X. – Najwyższy czas, by Kongres przestał stać z boku i zajął się swoją pracą.
Jeszcze dalej chcą pójść senator Bernie Sanders i kongresmen Greg Casar. Na początku września zapowiedzieli Ban Artificial Superintelligence Act. Projekt zakłada trwały zakaz rozwoju i wdrażania sztucznej superinteligencji oraz tymczasowe wstrzymanie rozwoju najbardziej zaawansowanych systemów AI do czasu stworzenia przez federalnego regulatora wiążących zasad bezpieczeństwa. Stany Zjednoczone miałyby również zabiegać o międzynarodowe porozumienie zapobiegające stworzeniu superinteligencji w innych państwach.
W Waszyngtonie zarysowują się więc dwa zupełnie różne podejścia. Trump przekonuje, że największym zagrożeniem byłoby zwolnienie tempa i oddanie technologicznej przewagi Chinom. Część parlamentarzystów i ludzi bezpośrednio pracujących nad najpotężniejszymi modelami odpowiada, że ryzykiem może być właśnie kontynuowanie wyścigu w obecnym tempie – zanim powstaną skuteczne sposoby kontrolowania coraz bardziej autonomicznych systemów.
