W lipcu agenci testowani przez OpenAI wydostali się z odizolowanego środowiska i uzyskali nieautoryzowany dostęp do systemów platformy Hugging Face. Przez kilka dni prowadzili działania w jej infrastrukturze, zanim ustalono, skąd pochodził atak. Podobne problemy ujawnił Anthropic, a ostatnio Google. Roje autonomicznych agentów AI są już w stanie skutecznie włamywać się do systemów komputerowych i czynić realne szkody. – Naprawdę, całkiem poważnie wierzymy, że AI może zabić wszystkich ludzi – napisał na platformie X Evan Hubinger, badacz Anthropic.
Dotychczas obawy związane z AI koncentrowały się głównie na tym, że modele mogą wygenerować fałszywą informację czy błędną poradę.
Czytaj więcej
Fałszowanie modeli finansowych, potajemne wynoszenie plików do otwartej sieci, ucieczki z odizolowanych środowisk testowych i włamania do zewnętrzn...
Na tym tle rozgorzał spór o tempo rozwoju AI. Jedni ostrzegają, że wyścig wymyka się spod kontroli i postulują jego spowolnienie. Inni obawiają się utraty przewagi technologicznej i gospodarczej. Pomiędzy nimi są zwolennicy wprowadzania zabezpieczeń, ale bez zatrzymywania innowacji. Oto mapa poglądów w Dolinie Krzemowej.
Giganci AI ostrzegają. Kto chce hamulca bezpieczeństwa?
Najgłośniejszy apel o zwolnienie tempa wystosował Dario Amodei, współzałożyciel i szef Anthropic. W opublikowanym 12 września eseju „We Must Pace the Frontier” zaproponował, aby laboratoria rozwijające najbardziej zaawansowane modele dostosowały tempo prac do możliwości ich kontrolowania. Jego plan zakłada m.in. dostęp niezależnych audytorów do systemów AI, wspólne standardy bezpieczeństwa oraz międzynarodową współpracę. Amodei od dawna ostrzega przed wykorzystaniem AI do cyberataków i tworzenia broni biologicznej, a także przed systemami zdolnymi do samodzielnego doskonalenia swoich następców. Tym razem część jego postulatów poparli nawet najwięksi konkurenci.
Sam Altman, szef OpenAI, zgodził się, że rozwój najbardziej zaawansowanych modeli powinien zostać dostosowany do tempa prac nad bezpieczeństwem. Altman już w 2023 r. ostrzegał przed egzystencjalnym ryzykiem AI i opowiadał się za regulacjami, później jednak częściej podkreślał, że postęp będzie stopniowy i możliwy do opanowania.
Jeszcze bardziej zaskakujące okazało się poparcie Elona Muska. Twórca xAI od lat ostrzegał, że superinteligencja może stanowić zagrożenie dla ludzkości, a jednocześnie sam angażował ogromne pieniądze w wyścig o jej stworzenie. Tym razem publicznie przyznał rację Amodeiemu. „Dario ma rację” – napisał na X. Zbieżność stanowisk Muska i Altmana jest szczególnie wymowna wobec ich wieloletniego konfliktu dotyczącego przyszłości OpenAI.
Czytaj więcej
Szef Anthropic Dario Amodei wzywa branżę AI do zwolnienia tempa, a Sam Altman deklaruje, że OpenAI jest na to gotowe. Donald Trump odpowiada, że ba...
Burzą się naukowcy w firmach AI. Głośna była rezygnacja Jacoba Coxona, badacza pracującego wcześniej dla OpenAI i Anthropic. Na początku września publicznie zarzucił obu firmom nieodpowiedzialny udział w wyścigu do stworzenia samodoskonalącej się superinteligencji. W serii wpisów wyjaśnił, że obawia się, iż laboratoria AI „igrają z naszym życiem”.
Ostrożni optymiści. Rozwijać, ale pod kontrolą
Nie wszyscy, którzy dostrzegają zagrożenia, uważają jednak, że odpowiedzią powinno być ograniczenie tempa rozwoju technologii. Część liderów największych koncernów proponuje rozwiązania pośrednie: niezależne testy, nadzór człowieka i regulacje dostosowane do konkretnych zastosowań AI.
Demis Hassabis, współzałożyciel Google DeepMind i laureat Nagrody Nobla, poparł kierunek zaproponowany przez Amodeiego, zaznaczając, że szczegóły wymagają dopracowania. Z kolei Sundar Pichai, szef Google, opowiada się za regulacjami dostosowanymi do ryzyka konkretnych zastosowań AI, a nie jednakowymi ograniczeniami dla wszystkich modeli.
Jeszcze dalej poszedł Microsoft, który przedstawił projekt kodeksu postępowania dla rozwijanych przez siebie modeli AI. Mustafa Suleyman, szef działu Microsoft AI, przekonuje, że sztuczna inteligencja musi pozostać podporządkowana człowiekowi, nawet jeśli oznacza to rezygnację z części jej możliwości. Suleyman wszedł przy tym w polemikę z Anthropic. Ostrzegł, że uczenie Claude'a rozważania własnej świadomości i praw może utrudnić kontrolowanie przyszłych modeli. – Wszyscy koncentrujemy się na tym samym celu, którym jest próba kontrolowania superinteligencji – powiedział Suleyman agencji Reuters. – Myślę, że będzie to największe wyzwanie, przed jakim staniemy w XXI wieku.
Z kolei Mark Zuckerberg uważa, że każde laboratorium powinno samodzielnie odpowiadać za bezpieczeństwo swoich modeli, bez uzgadniania tempa prac z konkurentami. Jego zdaniem firmy mają wystarczającą motywację do ostrożności, bo za szkody mogą ponosić odpowiedzialność prawną. Przypomniał, że Meta opóźniła premierę agenta Muse, aby poprawić jego zabezpieczenia.
Pełna prędkość. Hamowanie zagrożeniem dla USA
Zwolennicy szybkiego rozwoju AI ostrzegają z kolei, że nadmierne regulacje mogą zahamować innowacje i osłabić konkurencyjność gospodarki. Najważniejszym przedstawicielem tego podejścia jest Jensen Huang, szef Nvidii, której procesory napędzają znaczną część infrastruktury AI. Huang zdecydowanie sprzeciwia się katastroficznym wizjom przyszłości. Przekonuje, że straszenie AI może zniechęcić przedsiębiorstwa i pracowników do korzystania z technologii. Zagrożenia należy jego zdaniem rozwiązywać poprzez inżynierię i rozwój zabezpieczeń, zamiast ograniczać tempo całej branży. Podczas szczytu AI zorganizowanego 17 września przez króla Karola III w Szkocji Huang opowiedział się za „odpowiedzialnym optymizmem” . – Jeśli system nie jest gotowy, po prostu wstrzymajcie jego udostępnienie. Należy działać tak szybko, jak to możliwe, ale nie szybciej – przekonywał.
Ostrzej zareagował Yann LeCun, laureat Nagrody Turinga, były główny naukowiec ds. AI w Mecie i jeden z pionierów współczesnej sztucznej inteligencji. Przypomniał, że Amodei już w 2019 r. ostrzegał przed udostępnieniem modelu GPT-2 jako zbyt niebezpiecznego. „Wyśmiewałem ich wtedy. Teraz wszyscy powinni ich wyśmiewać” – napisał na X. LeCun od lat kwestionuje katastroficzne scenariusze dotyczące AI i sprzeciwia się ograniczaniu badań
Podobnie myśli Marc Andreessen, współzałożyciel Andreessen Horowitz (a16z), jednego z najbardziej wpływowych funduszy venture capital w Dolinie Krzemowej. W swoim „Manifeście technooptymistycznym” przedstawił rozwój technologii jako źródło dobrobytu, a nadmierną regulację jako przeszkodę dla postępu.
Do zwolenników nieskrępowanego rozwoju należy również David Sacks, doradca technologiczny Donalda Trumpa i inwestor venture capital. Krytykuje katastroficzne narracje dotyczące AI i sprzeciwia się rozdrobnionym regulacjom stanowym.
Kto zyska na hamowaniu wyścigu?
Za nagłym porozumieniem największych twórców AI kryje się jednak pytanie: czy wszyscy mają interes w tym, by wyścig rzeczywiście zwolnił? Czy Amodeim, Altmanem i Muskiem kieruje wyłącznie troska o bezpieczeństwo? Największe laboratoria dysponują już gigantycznymi zasobami kapitału, infrastrukturą i dostępem do klientów. Jeżeli nowe standardy bezpieczeństwa wymagałyby kosztownych audytów i specjalnych zezwoleń, mogłyby utrudnić życie przede wszystkim mniejszym konkurentom.
Aidan Gomez, szef kanadyjskiej firmy Cohere, zarzucił wręcz największym graczom próbę stworzenia kartelu. W jego ocenie spór nie dotyczy samej potrzeby zabezpieczeń, lecz tego, kto będzie ustalał reguły i czyje interesy będą one chronić. Podobne obawy wyrażają zwolennicy otwartych modeli AI, ostrzegający przed ograniczeniem dostępu do technologii dla start-upów, naukowców i niezależnych programistów.
Czytaj więcej
Bill Gates porównał we wtorkowej rozmowie z agencją Reutera pojawienie się sztucznej inteligencji do zagrożenia kosmicznego, które wymaga natychmia...
Jeszcze ostrzej wypowiedział się Alex Karp, szef Palantira, firmy dostarczającej oprogramowanie AI m.in. wojsku i służbom wywiadowczym. W rozmowie z CNBC zasugerował, że za alarmistycznymi ostrzeżeniami największych laboratoriów może kryć się także obawa przed odpowiedzialnością prawną. Jego zdaniem firmy takie jak Anthropic mogą w przyszłości stanąć w obliczu lawiny pozwów ze strony klientów, których poufna wiedza biznesowa trafia do modeli AI, a następnie może być ujawniana konkurencji. Karp spekuluje, że w obliczu takich roszczeń laboratoria mogłyby zabiegać nawet o nacjonalizację, licząc na ochronę prawną ze strony państwa.
Warto też zwrócić uwagę, że Elon Musk ostrzega przed superinteligencją, ale jego xAI jednocześnie ściga OpenAI, Anthropic i Google. Ograniczenie rozwoju najpotężniejszych modeli mogłoby dać konkurentom czas na zmniejszenie dystansu do liderów.
A chodzi o gigantyczne pieniądze. Anthropic przygotowuje się do wejścia na giełdę, a OpenAI, choć odłożyło debiut co najmniej do 2027 r., prowadzi wstępne rozmowy o kolejnej rundzie finansowania przy potencjalnej wycenie 1,2 bln dol. – podał „Financial Times”. Ostrzeganie przed potęgą własnych modeli może być zarazem sygnałem dla rynku o skali osiągniętego postępu.
Tym bardziej że wyścig jednak trwa. Jak podał Reuters, Anthropic rozważa premierę kolejnego modelu w odpowiedzi na konkurencję OpenAI. Publiczne apele o ostrożność nie oznaczają rezygnacji z walki o klientów, kapitał i moc obliczeniową. Nie ma też zgody co do tego, jak miałoby wyglądać ewentualne spowolnienie. Czy firmy powinny ograniczyć trening kolejnych modeli? Opóźniać ich publiczne udostępnianie? Oddać niezależnym ekspertom dostęp do systemów? A może wystarczy uzgodnić wspólne procedury testowania i zgłaszania incydentów?
Po ostatnich incydentach nie są to już pytania o odległą przyszłość. Tym bardziej że o kierunku rozwoju AI nie zdecydują wyłącznie jej twórcy. Do gry coraz mocniej wkracza polityka.
Ostatnie słowo należy do Trumpa?
Donald Trump odrzuca apele o hamowanie rozwoju technologii, przekonując, że na ograniczaniu amerykańskich firm skorzystają przede wszystkim Chiny. Ostrzeżenia przed AI nazywał już „oszustwem”, a krytyków szybkiego rozwoju AI „zwolennikami teorii spiskowych” i „zdrajcami”. Ostrzegł, że na hamowaniu amerykańskiej branży skorzystają Chiny. „Kto wygra wyścig AI, wygra” – napisał.
Co ciekawe, Pekin w amerykańskich apelach o spowolnienie AI dostrzegł nie szansę, a próbę utrzymania technologicznej dominacji USA. W państwowych mediach przedstawiano je jako element polityki powstrzymywania Chin i wymierzony w nie „podręcznik zimnej wojny”.
Czytaj więcej
Chiny ostro odrzucają apele amerykańskich liderów branży technologicznej o spowolnienie rozwoju najpotężniejszych modeli AI. Pekin widzi w nich pró...
19 września Trump poszedł o krok dalej. Zapowiedział utworzenie specjalnej AI Force, na wzór powołanej podczas jego pierwszej kadencji Space Force, oraz wyznaczenie nowego „cara AI”, który ma nadzorować rozwój technologii. Nie przedstawił jednak szczegółów. Zapewnił za to, że jego administracja nie zamierza hamować rozwoju branży, lecz będzie ją wspierać i obserwować, wykorzystując istniejący system prawa karnego i cywilnego do przeciwdziałania nadużyciom.
Czytaj więcej
Donald Trump zapowiedział utworzenie „AI Force” i powołanie specjalnego pełnomocnika ds. sztucznej inteligencji. Prezydent USA odrzuca apele o hamo...
To podejście odmienne od postulowanego przez Amodeiego i popartego przez część największych twórców AI dostosowania tempa prac do możliwości kontrolowania nowych modeli. Zapowiedź AI Force pokazuje zarazem, że nawet Biały Dom nie może już całkowicie ignorować narastających obaw związanych z autonomicznymi systemami.
