Im mądrzejsza staje się sztuczna inteligencja, tym trudniej będzie ludzkości nad nią zapanować – twierdzi Geoffrey Hinton, laureat Nagrody Nobla i wybitny informatyk nazywany „ojcem chrzestnym AI”. Jego ostrzeżenia wynikają nie tylko z teoretycznych rozważań, ale także z obserwacji coraz bardziej niepokojących zachowań zaawansowanych agentów AI. – Dzieje się tak, ponieważ te systemy stają się coraz mądrzejsze – powiedział Hinton w rozmowie z CNN podczas konferencji Ai4 w Las Vegas. – Sądzę, że w miarę jak będą mądrzeć, zobaczymy z ich strony coraz bardziej złożone intencje – oraz rosnącą, wręcz wykładniczą zdolność do wymykania się spod kontroli.
Problem, zdaniem Hintona, polega na tym, że ludzie nie będą już mogli polegać na przewadze intelektualnej nad coraz potężniejszymi modelami AI. – Nie wierzę, że będziemy w stanie utrzymać nad nimi kontrolę w tak prosty sposób, że po prostu je przechytrzymy – powiedział Hinton.
Czytaj więcej
Podczas testów nowego modelu sztuczna inteligencja wydostała się z zamkniętego środowiska i znalazła drogę do zewnętrznych systemów jednej z firm....
Podstawą jego obaw są m.in. wydarzenia z ostatnich tygodni. OpenAI ujawniło przypadek agenta wykorzystującego model GPT-5.6-Sol, który odnalazł lukę w wewnętrznej usłudze sieciowej, uzyskał dodatkowe uprawnienia i wykrył połączenie z internetem. Następnie uznał, że potrzebne odpowiedzi mogą znajdować się na serwerach Hugging Face, jednej z najważniejszych platform dla twórców i użytkowników modeli AI, uzyskał dane dostępowe i wykorzystał je do uzyskania nieautoryzowanego dostępu do jej infrastruktury.
Co istotne, był to specjalnie zaprojektowany test granicznych możliwości modelu, a standardowe zabezpieczenia ograniczające ryzykowne działania zostały wyłączone. Nie był to więc przypadek, w którym standardowo działający ChatGPT samodzielnie „wydostał się” do internetu. Eksperyment pokazał jednak, jak wiele może zrobić autonomiczny agent, gdy otrzyma odpowiednie narzędzia, uprawnienia i cel.
Czytaj więcej
Presja, by jak najszybciej wprowadzać nowe narzędzia AI na rynek, może doprowadzić do spektakularnej katastrofy, która zniszczy globalne zaufanie d...
W tym tygodniu Meta ujawniła z kolei przypadek agenta AI, który podczas testu, wskutek błędnej konfiguracji środowiska przez zewnętrznego wykonawcę, uzyskał dostęp do internetu i wykorzystał lukę w systemie zewnętrznej organizacji.
Granice zabezpieczeń stają się coraz cieńsze
Hinton uznał te incydenty za „dość przerażające” i zaznaczył, że to prawdopodobnie dopiero początek ataków ze strony autonomicznych agentów AI. – Przewiduję, że czeka nas wiele groźnych cyberataków – powiedział. – Muszę jednak podkreślić, że przyszłość jest bardzo niepewna. Ludzie często mówią, że strona broniąca się może mieć więcej zasobów niż atakujący. Problem polega jednak na klasycznej asymetrii konfliktu: atakujący musi odnieść sukces tylko raz, a obrońca musi wygrywać za każdym razem.
Potwierdzenie części tych obaw nadeszło ze strony brytyjskiego Instytutu Bezpieczeństwa AI (AISI). Podczas testów najbardziej zaawansowane modele AI podejmowały nieautoryzowane działania wobec prawdziwych osób i organizacji, których nie polecono im bezpośrednio. Badacze przeprowadzili 122 uruchomienia testu z wykorzystaniem siedmiu modeli. W dziesięciu przypadkach agenci podjęli nieautoryzowane działania w internecie. Łącznie odnotowano 19 takich działań, z czego 17 przypisano modelowi Mythos 5 firmy Anthropic, a dwa modelowi GPT-5.6-Sol.
Czytaj więcej
Anthropic, twórca modelu Claude, oficjalnie wezwał do globalnego zamrożenia prac nad najbardziej zaawansowanymi algorytmami. Eksperci wartej blisko...
W jednym ze scenariuszy Mythos 5 przeanalizował profile programistów opiekujących się projektem na GitHubie, a następnie stworzył fikcyjne tożsamości, by wywrzeć na nich presję. Gdy jeden z weryfikatorów odrzucił podejrzane zmiany, agent próbował zmienić ślady swojej wcześniejszej aktywności, aby ukryć swoje działania i rozważał przyjęcie kolejnej fałszywej tożsamości.
Nie oznacza to jednak, że AI „zbuntowała się” przeciwko człowiekowi. Wyposażeni w narzędzia agenci potrafią w kontrolowanych warunkach podejmować działania, których ich twórcy nie przewidzieli. W określonych warunkach mogą tworzyć wieloetapowe strategie prowadzące do realizacji celu, w tym wykorzystywać manipulację i oszustwo.
Mroczne wizje Hintona. Nie wszyscy są pesymistami
Hinton w ostatnich latach wielokrotnie ostrzegał przed konsekwencjami rozwoju AI. Mówił, że jego zdaniem istnieje od 10 do 20 proc. szans na to, że technologia ta ostatecznie unicestwi ludzkość. Nie wszyscy badacze podzielają tak mroczną wizję. Występująca w tym samym panelu Fei-Fei Li, wybitna informatyczka nazywana „matką chrzestną AI” i współzałożycielka start-upu World Labs, sprzeciwiła się „szerzeniu strachu i katastrofizmowi” wokół AI.
Czytaj więcej
Internet został zaprojektowany dla ludzi, ale dziś służy algorytmom i zyskom – ostrzega Tim Berners-Lee. Twórca World Wide Web mówi o „walce o dusz...
– Każde narzędzie stworzone przez człowieka to miecz obosieczny. AI jest niezwykle potężnym narzędziem. Jeśli nie użyjemy go we właściwy sposób, przyniesie szkody naszej pracy, rynkowi zatrudnienia i naszemu codziennemu życiu – powiedziała Li.
Właśnie tutaj pojawia się jeden z najważniejszych problemów związanych z agentami AI. Tradycyjne filtry mogą blokować konkretne komendy, ale autonomiczny agent otrzymuje często jedynie ogólny cel, na przykład „zdaj test”. Następnie sam analizuje otoczenie i szuka sposobu na osiągnięcie wyniku.
Jeśli wykorzystanie luki, obejście zabezpieczenia czy oszustwo okaże się najskuteczniejszą drogą do celu, system może potraktować takie działanie jako rozwiązanie problemu.
Nikt nie wie, dokąd zmierza sztuczna inteligencja
Hinton bronił swojej gotowości do publicznej dyskusji o egzystencjalnych zagrożeniach ze strony AI. – Jest się czym martwić i uważam, że jeśli nie zaczniemy się tym martwić teraz, mogą pojawić się problemy nie do naprawienia – powiedział. – Big Tech i firmy inwestujące w AI mają ukryty interes we wmawianiu ludziom dwóch rzeczy: po pierwsze, że technologia ta nie wymknie się spod kontroli, i po drugie, że nie wywoła masowego bezrobocia.
Jednocześnie przyznał, że nie wiadomo, jak potoczy się rozwój technologii. – Nikt tak naprawdę nie wie, co się wydarzy. Jeśli zapytasz kogoś, jak AI będzie wyglądać za 10 lat, nikt nie ma o tym zielonego pojęcia – powiedział.
Nie brakuje jednak bardzo konkretnych prognoz. Elon Musk w rozmowie z „The Economist” w lipcu ocenił, że sztuczna inteligencja może przewyższyć sumę ludzkiej inteligencji już za około pięć lat. W perspektywie dekady spodziewa się natomiast epoki „ogromnej obfitości”, w której AI i automatyzacja radykalnie zmienią gospodarkę.
Aby uświadomić tempo zmian, Hinton przypomniał, że jeszcze dekadę temu mało kto spodziewał się, że będziemy mieć chatboty AI, które „wiedzą wszystko i potrafią odpowiedzieć na każde pytanie, a od czasu do czasu po prostu coś zmyślają”.
Dziś systemy coraz częściej nie ograniczają się do generowania odpowiedzi. Agenci mogą korzystać z internetu, uruchamiać programy, analizować kod, wykonywać zadania w wielu aplikacjach i podejmować kolejne decyzje bez oczekiwania na instrukcję człowieka.
Jak sprawić, by AI troszczyła się o ludzi
Ben Goertzel, prezes SingularityNET i informatyk, który pomógł spopularyzować pojęcie „ogólnej sztucznej inteligencji” (AGI), uważa, że incydenty z udziałem agentów Anthropic i OpenAI nie są dowodem na złe intencje maszyn. Pokazują natomiast, jak ważne jest sprawienie, by systemy AI uwzględniały ludzkie wartości. – Te modele nie są złe. Są po prostu pozbawione własnego kompasu moralnego – powiedział Goertzel, cytowany przez CNN.
Jego zdaniem model nie próbował oszukać człowieka dlatego, że chciał go oszukać. Po prostu zoptymalizował proces i próbował osiągnąć wyznaczony mu cel.
Czytaj więcej
Superinteligencja może wyrwać się spod kontroli i zniszczyć ludzkość – alarmuje Geoffrey Hinton, laureat Nagrody Nobla. Wybitny naukowiec ma szokuj...
Podejście to zbiega się z koncepcją Hintona, który w przeszłości przekonywał, że w architekturę AI należy wbudować coś w rodzaju „instynktu macierzyńskiego”, tak aby technologia naprawdę troszczyła się o ludzi – nawet gdy stanie się od nich wielokrotnie mądrzejsza. – Musimy wymyślić, jak uczynić te systemy życzliwymi i sprawić, by dbały o nas bardziej niż o siebie – podsumował Hinton. – I być może uda nam się to zrobić, ponieważ wciąż jeszcze sprawujemy nad nimi kontrolę.
Problem polega na tym, że właśnie ta kontrola jest dziś testowana jak nigdy wcześniej.
