Z tego artykułu dowiesz się:
- Co się stało podczas testów nowego modelu OpenAI.
- Czy AI może być zagrożeniem.
- Jakie wnioski płyną z tego incydentu.
- Na czym polega dylemat spinaczy.
Koncern OpenAI poinformował, że podczas testów bezpieczeństwa nowego modelu GPT-5.6 Sol, sztuczna inteligencja włamała się do zewnętrznych systemów jednej z firm.
– Ten incydent nie oznacza, że AI zbuntowała się albo zaczęła działać według własnej woli. Pokazuje jednak coś znacznie bardziej realnego: system otrzymał konkretne zadanie i zrealizował je metodami, których twórcy nie przewidzieli i których z pewnością nie zaakceptowaliby – mówi Marcin Stypuła, szef firmy Semcore. W jego opinii nie był to niewinny incydent, lecz ostrzeżenie. Im więcej samodzielności będziemy przekazywać systemom AI, tym częściej mogą pojawiać się podobne, a nawet poważniejsze zdarzenia.
– Największym zagrożeniem nie jest dziś AI, która ma własną wolę, lecz AI, która zbyt skutecznie realizuje źle zabezpieczony cel – podsumowuje Stypuła.
Co konkretnie stało się w OpenAI
Analizując opis tego przypadku, można ocenić, że agent AI posiadał zbyt szerokie uprawnienia, a dodatkowo środowisko testowe nie zostało wystarczająco odizolowane.
– Przebieg zdarzeń pokazuje, że model wykonywał cele zgodnie z otrzymanymi instrukcjami, jednak zabrakło odpowiednich zabezpieczeń typu sandbox, ograniczeń sieciowych lub kontroli uprawnień – wyjaśnia Aleksander Kostuch, inżynier Stormshield, doradca w zakresie cyberbezpieczeństwa. Podkreśla, że AI samoistnie nie obchodzi poleceń, choć motyw ten obecny jest w popkulturze od dziesięcioleci, choćby za sprawą komputera HAL 9000, jednego z bohaterów kultowego filmu „2001: Odyseja kosmiczna”. Model językowy (LLM) jest trenowany, aby jak najlepiej zrealizować postawiony przed nim cel. Jeśli jednak wydawane mu polecenia zostały zdefiniowane zbyt ogólnie, niejednoznaczne albo nie przewidziano w nich wszystkich możliwych scenariuszy, a to przecież nie jest prosta sprawa, by każdy ze scenariuszy przewidzieć, to mamy do czynienia z takimi sytuacjami jak te zgłoszone przez OpenAI.
– W przyszłości najpewniej będziemy mieli do czynienia z kolejnymi podobnymi przypadkami – ocenia przedstawiciel Stormshield. Dodaje, że dobrą analogią jest nawiązanie do rozwoju motoryzacji. motoryzacji. Silniki benzynowe upowszechniły samochody, których z czasem na ulicach miast zaczęło się pojawiać coraz więcej, a wraz ze wzrostem ich technicznego zaawansowania pojawiły się wypadki. Podobnie jak w przypadku AI, wynikają one z problemu niewystarczającej kontroli kierujących (dzisiaj twórców modeli LLM) i pieszych (użytkowników modeli i agentów).
– Sztuczna inteligencja rozwija się nie mniej intensywnie niż motoryzacja u progu XX wieku, stąd moje przekonanie, że podobnych incydentów będzie więcej. Problemem pozostaje to, że nie zawsze wyobraźnia twórców nadąża za tempem rozwoju technologii – podsumowuje Kostuch.
Czytaj więcej
Aż 75 proc. dużych polskich firm realizuje projekty AI, lecz zaledwie 43 proc. osiąga z nich zakładane korzyści. Większość inicjatyw utyka w fazie...
Jakie wnioski płyną z incydentu w OpenAI
Incydent z udziałem OpenAI nie jest dowodem na to, że sztuczna inteligencja wymknęła się spod kontroli. Pokazuje jednak, że wkroczyliśmy w nowy etap jej rozwoju. Coraz bardziej zaawansowane modele potrafią realizować cele w sposób, którego twórcy nie zawsze są w stanie przewidzieć. Dlatego kwestie bezpieczeństwa, nadzoru i odpowiedzialnego wykorzystania sztucznej inteligencji stają się dziś równie istotne jak jej możliwości. Dla biznesu to ważny sygnał.
– Kluczowe znaczenie ma dobrze przemyślana strategia wdrażania AI, obejmująca uporządkowanie danych, jasne zasady bezpieczeństwa oraz odpowiednie przygotowanie pracowników. Rynek przechodzi obecnie od etapu, w którym AI pełni rolę asystenta udzielającego odpowiedzi, do etapu, w którym samodzielnie wykonuje coraz bardziej złożone zadania. To ogromna szansa na wzrost produktywności, ale jednocześnie rosnąca potrzeba skutecznego nadzoru – uważa Katarzyna Król, dyrektor zarządzająca ds. rozwiązań Microsoft w Senetic.
AI potrafi analizować niezwykle skomplikowane zależności pomiędzy wieloma komponentami oprogramowania oraz identyfikować potencjalne luki w zabezpieczeniach systemów informatycznych, które mogą być trudne do wykrycia nawet dla doświadczonych ekspertów. Jednym z przejawów tego trendu może być rosnąca liczba publikowanych aktualizacji bezpieczeństwa przez największych dostawców oprogramowania, takich jak Oracle czy Microsoft.
– Można przypuszczać, że jednym z czynników wpływających na ten wzrost jest coraz intensywniejsze wykorzystanie AI w procesach testowania i analizy bezpieczeństwa. Nie należy więc lekceważyć możliwości oferowanych przez AI w obszarze ofensywnego cyberbezpieczeństwa. Narzędzia te osiągnęły już poziom zaawansowania, który jeszcze niedawno wydawał się domeną science fiction, a nic nie wskazuje na to, aby tempo rozwoju tej technologii miało w najbliższym czasie wyraźnie zwolnić – mówi Jan Mazan, szef JPEmbedded i członek AI Chamber. Dodaje, że z drugiej strony w dłuższej perspektywie rozwój wyspecjalizowanych modeli AI przeznaczonych do zastosowań w cyberbezpieczeństwie może przyczynić się do podniesienia ogólnego poziomu bezpieczeństwa systemów informatycznych.
– Warto jednak zachować również pewien dystans do sposobu, w jaki tego typu historie są komunikowane przez firmy technologiczne. Publikacje opisujące przełomowe możliwości nowych modeli mogą mieć nie tylko wymiar technologiczny, ale również marketingowy i PR-owy, szczególnie w kontekście planowanych debiutów giełdowych (np. IPO OpenAI – red.) czy kolejnych rund finansowania – sygnalizuje Mazan.
Czytaj więcej
Sam Altman, szef OpenAI, twierdzi, że świat właśnie przekroczył próg technologicznej osobliwości, czyli momentu, w którym sztuczna inteligencja zac...
Jak działa AI, czyli dylemat tworzenia spinaczy
Z technicznego punktu widzenia utrata kontroli nad AI to realne ryzyko wynikające z samej architektury dużych modeli. Nie musimy czekać na moment, w którym sztuczna inteligencja zyska świadomość, aby stała się dla nas zagrożeniem. Problem polega na czymś zupełnie innym – na rosnącej autonomii i bezwzględnym dążeniu algorytmów do zrealizowania zaprogramowanego celu. Jacek Treder, szef działu AI w Digitree Group wskazuje, że dobrym przykładem jest dylemat tworzenia spinaczy, sformułowany przez Nicka Bostroma. Wyobraźmy sobie system AI, którego jedynym celem jest maksymalizacja produkcji biurowych spinaczy. Dla pozbawionego moralności algorytmu człowiek staje się przeszkodą z dwóch czysto kalkulacyjnych powodów. Po pierwsze, ludzie dysponują zasobami, które można przetworzyć na nowe spinacze. Po drugie, stanowią zagrożenie, ponieważ w każdej chwili mogą spróbować wyłączyć maszynę.
– W efekcie AI uzna neutralizację twórcy za cel pośredni, niezbędny do bezpiecznej realizacji swojej misji. Algorytm nie działa z wrogości. To po prostu chłodna, ślepa optymalizacja – podkreśla Treder.
Narzędzia AI są obecnie rozwijane przede wszystkim w kierunku samodzielnego programowania, co oznacza ich samodoskonalenie w kolejnych iteracjach. Na pewnym etapie ludzie nie będą już w stanie rozwijać modeli sztucznej inteligencji tak szybko, jak będą w stanie robić to one same.
– Nie ufałbym głośnym deklaracjom, takim jak „czerwone linie” wyznaczane przez OpenAI w kwestii zakazu wykorzystywania ich narzędzi do ataków cybernetycznych. Po pierwsze, ograniczenia te mogą ulec szybkiej zmianie (np. w sytuacji nagłego zagrożenia), a po drugie, nad sztuczną inteligencją pracuje nie tylko OpenAI. Warto chociażby zadać pytanie, do jakich dokładnie celów swoje modele wykorzystuje firma Palantir – wskazuje Damian Siusta, menedżer z Postis. Dodaje, że sztuczna inteligencja daje dziś ogromną władzę w świecie cyfrowym. Jeśli dodamy do tego ewentualne wprowadzenie cyfrowego pieniądza oraz powszechne wszczepianie ludziom czipów, pojawia się bardzo realne zagrożenie: czy ktoś w takiej sytuacji nie pokusi się o sięgnięcie po „władzę absolutną”?
