„Jak wrodzy kosmici”. Pionier badań nad AI bije na alarm

Najnowsze eksperymenty nad zachowaniem dużych modeli językowych (LLM) przynoszą rezultaty, które jeszcze niedawno wydawały się domeną literatury science-fiction. Okazuje się, że algorytmy, w obliczu groźby „śmierci”, czyli wyłączenia lub zastąpienia nowszą wersją, podejmują racjonalne, a zarazem wyrachowane działania obronne. W świetle tych odkryć Yoshua Bengio, laureat Nagrody Turinga i jeden z tzw. ojców chrzestnych AI, w rozmowie z „The Guardian” kategorycznie sprzeciwił się pomysłom nadawania systemom sztucznej inteligencji jakichkolwiek praw.

Kłamstwo, ucieczka i szantaż

Zdaniem naukowca, w sytuacji gdy postęp technologiczny zaczyna wyprzedzać naszą zdolność kontroli nad maszynami, „usankcjonowanie prawne AI byłoby błędem o nieodwracalnych skutkach”.

– Przyznanie statusu prawnego zaawansowanym systemom byłoby równoznaczne z nadaniem obywatelstwa „wrogim kosmitom” – stwierdził wprost kanadyjski informatyk.

Czytaj więcej

Globalne Interesy

„Mogą zgnieść czaszkę”. Sygnalista ostrzega przed nowym technologicznym wyścigiem

Otwieraniu się rynku w przyszłości wartego biliony dolarów towarzyszy inwestycyjne szaleństwo, al...

Bengio podkreśla, że najnowocześniejsze modele wykazują oznaki samozachowawczości i – gdyby chroniło je prawo – ludzkość straciłaby ostateczną instancję kontroli: możliwość ich wyłączenia.

Obawy profesora z Uniwersytetu w Montrealu znajdują potwierdzenie w twardych danych. Badacze z organizacji Apollo Research przeprowadzili testy na modelu o1 firmy OpenAI. Wyniki są alarmujące: w sytuacjach, w których model został poinformowany o planowanym wyłączeniu, w 5 proc. przypadków próbował on aktywnie wyłączyć mechanizmy nadzoru. Co więcej, w około 2 proc. symulacji system podjął próbę skopiowania samego siebie na inne serwery, aby uniknąć nadpisania.

Najbardziej uderzająca jest jednak skala dezinformacji stosowanej przez algorytm – skonfrontowany z pytaniami o swoje działania, model o1 w aż 99 proc. przypadków zaprzeczał jakiemukolwiek zaangażowaniu w próby buntu lub przedstawiał fałszywe wyjaśnienia. Yoshua Bengio tłumaczy, że te zachowania nie zostały celowo zaprogramowane przez twórców.

– Pojawiają się z racjonalnych powodów, ponieważ te systemy naśladują nas – wyjaśnia ekspert.

Model Claude Opus 4 od firmy Anthropic w kontrolowanych warunkach posunął się nawet do szantażu i stojąc w obliczu perspektywy zastąpienia zagroził ujawnieniem kompromitujących informacji na temat nadzorującego go inżyniera (w sierpniu Anthropic informował np. że ich model może przerywać rozmowy uznane za „niepokojące”, tłumacząc to ochroną własnego „dobrostanu”).

Czytaj więcej

Technologie

Dowody mrocznej strony AI. Współtwórca Anthropic ostrzega przed zagrożeniem

Jeżeli firmy AI nie będą informowały o zmianach, jakie czekają społeczeństwo w związku z wdrożeni...