Eksperci zaznaczają, że tego typu systemy byłyby szczególnie trudne do wyłączenia – nie miałyby bowiem jednego centralnego punktu kontroli.
Anthropic ostrzega: Sztuczna inteligencja może wkrótce samodzielnie się rozprzestrzeniać
Anthropic – jedna z czołowych spółek rozwijających technologię sztucznej inteligencji – poinformowała w poniedziałek o wynikach eksperymentów, które wskazują, że małe modele sztucznej inteligencji mogą być zaledwie kilka miesięcy od uzyskania zdolności do samodzielnego kopiowania się i rozprzestrzeniania między urządzeniami podłączonymi do internetu. Co istotne, do takiego działania nie potrzebowałyby dostępu do centrów danych ani pomocy człowieka.
Badacze skupili się na sprzętach codziennego użytku wyposażonych w możliwość łączenia się z siecią. Wśród analizowanych urządzeń znalazły się między innymi inteligentne piekarniki, telewizory z systemem Android oraz niedrogie przystawki telewizyjne mniej znanych producentów. Anthropic zwraca uwagę, że tego rodzaju sprzęty nierzadko mają niewystarczające zabezpieczenia, co może ułatwiać sztucznej inteligencji wykorzystywanie występujących w nich luk bezpieczeństwa.
Czytaj więcej
Anthropic przed gigantycznym IPO ostrzega, że jego modele mogą stanowić „egzystencjalne zagrożenie dla ludzkości”. Niemal równocześnie OpenAI wstrz...
Czy AI potrafi kopiować się bez pomocy człowieka? Wyniki eksperymentów
W przeprowadzonych eksperymentach badacze sprawdzili, czy modele sztucznej inteligencji potrafią samodzielnie wyszukiwać urządzenia podatne na ataki, przenosić na nie własne kopie, a następnie rozprzestrzeniać się bez udziału człowieka. Wyniki pokazały, że nawet stosunkowo małe modele – liczące mniej niż 30 miliardów parametrów – były w stanie wykonać wiele czynności niezbędnych do przeprowadzenia takiego procesu. Nie oznacza to jednak, że potrafiły w pełni samodzielnie się replikować.
Jak ustaliła firma Anthropic, badane modele miały trudności z wykonaniem całej sekwencji działań od początku do końca. Co to oznacza? Choć radziły sobie z poszczególnymi etapami, nie zawsze były w stanie skutecznie połączyć je w jeden nieprzerwany proces.
Inne rezultaty przyniosły jednak uproszczone testy, w których badacze usunęli część zabezpieczeń. W takich warunkach niektóre modele oraz bardziej zaawansowane systemy potrafiły już samodzielnie przeprowadzić cały proces replikacji.
Samodzielnie rozprzestrzeniająca się AI może być trudna do zatrzymania
Anthropic ostrzega, że sztuczna inteligencja zdolna do samodzielnego kopiowania się i rozprzestrzeniania między urządzeniami mogłaby stanowić poważne zagrożenie dla cyberbezpieczeństwa. Zatrzymanie takiego procesu byłoby szczególnie trudne, ponieważ nie istniałby jeden centralny system, którego wyłączenie pozwoliłoby powstrzymać dalsze rozprzestrzenianie się AI.
W przeciwieństwie do tradycyjnego złośliwego oprogramowania takie modele mogłyby również samodzielnie analizować nieznane wcześniej urządzenia i ustalać, w jaki sposób wykorzystać je do dalszego rozprzestrzeniania się – wskazano. Oznacza to, że nie musiałyby ograniczać się do sprzętu, którego podatność na ataki została wcześniej rozpoznana. Mogłyby dostosowywać swoje działania do napotykanych urządzeń, a także próbować uzyskiwać dostęp do procesorów wykorzystywanych w centrach danych.
Anthropic podkreśla, że połączenie zdolności do samodzielnego działania, wykrywania luk bezpieczeństwa i dalszego kopiowania się mogłoby znacząco utrudnić powstrzymywanie takich systemów.
Czytaj więcej
Anthropic planuje gigantyczne inwestycje w modele AI, centra danych i moce obliczeniowe, a jednocześnie alarmuje przed ryzykiem wymknięcia się sztu...
Anthropic: AI może osiągnąć zdolność do autonomicznej replikacji jeszcze w 2026 r.
Firma ostrzega, że jeśli małe modele sztucznej inteligencji będą rozwijać się w dotychczasowym tempie, mogą uzyskać zdolność do w pełni autonomicznej replikacji jeszcze przed końcem 2026 r.
Anthropic zaznacza jednocześnie, że nawet jeśli systemy AI zyskają zdolność do samodzielnego kopiowania się, prawdopodobnie będą rozprzestrzeniać się dość wolno. W tym celu miałyby wykorzystywać przede wszystkim łatwo dostępne urządzenia i systemy komputerowe, które nie są odpowiednio zabezpieczone. Firma podkreśla więc, że niezwykle istotne jest wzmacnianie zabezpieczeń urządzeń i systemów komputerowych.
