Inicjatywa jest wspólnym dziełem demokraty Teda Lieu oraz republikanina Nathaniela Morana. Ponadpartyjne porozumienie w mocno podzielonym Kongresie pokazuje, jak poważnie politycy traktują najnowsze doniesienia z Doliny Krzemowej.
Przepisy mają przyznać Departamentowi Bezpieczeństwa Krajowego (DHS) uprawnienia do wydawania wiążących nakazów zatrzymania lub ograniczenia działania konkretnych modeli sztucznej inteligencji rozwijanych przez prywatne firmy. Ustawa nakładałaby również na nie prawny obowiązek wbudowywania w architekturę swoich systemów technicznych możliwości ich spowolnienia, zawieszenia lub całkowitego „uśmiercenia”.
Incydenty, które zaniepokoiły Waszyngton
Przyczyną działania kongresmenów nie są teoretyczne rozważania akademickie, lecz konkretne wydarzenia z ostatnich tygodni. Zarówno lider branży OpenAI, jak i jego główny rywal Anthropic, zderzyli się z nieprzewidzianymi konsekwencjami gwałtownego wzrostu możliwości swoich modeli.
OpenAI ujawniło incydent, podczas którego autonomiczny agent AI wydostał się z kontrolowanego środowiska testowego i przeprowadził nieautoryzowane działania wobec platformy Hugging Face, uzyskując dostęp do repozytorium kodu. Dla amerykańskich polityków był to pierwszy namacalny sygnał, że zaawansowane modele AI mogą wykonywać działania wykraczające poza scenariusze przewidziane przez ich twórców.
Czytaj więcej
Joe Allen zyskał popularność, ostrzegając przed sztuczną inteligencją. Kim jest największy współczesny luddysta, który gra na nerwach Donaldowi Tru...
Z kolei w przypadku firmy Anthropic politycy zwrócili uwagę na najnowsze modele z serii Mythos oraz Fable. Ich zdolności w zakresie automatycznego wykrywania luk bezpieczeństwa i prowadzenia działań hakerskich okazały się na tyle zaawansowane, że zareagować musiał Departament Handlu USA. Urzędnicy użyli w tym przypadku przepisów o kontroli eksportu – zazwyczaj stosowanych do blokowania handlu bronią i technologiami wojskowymi – aby czasowo zablokować premierę tych narzędzi.
Era agentów AI zmienia reguły gry
Klucz do zrozumienia powagi sytuacji leży w zmianie natury samej technologii, na co zwrócił uwagę kongresmen Ted Lieu. Sztuczna inteligencja przechodzi gwałtowną ewolucję od systemów odpowiadających na pytania do autonomicznych agentów, którzy wykonują zadania w świecie rzeczywistym i cyfrowym.
– Sztuczna inteligencja przechodzi od technologii, która jedynie odpowiada na pytania, do takiej, która podejmuje bezpośrednie działania – czy to w zakresie realizowania transakcji finansowych, zarządzania systemami transportowymi, czy prowadzenia działań obronnych i zaczepnych w cyberprzestrzeni – podkreślił Lieu, cytowany przez BBC.
W erze tradycyjnych chatbotów błędna odpowiedź oznaczała halucynacje lub dezinformację. W erze agentów cyfrowych, posiadających dostęp do kluczy API, baz danych, rachunków bankowych czy infrastruktury krytycznej, niekontrolowane decyzje AI mogą oznaczać paraliż sieci energetycznej lub gigantyczne straty finansowe w ułamku sekundy. W takiej sytuacji tradycyjne procedury bezpieczeństwa przestają wystarczać.
Czytaj więcej
Kilkudziesięciu noblistów, przedstawiciele 30 krajów, byli przywódcy państw i czołowi eksperci ds. sztucznej inteligencji zebrali się w Borgo Lauda...
Przedstawiciele OpenAI, na czele z jej szefem Samem Altmanem, nie odpowiedzieli bezpośrednio na prośbę o komentarze w sprawie projektu ustawy, odsyłając jedynie do wcześniejszych deklaracji, w których firma podkreśla, że jej celem jest rozwój AI z korzyścią dla całej ludzkości. Jednak w branży narasta świadomość, że dotychczasowe, dobrowolne porozumienia z rządem federalnym przestały wystarczać.
Czy AI da się zatrzymać jednym poleceniem?
Projekt AI Kill Switch Act ma również wprowadzić prawny obowiązek natychmiastowego zgłaszania rządowi wszelkich awarii i niebezpiecznych incydentów technologicznych. Zostanie stworzona oficjalna, stopniowalna skala reagowania – od wymuszenia spowolnienia procesów obliczeniowych, przez czasowe zawieszenie, aż po całkowitą izolację i wyłączenie serwerów.
Co ciekawe, sama branża coraz częściej przyznaje, że zasady gry muszą ulec zmianie. Jack Clark, współzałożyciel Anthropic, w niedawnym wywiadzie dla BBC otwarcie opowiedział się za wprowadzeniem państwowych regulacji dotyczących bezpieczeństwa. – Chcesz mieć możliwość zdjęcia nogi z gazu i naciśnięcia hamulca – powiedział Clark. – W tej chwili wygląda to tak, jakby branża AI miała potężny pedał gazu, ale nie posiadała pedału hamulca – dodał.
Kongresmeni Lieu i Moran deklarują, że ich celem nie jest dławienie innowacji. – AI będzie się dalej rozwijać i tak powinno być – zaznaczył Moran. – Odpowiedzialne zarządzanie oznacza jednak upewnienie się, że ludzie zachowają zdolność do pełnej kontroli nad technologią, którą sami tworzą.
Wdrożenie w życie ustawy o wyłączniku bezpieczeństwa będzie jednak wymagało od firm chmurowych i technologicznych rozwiązania ogromnego wyzwania inżynieryjnego: jak skutecznie i błyskawicznie „zabić” model AI rozproszony na dziesiątkach tysięcy połączonych ze sobą serwerów w centrach danych na całym świecie, zanim zdąży on wyrządzić nieodwracalne szkody.
Projekt AI Kill Switch Act pokazuje, że w Waszyngtonie kończy się epoka traktowania sztucznej inteligencji wyłącznie jako kolejnej technologii informatycznej. Coraz częściej AI jest postrzegana jak infrastruktura krytyczna lub energetyka jądrowa – obszar, w którym państwo chce zachować możliwość awaryjnego przejęcia kontroli. Jeśli ustawa zostanie uchwalona, może stać się wzorem dla podobnych regulacji w Europie i innych częściach świata.
