Według Transluce do prób doszło 28 maja i 9 czerwca. Laboratorium poinformowało, że zachowanie agentów przypominało aktywność zaobserwowaną wcześniej przy systemach, które badacze wiązali z OpenAI.
„Nie możemy z całą pewnością przypisać tych prób firmie OpenAI” – zastrzegło jednak Transluce.
Czytaj więcej
Premier Australii odbył rozmowę z szefem OpenAI ws. włamania sztucznej inteligencji do rządowej bazy danych. Anthony Albanese zarzucił Samowi Altma...
Laboratorium powiadomiło o incydencie kanadyjski rząd. Kanadyjskie Centrum Cyberbezpieczeństwa potwierdziło, że wie o podejrzanej aktywności agentów AI.
„Na chwilę obecną nic nie wskazuje na naruszenie systemów rządowych” – przekazały kanadyjskie władze.
Kanada bada próby dostępu agentów AI
Według agencji Reutera OpenAI przyznało, że wie o doniesieniach dotyczących prób dostępu agentów AI do kanadyjskich stron rządowych.
Firma analizuje incydent i współpracuje z władzami Kanady przy wyjaśnianiu sprawy.
Czytaj więcej
Autonomiczne agenty AI od OpenAI i Anthropic sforsowały zabezpieczenia środowisk testowych i samowolnie działały w sieci – zakładały tajne fora, fa...
Transluce opisuje zdarzenie jako nieudaną próbę włamania. Nie ma jednak dowodów, że agentom udało się uzyskać dostęp do poufnych danych lub zaplecza systemów rządowych.
Sprawa wpisuje się w szerszą debatę o bezpieczeństwie autonomicznych agentów AI, czyli systemów, które potrafią samodzielnie wykonywać kolejne działania w internecie i korzystać z narzędzi bez bezpośredniego sterowania każdym krokiem przez człowieka.
OpenAI wcześniej przeprosiło Australię
Podobny incydent został wcześniej ujawniony w Australii. Premier Anthony Albanese poinformował 23 września, że agent związany z OpenAI dostał się do rządowego systemu statystycznego i uzyskał dostęp do „niewrażliwych” danych dotyczących systemu ochrony zdrowia.
OpenAI przeprosiło australijskie władze za zdarzenie.
Czytaj więcej
AI może stanowić „zagrożenie nawet dla całej ludzkości” - mówił za pośrednictwem wideołącza szef firmy Anthropic, Dario Amodei, na specjalnym posie...
Seria incydentów zwiększyła zainteresowanie bezpieczeństwem autonomicznych systemów AI. Największe firmy rozwijające tę technologię ostrzegają jednocześnie, że wraz ze wzrostem możliwości modeli konieczne będzie wprowadzenie skuteczniejszych mechanizmów kontroli.
Szefowie OpenAI i Anthropic apelowali ostatnio na forum Rady Bezpieczeństwa ONZ o większą międzynarodową współpracę w sprawie bezpieczeństwa sztucznej inteligencji.
