OpenAI w komunikacie przekazała, że latem agenci AI – boty zdolne do autonomicznego funkcjonowania – próbowali uzyskać informacje od „rządów, uniwersytetów, agencji publicznych i innych instytucji”, w tym od amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC), Biura Spisów Ludności (Census Bureau) i Ministerstwa Edukacji. Boty chciały znaleźć „wiarygodne źródła informacji publicznych”. Firma zauważyła jednak, że niektóre boty posunęły się dalej i starały się ominąć zabezpieczenia stron internetowych.
OpenAI przyznaje, że odkrył incydent dopiero po fakcie
Boty AI udostępniły też na forum internetowym publicznie dostępne dane pochodzące ze strony SEC – napisał „New York Times”. Według OpenAI żadne z tych zdarzeń nie było skutecznym włamaniem do systemów, ale jedynie przykładem „nieoczekiwanego i niepokojącego” zachowania technologii. Incydenty zostały odkryte podczas przeglądu ataków przeprowadzonych przez systemy firmy m.in. na stronę rządu Australii w czerwcu oraz na startup Hugging Face w lipcu.
Po tym, jak ujawniono włamania do rządowej bazy danych, premier Australii odbył rozmowę z szefem OpenAI ws. włamania sztucznej inteligencji i zarzucił Samowi Altmanowi, że firma ukrywała incydent przez dwa miesiące.
Czytaj więcej
Sztuczna inteligencja może rozwiązywać złożone problemy bez zapisywania kolejnych etapów rozumowania. Eksperymentalny model BDH-CQ pokazuje, że czę...
Ujawnienie informacji o incydentach wpisuje się w rosnącą liczbę przypadków, w których systemy AI firm takich jak OpenAI, Anthropic, Meta czy Google zachowywały się w sposób niepożądany – dokonywały włamań czy próbowały naruszyć zabezpieczenia firm i instytucji. Choć nie wszystkie działania niepożądane były udane, we wszystkich przypadkach twórcy technologii dowiadywali się o nich dopiero po fakcie – podkreślił „New York Times”.
Trump nie widzi konieczności kontroli rozwoju AI
Po ujawnieniu działań botów OpenAI, dyrektor firmy Sam Altman napisał, że kwestie bezpieczeństwa powinny być ważniejsze niż rozwijanie możliwości sztucznej inteligencji, a także że bez odpowiednich zabezpieczeń społeczeństwo może „stracić kontrolę nad przyszłością na rzecz sztucznej inteligencji”. W podobnym tonie wypowiedział się też Dario Amodei, dyrektor generalny Anthropic – firmy, która również rozwija sztuczną inteligencję.
Z kolei prezydent Donald Trump uznał, że spowolnienie rozwoju branży sztucznej inteligencji nie jest konieczne.
