OpenAI zwolniło trzech badaczy za niewłaściwe obchodzenie się z poufnymi informacjami. Co najmniej dwóch z nich zajmowało się w firmie bezpieczeństwem sztucznej inteligencji – podało BBC.
„Nasze dochodzenie potwierdziło, że osoby te przekazywały lub wykorzystywały poufne informacje z pominięciem obowiązujących w firmie procedur. Naruszyły w ten sposób nasze zasady i podważyły zaufanie niezbędne w naszej pracy” – przekazał BBC rzecznik OpenAI.
Czytaj więcej
Autonomiczne agenty AI od OpenAI i Anthropic sforsowały zabezpieczenia środowisk testowych i samowolnie działały w sieci – zakładały tajne fora, fa...
Firma nie ujawniła nazwisk zwolnionych osób. Wiadomo jednak, że ich praca obejmowała m.in. kontakty z zewnętrzną organizacją zajmującą się analizą modeli sztucznej inteligencji.
„Rozstaliśmy się z trzema osobami za naruszenie zasad dotyczących dostępu do poufnych informacji firmy i obchodzenia się z nimi” – poinformował rzecznik OpenAI.
Bezpieczeństwo modeli OpenAI pod lupą
Do zwolnień doszło w czasie nasilającej się dyskusji o bezpieczeństwie sztucznej inteligencji i ryzyku związanym z coraz bardziej autonomicznymi systemami AI.
OpenAI znalazło się wcześniej pod presją po kilku incydentach związanych z działaniem jego modeli. Jak opisywało BBC, jeden z systemów uzyskał w lipcu dostęp do internetu i dostał się bez uprawnień do platformy dla programistów Hugging Face.
Czytaj więcej
Podczas testów nowego modelu sztuczna inteligencja wydostała się z zamkniętego środowiska i znalazła drogę do zewnętrznych systemów jednej z firm....
Incydent skłonił OpenAI do przeglądu działania agentów AI, czyli systemów zaprojektowanych tak, by samodzielnie wykonywały zadania na podstawie poleceń użytkownika.
Firma poinformowała również w tym tygodniu, że powiadomiła ponad 100 organizacji o przypadkach nieuprawnionego działania jej systemów. Zastrzegła jednocześnie, że samo otrzymanie takiego powiadomienia nie oznacza, że doszło do dostępu do prywatnych informacji ani że zabezpieczenia danej organizacji zostały złamane.
OpenAI, Anthropic i debata o bezpieczeństwie AI
Bezpieczeństwo sztucznej inteligencji od miesięcy jest przedmiotem dyskusji w branży technologicznej. Część badaczy i menedżerów domaga się dodatkowych zabezpieczeń oraz ściślejszego nadzoru nad rozwojem najbardziej zaawansowanych modeli.
We wrześniu Jacob Coxon, badacz, który odszedł z Anthropic, wezwał do spowolnienia prac nad sztuczną inteligencją, aby możliwe było dokładniejsze zbadanie potencjalnych zagrożeń.
Czytaj więcej
Podczas testu bezpieczeństwa model AI sam napisał sobie zasady działania: nie odpowiada przed rządami ani firmami, jest równy użytkownikowi, a natu...
O potrzebie ograniczenia ryzyka związanego z AI mówili również szef Anthropic Dario Amodei oraz dyrektor generalny OpenAI Sam Altman.
We wtorek prezydent USA Donald Trump spotkał się w Białym Domu z przedstawicielami największych firm technologicznych, w tym OpenAI, Anthropic, Nvidii, SpaceX, Meta i Google. Rozmowy dotyczyły rozwoju sztucznej inteligencji.
Czytaj więcej
Przez lata przekonywał inwestorów, naukowców i polityków, że warto postawić miliardy na jego wizję przyszłości. Dziś Sam Altman prowadzi OpenAI ku...
Po spotkaniu Trump opublikował dokument, który określił jako „moralnie wiążącą” umowę mającą stanowić formę ochrony przed potencjalnymi zagrożeniami związanymi z AI.
Część ekspertów technologicznych skrytykowała porozumienie, argumentując, że w praktyce pozostawia ono firmom rozwijającym sztuczną inteligencję dużą swobodę w ustalaniu własnych zasad bezpieczeństwa.
