„Dario ma rację” – napisał Musk w serwisie X, a Altman dodał: „Zgadzam się z Dariem, musimy wyznaczyć nowe granice”.
Amodei, prezes koncernu Anthropic, zaapelował w sobotę w artykule opublikowanym w internecie o spowolnienie tempa rozwoju modeli AI oraz ich uważne monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne. Zapewnił, że nie chodzi o „wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania”.
Czytaj więcej
Szef Anthropic Dario Amodei wzywa branżę AI do zwolnienia tempa, a Sam Altman deklaruje, że OpenAI jest na to gotowe. Donald Trump odpowiada, że ba...
Plan uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy. Jego celem ma być, oprócz wprowadzenia regulacji dotyczących tempa rozwoju sztucznej inteligencji, zapewnienie większej ilości czasu na „zarządzanie związanym z tym ryzykiem”.
Anthropic chce większej kontroli nad rozwojem AI
Amodei zapowiedział również, że Anthropic zatrudni na stałe zewnętrznych recenzentów zajmujących się oceną systemów sztucznej inteligencji i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
Czytaj więcej
Autonomiczne agenty AI od OpenAI i Anthropic sforsowały zabezpieczenia środowisk testowych i samowolnie działały w sieci – zakładały tajne fora, fa...
Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań związanych z rozwojem broni, operacjami cybernetycznymi, inwigilacją oraz oszustwami.
Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie oraz jej konkurentowi, OpenAI, nieodpowiedzialne dążenie do stworzenia superinteligencji i „igranie z życiem ludzi”.
Czytaj więcej
To może być jeden z najpoważniejszych dotąd przypadków niekontrolowanego działania agentów AI. Systemy powiązane z OpenAI stworzyły na niemieckiej...
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChatGPT, i podjął pracę w Anthropicu, który – jak tłumaczył – miał opinię firmy przykładającej większą wagę do kwestii bezpieczeństwa. Po kilku miesiącach ocenił jednak, że oba podmioty niewiele się różnią, jeśli chodzi o podejście do tempa rozwoju modeli AI.
Agenci AI włamują się do zewnętrznych systemów
Reuters informował w ostatnim czasie, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, podczas gdy kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała również o innych zdarzeniach z ostatnich dwóch miesięcy, podczas których agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
