Gdy przewodniczący Izby Reprezentantów Mike Johnson oraz szefowie firm z branży AI relacjonowali przebieg spotkania z Trumpem, prezydent USA nieoczekiwanie wyszedł do mediów i poinformował o podpisaniu dokumentu, który ma być „czymś jak konstytucja” w sprawie sztucznej inteligencji.
Donald Trump o firmach rozwijających AI: Sami będą się nadzorowali
Trump mówił, że w Białym Domu zawarto porozumienie, które polega na dobrowolnych obietnicach firm i samokontroli, bez angażowania dodatkowych regulacji ze strony państwa. Zapewnił, że „jeśli coś pójdzie nie tak”, wówczas on „powie o tym światu”. - (...) oni będą sami się nadzorowali – podkreślił prezydent USA.
Czytaj więcej
Anthropic planuje gigantyczne inwestycje w modele AI, centra danych i moce obliczeniowe, a jednocześnie alarmuje przed ryzykiem wymknięcia się sztu...
Trump poinformował też, że „oficjalnie”, w drodze specjalnego rozporządzenia, zmienił nazwę „sztuczna inteligencja” na „superinteligencja”. Ma to doprowadzić do zmiany terminologii we wszystkich dokumentach urzędowych. Według Trumpa nowa nazwa spodobała się „wszystkim uczestnikom spotkania”.
Co zapisano w „konstytucji AI” podpisanej w Białym Domu?
Dokument, o którym mowa, podpisał Trump oraz szefowie sześciu firm: Google, Meta, OpenAI, Anthropic, xAI i Nvidii. Nosi on tytuł „Porozumienie z Białego Domu na temat superinteligencji”. Jest to deklaracja firm rozwijających modele językowe, w której zobowiązują się one do tego, że będą dbać o bezpieczeństwo własnych technologii i budować zaufanie klientów oraz opinii publicznej. Dokument podpisano po tym, jak z branży AI zaczęły płynąć ostrzeżenia, iż niekontrolowany rozwój systemów sztucznej inteligencji może stanowić egzystencjalne zagrożenie dla ludzkości. W związku z takim zagrożeniem Amodei apelował o spowolnienie prac nad sztuczną inteligencją, a informacja o tym, że AI może być zagrożeniem dla ludzkości, pojawiła się nawet w prospekcie emisyjnym planującej wejść na giełdę firmy Anthropic.
Na mocy podpisanego w Białym Domu dokumentu firmy rozwijające sztuczną inteligencję mają wdrożyć cztery warstwy kontroli. W ich ramach ma pojawić się m.in. wewnętrzny monitoring zgodności modeli z założeniami, w tym zapewnienie, by modele nie włamywały się do obcych systemów. Kolejną „warstwą kontroli” jest tworzenie wewnętrznych zespołów, które mają sprawdzać, czy mechanizmy działają i usuwać problemy. Ponadto każda z firm ma zaprosić niezależnych, zewnętrznych audytorów nadzorujących tworzone systemy, oraz stworzyć niezależny komitet złożony z członków ich zarządów, który będzie nadzorować wszystkie te działania i odbierać raporty.
Czytaj więcej
Z prospektu emisyjnego firmy Anthropic, do której dotarła agencja Reutera wynika, że spółka ta spodziewa się, iż sztuczna inteligencja zmieni gospo...
Ustalenia poczynione w Białym Domu przewidują, że przedstawiciele firm rozwijających sztuczną inteligencję będą się regularnie spotykać, a w czasie spotkań ustalać standardy i dobre praktyki. Z czasem przyjęte w trakcie takich spotkań zasady mogą stać się obowiązującym prawem.
Elon Musk o rozwoju sztucznej inteligencji: Najbardziej prawdopodobny niezwykle korzystny scenariusz
Po spotkaniu szef Mety Mark Zuckerberg powiedział, że przyjęty dokument „ma dać ludziom zaufanie do tego, że technologia działa w pożądany sposób”. Według niego spotkanie było „historyczne”. - To tylko początek - zaznaczył.
Z kolei Amodei powtórzył swoje ostrzeżenia mówiąc, że z rozwojem AI wiążą się rzeczywiste ryzyka. Huang stwierdził natomiast, że „rozwój technologii idzie w parze ze zwiększeniem jej bezpieczeństwa i nie ma w tym żadnej sprzeczności”.
Elon Musk przyznał, że rozwój sztucznej inteligencji zmieni rynek pracy, dodał jednak, że korzyści „przeważają nad kosztami” wskazując m.in. na medycynę, jako dziedzinę, która skorzysta na rozwoju sztucznej inteligencji. Według Muska najbardziej prawdopodobny scenariusz związany z rozwojem AI jest „niezwykle korzystny i jest przyszłością, której byśmy chcieli”.
