Harry i Meghan pod rękę z naukowcami. Boją się superinteligencji

„Wzywamy do zakazu rozwoju superinteligencji, który nie zostanie zniesiony, dopóki nie zapanuje szeroki konsensus naukowy, że można to zrobić w sposób bezpieczny i kontrolowany, oraz nie uzyska się silnego poparcia społecznego” – czytamy w liście, pod którym podpisało się m.in. pięciu laureatów Nagrody Nobla, Steve Wozniak (współzałożyciel Apple), Steve Bannon (bliski sojusznik prezydenta Trumpa), Paolo Benanti (doradca papieża), a także Harry i Meghan, książę i księżna Sussex.

Kto napisał list w sprawie superinteligencji?

List stworzyła Future of Life Institute (FLI) – organizacja non-profit, która w 2023 r. opublikowała inny list otwarty, wzywający do sześciomiesięcznej przerwy w rozwoju potężnych systemów AI. Choć list ten był szeroko komentowany, nie osiągnął swojego celu.

Teraz organizacja skupiła się na superinteligencji, ponieważ – jak wierzą przedstawiciele FLI – ta technologia, definiowana jako system zdolny przewyższyć człowieka we wszystkich użytecznych zadaniach, może pojawić się już w ciągu roku lub dwóch.

Czytaj więcej

Technologie

AI może zniszczyć ludzkość w kilka lat? Noblista ma zaskakujące rozwiązanie: „matka AI”

Superinteligencja może wyrwać się spod kontroli i zniszczyć ludzkość – alarmuje Geoffrey Hinton,...

– Czas się kończy – powiedział w rozmowie z magazynem „Time” Anthony Aguirre, dyrektor wykonawczy FLI. – Jedyną rzeczą, która może powstrzymać firmy AI przed niekontrolowanym dążeniem do superinteligencji, jest powszechne uświadomienie sobie na wszystkich poziomach społeczeństwa, że tego właśnie nie chcemy.

W lipcu Mark Zuckerberg, dyrektor generalny Meta (Facebook) – jednej z największych firm rozwijających AI w USA – powiedział, że rozwój superinteligencji jest „na horyzoncie”.

Dlaczego superinteligencja może zagrozić ludzkości?

Badanie opinii publicznej opublikowane wraz z listem wykazało, że 64 proc. Amerykanów uważa, iż superinteligencja nie powinna być rozwijana, dopóki nie zostanie udowodnione, że jest bezpieczna i kontrolowalna, a tylko 5 proc. sądzi, że należy ją rozwijać jak najszybciej.

– Niewielka liczba bardzo bogatych firm buduje te systemy, podczas gdy ogromna większość ludzi wolałaby obrać inną drogę – mówi Aguirre.

Wśród sygnatariuszy znaleźli się również aktorzy Joseph Gordon-Levitt i Stephen Fry, raper will.i.am, izraelski historyk i pisarz Yuval Noah Harari, „ojciec chrzestny AI” Geoffrey Hinton czy brytyjski miliarder Richard Branson. Pod listem podpisała się także Susan Rice, doradczyni ds. bezpieczeństwa narodowego w administracji Baracka Obamy, a nawet Leo Gao – pracownik techniczny w OpenAI, organizacji, którą jej dyrektor generalny Sam Altman określa jako „firmę badającą superinteligencję”. Aguirre spodziewa się, że z czasem liczba podpisów wzrośnie: – Przekonania już istnieją. Problem w tym, że ludzie nie czują się swobodnie, by je otwarcie wyrażać.

Czytaj więcej

Technologie

Microsoft zaskoczył: Nie ma szans na szybkie stworzenie superinteligencji

Kwestia budowy sztucznej inteligencji, potężniejszej niż ludzie, rozpala umysły zwolenników dynam...

Książę Harry, książę Sussex, napisał w dokumencie: „Przyszłość sztucznej inteligencji powinna służyć ludzkości, a nie ją zastępować. Wierzę, że prawdziwym testem postępu będzie nie to, jak szybko się poruszamy, lecz jak mądrze kierujemy. Drugiej szansy nie będzie”.