Z tego artykułu dowiesz się:
- Czym jest „rekurencyjne samodoskonalenie” i dlaczego gigant branży AI uważa je za egzystencjalne zagrożenie?
- Dlaczego firma, która przygotowuje się do wielomiliardowego debiutu na giełdzie, publikuje alarmujący apel?
- Co sprawia, że korporacje ignorują kluczowe ryzyka AI?
Jack Clark, współtwórca firmy Anthropic, oraz szefowa działu badań Marina Favaro opublikowali wpis, o którym robi się głośno – formułują w nim tezę, że ludzkość zbliża się do niebezpiecznej granicy, a źródłem niepokoju jest tzw. rekurencyjne samodoskonalenie. Chodzi o moment, w którym systemy sztucznej inteligencji zyskają autonomiczną zdolność do ulepszania własnego kodu bez udziału człowieka. Taki scenariusz oznacza lawinowy skok możliwości technologicznych, nad którym żadna ludzka instytucja nie zdoła utrzymać nadzoru.
Strach przed maszyną, która uczy się sama
Przedstawiciele firmy porównują obecną sytuację geopolityczną do klasycznego dylematu kontroli zbrojeń. Ich zdaniem celowe spowolnienie lub tymczasowa pauza dałyby społeczeństwom oraz badaczom bezcenny czas na wypracowanie mechanizmów bezpieczeństwa.
Czytaj więcej
Anthropic, jedna z najważniejszych firm rozwijających sztuczną inteligencję, ogłosiła plany wejścia na amerykańską giełdę. Do gigantycznego debiutu...
Paradoksalnie, ten dramatyczny apel płynie z ust gracza, który niedawno wyprzedził OpenAI, osiągając astronomiczną wycenę rynkową na poziomie 965 mld dol. Choć Anthropic wstrzymał wdrożenie swojego flagowego modelu Mythos z obawy przed cyberatakami o charakterze militarnym, to jednocześnie jego pracownicy piszą dziś osiem razy więcej kodu niż w poprzednich latach. Wygląda na to, że pociąg technologiczny pędzi coraz szybciej, mimo że sami maszyniści krzyczą o potrzebie zaciągnięcia hamulca bezpieczeństwa.
Sytuacja jest kuriozalna, ale najwyraźniej rekurencyjne samodoskonalenie osiąga w zaciszach laboratoriów firm AI takie poziomy, że głosy o wstrzymaniu prac nad zaawansowanymi modelami stają się coraz głośniejsze.
Mimo wszystko wiarygodność apelu Anthropic staje pod znakiem zapytania w obliczu twardych realiów finansowych. Zaledwie kilka dni przed publikacją tego wpisu firma złożyła poufny prospekt emisyjny S-1 do amerykańskiej Komisji Papierów Wartościowych i Giełd (SEC). Debiut na parkiecie, planowany na jesień, ma wywindować wycenę spółki. Krytycy i analitycy branżowi natychmiast zauważyli, że głośne mówienie o zagrożeniach może być formą wyrachowanego lobbingu. Promowanie restrykcyjnych regulacji państwowych uderzy bowiem najmocniej w mniejszą konkurencję, która nie dysponuje tak gigantycznymi budżetami na działy bezpieczeństwa.
Czytaj więcej
Najnowsze doświadczenia naukowców z USA pokazują, czym kończy się autonomia agentów AI. Ci, gdy otrzymują dostęp do poczty, serwerów, czy komunikat...
Rynkowy pęd i ignorowanie ryzyka
Sami autorzy manifestu przyznają, że realne wyegzekwowanie globalnej pauzy graniczy z cudem. Wymagałoby to idealnej harmonizacji działań wiodących laboratoriów w USA i Chinach. Jakie są na to szanse? Dyrektor generalny Dario Amodei niedawno otwarcie mówił, że prawdopodobieństwo katastrofalnego scenariusza dla ludzkości to aż 25 proc. Eksperci wskazują na moralny dylemat firm z branży, które muszą lawirować między misją ochrony ludzkości, a presją akcjonariuszy.
Ostatnio Yoshua Bengio, jeden z pionierów nowoczesnej sztucznej inteligencji, przedstawił na łamach Bloomberga ostrą ocenę sytuacji. Jego zdaniem jako ludzkość budujemy obecnie potężne systemy, których technicznie po prostu nie potrafimy kontrolować. Kluczowym problemem staje się powoływanie do życia autonomicznych agentów AI realizujących wyznaczone cele. Jak zauważa Bengio, pytanie brzmi: kto faktycznie panuje nad tymi celami? Wskazuje też na zgubny wpływ presji komercyjnej. To rynkowy pęd zmusza korporacje do ignorowania ryzyka.
Laureat Nagrody Nobla Geoffrey Hinton, nazywany „ojcem chrzestnym AI”, także niedawno alarmował, że bezwzględny wyścig technologiczny nieuchronnie doprowadzi do narodzin bytów znacznie przewyższających ludzki intelekt – i to w perspektywie najbliższej dekady. Według niego „cyfrowe byty” wcale nie muszą być przyjazne swoim stwórcom.
