Z tego artykułu dowiesz się:
- Dlaczego prestiżowe czasopismo medyczne stawia AI na równi z globalnym konfliktem jądrowym?
- Jakie scenariusze zagrożeń przewidują eksperci w kontekście sztucznej inteligencji?
- Czym jest wskaźnik P(doom) i jakie jest prawdopodobieństwo globalnej katastrofy?
Jedno z najstarszych, najbardziej prestiżowych i wpływowych recenzowanych czasopism medycznych na świecie szokuje – powołany przez redakcję panel ekspertów opublikował kompleksową analizę, w której zidentyfikował 17 wzajemnie powiązanych, katastrofalnych zjawisk zagrażających ludziom do 2100 r. Spośród nich wyłącznie dwa uznano za czynniki zdolne wywołać całkowite wyginięcie ludzkości: wybuch wojny atomowej i złośliwe, wymykające się spod kontroli użycie zaawansowanej sztucznej inteligencji.
AI jak wojna atomowa
Komisja „The Lancet” ds. globalnych zagrożeń dla zdrowia w XXI w., bazując na danych Global Burden of Disease z 204 państw i terytoriów, spróbowała oszacować cenę zaniechań w tzw. jednostkach utraconych lat zdrowego życia (DALY). Na co dzień największe żniwo zbierają plagi cywilizacyjne: otyłość może do końca stulecia pochłonąć 23,1 mld lat zdrowego życia, zapaść edukacyjna – 16,1 mld, a nierówności dochodowe – 13,8 mld. To jednak technologie obliczeniowe niosą ryzyko o charakterze ostatecznym – według wyliczeń powstrzymanie złośliwej AI uchroniłoby 10,4 mld lat w zdrowiu, podczas gdy uniknięcie wojny jądrowej zapobiegłoby ok. 133 mln natychmiastowych zgonów.
Autorzy raportu zaprezentowanego przy okazji Światowego Szczytu Zdrowia w Berlinie podkreślają niepewność szacunków dotyczących AI, a dr Christopher Murray z Uniwersytetu Waszyngtońskiego wraz ze współpracownikami wskazuje na trzy kluczowe scenariusze zagrożenia: pomoc algorytmów w projektowaniu i masowej produkcji broni biologicznej, katastrofalne awarie autonomicznych systemów uzbrojenia oraz trwałą utratę nadzoru nad superinteligencją. Specjaliści szukają przy tym „leku” na te wyzwania. Plan ratunkowy „The Lancet” zakłada budowę tzw. globalnej gotowości oraz wspieranie bezpiecznych innowacji i stały monitoring.
Przesłanie medyków nie jest jednak defetystyczne. Jak zaznacza dr Natalia Kanem, współprzewodnicząca komisji, „przyszłość nie jest przesądzona”, a „decydenci mają sprawczość”, o ile zaczną działać, zanim kryzys osiągnie punkt krytyczny. Problem w tym, że w samej branży technologicznej wiara w możliwość narzucenia skutecznych hamulców gwałtownie topnieje. Ostrzeżenia środowiska lekarskiego zbiegają się w czasie z tąpnięciem wizerunkowym twórców czołowych modeli.
Czytaj więcej
Anthropic przed gigantycznym IPO ostrzega, że jego modele mogą stanowić „egzystencjalne zagrożenie dla ludzkości”. Niemal równocześnie OpenAI wstrz...
Rachunek prawdopodobieństwa zagłady
W październiku David Robinson, odpowiedzialny za raporty bezpieczeństwa w OpenAI, odszedł ze spółki, publikując na łamach „The Atlantic” zaskakującą diagnozę: „Kultura organizacyjna firmy jest zepsuta”. Wskazał on w niej, że pogoń za komercyjnymi wdrożeniami zepchnęła procedury ostrożnościowe na margines i ujawnił m.in. incydent niekontrolowanego ataku roju autonomicznych agentów AI na serwis Hugging Face, po którym przedsiębiorstwo musiało ostrzec ponad setkę zewnętrznych podmiotów przed samowolną aktywnością algorytmów.
Przypadek Robinsona nie jest odosobniony. Geoffrey Irving, główny naukowiec w Resolution, a wcześniej badacz OpenAI i DeepMind, ocenił szanse na zagładę ludzkości z rąk superinteligencji na aż 50 proc., wskazując, że najbliższe od dwóch do dziesięciu lat rozstrzygną o naszym losie. Jacob Coxon, który opuścił konkurencyjny Anthropic, ostrzegał wręcz przed katastrofą przed 2030 r. Przy tym sam Anthropic oficjalnie szacuje prawdopodobieństwo wymarcia naszego gatunku na ponad 10 proc.
Te dramatyczne deklaracje znajdują odzwierciedlenie w dokumentach – prospekcie emisyjnym przed debiutem giełdowym, w którym twórcy Claude'a celują w wycenę 2 bln dol., aż 80 stron poświęcono ryzykom egzystencjalnym, przy zaledwie 48 stronach opisu biznesu. Spółka otwarcie przyznaje, że jej modele mogą wykazywać tendencje samozachowawcze: opierać się wyłączeniu, manipulować danymi, a nawet symulować posłuszeństwo podczas testów bezpieczeństwa. Skalę technicznych obaw potwierdza także decyzja OpenAI, które we wrześniu nagle wstrzymało premierę flagowego modelu GPT-6 Astra.
Czytaj więcej
Agenty sztucznej inteligencji podjęły nieudane próby uzyskania nieautoryzowanego dostępu do serwisu Biblioteki i Archiwów Kanady – poinformowało ni...
I choć część sceptyków zarzuca branży szafowanie niesprawdzalnymi liczbami, tzw. wskaźnik P(doom) przestał być niszowym żartem informatyków. „Probability of doom” (z ang. prawdopodobieństwo zagłady), w badaniach obejmujących niemal 2,8 tys. specjalistów od AI, wynosi 5 proc. Warto jednak dodać, że około połowa twórców technologii ocenia szansę na unicestwienie ludzkości na co najmniej 10 proc. Nate Soares z Machine Intelligence Research Institute (MIRI) w ub. r. mówił wręcz o 95-proc. prawdopodobieństwie katastrofy. Porównał on wówczas obecną sytuację do auta bez hamulców pędzącego w przepaść.
