Wizja przyszłości, jaką w wywiadzie dla „The Times” nakreślił Nate Soares, były inżynier Google i Microsoft, a obecnie szef Machine Intelligence Research Institute (MIRI), mrozi krew w żyłach. Jego zdaniem ludzkość pędzi w kierunku egzystencjalnej katastrofy napędzanej przez sztuczną inteligencję, a szanse na pomyślny finał tej podróży są niewielkie. Ekspert wyliczył je na ledwie 5 proc. I to w najbardziej w optymistycznym scenariuszu.
Czym jest „P(doom)”?
Soares, kierujący jednym z najstarszych instytutów badawczych dedykowanych bezpieczeństwu AI, używa sugestywnej metafory. Rozwój superinteligencji przypomina mu samochód pędzący w stronę przepaści. Różnica polega na tym, że w pojeździe, który znamy, wiemy, gdzie jest hamulec. W przypadku sztucznej inteligencji – wciąż go szukamy, a prędkość rośnie. W przypadku AI ów postęp widać z każdym miesiącem. Prognoza prezesa MIRI mówi o zagładzie. Prawdopodobieństwo to miałoby sięgać 95 proc. To jedno z najbardziej radykalnych stanowisk w branży. Jednocześnie jest to głos, który trudno zignorować, biorąc pod uwagę doświadczenie Soaresa w technologicznych gigantach, gdzie miał bezpośredni wgląd w tempo prac nad AI.
Czytaj więcej
Miliarder i twórca Microsoftu zadebiutuje już za kilkanaście dni w nowym serialu na platformie Ne...
Skrajny pesymizm nie jest jednak w tej branży aż tak powszechny. Ekstremalna ocena, dokonana przez Nate'a Soaresa, ma jednak spore grono wyznawców. W tym gronie często odwołuje się do pojęcia „P(doom)”. To wskaźnik prawdopodobieństwa katastrofy egzystencjalnej spowodowanej przez wymykającą się spod kontroli sztuczną inteligencję.
Jak AI może zniszczyć ludzkość?
W branży uśrednione wyniki ankiet „P(doom)” wśród badaczy AI wskazują na 14,4 proc. A mediana jest na poziomie 5 proc. Warto przytoczyć badanie z 2024 r., w którym wzięło udział 2778 specjalistów od sztucznej inteligencji. Wnioski? Od 38 do 51 proc. ankietowanych prawdopodobieństwo unicestwienia ludzkości przez AI ocenia na co najmniej 10 proc. Mówimy tu o ocenie ludzi, którzy na co dzień tworzą te technologie.
