„Moment Hindenburga”. Znany naukowiec ostrzega przed wyścigiem AI

Michael Wooldridge, profesor sztucznej inteligencji na Uniwersytecie Oksfordzkim, powiedział, że zagrożenie wynika z pośpiechu ogromnej presji komercyjnej, pod jaką znajdują się firmy technologiczne, aby wypuszczać nowe narzędzia AI. Nagły wzrost liczby chatbotów AI wyposażonych w zabezpieczenia, które jednak można łatwo ominąć, pokazuje – jego zdaniem – że bodźce komercyjne mają pierwszeństwo przed bardziej ostrożnym rozwojem i testami bezpieczeństwa.

Presja komercyjna kontra bezpieczeństwo systemów AI

– To klasyczny scenariusz technologiczny – powiedział, cytowany przez „The Guardian”. – Mamy technologię, która jest bardzo, bardzo obiecująca, ale nie została przetestowana tak rygorystycznie, jak byśmy sobie tego życzyli, a presja komercyjna stojąca za nią jest nie do wytrzymania.

Wooldridge, który jest wybitnym ekspertem od logiki AI, dyrektorem ds. fundamentów AI w Instytucie Alana Turinga w Londynie oraz autorem poczytnych książek popularnonaukowych, takich jak „Droga do świadomych maszyn”, uważa, że „moment Hindenburga” jest „bardzo prawdopodobny”. Niemiecki sterowiec Hindenburg, mierzący 245 metrów i wykonujący rejsy przez Atlantyk, stanął w płomieniach 6 maja 1937 r., podczas lądowania w New Jersey w USA. Zginęło wówczas 36 członków załogi, pasażerów i pracowników naziemnych. Pożar został wywołany iskrą, która zapaliła 200 tysięcy metrów sześciennych wodoru utrzymującego sterowiec w powietrzu.

Czytaj więcej

Technologie

Wielkie sterowce wracają na niebo. To może zmienić lotnictwo

Pathfinder 1 to testowany właśnie elektryczny sterowiec, który ma zapoczątkować nową erę w lotnic...

– Katastrofa Hindenburga zniszczyła globalne zainteresowanie sterowcami. Od tego momentu była to martwa technologia, a podobny moment stanowi realne ryzyko dla AI – powiedział Wooldridge. Ponieważ AI jest wbudowana w tak wiele systemów, poważny incydent mógłby dotknąć niemal każdej branży.

Scenariusze, które wyobraża sobie Wooldridge, obejmują wadliwą aktualizację oprogramowania w samochodach autonomicznych, cyberatak wspierany przez AI, który uziemia globalne linie lotnicze, albo upadek dużej firmy na wzór banku Barings, wywołany przez to, że AI „zrobi coś głupiego”. – To bardzo, bardzo prawdopodobne scenariusze – powiedział. – Istnieje wiele sposobów, w jakie AI mogłaby bardzo publicznie zawieść.

Tymczasem globalne nakłady na AI rosną w tempie wykładniczym, przenosząc się z laboratoriów do masowej infrastruktury. Według firmy badawczej Gartner wydatki na AI w tym roku (infrastruktura i usługi) osiągną poziom 2,5 biliona dolarów, co oznacza gigantyczny skok w porównaniu z 2025 rokiem (około 200 mld dol.). W ubiegłym roku sektor AI pochłonął blisko połowę globalnego finansowania venture capital, podczas gdy rok wcześniej było to 34 proc. 

AI za bardzo upodabnia się do człowieka

Wooldridge wskazuje na rozbieżność między tym, czego oczekiwali badacze, a tym, co faktycznie powstało. – Współczesna AI nie jest ani w pełni poprawna, ani kompletna – powiedział.

Wynika to z faktu, że duże modele językowe, które stanowią podstawę chatbotów AI, generują odpowiedzi poprzez przewidywanie kolejnego słowa lub jego fragmentu na podstawie rozkładów prawdopodobieństwa wyuczonych w trakcie treningu. Prowadzi to do AI o „poszarpanych” możliwościach: niezwykle skutecznej w niektórych zadaniach, a jednocześnie bardzo słabej w innych. W dodatku, z powodu pośpiechu, na rynek wprowadza się niedopracowane w pełni modele.

Czytaj więcej

Technologie

„Jak wrodzy kosmici”. Pionier badań nad AI bije na alarm

Badania dowodzą, że AI kłamie, manipuluje ludźmi i systemami nadzoru, by uniknąć dezaktywacji – o...

Problem – jak podkreśla Wooldridge – polega na tym, że chatboty AI zawodzą w nieprzewidywalny sposób i nie mają świadomości, kiedy się mylą, a mimo to zostały zaprojektowane tak, by zawsze udzielać pewnych siebie odpowiedzi. Mogą więc łatwo wprowadzać ludzi w błąd. Istnieje ryzyko, że ludzie zaczną traktować AI tak, jakby była człowiekiem. A to tylko narzędzie.