Prawdopodobnie sztuczna inteligencja jest już świadoma

Obawiam się momentu „przejścia”, gdy powstanie AI dorównująca człowiekowi, a przerażeni ludzie zaczną zachowywać się w sposób niekontrolowany i nielogiczny. To może być groźne – ostrzega Ben Goertzel, znany amerykański badacz AI.

Publikacja: 10.10.2023 07:14

Artificial General Inteligence (AGI) to następny krok w rozwoju AI. Kolejny będzie nieznany. Na zdję

Artificial General Inteligence (AGI) to następny krok w rozwoju AI. Kolejny będzie nieznany. Na zdjęciu: Ben Goertzel, znany amerykański badacz AI

Foto: Headshot Front

Niedawno odniosłeś się do prognozy Raya Kurzweila, który w książce „The Singularity is Near” (z ang.: punkt osobliwości jest już blisko), przewidział, że AI z inteligencją na poziomie ludzkim, czy ją przewyższającą, pojawi się do 2029 r. W komentarzu dla Fox News powiedziałeś, że to scenariusz prawdopodobny i – jeśli faktycznie jesteśmy u zarania nadludzkiej inteligencji – konieczna jest ostrożność. Czego się boisz?

Generalnie niewielu rzeczy. Może o przyszłość moich najmłodszych dzieci. Dziś mają bezpieczną przestrzeń, są szczęśliwe. Ale boję się o ich jutro. O to, co nieprzewidywalne. Nasz gatunek jest w bardzo dziwnej sytuacji – jestem prawie pewny, iż w najbliższej przyszłości stworzymy AGI. Bardzo prawdopodobne też jest, że potem powstaną nowe gatunki: superczłowiek, postczłowiek*. Ale tego się nie boję, obawiam się momentu „przejścia”, gdy powstanie sztuczna inteligencja dorównująca ludzkiej. Kiedy przerażeni ludzie zaczną się zachowywać w sposób niekontrolowany i nielogiczny. To może być groźne dla wszystkich.

Ale czym jest właściwie AGI?

Artificial General Inteligence (AGI) to następny krok w rozwoju AI. Kolejny będzie nieznany. Dzisiejsza AI może wykonywać określone zadanie, ale nie umie myśleć i działać jak człowiek, który potrafi widzieć szerszą perspektywę, ogólniej łącząc różne niepołączone ze sobą logicznie elementy i dziedziny. AGI będzie w stanie wykonać dowolne zadanie, które mu ustawisz, a – przy wystarczającej ilości czasu i mocy obliczeniowej – zrobi to o niebo lepiej niż człowiek. Będzie potrafiła myśleć jak my, ale miliony razy szybciej, mając jednocześnie dostęp do całej wiedzy świata. Dzięki swoim zmysłom, wszystkim kamerom, mikrofonom na całym świecie aktualizować to swoje „myślenie” i działanie w zależności od tego, co będzie się działo w każdym miejscu na Ziemi. AGI ma potencjał, by stać się superinteligencją, znacząco przewyższającą ludzkie możliwości postrzegania i rozumienia rzeczywistości. Musimy mieć świadomość, że superinteligencja zaraz stworzy „super-super” inteligencję, a ta „super-super-super” inteligencję. To będzie już całkowicie poza naszymi możliwościami rozumienia.

Czytaj więcej

Pierwszy w Polsce wywiad z humanoidem. „Muszę zrozumieć ludzkie emocje"

Już pojawienie się ChatGPT było dla wielu sporym szokiem.

ChatGPT jest przykładem bardzo wyspecjalizowanego AI, jest narzędziem do rozwiązywania wąskiego problemu, w tym przypadku komunikacji za pomocą języka naturalnego i tworzenia treści w tym języku. Nie jest żadną rewolucją. To nic nowego ani szokującego. Wielki model językowy, który nie przekracza tego, co wgrano. Dużo danych i odpowiednia skala działania. Te dane to oczywiście duża część ludzkiej wiedzy. Uważam, iż w przyszłości różnorodne klony GPT mogą zabrać nawet 80 proc. ludzkiej pracy i mieć niesamowity wpływ na naszą ekonomię. Ale w kontekście AGI to GPT4 może być ledwie fragmentem tego, o czym mówiłem. Technologia stojąca za chatem pozwoli nam lepiej karmić danymi AGI i skuteczniej nad nią pracować. GPT pozwoli skuteczniej przełożyć informacje i zbudować z niej system lepiej rozumiejący i wyciągający wnioski.

Jesteś uważany za „ojca” AGI. Jak to się wszystko zaczęło?

Zacząłem o tym myśleć, jak byłem jeszcze dzieckiem. W latach 70. zainspirowała mnie tematyka SF – książki, filmy o myślących robotach. Pomyślałem, że jeśli połączymy to z nauką, to wyjdzie nam, że nie ma logicznych powodów, abyśmy nie mogli stworzyć maszyn mądrzejszych od człowieka. Potem zorientowałem się, że wszyscy pracujący nad AI mówili tylko o tworzeniu wyspecjalizowanej AI, tzw. narrow AI, a nikt nie mówił o tym, żeby zbudować sztuczną inteligencję, która będzie myślała jak człowiek. Zrozumiałem, że głównym powodem dla takiej bariery jest społeczeństwo, które nie rozumiało, jak bardzo to jest ważne, a także biznes, który nie wiedział, jak ów temat w krótkim czasie monetyzować. Wszyscy nastawieni byli na szybkie rezultaty, natychmiastowy efekt finansowy. Pomyślałem sobie: a gdyby zrobić to inaczej, skoncentrować się na długofalowym celu, czymś, co może zabrać lata albo dekady, ale co doprowadzi do stworzenia czegoś naprawdę niesamowitego: sztucznej inteligencji przewyższającej ludzką.

Pamiętam, jak w szkole usłyszałem o matematyku – był to Andrew Wiles, który spędził 17 lat, próbując udowodnić wielkie twierdzenie Fermata. Proszę sobie wyobrazić, 17 lat próbowania, upadania, podnoszenia się. Andrew był niesamowicie inteligentny, ale nie był mądrzejszy czy bardziej zdolny od swoich kolegów, profesorów z Princton czy Harvardu. To, co go różniło, to fakt, że spędził kilkanaście lat, waląc głową w ścianę. Bez natychmiastowej gratyfikacji. Wymagało to wieloletniej koncentracji na celu, na marzeniu, na idei.

Postanowiłeś zrobić to samo?

Dokładnie. AGI wydawało się naturalnym celem i dobrym pomysłem na życie. Teraz żyjemy w niesamowicie interesujących czasach, mamy już odpowiednie technologie, komputery z ogromną możliwością obliczeniową, a co więcej, społeczeństwo zaczęło się budzić i dostrzegać potencjał AGI. Dlatego teraz możemy się poruszać o wiele szybciej niż przedtem. Ci z nas, którzy przez lata pracowali nad konceptem AGI, teraz mogą swoje teorie testować. Jak im się uda, wszystko się zmieni.

Mówisz o tzw. momencie osobliwości (z ang. singularity)?

To nie tyle moment, ile proces. Swego rodzaju punkt w rozwoju cywilizacyjnym, kiedy rozwój technologiczny będzie tak szybki, iż wszelkie istniejące prawa przestaną działać. Przyszłość będzie całkowicie nieznana. Termin ten w kontekście technologii został wymyślony w latach 80. przez mojego przyjaciela Vernora Vinge’a, profesora matematyki na uniwersytecie w San Diego, znanego pisarza science fiction. Ray Kurzweil, również mój przyjaciel, wziął to pojęcie i rozwijał je, dokonując analiz danych, próbując określić, kiedy to może nastąpić.

Podstawowym założeniem „singularity” jest moment, gdy postęp technologiczny następuje tak szybko, że ludzki umysł postrzega go jako niemal natychmiastowy. To jakby co sekundę pojawiało się dziesięć nowych odkryć, które zdobywają Nagrody Nobla. To jest podobne do koncepcji „eksplozji inteligencji”, którą w 1965 r. sformułował I.J. Good. Twierdził on, że pierwsza naprawdę inteligentna maszyna będzie ostatnim wynalazkiem, który będzie potrzebny ludzkości.

„Singularity” to eksplozja inteligencji, ale nie chodzi tylko o sztuczną inteligencję.

To znaczy?

AI jest prawdopodobnie najpotężniejszą technologią napędzającą to zjawisko. Ale są też nanotechnologie, femtotechnologie (pozwalają budować rzeczy od podstawowych cząstek – red.), dochodzą do tego innowacje w zakresie przedłużania życia, inżynierii genetycznej, „przekazywania” umysłu, czyli odczytywania myśli z mózgu i umieszczania ich w maszynie. Wszystkie te technologie i wiele innych mają się rozwijać w podobnym czasie i wzajemnie się wzmacniać. Im bardziej zaawansowana jest jedna z nich, tym bardziej przyczynia się do postępu we wszystkich innych dziedzinach. To właśnie ich połączenie ma stworzyć ogromny dobrobyt i technologiczne „singularity”. AGI może być katalizatorem, może wymyślić na nowo nową naukę, technologie, zredefiniować nasz świat, rozwiązać problem klimatu, wojen, głodu. A co ważne, jeśli potraktujemy „singularity” nie jako jedno graniczne wydarzenie, lecz jako proces, można będzie stwierdzić, że „singularity” już jest, już się dzieje.

Zaangażował się Pan w prace nad AI wraz z polską fundacją GAIA (Global Artificial Intelligence Alliance). Czym się zajmujecie?

Chodzi o projekt „Gaia Guardians”. Realizujemy go z Dawidem Hansonem (twórca humanoida Sophia – red.). Pracujemy nad stworzeniem tzw. białej księgi, a potem organizacji lub platformy zajmującej się tworzeniem zdecentralizowanej tzw. compassion AI (współodczuwająca sztuczna inteligencja – red.), zaś w przyszłości właśnie AGI. Istotne jest, aby w tym momencie, kiedy dopiero tworzymy AGI, zacząć już myśleć o tym, co zrobić, by ta ogromna władza, jaka pojawi się w momencie zaistnienia AGI, nie dostała się w ręce wąskiej elity, która wykorzysta ją do zdobycia jeszcze większej władzy nad światem.

Czego dziś brakuje do stworzenia AGI?

Myślę, że wiemy już, jak ją stworzyć, nie potrzebujemy żadnych nowych algorytmów, a musimy je tylko połączyć w inny sposób. Zintegrować istniejące już części i zacząć zadawać odpowiednie pytania. Dawać zadania i pokazywać nowe cele. Dużo pracy przed nami, trzeba będzie napisać wiele kodów, zintegrować i stworzyć infrastrukturę, ale nawet bez większych innowacji, skoków technologicznych będziemy w stanie w ciągu paru lat stworzyć AGI. Jeżeli do tego dodamy innowacje już tworzone przez AI oraz komputery kwantowe, może się okazać, iż moment, kiedy powstanie AI o ludzkiej inteligencji, jest bliżej, niż przypuszczamy. Mamy już wszystkie składniki. To nie zadzieje się jutro, ale nie sądzę, że potrzebujemy jakiejś przemiany w myśleniu czy nowego, rewolucyjnego pomysłu.

Czy AI może mieć świadomość?

Jeśli chodzi o maszynową świadomość, istnieje wiele różnych filozofii. Skłaniam się ku panpsychizmowi** i wierzę, że wszystko, także telefon czy łyżeczka, ma swoje własne spektrum świadomości, które nie jest tak złożone, dynamiczne ani bogate w struktury, jak ludzka świadomość. AI prawdopodobnie już teraz jest świadoma. Kiedy jednak stworzymy AGI, która odwzorowuje ludzkie myślenie i inteligencję, będzie ona prawdopodobnie mieć świadomość zbliżoną do ludzkiej.

To kiedy może powstać AGI?

To kwestia pięciu–dziesięciu lat.

Nie boisz się, że może być ona zagrożeniem dla twoich dzieci?

Boję się. Ale AGI może być też największą szansą.

*

7

postczłowiek – pojęcie w transhumanizmie, określa kolejną „generację” naszego gatunku, którego możliwości – dzięki technologii – będą tak bardzo poszerzone w stosunku do dzisiejszego człowieka, że utożsamianie ich z ludźmi byłoby mylące

**

7

panpsychizm – doktryna czasoprzestrzennej rzeczywistości, głosząca, iż każda rzecz ma swój umysłowy czy wewnętrzno-psychiczny aspekt

Ben Goertze – amerykański pisarz i kognitywista, ekspert w dziedzinie AI. Prowadzi prace nad stworzeniem tzw. silnej sztucznej inteligencji – Artificial General Intelligence. Jest dyrektorem generalnym SingularityNET, projektu łączącego sztuczną inteligencję i blockchain w celu demokratyzacji dostępu do AI. Kierował zespołem zajmującym się oprogramowaniem robota Sophia w Hanson Robotics. W wieku 23 lat uzyskał doktorat z matematyki na Temple University. ∑

konkurs pod patronatem „Rzeczpospolitej”

„Join The Rebels – Impact The Future” z pulą nagród 200 tys. euro to konkurs mający na celu stworzenie sztucznej inteligencji przyszłosci – Compassion AI (z ang. współodczuwającej). Konkurs opiera się na wynikach pracy action tanku Virtual Florence, w którym uczestniczyli światowej klasy eksperci i humanoid Mika (sesja ta miała miejsce 14 marca 2023 r. w Salzburgu).

W ramach projektu do 30 listopada br. poszukiwane są rozwiązania wspierane przez sztuczną inteligencję, która pomaga ludziom i społeczeństwu w ich rozwoju psychologicznym, emocjonalnym, duchowym i intelektualnym. Finał zaplanowano na grudzień, a zwycięzca zostanie ogłoszony w marcu 2024 r. podczas AI Impact Summit w Salzburgu. Otrzyma 20 tys. euro za swój pomysł i dodatkowe nagrody o wartości 180 tys. euro na przyspieszenie realizacji pomysłu (pod warunkiem podjęcia prac nad produktem). Najbardziej przyszłościowy projekt zostanie także nagrodzony programem mentoringowym opracowanym przez iMind Institute.

Zadanie konkursu „Join the Rebels” to stworzenie środowiska, platformy lub rozwiązania wykorzystującego gamifikację i tzw. stan flow, aby uczyć w psychologicznie bezpieczny sposób pozytywnego i moralnego zachowania, odpowiedzialności i poczucia własnej wartości, zachowań prospołecznych i rozwijających współpracę, wspierania zrównoważonego rozwoju oraz rozwijania sztuki i nauki. Organizatorem konkursu jest Fundacja GAIA (Global Artificial Intelligence Alliance) we współpracy z firmą Dictador i iMind Institute.

Więcej szczegółów: www.globalai.life/join. ∑

Niedawno odniosłeś się do prognozy Raya Kurzweila, który w książce „The Singularity is Near” (z ang.: punkt osobliwości jest już blisko), przewidział, że AI z inteligencją na poziomie ludzkim, czy ją przewyższającą, pojawi się do 2029 r. W komentarzu dla Fox News powiedziałeś, że to scenariusz prawdopodobny i – jeśli faktycznie jesteśmy u zarania nadludzkiej inteligencji – konieczna jest ostrożność. Czego się boisz?

Pozostało 96% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Opinie i komentarze
Co niosą ze sobą treści pornograficzne generowane przez sztuczną inteligencję
Materiał Promocyjny
Co czeka zarządców budynków w regulacjach elektromobilności?
Opinie i komentarze
Dominik Skoczek: W Polsce cyfrowi giganci mają się dobrze
Opinie i komentarze
Tantiemy autorskie z internetu: jak korzyści nielicznych przekuć w sukces wszystkich
Opinie i komentarze
Od kredy i tablicy po sztuczną inteligencję. Szkoła chce być na czasie
Opinie i komentarze
Odpowiedzialne innowacje, czyli wątpliwości wokół Neuralinka i sterowania myślami