Krzysztof Rybiński: Demokracja zanika i zastępuje ją algokracja

tv.rp.pl

Gdyby Marks dzisiaj żył, byłby zadowolony. Przechodzimy od demokracji i kapitalizmu do algokracji – mówi Krzysztof Rybiński, ekonomista i specjalista od nowych technologii, były wiceprezes NBP.

Co obecnie robi największy pesymista wśród polskich ekonomistów?

Co do polityków z pewnością byłem wielkim pesymistą. Co do aspektów gospodarczych bywało różnie, w końcu to ja wymyśliłem mem „złota polska dekada”. Ostatnie kilka lat spędziłem w Kazachstanie zarządzając największą uczelnią ekonomiczną jako jej rektor. Obecnie odsuwam się od zawodu ekonomisty, zajmuję się coraz bardziej data science, uczeniem maszynowym i sztuczną inteligencją.

Pana wypowiedzi sprzed 10 lat były bardzo pesymistyczne. Kierował pan funduszem, który kierował się wiarą, że strefa euro nie przetrwa. Zmieniło się pana podejście?

Strefa euro przetrwała, chociaż coraz więcej osób ostrzega, że narastają niepokojące bańki na rynkach aktywów i to się dobrze nie skończy w długim okresie. Okazało się, że odporność sterowanej przez banki centralne gospodarki jest dużo większa niż wówczas oczekiwałem. Świat ma się dzisiaj znacznie lepiej niż 10 lat temu.

Kryzys zasypano wówczas pieniędzmi.

To był wręcz potop.

Możemy się czegoś nauczyć od Kazachstanu, w którym spędził pan 3 lata?

Wielu z nas powinno pamiętać, że Kazachowie uratowali kilkaset tysięcy Polaków. Gdyby nie przygarnięto polskich zesłańców, których komuniści wygnali, to ci Polacy by umarli w ciężki tamtejszych mrozach. -30 to tam typowa temperatura zimą, do tego silny wiatr. Dawno takiej pogody w Polsce nie było.

Od nich można nauczyć się jak się zgodnie żyje w społeczności. Rodzina jest bardzo silna. W Kazachstanie nie ma domów starców. Tam jest nie do pomyślenia, żeby dzieci oddały rodziców do domu starców. Dzieci tam jest dużo, tego też możemy się od nich nauczyć.

Ale system emerytalny jest?

Jest. Po tym jak minister Sami Wiecie Kto zrobił skok na OFE w 2011 r., dobrze wiemy, że nie liczmy na żadne systemy emerytalne, tylko swoje własne oszczędności i dzieci. Kazachowie to bardzo dobrze rozumieją. Kraj, który jest na podobnym poziomie rozwoju jak Polska, ma 2,5 dziecka na rodzinę. 2 razy więcej niż Polacy. Czyli można.

Algorytmy decydują czy dostaniemy kredyt, pracę, czy wyjdziemy z więzienia, w jakiej wysokości zapłacimy mandat, itd.

Zajmuje się pan sztuczną inteligencją, big data. Nie widzi pan już dla siebie miejsca w ekonomii?

Świat zaczął się szybko zmieniać. O ile w poprzednim stuleciu homosapiens erectus przepoczwarzył się w homosapiens economicusa i ekonomiści rządzili światem, to dzisiaj mamy kolejne przepoczwarzenie. Homosapiens economicus przepoczwarza się w homosapiens embedingus. Embeding to taki wektor, który koduje nasz ślad cyfrowy, „wie” o nas wszystko. Gdzie byliśmy, co robiliśmy, co kupiliśmy, czy naruszyliśmy prawo, jakie mamy wykształcenie, przekonania, gusty. Algorytmy biorą te wektory, analizują je i decydują czy dostaniemy kredyt, pracę, czy wyjdziemy z więzienia, w jakiej wysokości zapłacimy mandat itd. Przepoczwarzyliśmy się w embedingi sterowane przez algorytmy w wielu ważnych aspektach naszego życia.

Chyba Chińczycy najlepiej o tym wiedzą.

W wielu krajach to postępuje, też w Polsce, bardzo szybko. Dzisiaj ekonomista jest znacznie mniej istotnym uczestnikiem dyskursu „co zrobić dalej, jakie polityki są ważne”, a znacznie ważniejsze są osoby, które zajmują się uczeniem maszynowym, AI, data science. Dlatego przesunąłem się z ekonomii w tym kierunku. Wielu ekonomistów robi podobnie, bo to pozwala zrozumieć jak w przyszłości będzie się sterowało społeczeństwem.

W Chinach technologia jest połączona z systemem kredytu społecznego. Rząd ma możliwość nadzorowania ludzi, przyznawania im punktów. Jest to sprzężone z systemem rozpoznawania twarzy, który jest w stanie wyłonić z tłumu pojedynczego człowieka. Potem zamknąć, ukarać, osądzić. Dla nas to szokujące.

Są zagrożenia i korzyści, jak z każdą wielką zmianą, która dotyczyła ludzkości w przeszłości. Rewolucja przemysłowa też przyniosła wiele korzyści, ale i trochę szkód.

CZYTAJ TAKŻE: Sztuczna inteligencja stała się zagrożeniem… w Polsce

Mój syn, który studiuje w Chinach, płaci twarzą w sklepie. Osoba, która widzi grajka z gitarą, nie wkłada mu do kapelusza monety, tylko robi zdjęcie kodu QR telefonem, klika kciukiem i przekazuje w tej sekundzie juany na konto grajka. Tak się daje jałmużnę. W Chinach płaci się telefonem za wszystko. Człowiek jest zanurzony w platformie WeChat, gdzie całe jego życie jest monitorowane i śledzone, a dane analizowane przez SI. Tak to wygląda w Chinach i będzie wyglądało w większości krajów świata.

To jest korzystniejsze dla obywateli czy władzy?

W Chinach komunizm zastąpiono algokracją. Algorytmy zarządzają życiem społeczeństwa. Cele algorytmom są stawiane przez rząd. Np. jeżeli firmy w Chinach powszechnie nie płacą pracownikom, to prezesi tych firm dostają karne punkty i nie mogą polecieć samolotem, pojechać szybkim pociągiem, czy mieszkać w drogim hotelu. Po pewnym czasie te firmy zaczęły bardziej terminowo płacić swoim pracownikom. Algokracja poprzez pozwala wymuszać społecznie pożądane zachowania. Zostaje pytanie – czy zawsze cele społeczne są spójne z celem partii rządzącej. Jeżeli się rozchodzą, ci, co projektują algorytmy mogą działać nie w interesie społecznym. To, co się dzieje w Chinach jest zapowiedzią tego, co się będzie działo niedługo we wszystkich krajach świata. Jesteśmy wszyscy zanurzeni w sieci, każdy ma przy sobie telefon komórkowy przez 99 proc. czasu. Ten telefon jest monitorowany, słuchany, wysyła dane, które są analizowane. Kwestią czasu jest dociśnięcie śruby, gdzie rząd i sektor prywatny będzie w pełni korzystał z tych danych, żeby nas monitorować i zachęcać do zachowań zgodnych z celami danej firmy czy rządu.

To nie jest zagrożenie dla demokracji?

Demokracja zanika i zostaje zastąpiona przez algokrację. Jest to wyższa forma ustroju polityczno-społecznego, gdzie ludźmi rządzą, w wielu, a potem we wszystkich aspektach życia, algorytmy. Czy tego chcemy czy nie, ten rozwój postępuje. Wieżowce w Warszawie też się budują, czy chcemy czy nie. Tak samo rola sterowania naszym życiem przez algorytmy będzie gwałtownie rosła. Tam, gdzie są zaangażowane potężne pieniądze (mówimy o bilionach dolarów, euro, funtów, jenów i juanów) postęp jest i będzie.

Mogłoby to pójść w drugim kierunku. Ludzie mogliby mieć większy wpływ na to, co się dzieje, dzięki nowoczesnym technologiom.

Tak już się dzieje. Np. crowdsourcing jest bardzo znaną technologią. Przy pomocy takich platform występuje finansowanie rozwoju firm czy można zarządzać klubem sportowym. Amazon Turk outsourcuje pracę dla dziesiątek tysięcy ludzi, którzy za drobną kwotę wykonują użyteczne zadania. Fabryki danych w Chinach polegają na tym, że osoby patrzą na obrazek i kodują jego atrybuty, żeby potem tymi obrazkami nakarmić sieci neuronowe, żeby nauczyły się rozpoznawać obraz i można było np. płacić twarzą w sklepie. Tego jest coraz więcej. Ale także przykładów, gdzie trener, prawnik, dziennikarz, ekonomista, analityk finansowy, może jeszcze nie lekarz, traci pracę będzie coraz więcej.

Gdy sztuczna inteligencja będzie o czymś decydować nie stanie się to groźne? Algorytmy to nie ludzie, AI może nie mieć hamulców i podejmować ryzykowne kroki.

To już się dzieje. Jak się spyta osoby, które znają się na finansach o wybitnych inwestorów, to powiedzą Warren Buffet. Od 1965 r. osiągnął średnią roczną stopę zwrotu 20 proc. Niewielu powie, że fundusz Medallion zarządzany przez firmę Renaissance, który prawie zupełnie odsunął ludzi od zarządzania i handlował wyłącznie na podstawie analizy wielkich danych, osiągnął średnią roczną stopę zwrotu przekraczającą 60 proc. Szczęki opadają jak się słyszy, że można mieć takie zyski przy ekstremalnie niskim ryzyku inwestowania. Robił to algorytm, którzy zaprojektowali ludzie i pozwolili, aby się sam nauczył. Ten fundusz zarządza tylko pieniędzmi pracowników firmy. Tam każdy był multimilionerem.

Czyli nie sprawdza się powiedzenie Buffetta „nie inwestuję w coś, czego nie rozumiem”.

W tej firmie nie zatrudniali ekonomistów z zasady (bo to byli ludzie, którzy mogli tylko popsuć) nie chcieli rozumieć, co się dzieje na rynkach finansowych. Jeżeli był statystycznie istotny sygnał, który maszyna rozpoznała, a powtarzał się w przeszłości, budowano regułę handlującą akcjami czy towarami. Ten fundusz zarabiał potworne pieniądze. To pokazuje, że w obszarze finansów jest pozamiatane. Analityk finansowy jest skazany na wymarcie, bo algorytmy go zastąpią. W wielu gazetach teksty zaczynają pisać algorytmy generowania i rozpoznawania naturalnego języka. Jeszcze nie przeprowadzi wywiadu jak ten, ale spokojnie sprawozdania z konferencji prasowych czy relację z meczu zrobi.

Kiedy AI osiągnie poziom człowieka, albo go przekroczy i osiągnie samoświadomość?

W wielu obszarach człowiek już nie ma szans z AI. Tych obszarów będzie coraz więcej. Słynne przykłady firmy DeepMind nauczyły się od zera grając same z sobą w szachy czy go. Jest w stanie pokonać nie tylko człowieka, ale zespoły wybitnych arcymistrzów tych gier. To się będzie powiększało.

CZYTAJ TAKŻE: AI wskazuje kandydatów do pracy w korporacji. Są kontrowersje

Pytanie – kiedy powstanie algorytm, który będzie lepszy od człowieka w prawie wszystkich dziedzinach i będzie w stanie się dalej sam uczyć, kiedy powstanie superinteligencja, czy to w ogóle jest możliwe.

Kiedy AI będzie w stanie przejąć nad nami kontrolę?

Jeżeli powstanie byt bardziej inteligentny od nas, to nawet jeśli zamkniemy go w cyfrowej klatce, to i tak przejmie nad nami kontrolę. To jest tak jakby pięciolatki zamknęły dorosłego w klatce. Dorosły ma wachlarz metod, o których dzieci nie mają świadomości. Może je np. przekupić cukierkiem. Byt od nas bardziej inteligentny na pewno się uwolni. Nigdy nie będziemy go w stanie kontrolować.

Można przyjąć, że wcześniej czy później to nastąpi.

Tego nie wiemy. Prace nad tym są owiane tajemnicą. Od dekad uśredniona prognoza mówi, że za 25 lat pojawi się superinteligencja, która zastąpi człowieka. Myślę , że raczej powstanie to szybciej niż później. Najwybitniejsze umysły świata i potężne pieniądze są w to zaangażowane. Widać, że dokonujemy przełomu w wielu dziedzinach. W wąskich obszarach, ale również transferze wiedzy między obszarami.

sztuczna inteligencja jest bardzo rasistowska, dyskryminuje, jest niesprawiedliwa, wynika z faktu, że się nauczyła tego od człowieka i doprowadziła to do ekstremum.

Warto też pamiętać, że sztuczna inteligencja jest bardzo rasistowska, dyskryminuje, jest niesprawiedliwa, wynika z faktu, że się nauczyła tego od człowieka i doprowadziła to do ekstremum.

Algorytmy dyskryminują też niepełnosprawnych.

Teraz jeszcze możemy wiedzieć, że z powodu jakiejś cechy, którą mamy nie zatrudnią nas w jakiejś firmie, bo algorytm nie przepuści CV. Jednak wektory embedingów, które kodują nasze życie, mogą nam kodować współzależności różnych cech. Może się okazać, że fakt iż kupowaliśmy chipsy i Coca-Colę w piątki po 16:00 i jeździmy po Marszałkowskiej w środę między 12:00 a 14:00 używanym bmw i lubimy rap to razem powoduje, że jesteśmy niezatrudnialni w instytucji farmaceutycznej. My o tym nie będziemy wiedzieć, ale takie mechanizmy powstają. Czarne pudełka na podstawie naszego śladu cyfrowego są w stanie powiedzieć, co będziemy robić, jaki produkt kupimy po jakiej cenie, kiedy trzeba nam go zareklamować. Są też w stanie odrzucić naszą kandydaturę, gdy chcemy kredyt czy pracować w jakiejś firmie. To jest przyszłość, tego się nie a zmienić.

Nowa technologia może doprowadzić do kolejnego kryzysu ekonomicznego?

To już ćwiczyliśmy w 1987 r. jak jednego dnia giełda potwornie spadła. Wszystkie algorytmy zaczęły naraz sprzedawać akcje, bo pojawił się ten sam sygnał. Algorytmy coraz częściej podejmują decyzje na rynkach finansowych, ale też wśród prawników czy w medycynie. Rozpoznają zdjęcia rentgenowskie lepiej niż bardzo doświadczeni lekarze. Pojawią się autonomiczne samochody. Rola algorytmów będzie wszędzie rosła. Jest coraz bardziej prawdopodobne, że kolejny kryzys, czy to będzie awaria elektrowni atomowej, czy wystrzelenie omyłkowo rakiety, która uruchomi ciąg zdarzeń, czy krach na rynkach finansowych, będzie to dzieło algorytmu a nie człowieka.

A może to człowiek wykorzystując AI wciśnie guzik i wyłączy całą motoryzację na świecie, która posługuje się autonomicznymi samochodami.

Nie ma systemu, którego nie da się zhakować. Rośnie ryzyko takich zdarzeń. Czy to będzie wynikało ze złej woli człowieka, czy z tego, że algorytm zachowa się w sposób nieprzewidywalny, dzisiaj nie wiemy. Wiemy, że rośnie ilość czarnych pudełek, czyli sieci neuronowych, które się same uczą. Do końca nie rozumiemy dlaczego zachowują się tak, a nie inaczej, ale jesteśmy zadowoleni, bo generują dobre prognozy, sygnały, diagnozy, analizy. Ryzyko, że kiedyś doprowadzą do bardzo niepokojących zdarzeń będzie rosło.

W gospodarce mamy koniec liberalizmu i czeka nas czas, kiedy państwo będzie w nią bardziej ingerowało?

Gdyby Marks dzisiaj żył, byłby zadowolony. Przechodzimy od demokracji i kapitalizmu do algokracji, która jest systemem politycznym, ekonomicznym i społecznym. Komunistom i marksistom marzyło się, że będzie można wszystko sparametryzować, zmierzyć, a planista patrząc na dane, tak poustawia produkcję w gospodarce, płace, zatrudnienie, że ludzie będą bardzo szczęśliwi. Nie bardzo to wyszło, bo tak ustawiono parametry, że jak maksymalizowano produkcję gwoździ, to opłacało się zrobić jeden wielki gwóźdź, który ważył 2 tony i plan był wykonany. To była patologia komunizmu. Dzisiaj robimy to samo. Mierzymy wszystko, a sektor prywatny i rząd podpina się pod te dane i stara się optymalizować i maksymalizować swoją funkcję celu.

CZYTAJ TAKŻE: Wiceprzewodnicząca KE: Sztuczna inteligencja musi być etyczna

Są jeszcze prawa rynku?

Oczywiście, ale jeszcze nigdy nie wykorzystywano tylu danych do eliminowania ryzyka, niepewności i sterowania zachowaniami ludzi czy całych krajów. Cambridge Analytica była w stanie sterować wyborami prezydenckimi w Stanach czy kampanią wyjścia Wielkiej Brytanii z Unii Europejskiej. To pokazuje, że technologie stosowane w polityce i gospodarce przypominają marzenia komunistów. Dzisiaj demiurgiem są gigantyczne firmy technologiczne w USA i Chinach, które analizują dane, stosują AI i koordynują działania ze sobą.

Wydaje się, że w ekonomii wszystko stanęło na głowie. Jeżeli mamy złe informacje, to giełdy rosną, bo wszyscy liczą, że państwo będzie interweniować.

To jest przykład, gdzie ekonomia została zastąpiona polityką. Jeżeli głównym decydentem na giełdach jest bank centralny, to oczekiwane zachowania tego banku determinują zachowanie inwestorów. To jest racjonalne. Złe dane, będzie drukowanych więcej pieniędzy, będą niższe, ujemne stopy procentowe. Można taniej pożyczać pieniądze i spekulować na giełdzie. Wtedy giełdy rosną. Jest to niespotykane z punktu widzenia standardów ekonomii sprzed 20-30 lat. Dzisiaj widzę wysyp artykułów z banków centralnych, które uzasadniają, że ujemne stopy procentowe nie są niczym dziwnym, a korzystne dla gospodarki. Może Nobla ktoś za to dostanie.

Banki centralne mają kolejny kryzys związany z technologią, chociażby przez bitcoin. Jak pan ocenia przyszłość wirtualnych walut?

To jest alternatywa dla systemu finansowego sterowanego przez banki centralne i polityków.

To jest bańka czy ma przyszłość?

Jeżeli coś rośnie ileś tysięcy procent w ciągu jednego roku, to nie może być normalne. Szczegółów handlu bitcoinem nie znam. Z lotu ptaka myślę sobie, że jeżeli 75 proc. mocy wytwórczej bitcoina, czyli górników, jest w rękach jednego kraju (Chiny), który nie jest światowym hegemonem militarnym, to bicoin jeszcze długo nie zastąpi dolara. Tak długo, jak USA jest hegemonem militarnym na świecie, tak długo dolar będzie główną walutą. Co będzie za 50 lat? Czy pojawi się inny kraj, który rzuci wyzwanie Amerykanom? Będzie wydawał równie dużo na uzbrojenie i innowacje? Wówczas waluta tego kraju będzie mieć szanse.

Jakie są największe wyzwania, które stoją przed Polską?

Demografia jest największym wyzwaniem, bo celem każdego narodu jest jego przetrwanie. Ostrzegawcza prognoza ONZ na koniec stulecia mówi, że Polaków może być 16-18 mln. Czyli ubędzie 20 mln Polaków z powodu niskiej dzietności.

Co robić? 500 plus się nie sprawdził.

Przypisuje mi się autorstwo koncepcji 500 plus. Faktycznie zaproponowałem co miesiąc 1000 zł na każde nowo narodzone dziecko już w 2013 r. PiS użył tej koncepcji, żeby wygrać wybory. Ale 500 plus nie jest polityką demograficzną. Zamiast płacić 1000 zł na każde nowo narodzone dziecko, co uznano za niekonstytucyjne, jest 500 zł na każde dziecko do 18 roku życia. Zrobiła się z tego polityka prorodzinna. Jej głównym efektem jest podniesienie poziomu życia ubogich wielodzietnych rodzin. Nie mówię, że to źle, bo bardziej dbamy o swoje dzieci. To oznacza budowę kapitału ludzkiego, potem te dzieci będą zarabiały więcej i „oddadzą” te inwestycję z nawiązką. Wyzwaniem pozostaje, że Polska jako naród jest na ścieżce do samozagłady. W kolejnym, XXII stuleciu Polaków może nie być.

Notował Grzegorz Balawender

Tagi:

Mogą Ci się również spodobać

Google wraca do „Snake’a”. Gra wszechczasów znów na telefonach

Posiadacze smartfonów i użytkownicy wyszukiwarki Google’a w poniedziałek dostali prezent – gigant z Mountain ...

Smartfony z giętkimi ekranami. Czy skuszą klientów?

Urządzenia ze składanym wyświetlaczem trafią w tym roku do blisko 2 mln klientów – ...

Apple rzuca wyzwanie motoryzacyjnym gigantom

Na rynku technologii tzw. samojezdnych pojazdów robi się gorąco. Walka o prymat w tej ...

Australijska „farma” polskich drukarek

Limelite, australijski producent oświetlenia, sięga po drukarki 3D marki Zortrax. Sprzęt olsztyńskiej firmy wykorzystuje ...

Mapy Google pomogą znaleźć rower na minuty. Także w Warszawie

Najpopularniejsza aplikacja bazująca na geolokalizacji – Google Maps – wprowadza w tym tygodniu nową ...

Uczniowie muszą uważać. Plaga wirusów w e-podręcznikach

Powrót do szkoły może okazać się wyjątkowo niebezpieczny. Jak donoszą eksperci Kaspersky Lab, cyberprzestępcy ...