Edward Szczerbicki: Pisanie algorytmów to dziś kształtowanie świata

Była pracownica Facebooka Francis Haugen zeznała, że jego algorytmy są tak zaprojektowane, by promować treści zawierające kontrowersje i nienawiść. Firma zrezygnowała też ze sztucznej inteligencji wykorzystywanej do rozpoznawania twarzy, bo się myliła. AI staje się zagrożeniem?

Tak. Problemy ze sztuczną inteligencją widać na przykładzie platform społecznościowych, ale i w wielu innych miejscach, jak np. auta autonomiczne. Nie tak dawno eksperymentalny samochód autonomiczny Ubera zabił w Arizonie przechodnia. Widać, że AI ma dwa podstawowe problemy, z których wynikają wszelkie zagrożenia. To brak zaufania, bo wciąż nie możemy wypuścić do środowiska pewnego w 100 proc. systemu.

Drugi warunek, który musi spełnić AI to „wytłumaczalność”. Auto Ubera zobaczyło przechodnia, ale podjęło taką a nie inną decyzję, zablokowało system hamowania przed przeszkodą. Algorytmy i technologie  sztucznej inteligencji stają się już tak skomplikowane, że często nie są  w stanie wytłumaczyć, dlaczego tak się stało. Dopóki nie będzie to możliwe, nie osiągniemy jednak wspomnianego „zaufania”.

Stąd coraz powszechniejsza zmiana podejścia do AI. Coraz częściej skupiamy się na pracach nad inteligencją rozszerzoną, czyli taką, która ma tylko wspomagać człowieka i rozszerzać jego możliwości, a nie zastępować, tworząc jakiś samodzielny byt.

Zaczynając naszą rozmowę  od Facebook’owych algorytmów, zwrócił Pan uwagę na niesłychanie  istotny, znacznie szerszy  globalny aspekt. Po raz pierwszy w historii inżynieria informatyczna boryka się z problemami , które są zdecydowanie natury filozoficznej, takimi jak wolna wola, sens życia, sens ludzkości nawet. Pisanie algorytmów to dziś kształtowanie świata.

Właściwie czym jest sztuczna inteligencja? Często wymiennie używa się to pojęcie z algorytmami.

Moich studentów zawsze proszę, by się zastanowili, co to w ogóle jest inteligencja i co powoduje, że jesteśmy inteligentni. To umiejętność podjęcia odpowiedniej akcji w nowej sytuacji, wyciągania wniosków, postrzegania, analizy i adaptacji do zmian otoczenia co oznacza, że tej prawdziwej sztucznej inteligencji jest jeszcze niewiele.

Kiedy się pojawiła? Komputer Deep Blue, który jeszcze w latach 90. wygrał w szachy z Garym Kasparowem, to już była sztuczna inteligencja, czy trochę bardziej skomplikowana maszyna?

Deep Blue to już była maszyna, która potrafiła reagować na nowe sytuacje i wyciągać wnioski. To już AI. Sam Kasparow powiedział po przegranym meczu, ze zauważał głęboką inteligencję i kreatywność w ruchach maszyny. Jednak o przełomie w tej dziedzinie możemy mówić w sytuacji sieci semantycznych, które zdefiniował Tim Berners-Lee, twórca standardu WWW i pierwszej przeglądarki internetowej. Maszyny i rzeczy będą posługiwały się Internetem podobnie jak my obecnie,  rozumiejąc i wymieniając się  informacjami i wiedza.  Cała koncepcja przemysłu 4.0 oraz Internetu Rzeczy opiera się na zdolności gromadzenia, przechowywania i aktualizacji doświadczeń przez maszyny i ich przekazywania, by mogły odpowiednio się zachować.

W przypadku AI kluczowe jest umiejętne  korzystanie z doświadczenia. Albert Einstein wspominał na swoich wykładach: „Jednym źródłem wiedzy jest doświadczenie”. Dzięki doświadczeniu, jesteśmy tym, kim jesteśmy. To jest nie tylko doświadczenie naszego krótkiego życia, to doświadczenie pokoleń. Co sobą reprezentujemy i co potrafimy robić. To jest zapisane na najwspanialszym nośniku informacji, który nazywa się DNA. Stąd wzięła się koncepcja „decyzyjnego DNA”, którą rozwija mój zespół. W artykule  „Evolutionary algorithm and decisional DNA for multiple travelling salesman problem” opublikowanym na łamach czasopisma „Neurocomputing” udowodniliśmy, że zaproponowane  decyzyjne DNA korzysta z doświadczenia w taki sam sposób jak człowiek,  wspomagając procesy uczenia się i podejmowania decyzji i dając wyniki praktycznych zastosowań znacznie lepsze niż systemy, które nie działają w ten sposób.

Co zakłada ta koncepcja i gdzie ma zastosowanie?

Decyzyjne DNA to metafora. To inspirowany biologią sposób zarządzania wiedzą i gromadzenia doświadczeń. To próba odtworzenia w systemach sztucznych tego, co naturalne DNA robi w sposób niedościgniony, to algorytm, który pozwala na podejmowanie optymalnych decyzji na podstawie doświadczenia, badań, niezmierzonych zasobów Internetu. W Hiszpanii przeprowadziliśmy badania na grupie 350 pacjentów. Okazało się, że algorytm, który zbiera dane takie jak wiek, styl życia, wyniki badań medycznych, i analizuje je zgodnie z koncepcją decyzyjnego DNA, jest w stanie wykryć chorobę wcześniej niż lekarz. Kolejny przykład z obszaru opieki zdrowotnej, to czujniki do rozpoznawania aktywności człowieka. Pomagają m.in. w codziennej obserwacji osób starszych w szpitalach i domach opieki. Zaproponowaliśmy nowe narzędzie, które opiera się na wykorzystaniu doświadczenia wbudowanego w splotowe sieci neuronowe. Jego skuteczność jest znacznie większa niż dotychczasowych rozwiązań. Wyniki zostały przedstawione w artykule  "A novel IoT-perceptive human activity recognition (HAR) approach using multihead convolutional attention" (DOI: 10.1109/JIOT.2019.2949715) na łamach “IEEE Internet of Things Journal”. Jest to jedno z najbardziej prestiżowych na swiecie czasopism naukowych z obszaru Internetu Rzeczy. Tę koncepcję można wykorzystać w innych dziedzinach. Została wdrożona w ponad 20 projektach naukowo-badawczych na całym świecie. Dzięki niej można budować sterowane cybernetycznie systemy wytwarzania w Indiach,  zaprojektować optymalna wielkość instalacji   geotermalnych w Australii, wspomagać przemysłowe procesy innowacyjne w Etiopii, ustalić optymalny moment serwisowania samochodów i maszyn w Hiszpanii, wnioskować o zachowaniu się operatorów semi-autonomicznych pojazdów w Chinach, czy też ułatwić  podejmowanie decyzji o udzieleniu kredytów ratalnych i inwestycyjnych dla sektora bankowego w Polsce.

Czy widzi Pan przyszłość AI w zarządzaniu firmami oraz przy podejmowaniu decyzji biznesowych i inwestycyjnych?

Weźmy menedżera, który ma w głowie głównie swoje doświadczenie. Gdyby mógł rozszerzyć swoją inteligencję w zakresie podejmowania decyzji o doświadczenia zbiorowe z przeszłości, to na pewno jego decyzje byłyby lepsze.

Po kryzysie finansowym zgłosiła się do nas grupa związana z zarzadzaniem bankami.  Chcieli zebrać dane o podejmowanych decyzjach przez banki w Europie. Kryzys wziął się z podejmowanych decyzji jednostkowych w bankach, które się nałożyły  na siebie, powodując krach finansowy. Gdy zbuduje się decyzyjne DNA  sektora bankowego, będzie można w nim  wykrywać i eliminować złe geny. Tak działa inżynieria genetyczna, w której poszukuje się błędów.

AI nie ma emocji i wielu słabości człowieka. A gdyby go zastąpiła? Nie byłaby lepsza?

Byłaby lepsza, gdybyśmy byli stworzyć obecnie oparty na niej niezawodny system, ale nie jesteśmy. A jeśli będzie, to powstanie pytanie, co dalej z nami, co z ludźmi.

Ale po co zastępować człowieka. Rozszerzmy jego możliwości. To jest właśnie inteligencja rozszerzona.

Tak jak w „Matriksie” czy „Lucy” będziemy sobie wgrywać poszczególne umiejętności, upgrade`ować mózg?

To jest właśnie inteligencja rozszerzona. To jest przyszłość. Za 20 lat wszyscy będziemy hybrydami. Rozszerzymy naszą inteligencję zamiast tworzyć nową. To będzie też odpowiedź na te wszystkie obawy, że AI się zbuntuje i nas zniszczy. Moje pokolenie fascynował film „Terminator”, gdzie maszyny obróciły się przeciw człowiekowi i zaczęły z nim walczyć.

Marsz w kierunku inteligencji rozszerzonej już trwa. Różne wszczepione czujniki obserwują pracę np. naszego serca. To może być wszczepiony do mózgu implant lub zewnętrzne gadżety jak słuchawki czy specjalny hełm. Wchodzi Pan do sklepu, a tam kask, który wspomaga grę na fortepianie. Uczy się Pan 5 symfonii Beethovena, bo jutro są urodziny córki.

Czy to nie jest demoralizujące? Zero pracy i talentu, a można grać lepiej niż Beethoven czy Chopin…

To pytanie do etyków, socjologów. Część ekspertów uzna, że to ogromne zagrożenie i koniec innowacyjności ludzkości, bo wszystko można kupić. Inni zaś stwierdzą, że to nowy wspaniały świat, świat równości.

Gdzie każdy może stać się geniuszem. To się nawet komunistom nie śniło. I wszystko za nas zrobią maszyny.

Dokładnie tak. Kraje skandynawskie już przygotowują się do takiego świata równości, rozważają na przykład ideę przeznaczania pewnej sumy dla każdego w sytuacji, gdy ludzie nie będą musieli pracować. To społeczeństwo rewolucji przemysłowej 4.0, ale jak to będzie dokładnie wyglądało, nie wiemy.

Jak Pan ocenia eksperymenty Elona Muska, który np. podłączył komputer do mózgu świni?

Elon Musk robi rzeczy w większości genialne. Tworzy na przykład Internet kosmiczny, który w przyszłości  będzie mógł wspomagać Internet międzyplanetarny kiedy będziemy już mieszkać na Księżycu i na  Marsie. Wybiega 50 czy 100 lat w przyszłość, a ludziom  często się to nie mieści w głowie.

Wykłada Pan w Polsce i Australii. Nie boi się Pan utraty pracy? Przekazywaną wiedzę studenci po prostu sobie wgrają do mózgu albo skorzystają z pomocnego gadżetu.

Rzeczywiście to niebywały moment w historii ludzkości. Zrobiono wśród studentów australijskich badanie, jak widzą swoją przyszłość i czego chcieliby się uczyć. Okazało się, że nie chcą ścisłej technicznej „twardej” nauki, a umiejętności miękkich, wiedzy związanej z rozwiązywaniem skomplikowanych problemów, krytycznego myślenia, kreatywności,  z funkcjonowaniem w grupie, elastycznego związanego z kontekstem wnioskowania. Inne badania sugerują, że co najmniej 50% dzisiejszych miejsc pracy zostanie zastąpionych przez maszyny w ciągu najbliższych 10-15 lat. Osoby, które odniosą największe sukcesy w przyszłości, to ci, którzy rozwiną cechy ludzkie, których nie można zautomatyzować. Empatii, krytycznego myślenia, współpracy, kreatywności i relacji nie da się zalgorytmizować.

W ramach decyzyjnego DNA tworzymy teraz aplikację, która pomaga osiągnąć swoje cele i marzenia. Przykładowo osoba, która za trzy lata chce studiować inżynierię biochemiczną w Anglii,  Australii lub Stanach Zjednoczonych, jednocześnie pracować w czasie studiów i przebywać tam razem ze swoją rodziną, dzięki aplikacji otrzyma spersonalizowany plan działania zaproponowany przez decyzyjne DNA na platformie australijskiej firmy informatycznej  Idream Technology Ltd  https://www.idream.technology/

Aplikacja bazuje na kwestionariuszu typu osobowości wypełnionym przez użytkownika, doświadczeniach życiowych tworzącej ją społeczności i zmieniających się okolicznościach życia. Jest to w pewnym sensie interaktywny inteligentny coach, który podpowie, zmotywuje, zainspiruje i pomoże zbliżyć się do celu, a to wszystko w czasie rzeczywistym.  Rozszerzona inteligencja oparta na decyzyjnym DNA pomagająca w osiąganiu globalnego dobrostanu społecznego.

A jeśli rosnące możliwości upgrade`owania umysłów i kontroli nad nimi wykorzystają państwa totalitarne?