Aleksandra Przegalińska: Ludzie kochają AI albo się jej boją

tv.rp.pl

Zagrożeniem AI może się stać w każdej chwili, nie uzyskując żadnej świadomości. Broń autonomiczna już dzisiaj wykorzystywana jest w różnych konfliktach zbrojnych – mówi Aleksandra Przegalińska, filozof, publicysta, ekspertka w dziedzinie sztucznej inteligencji w Akademii Leona Koźmińskiego i amerykańskim MIT.

Powstały pierwsze żywe maszyny określane jako ksenoboty. To właściwie żywy, programowalny organizm. Nie idziemy za daleko tworząc takie nowe życie?

Wszyscy zadają sobie to pytanie. Od dłuższego czasu były prace w zakresie terapii genowej, programowania genów i biologi syntetycznej, która miała łączyć organizmy żywe z możliwością programowania ich i inżynierii. To jest ich kulminacja. Projekt ksenobotów to proste formy, nie posiadające układu nerwowego, same komórki skórne i serca. Jest to próba odpowiedzi na pytanie – jak zadziałała ewolucja, jak z bardzo prostych organizmów można wytworzyć formy skomplikowane, w jakich są interakcjach, jaką mają dynamikę. Jest to naukowo pasjonujący projekt, ale pojawiają się pytania etyczne, gdzie są granice. Co jeśli powstałby układ nerwowy i coś takiego byłoby zdolne do odczuwania bólu. Cykl życia tych organizmów jest bardzo krótki, bo nie mogą się odżywiać i rozmnażać. Są poddawane licznym manipulacjom. Na razie, kiedy nie mają układu nerwowego, nie ma to żadnego znaczenia. Gdzieś granicę trzeba będzie jednak wyznaczyć.

Jaki jest cel tworzenia takich żywych robotów?

Praktycznych celów możemy sobie wymyślić bardzo dużo. W rozmaitych terapiach takie eksperymenty są bardzo istotne. Zrozumienie jak dzielą się komórki, jak działa życie, jest istotne z wielu powodów medycznych i stricte naukowych.

CZYTAJ TAKŻE: Krzysztof Rybiński: Demokracja zanika i zastępuje ją algokracja

Możliwość manipulacji, która miałaby charakter negatywny, jest na tyle duża, że wiele osób mówi „stop”. Tak samo było z klonowaniem. Jego etyczny wymiar jest wątpliwy. W Chinach można sobie wyhodować kopię swojego psa, która często żyje krócej i jest obarczona licznymi błędami. To jest skazywanie jakiegoś nowego organizmu na dużo gorszą jakość życia niż pierwotna forma.

Od kiedy właściwie można mówić o sztucznej inteligencji i robotach? Pojęcie robot rozpropagował czeski pisarz Karel Capek już blisko 100 lat temu.

Myślę o latach czterdziestych. Końcówka wojny i okres tuż po samej wojnie to okres, kiedy sztuczna inteligencja wykuwa się jako dziedzina, dostaje swoją nazwę, często wątpliwą. Pojawiają się komputery wielkości całych pokojów. Jednak sztucznej inteligencji jako takiej dzisiaj nie ma. Maszyny są na znacznie niższym poziomie intelektualnym niż ludzie czy większość organizmów żywych.

To na jakim jesteśmy etapie w tej dziedzinie?

Jest dziwna sytuacja. Sztuczna inteligencja w ogóle nie dorównuje inteligencji społecznej, emocjonalnej czy byciu w realnym świecie, który dostarcza wielu bodźców. Jeśli chodzi o przetwarzanie ogromnych wolumenów danych i wyszukiwanie w nich pewnych wzorców AI prześciga człowieka. Projekty firm jak DeepMind pokazują, że można tworzyć systemy bardzo ambitne, głębokiego uczenia maszynowego, które nie tylko będą robić pewne rzeczy lepiej niż ludzie, ale w ogóle dostrzegać rozwiązania dla pewnych problemów, których ludzie nie byliby w stanie zauważyć. W pewnych wąskich specjalizacjach sztuczna inteligencja prześciga już człowieka.

ludzie lubia płacić za nowinki – i taką nowinką jest obraz namalowany przez AI, wiersz napisany przez AI czy utwór muzyczny wygenerowany przez AI

Pasjonowaliśmy się rywalizacją np. w szachach komputer kontra człowiek. Długo ludzie się bronili, ale musieli ulec.

W szachach ulegli już w latach dziewięćdziesiątych. W przypadku gry „Go”, która jest najtrudniejszą grą strategiczną, ulegli dopiero w 2016 r. Potem zaczęli ulegać nawet w grach wideo typu MMO. Dzisiaj mamy różne firmy, które tworzą rozwiązania, gdzie system nieobdarzony inteligencją w wymiarze psychologicznym jest w stanie zagrać, jakby ją miał.

W jakich dziedzinach sztuczna inteligencja jest najbardziej zaawansowana?

Cały obszar, który nazywamy game AI, czyli obszar gier strategicznych. To przekłada się na wiele dziedzin wdrożeniowych. System, który może mądrze zagrać w grę strategiczną, być może będzie w stanie dokonać detekcji rzadkiej choroby na podstawie pewnych wzorców w danych, które zobaczy. Takie systemy mogą wyprzedzać człowieka w widzeniu pewnych obszarów problemowych.

CZYTAJ TAKŻE: Pies-robot już w sprzedaży, wkrótce skaczący człowiek-robot

Rozwija się też robotyka. Robotyka ucieleśniona to systemy, które wchodzą w interakcje ze światem, czyli są w stanie np. uskoczyć, gdy pojawia się nagła przeszkoda na drodze, zidentyfikować obiekty wokół siebie, wchodzić z nimi w interakcje. Firma Boston Dynamics tworzy roboty, które wyglądają trochę jak psy. Radzą sobie niesamowicie. Na MIT widziałam robota do gaszenia pożarów. W przepastnych magazynach Amazona pracują już systemy, które zamiast ludzi przenoszą paczki.

Sztuczna inteligencja tworzy już dzieła sztuki, a kolekcjonerzy słono płacą. Powiemy kiedyś: „ten komputer X jest lepszy od Rembrandta?”

Nie sadze, zeby tak mialo sie stac w najblizszej przyszlosci. AI co najwyzej jest przyzwoitym rzemieslnikiem, ale ludzie, również w świecie sztuki, lubia płacić za nowinki – i taką nowinką jest obraz namalowany przez AI, wiersz napisany przez AI czy utwór muzyczny wygenerowany przez AI. Ja upatruje raczej w sztucznej inteligencji znakomitego narzedzia, ktore moze wspierac kreatywnosc artystow. Juz teraz widzimy jak sieci GAN (przetwarzajace obraz) wplywaja na sama koncepcje tworzenia obrazow przez ludzi.

Obecnie ludzie mają najczęściej do czynienia z botami. Mówi się, że mogą nawet zastąpić lekarza pierwszego kontaktu.

Nie chodzi o zastępowanie. Kiedy projektujemy rozwiązania botowe, które rozmawiają z człowiekiem, powinny pojawiać się tam, gdzie lekarzy jest za mało. W sytuacji, kiedy trzeba przyjąć jakieś bardzo proste zgłoszenie, to bot może je zarejestrować i zakwalifikować, przenosząc dalej do lekarza, którego praca zostaje uproszczona. Chcemy, żeby bot wchodził w interakcję ludźmi, tam gdzie są bardzo powtarzalne i proste, albo można jest w jakiś sposób sklasyfikować. Podobnie, gdy ktoś dzwoni do biura obsługi banku. Najpierw dostaje szereg pytań od bota, żeby potem przekierować go do odpowiedniego człowieka. Dzisiaj boty nie mają zastępować ludzi tylko wchodzić jako suplement interakcji, żeby ją uprościć.
Innym przykładem są różne systemy AI w miejscach jak banki, gdzie dokonują klasyfikacji profilowania klientów. Tak samo w rekomendacjach, gdy wchodzimy do sklepu internetowego, to AI podpowiada.

Są też zaskakujące rozwiązania. Furorę na poprzednich targach technologicznych w Las Vegas zrobił seks robot.

To jest obszar, który mnie przesadnie nie cieszy, ale obdarza się go dużym zainteresowaniem. W obszarze erotyki pojawia się trochę seks robotów. Gdzie nie ma możliwości łatwego kontaktu między dwójką ludzi, myśli się o zastępstwie maszyny.

CZYTAJ TAKŻE: Sex-robot jednak dostanie prestiżową nagrodę

To może mieć terapeutyczne znaczenie.

Ale zdarzały się też problematyczne sytuacje. Pamiętam przedziwną propozycję, żeby w przypadku leczenia zaburzeń pedofilskich zaproponować robota zamiast dziecka. Dla mnie to wykracza poza ramy dopuszczalności.

Startupy coraz częściej podają jako swoja działalność sztuczną inteligencję i natychmiast skaczą ich wyceny. Mówi się już o bańce AI.

Mamy na to specjalne określenie – fake AI. Sztuczna inteligencja jak i inne popularne terminy się dewaluuje. Podobnie jak każda firma chce być startupem (np. piekarnia), niekoniecznie spełniając warunki skalowalności, modelu biznesowego itd., tak samo jest ze sztuczną inteligencją. Wystarczy, że ktoś ma najprostszy możliwy algorytm zaimplementowany do segmentacji klientów, albo wykorzystuje regresję (metodę statystyczną) do czegoś i już twierdzi, że to jest sztuczna inteligencja czy uczenie maszynowe. Przez popularność tego terminu wszyscy chcą go używać.

W jakim kierunku idą badania nad sztuczną inteligencją?

Badania naukowe są coraz bardziej ambitne. Zmierzają w kierunku połączenia z neuronauką albo z tym, o czym zaczęliśmy rozmawiać, czyli biologią syntetyczną. W najambitniejszych ośrodkach badawczych, pod silną kuratelą komisji etycznych, wykuwane są projekty, gdzie sztuczna inteligencja to sztuczne życie. Mówimy o połączeniu biologii, myślenia o tym, jak działa mózg organizmów, ze sztuczną inteligencją, żeby ją zmienić.

Musk uważa, że znacznie lepiej jest ludzkości połączyć się z AI niż uniezależnić rozwój AI od ludzi.

Druga ważna rzecz to komputer kwantowy. Prace nad takim komputerem trwają teraz intensywnie. Wielu gigantów technologicznych stara się taki komputer stworzyć, żeby przetwarzanie danych było jeszcze szybsze.

Elon Musk chce łączyć komputer z mózgiem. Co to nam da?

O projecie Neuralink Elona Muska, ktory ma byc najdojrzalszym interfesem mozg-maszyna, wiadomo na razie nie wiele, poza tym, ze ambicje sa ogromne. Musk uzasadnia jednak swoj projekt bezpieczenstwem – uwaza, ze znacznie lepiej jest ludzkosci polaczyc sie z AI niz uniezaleznic rozwoj AI od ludzi. DLa niego ta druga wizja- autonomicznej AI – jest znacznie bardziej niebezpieczna.

Kto przoduje w sztucznej inteligencji na świecie? Chińczycy czy Amerykanie?

To wyrównany wyścig. Trudno powiedzieć, jak będzie wyglądała przyszłość. Chińczycy mają plan na 2050 r., żeby doprowadzić AI do pewnego pułapu i coraz szerzej ją wdrażać. W Chinach jest nacisk, żeby AI było wszędzie dużo. Podejście europejskie i amerykańskie jest raczej takie, żeby tworzyć projekty unikatowe i mieć prawną ochronę własności intelektualnej i to licencjonować. Jest ambicja, żeby tworzyć nowatorskie rzeczy. A w Chinach ma to towarzyszyć każdemu obywatelowi/konsumentowi przez cały dzień.

To przerażająca wizja. Kamery są w stanie wyłowić na wielkim koncercie pojedynczą twarz, a system od razu wie o człowieku wszystko. Jest to w dodatku połączone z tzw. systemem kredytu społecznego.

Ta wizja jest przerażająca, ale też obca. Nie sądzę, żeby tego typu projekt w Unii Europejskiej miał szansę być procedowany. Chińczycy stawiają na państwo dobrobytu. Uważają, że to jest sposób jego budowy przez motywowanie obywateli do usilniejszej zbiorowej pracy. Z takim podejściem do sztucznej inteligencji się nie zgadzam.

CZYTAJ TAKŻE: Maszyna wykrywająca korupcję okazała się zbyt skuteczna

Od wiosny 2019 r. docierają do mnie informacje, że Chińczycy się wahają, bo ten system w pilotażach nie przyniósł spodziewanych efektów. Nie stało się tak, żeby ludzie dążyli do maksymalnej liczby punktów, przez co sami się ulepszali, wszystko robili coraz lepiej. Było wręcz przeciwnie. System coraz bardziej ma charakter karny, a nie nagradzający. Chyba nie tak miało to wyglądać.

Taki system może być zagrożeniem dla demokracji?

Każdy system, który jest tak holistyczny, bierze na widelec tak wiele obszarów ludzkiego życia, jest zagrożeniem. My też mamy rozmaite systemy ocen, które funkcjonują. W bankach są systemy ocen, jadąc Uberem mamy system oceniania.

Z ocenami przez AI jest duży problem. Potrafi być rasistowska, homofobiczna. Z czego to się bierze?

Z danych, które dostaje. W przechyle algorytmicznym odzwierciedlają się uprzedzenia ludzi. Czasami są też nieprzemyślane błędy. To, że system rozpoznawania twarzy w danym kraju gorzej rozpoznaje kobiety, albo osoby innej rasy, wynika z tego, że w ogóle nie jest na nich trenowany. Efekt jest taki, że nie widzi tych ludzi. Jest trenowany najczęściej na osobach, które go budują, czyli białych mężczyznach.

Zagrożenia to też deep fake. AI jest w stanie tworzyć prawie nie do odróżnienia wizerunki czy np. przemówienia ludzi. Może to wpływać na manipulacje polityczne i mieć nieprawdopodobne konsekwencje.

Tak. Teraz mamy serię nowych kampanii wyborczych. Do śledzenia pod tym kątem warta jest kampania w USA. Dla indywidualnego użytkownika ciężko jest zobaczyć deep fake. Jednak dla systemu technicznego, który ocenia dane wideo, bardzo łatwo jest go wychwycić. To kwestia dostępnych narzędzi.

Czyli sztuczna inteligencja może działać na dwie strony. Tak samo wspierać hakerów, jak i z nimi walczyć.

To jest janusowe oblicze AI, które widzimy. Jeśli chodzi o deep fake, jest to relatywnie prosta technologia. Łatwo złapać deep fake. Po 2016 r. wszyscy już wiemy do czego jest wykorzystywana SI w kampaniach politycznych i ludzie patrzą sobie na ręce. Wcześniej to była cicha sprawa. Np. mikrotargeting, profilowanie wyborców, działał już za Obamy, tylko wtedy się o tym nie mówiło.

Nie boi się pani, że AI w przypadku wsparcia zarządzania firmą, czy inwestycji na giełdzie nie będzie miała zahamowań jak człowiek, strachu przed ryzykiem? Może podejmować inne decyzje, co będzie zagrożeniem gospodarczym.

Myślenie o automatyzacji, jako sytuacji, w której ludzie mają coraz mniej do powiedzenia nie jest budowaniem świata dla ludzi. Przychylna byłabym, żeby wykorzystywać sztuczną inteligencję tam, gdzie nasza inteligencja nie jest w stanie zadziałać samodzielnie, ale tylko jako system doradczy, wspomagający. AI musi też być transparentna. Tzn. np. widzę dlaczego podejmuje takie, a nie inne decyzje. W przypadku oceny ryzyka – skąd wzięła się taka, a nie inna ocena.

CZYTAJ TAKŻE: Sztuczna inteligencja stała się zagrożeniem… w Polsce

Jesteśmy na samym początku działania tej dziedziny. Ona jest trochę obezwładniająca, bo działa nieźle. Ludzie są w niej zakochani, albo się jej boją. Nie mamy wyważonych stanowisk i odpowiednich narzędzi.

Kiedy AI może osiągnąć samoświadomość? Może stać się wtedy zagrożeniem?

Sztuczna inteligencja jest na początku drogi. Nie jestem związana z chórem optymistów z Doliny Krzemowej, którzy twierdzą, że samoświadomość osiągnie w 2045 r.

Zagrożeniem może stać się w każdej chwili, nie uzyskując żadnej świadomości. Zagrożeniem jest broń autonomiczna oparta na SI, która już dzisiaj wykorzystywana jest w różnych konfliktach zbrojnych.

Może się wyrwać spod kontroli jak komputer Hal 9000 w filmie „2001: Odyseja kosmiczna”

Ale on chciał dobrze. Potem Stanley Kubrick wyjaśniał, że komputer chciał ukończyć misję, takie otrzymał zadanie. Ale Hal rzeczywiście nie ma dobrej prasy.

Może w razie buntu AI ludzie sobie jednak poradzą. Już teraz w Hongkongu oślepiają kamery laserami, noszą parasolki, itp.

Mamy najrozniejsze sposoby radzenia sobie z nowymi technologiami, najczesciej wraz z danym technologicznym rozwiazaniem powstaje sposob zniszczenia go. Ubieralne technologie, takie jak kolczyki, moga zaburzac identyfikacje twarzy w kamerach i coraz wiecej osob je nosi.

Który z filmów S-F najlepiej oddaje to, co się może wydarzyć? Ma Pani ulubiony?

Moj ulubiony, choc pewnie artystycznie nienajmocniejszy film z ostatnich lat to Interstellar – realistyczne przedstawienie drastycznych zmian klimatycznych w polaczeniu z misja, w ktorej AI odgrywa bardzo pozytywna role. Sztuczna inteligencja nie jest tiu straszakiem, lecz niezwyklym wsparciem dla czlowieka w momentach, kiedy sam sobie nie radzi.

Kiedy każdy będzie miał swojego robota, który wyprasuje, ugotuje, pomoże w pracy, odwiezie dzieci do szkoły?

To juz sie dzieje, najnowsze samochody maja pokladowego bota, z ktorym mozna rozmawiac. Alexy (ktorych w samych USA jest co najmniej 60 milionow) i inne urzadzenia podobnego typu, steruja oswietleniem domowym i sprzetami domowymi. To juz terazniejszosc.

Świat się aż tak szybko nie zmienia, jak chcieliby ludzie. Jak popatrzymy na stare filmy, to już dawno temu miały chodzić po ulicach roboty, odbywać się loty międzygalaktyczne, jak np. w serialu Kosmos 1999, kręconym w latach 70.

Pewne rzeczy nie zmienily sie tak bardzo, jak projektowano w przeszlosci, ale inne przeszly diametralne zmiany. Wyobraznia ludzi w latach szescdziesiatych i siedemdziesiatych ubieglego wieku wladala eksploracja kosmiczna i to w kosmosie lokowano przyszlosc. Ta sfera nie posunela sie radykalnie naprzod, ale jesli spojrzec na genetyke czy biologie syntetyczna – jestesmy chyba nawet dalej, niz sie spodziewaliśmy.

 

CV

Aleksandra Przegalińska, doktor nauk humanistycznych, filozof, badaczka sztucznej inteligencji z Akademii Leona Koźmińskiego i bostońskiego MIT. Znalazła się wśród liderów i wizjonerów wyróżnionych przez „Rzeczpospolitą Cyfrową” za szczególny wkład
w rozwój polskiej transformacji cyfrowej w 2019 roku.

Tagi:

Mogą Ci się również spodobać

Polski Uber w San Francisco

RydeOn, platforma łączącą hotele i firmy specjalizujące się w przewozie limuzynami, podbija Dolinę Krzemową. ...

Zbliża się święto elektroniki w Las Vegas

Równo za trzy tygodnie rusza największa na świecie impreza dla fanów nowych technologii. To ...

Chińczycy chcą zalać świat luksusem. Mają na to sposób

Udział kanału internetowego w sprzedaży dóbr luksusowych do 2035 r. ma wzrosnąć do 40 ...

W 2018 roku wygrał Samsung. Huawei jednak nie pokonało Apple

Rynek smartfonów słabnie. W 2018 roku na świecie sprzedało się ich 1,388 mld, o ...

Technologiczni giganci ruszają do walki z epidemią

Alibaba, chiński potentat m.in. e-handlu, sięga po sztuczną inteligencję. Koncern opracował system AI, który ...

Tajny projekt Apple. Satelity mają połączyć iPhony

Gigant z Cupertino pracuje nad technologią, bazującą na satelitach na niskiej orbicie okołoziemskiej. Firma ...