Odpowiedzialne innowacje, czyli wątpliwości wokół Neuralinka i sterowania myślami

Czy możemy podłączyć ludzki mózg do Internetu? Elon Musk twierdzi, że znalazł na to sposób. Dziennikarze donoszą jednak o zaniedbaniach, pośpiechu i szkodach, jakie zostały poniesione w trakcie pracy nad tą technologią. Co tak naprawdę powinno budzić naszą wątpliwość? - pytają eksperci Instytutu Innowacji i Technologii Łukasiewicz Dominik Zieliński, Lidia Stępińska-Ustasiak.

Publikacja: 17.03.2024 16:33

Odpowiedzialne innowacje, czyli wątpliwości wokół Neuralinka i sterowania myślami

Foto: Neuralink

Elon Musk, znany miliarder ogłosił, że współzałożona przez niego firma Neuralink wszczepiła swój pierwszy implant – interfejs mózg-maszyna (brain-computer interface, BCI) - do mózgu pacjenta. O wydarzeniu donoszą serwisy informacyjne na całym świecie, a przeciwnicy biją na alarm. Co próbuje osiągnąć Elon Musk i dlaczego budzi to tyle kontrowersji?

Człowiek-maszyna

Urządzenie Neuralink ma pozwolić sterować komputerem (czy jakimkolwiek urządzeniem elektronicznym) za pomocą myśli. Idea stojąca za tym rozwiązaniem nie jest nowa. W latach 70. po raz pierwszy udało się połączyć aktywność mózgu z obsługą komputera dzięki elektroencefalografii (znanej nam jako EEG). Badanie EEG wymagało wówczas używania dużego aparatu i znaczącej liczby kabli, co nie pozwalało korzystać z takiego rozwiązania na co dzień. Trudno sobie zresztą wyobrazić, co w latach 70. dałoby się zdalnie obsługiwać, oprócz przełączania kanałów w telewizji.

Dziś potencjalny wachlarz zastosowań dla sterowania myślami jest o wiele większy. Nosimy przy sobie smartfony i smartwatche, korzystamy z laptopów i tabletów, kupujemy z pomocą kas samoobsługowych. W związku z czym bardzo łatwo wyobrazić nam sobie korzyści z takich technologii jak Neuralink. Pomijając wygodę dla przeciętnego człowieka, sterowanie myślami przywróciłoby część sprawczości osobom z niepełnosprawnościami. Osoby mające problemy z mową mogłyby bez zbędnego wysiłku odzyskać głos z pomocą syntezatorów. Osoby sparaliżowane dostałyby możliwość obsługi urządzeń, które wymagają sprawnych rąk i nóg.

Czytaj więcej

Musk: Pierwszy pacjent z czipem w mózgu wyzdrowiał. Steruje komputerem myślami

Interfejs mózg-komputer zdaje się być naprawdę potrzebnym przełomem. Jego wdrożenie mogłoby poprawić warunki życia wielu ludziom. Skąd więc krytyka? Wątpliwości budzą dwie kwestie: doniesienia o nieetycznym sposobie rozwoju interfejsu Neuralink oraz potencjał do nadużyć związanych z gromadzeniem, bezpieczeństwem a także wykorzystaniem wrażliwych danych, które będzie zbierało urządzenie.

Drastyczna ingerencja

Neuralink nie jest jedyną firmą dążącą do opracowania komercyjnego interfejsu mózg-maszyna. Na rynku działają także m.in. Kernel, Neurable, Paradromics, Synchron i NURO. Nie mówimy więc o samotnych zmaganiach Neuralink na rzecz pomocy ludziom. To, co obserwujemy, to wyścig o dominującą pozycję na rynku interfejsów mózg-maszyna.

Nie będziemy się tu zagłębiać w szczegółowe różnice pomiędzy poszczególnymi urządzeniami. Najważniejszą kwestią jest podejście do umiejscowienia tego interfejsu. Dominują dwa podejścia: inwazyjne i nieinwazyjne. Podejście inwazyjne zakłada umieszczenie obcego urządzenia w ciele człowieka. Zaleta takiego rozwiązania, to – teoretycznie - łatwiejszy dostęp do fal mózgowych, wadą jest fizyczna ingerencja w mózg, która może nieść za sobą skutki uboczne. Podejście nieinwazyjne zakłada zdalny pomiar aktywności mózgu, np. zakładając na głowę urządzenie. W takim wypadku – teoretycznie – pomiar fal mózgowych jest mniej dokładny, natomiast ryzyko dla zdrowia użytkownika jest zdecydowanie mniejsze.

Neuralink rozwija urządzenie typu inwazyjnego i większość krytycznych doniesień dotyczy niepowodzeń, jakie towarzyszyły firmie przez ostatnich parę lat. Reuters informuje o sygnałach ze strony wysoko postawionych pracowników Neuralink. Alarmują oni, że prace nad interfejsem postępują zbyt szybko i bez należytej staranności, oskarżając Elona Muska o narzucanie takiego stylu pracy. Skutki tych decyzji okazały się dramatyczne. Ujawnione dokumenty dowodzą, że w wyniku eksperymentów na 23 małpach, 15 z nich umarło w długich męczarniach. Testy na 60 świniach zakończyły się zabiciem 25 z nich, ponieważ wszczepiono im implanty o złych wymiarach. Łącznie w Neuralink do 2022 roku zabito około 1500 zwierząt.

Eksperymenty przeprowadzane przez Neuralink wzbudzają dużo zastrzeżeń wśród ekspertów i organizacji działających na rzecz odpowiedzialnych badań i rozwoju. Tom Vilsack, sekretarz USA ds. Rolnictwa nie chce ujawnić, czy trwa śledztwo w tej sprawie, przyznał jednak, że gdyby doniesienia te okazały się prawdą, to stanowiłyby poważne naruszenie przepisów o ochronie zwierząt8. Należy dodać, że Elon Musk stale zaprzecza tym doniesieniom. Amerykański departament transportu prowadzi ponadto śledztwo w sprawie niepoprawnego transportu patogenów pobranych z mózgów małp, a firmę Neuralink opuściło 6 z 8 współzałożycieli.

Budzi to poważne obawy o bezpieczeństwo testów implantu Neuralink na ludziach. Eksperci ostrzegają przed problemami, jakie może przysparzać naprawa urządzenia wewnątrz ludzkiego mózgu oraz wysokie ryzyko powikłań10. Dlatego też FDA (jednostka dopuszczająca żywność i leki do powszechnego użytku) odmówiły badaniom na ludziach w 2022 roku, zwracając uwagę m.in. na obecność w urządzeniu baterii litowej oraz ryzyko przemieszczenia się kabli wewnątrz mózgu.

Internet rzeczy -> Internet ludzi

Szereg wątpliwości budzi także gromadzenie danych przez urządzenie i odpowiedzialność za ich ochronę i wykorzystanie. Eksperci sygnalizują etyczne obawy dotyczące prywatności i stawiają pytania, jakie dane są gromadzone za każdym razem, gdy urządzenie jest używane. "Kwestie, na które należy zwrócić uwagę, to: czy Neuralink będzie miał dostęp do danych mózgowych osób, którym wszczepia te urządzenia? Co zamierza z nimi zrobić? I jak zamierzają chronić prywatność użytkowników?" - mówił L Syd M Johnson, neuroetyk z Center for Bioethics and Humanities, SUNY Upstate Medical University w komentarzu dla “The Guardian”.

Kiedy interfejsy mózg-komputer są wykorzystywane do pomagania pacjentom cierpiącym na schorzenia powodujące niepełnosprawność w bardziej niezależnym funkcjonowaniu, na przykład poprzez pomaganie im w komunikacji lub poruszaniu się13, może to znacznie poprawić jakość ich życia. W szczególności pomaga to ludziom odzyskać poczucie własnej sprawczości lub autonomii - jednego z kluczowych założeń etyki medycznej.

Jednak niezależnie od dobrych intencji, interwencje medyczne mogą powodować niezamierzone konsekwencje. W przypadku BCI naukowcy i etycy są szczególnie zaniepokojeni możliwością kradzieży tożsamości, hakowania haseł i szantażu. Biorąc pod uwagę sposób, w jaki urządzenia te uzyskują dostęp do myśli użytkowników, istnieje również możliwość manipulowania ich autonomią przez osoby trzecie. Równie krytycznym, jak i wciąż niedostatecznie poznanym obszarem jest wpływ BCI na psychikę człowieka. Badanie naukowców z USA i Australii wykazało, że implant może wywołać poczucie silnego niepokoju i utraty kontroli, oraz istotnie zaburzyć poczucie tożsamości pacjenta.

Interesy za zamkniętymi drzwiami

Naukowcy zaniepokojeni są również brakiem transparentności. Informacje na temat implantu są jednak skąpe, poza broszurą mającą na celu rekrutację uczestników badania. Neuralink nie zarejestrował się na stronie ClinicalTrials.gov, co jest zwyczajowe i wymagane przez niektóre czasopisma akademickie. Dzielenie się informacjami na temat badań klinicznych jest ważne z wielu powodów, związanych w pierwszej kolejności ze standardami przyjętymi w nauce, gdzie wartość badawcza eksperymentów jest poddawana ocenie przez innych badaczy, przede wszystkim na etapie recenzji artykułów naukowych opisujących dany eksperyment. Transparentność i dostęp do wyników badań mają także wymiar społeczny, bo pomaga innym badaczom poznać obszary związane z ich badaniami i szybciej poprawić opiekę nad pacjentami.

Aby podkreślić niepokój, jaki wywołuje rozwój Neuralink, musimy wrócić do postępowania FDA. Wniosek o badania kliniczne został odrzucony ponownie w marcu 2023 roku, jednak już w maju FDA wyraziło zgodę na badania na ludziach. Do badań zgłosiło się tysiące ludzi, a pierwsza osoba przeszła operację wszczepienia implantu w styczniu 2024 roku. Zgoda FDA wywołała liczne komentarze. Laura Cabrera, neuroetyk z Penn State's Rock Ethics Institute, na łamach ”The Guardian” powiedziała, że jest zaskoczona decyzją agencji. "Czy [FDA - przypis autorów] zamierza postrzegać implant mózgu jako coś, co wymaga nie tylko dodatkowych regulacji, ale także rozważań etycznych?" - skomentowała. "A może po prostu potraktuje to jak kolejny gadżet?".

Zatwierdzenie przez FDA usunęło pierwszą przeszkodę na drodze do badań klinicznych na ludziach, ale zakres, cel i projekt takiego badania pozostają niejasne. Wnioski i procesy zatwierdzania FDA nie są dostępne publicznie. Jako spółka prywatna, Neuralink nie jest również zobowiązany do ujawniania inwestorom takich interakcji regulacyjnych. W oświadczeniu rzecznik FDA potwierdził jedynie, że Neuralink został zatwierdzony do zwolnienia z obowiązku stosowania urządzeń badawczych (IDE) - procesu FDA, który pozwala na wykorzystanie urządzenia do badań klinicznych.

Wydaje się niepokojące, że nie jesteśmy publicznie informowani nie tylko ze strony firmy (co samo w sobie budzi kontrowersje), ale nawet ze strony amerykańskiego urzędu publicznego. Taki sposób (nie)informowania o postępie technologicznym i wyłączania społeczeństwa z tego procesu, szczególnie na tak krytycznym etapie, jakim są badania kliniczne, poważnie poddaje w wątpliwość gotowość Elona Muska i amerykańskiego rządu do wzięcia odpowiedzialności za rozwój Neuralink i jego nieprzewidziane konsekwencje. Otwiera to także furtkę kolejnym firmom z branży, by ingerować w ważne etycznie problemy przy całkowitym zignorowaniu interesu społecznego.

Członkowie Hastings Center, think tanku zajmującego się bioetyką, ostrzegają: "nauka robiona poprzez komunikaty prasowe, choć coraz bardziej powszechna, nie jest nauką". Odradzają oni polegać na jednym źródle informacji, szczególnie gdy jest to ktoś, kto ma ogromny udział finansowy w wynikach opisywanych badań.

Odpowiedzialne badania i innowacje

Gdy badania naukowe są finansowane przez agencje rządowe lub grupy filantropijne, ich celem jest promowanie dobra publicznego. Z drugiej strony, Neuralink ucieleśnia model private equity, który staje się coraz bardziej popularny w nauce, szczególnie po drugiej stronie oceanu. Firmy łączące fundusze od prywatnych inwestorów w celu wspierania przełomowych odkryć naukowych mogą dążyć do “czynienia dobra” i rozwiązywania problemów związanych ze zdrowiem publicznym, ale dążą również do maksymalizacji zysków, co może być sprzeczne z najlepszym interesem pacjentów. Należy podkreślić, że taki nieodpowiedzialny rozwój technologiczny raczej nie wynika z niewiedzy. W środowisku naukowym popularna jest idea “odpowiedzialnych i innowacji” (Responsible Research and Innovation, RRI), a eksperci Organizacji Współpracy Gospdarczej i Rozwoju (OECD) zaproponowali model odpowiedzialnego rozwoju specjalnie dla technologii BCI.

Cały eksperyment budzi więc szereg wątpliwości na różnych poziomach, zaczynając od proceduralnych i regulacyjnych, które wymagają dostosowania istniejących ścieżek do rozwoju nauki i coraz bardziej śmiałych badań, mających wielowymiarowe konsekwencje nie tylko dla zdrowia ludzi, ale także dla ochrony ich danych oraz kształtowanie standardów etycznych. W tym przypadku pytanie o równowagę między ryzykiem a korzyściami wydaje się szczególnie uzasadnione.

Elon Musk, znany miliarder ogłosił, że współzałożona przez niego firma Neuralink wszczepiła swój pierwszy implant – interfejs mózg-maszyna (brain-computer interface, BCI) - do mózgu pacjenta. O wydarzeniu donoszą serwisy informacyjne na całym świecie, a przeciwnicy biją na alarm. Co próbuje osiągnąć Elon Musk i dlaczego budzi to tyle kontrowersji?

Człowiek-maszyna

Pozostało 97% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Opinie i komentarze
Co niosą ze sobą treści pornograficzne generowane przez sztuczną inteligencję
Opinie i komentarze
Dominik Skoczek: W Polsce cyfrowi giganci mają się dobrze
Opinie i komentarze
Tantiemy autorskie z internetu: jak korzyści nielicznych przekuć w sukces wszystkich
Opinie i komentarze
Od kredy i tablicy po sztuczną inteligencję. Szkoła chce być na czasie
Materiał Promocyjny
Jak kupić oszczędnościowe obligacje skarbowe? Sposobów jest kilka
Opinie i komentarze
Prof. Ryszard Markiewicz: Można obciążyć producentów filmów wypłatami dla twórców i artystów