Dyrektor NASK: Obywatel i demokracja w cywilizacji cyfrowej

Jacek Leśkow, dyrektor NASK
mat. pras.

Aby zredukować zagrożenia związane z nowymi technologiami ICT potrzebujemy mocnego oparcia w poszanowaniu godności człowieka i innych podstawowych wartościach – pisze dr hab. inż. Jacek Leśkow, dyrektor NASK.

Rewolucja cyfrowa zmusza nas do redefiniowania podstawowych relacji pomiędzy obywatelem, państwem i mandatariuszami – organizacjami, których rolą jest reprezentowanie obywateli.

Sztuczna inteligencja

Specjaliści w dziedzinie statystyki i analizy danych od dawna zwracali uwagę na możliwość wykorzystania sieci neuronowych do rozwiązywania zagadnień optymalizacyjnych i poprawienia efektywności stosowanych modeli ilościowych. Jednak dopiero w ostatniej dekadzie te narzędzia uzyskały efektywność na tyle wysoką, że zaczęto wdrażać je na masową skalę. Dziś ponad połowa Polaków odpowiada twierdząco na pytanie o to, czy sztuczna inteligencja ma wpływ na ich codzienne życie (52,3 proc. ankietowanych w badaniach Działu Badań Rynku i Opinii Thinkstat, działającego w NASK).

Ten wpływ przejawia się przeważnie w udogodnieniach, takich jak automatyczne tłumaczenie online, głosowa obsługa telefonu lub telewizora, kontakt z chatbotem na infolinii. W Polsce wiele organizacji stara się o wdrożenia narzędzi SI do poprawienia efektywności działania. Ministerstwo Cyfryzacji, które steruje procesami wdrażania SI w administracji państwowej, planuje stosowanie SI do klasyfikacji dokumentów czy obsługi audio obywateli korzystających z platformy ePUAP. Niestety, jak każde narzędzie, sztuczna inteligencja może być użyta w dobrym lub złym celu.

Przykładem jest zastosowanie SI do manipulowania i zniekształcania treści wideo i audio w celu tworzenia tzw. deepfake. Już teraz dają one możliwość niezwykle wiarygodnej manipulacji, zdolnej oszukać ludzkie oko i ucho. Techniki deepfake mogą być użyte w celu kompromitowania przeciwników politycznych, fałszowania dowodów w sprawach kryminalnych czy też manipulowania opinią publiczną. W tej sytuacji mandatariusze powinni dbać o certyfikowanie rozwiązań typu SI, tworząc przestrzeń tzw. wiarygodnych SI (reliable AI).

Etyka i technika

Jednym z tematów, które w ostatnich latach są mocno akcentowane w debacie publicznej (i zajmują istotne miejsce w programie obrad ekspertów Forum Ekonomicznego w Krynicy) jest obrona współczesnych społeczeństw przed dezinformacją. To przykład obszaru, wymagającego tworzenia nowych relacji pomiędzy obywatelem, państwem i mandatariuszami. Obywatele mają prawo oczekiwać od organizacji ich reprezentujących, aby stosowane techniki, w tym techniki SI, były wiarygodne.

56,2 proc. ankietowanych przez Thinkstat polskich internautów przyznaje, że w ostatnich miesiącach zetknęła się z manipulacją lub dezinformacją, a 35 proc. spotyka się z nimi raz w tygodniu lub częściej. Eksperci podkreślają znaczenie uświadamiania powagi problemu i edukacji, która dałaby przeciętnym internautom kompetencje do weryfikowania informacji. Prawie 9 proc. spośród przebadanych przez NASK internautów przyznaje się do udostępnienia lub polubienia informacji w internecie ze świadomością, że jest ona nieprawdziwa. 11,6 proc. zrobiło to, nie wiedząc, że mają do czynienia z fake newsem. Aż 14,5 proc. nie wie, czy przekazało dalej fałszywą informację, czy nie. Obywatele Polski oczekują przeciwdziałania dezinformacji głównie od wydawców portali internetowych, administratorów portali społecznościowych i mediów. Zaczynają powstawać narzędzia, które mają sprzyjać promowaniu zweryfikowanych informacji i ostrzegać odbiorców przed treściami zmanipulowanymi. Jednakże automatyczne narzędzia (w tym oparte na uczeniu maszynowym), choćby najbardziej efektywne, nie doprowadzą do zasadniczej zmiany, dopóki nie nabędziemy jako społeczeństwo umiejętności weryfikacji, a wcześniej, intencji podążania za prawdą.

Parlament Europejski w rezolucjach z kolei zwraca uwagę na wykorzystywanie technologii AI do decydowania w sprawach kluczowych dla obywateli – np. przyznanie bądź odmowa kredytu lub diagnoza i zalecenia medyczne. Już dziś szpitale w USA korzystają z usług systemu Watson firmy IBM w celu wyboru optymalnych kosztowo terapii. Na razie człowiek weryfikuje działania AI. Nie jest jednak pewne, że ten stan się utrzyma. Przecież jednym z głównych celów użycia komputerowych narzędzi analizy danych jest uzyskanie tempa przyswajania informacji i dokładności nieosiągalnej dla ludzkiego umysłu. I znów, sama automatyzacja procesu podejmowania decyzji niekoniecznie musi budzić nasz lęk. Etyka jest jednym z elementów coraz częściej wymienianych jako jeden z filarów, na których powinna opierać się praca dzisiejszych inżynierów, programistów, menedżerów wdrażających nowe technologie. Jeżeli rozwiązania techniczne zaczynają odgrywać kluczową rolę w wielu aspektach życia, to chcielibyśmy wierzyć, że ich działania nie będą sprzeczne z naszymi wartościami.

dr hab. inż. Jacek Leśkow

NASK, czyli dyżurny internetu

Państwowy Instytut Badawczy NASK prowadzi działalność badawczo-rozwojową w dyscyplinach związanych z usługami teleinformatycznymi oraz stanowi eksperckie zaplecze dla instytucji państwa polskiego, wspierając je w dążeniu do dalszego rozwoju i utrzymywania bezpieczeństwa sieci i związanych z nią usług.
NASK jest głównym gwarantem cyberbezpieczeństwa przestrzeni informacyjnej cywilnego sektora państwa polskiego. Oprócz wykonywania zadań związanych z cyberbezpieczeństwem realizuje duże programy rządowe i społeczne, np. na rzecz opracowania systemu elektronicznego zarządzania dokumentacją dla urzędów i innych instytucji publicznych (EZD RP). Innym projektem jest Ogólnopolska Sieć Edukacyjna. W jego ramach wszystkie szkoły w Polsce otrzymają możliwość bezpłatnego korzystania z bezpiecznego dostępu do szybkich łącz internetowych.
NASK rozbudowuje kompetencje rozwoju w technologiach, które mają potencjał dokonania przełomu w życiu społecznym i gospodarczym. Wśród nich należy wymienić sztuczną inteligencję. Dyrektor NASK powołał w tym celu Centrum Analizy Danych i Zastosowań Sztucznej Inteligencji AIDA (Artificial Intelligence and Data Analysis), które ma na celu integrowanie kompetencji i środowisk wokół badań nad AI i jej zastosowaniami. W tym roku organizowana jest ważna konferencja międzynarodowa, która prezentuje osiągnięcia NASK w tej dziedzinie. Wśród uczestników tej konferencji są zagraniczni eksperci z University of California oraz Paris Tech Telecom.
Ponadto misją NASK jest świadczenie strategicznych usług dla państwa polskiego w obszarach związanych z technologiami teleinformatycznymi, w tym w szczególności w obszarze cyberbezpieczeństwa. Jako jeden z trzech CSIRT (Computer Security Incident Response Team) najwyższego poziomu jest odpowiedzialny za obsługę incydentów cyberbezpieczeństwa z obszaru całego kraju. CSIRT NASK koordynuje incydenty zgłaszane przez operatorów usług kluczowych, dostawców usług cyfrowych, samorząd terytorialny oraz wszystkie te podmioty, których nie obsługują CSIRT GOV i CSIRT MON. Incydenty mogą także zgłaszać zwykli obywatele, jako że CSIRT NASK pełni rolę tzw. CERT of last resort, czyli CERT ostatniej szansy.
W strukturze NASK PIB działa też jedyny w Polsce, służący ogółowi polskich internautów zespół reagowania na szkodliwe i nielegalne treści Dyżurnet.pl, należący do międzynarodowego stowarzyszenia INHOPE (zrzesza ekspertów, działających na rzecz eliminowania z obiegu tzw. pornografii dziecięcej). Współpracując z Interpolem stowarzyszenie identyfikuje sprawców przemocy seksualnej wobec dzieci, ich ofiar i miejsc popełnienia przestępstw.
W NASK PIB działa ponadto rejestr nazw w .pl – polskiej narodowej domenie. Oferta rejestru jest stale poszerzana o usługi na rzecz bezpieczeństwa domen. W 2011 roku uruchomiono usługę DNSSEC, która chroni przed modyfikacjami odpowiedzi otrzymywanych z internetu i zapewnia, że pochodzą z właściwego źródła. W 2019 uruchomiono usługę pl. Registry Lock, blokującą aktualne dane, związane z domeną w głównym rejestrze domeny .pl. Chroni ona abonenta domeny przed przejęciem jej przez osoby niepowołane.

Kluczowy obszar cywilizacji cyfrowej

Bezpieczni w sieci chcą być zarówno indywidualni użytkownicy, jak i firmy oraz instytucje państwowe. Ze względu na globalny zasięg internetu każdy podmiot, musi liczyć się z cyberzagrożeniami. Zdarza się, że mogą mieć geograficznie odległe źródło. Rolą spotkań eksperckich, takich jak Forum Ekonomiczne w Krynicy-Zdroju, jest wymiana doświadczeń i rozwój współpracy międzybranżowej, regionalnej i światowej w obliczu wyzwań, jakimi są globalne zagrożenia sieciowe. W obrębie UE funkcjonują przepisy regulujące współpracę oraz ustanawiające standardy urządzeń i usług w celu zwiększenia ich bezpieczeństwa. Ale poza przepisami i procedurami niezbędna jest bezpośrednia współpraca oraz wymiana wiedzy i doświadczeń między uczestnikami rynku – tak aby w kryzysie można było podjąć wspólne, skuteczne działanie. Celem Forum Cyberbezpieczeństwa, organizowanego przez NASK oraz Ministerstwo Cyfryzacji, jest skupienie ekspertów i przedsiębiorców z różnych dyscyplin i branż wokół zagadnień, które są głównymi wyzwaniami dla instytucji specjalizujących się w cyberbezpieczeństwie. Na Forum Ekonomicznym będą poruszane tematy, takie jak transgraniczna współpraca na rzecz bezpieczeństwa w sieci, europejski system certyfikacji urządzeń i usług pod kątem ich bezpieczeństwa dla użytkowników oraz społeczne oddziaływanie narzędzi internetowych, m.in. ochrona przed dezinformacją i manipulacją w mediach cyfrowych.

Tagi:

Mogą Ci się również spodobać

InPost zaoferuje… lodówkomaty

InPost – operator logistyczny, w który zainwestowały jedne z największych amerykańskich funduszy inwestycyjnych Advent ...

Zaczęły się wyprzedaże na Steamie. Jakie gry można taniej kupić?

Letnia wyprzedaż na Steamie to okazja dla fanów gier. Potrwa do 9 lipca. Przeceny ...

Ile Polacy płacą za telewizory? Które wybierają? Dane mogą zaskakiwać

Wymieniamy sprzęt co siedem lat, a to pozwala utrzymać sprzedaż na poziomie ok. 2,3 ...

Aplikacja pomaga omijać miejsca wrogie zwolennikom Trumpa

Zwolennicy Donalda Trumpa używają aplikacji „63red Safe”, aby znaleźć miejsca, w których mogą czuć ...

Sebastian Kulczyk wesprze krajowe startupy

Pierwsze sześć firm zgłosiło się do trzeciej edycji konkursu InCredibles organizowanego przez spółkę Sebastiana ...

Auta coraz mniej ludzkie

W pełni autonomiczne pojazdy to jeszcze wciąż dość odległa wizja. Samochody jednak masowo już ...