„Przewodnik po cyberbezpieczeństwie i sztucznej inteligencji dla mediów i twórców cyfrowych” ma pomagać bezpiecznie tworzyć i weryfikować treści w „świecie zdominowanym przez dezinformację i rozwój sztucznej inteligencji”. Podczas jego prezentacji przedstawiciele NASK przedstawili cel powstania i sporo liczb związanych ze skalą dezinformacji. – Media są narażone na różnego rodzaju ataki. Nie trzeba sięgać daleko – w ubiegłym roku mieliśmy głośny przypadek cyberataku na Polską Agencję Prasową, który skutkował publikacją fałszywej depeszy o rzekomej mobilizacji wojskowej. Reakcja była szybka, odpowiedzialna, zupełnie transparentna, ale też nie każdy podmiot medialny ma takie zasoby czy takie procedury i świadomość, żeby w takiej sytuacji skutecznie zareagować – mówiła Sylwia Adamczyk z Zespołu Zarządzania Wiedzą w Obszarze Cyberbezpieczeństwa NASK. Jej zdaniem, choć przewodnik dedykowano wszystkim, którzy poruszają się w przestrzeni informacyjnej, ma wymiar uniwersalny i każdy może korzystać, tak jak każdy może paść ofiarą dezinformacji.
Deepfake, czyli człowiek z sześcioma palcami
Ważnym elementem przewodnika jest rozpoznawanie deepfake’ów, które stają się prawdziwą plagą. Alicja Martinek z Zakładu Nauki o Danych NASK przedstawiła wyniki analizy za okres czerwiec 2024 – sierpień 2025 r., która pokazała, jak szybko rozwija się ten rodzaj manipulacji. NASK zarejestrował w tym czasie 13 200 reklam ze zmanipulowaną treścią audiowizualną. Wykorzystano przy tym 380 wizerunków znanych osób, z czego największą grupę stanowili przedstawiciele mediów, choćby dlatego, że naciągacze korzystali często z konwencji „serwisu informacyjnego”. 10 proc. z tej liczby przypadło na cudzoziemców.
Czytaj więcej
Powstało narzędzie, w którym każdy może zweryfikować, jak mocno jego zawód jest podatny na działanie systemów AI. NASK ostrzega: zagrożonych 5 mln...
Mimo że jakość takich materiałów rośnie, nadal da się je wykryć. Zdaniem Alicji Martinek deepfake to m.in. artefakty wokół ust, wampirze zęby, niepasujące elementy twarzy czy tzw. efekt maski, gdzie twarz wygląda jak sztucznie nałożona na ciało. Pojawiają się też zniekształcone dłonie, dodatkowe palce czy niespójności szczegółów w tle, np. błędne odbicia w lustrze, a w głosie np. zmieniony akcent, maszynowe tempo wypowiedzi, logiczne niespójności.
Coraz więcej nadużyć związanych m.in. z technologią deepfake jest zgłaszanych przez Polaków do NASK. Czy to jest skuteczne? – Na pewno bardziej niż indywidualne zgłoszenia. Technologiczni giganci traktują instytucje jak NASK priorytetowo, a indywidualnych zgłoszeń musi być zwykle dużo, by poczuli się zmuszeni do zdecydowanej reakcji – dodała Alicja Martinek.
W NASK zgłaszaniem deepfake’ów i badaniem dezinformacji zajmuje się Ośrodek Analizy Dezinformacji (OAD).
Boty AI kaleczą polski i halucynują
Modele językowe (LLM-y) są bardzo użyteczne, pomagają w tworzeniu treści, ale mogą też fałszować fakty, wymyślać dane i wzmacniać szkodliwe narracje. To tzw. halucynacje AI. Najczęściej robią to wszystko z wielkim przekonaniem, co może uśpić czujność użytkownika. – Modele językowe bardzo niechętnie przyznają się do niewiedzy czy błędu – zaznaczała dr Agnieszka Karlińska z Zakładu Dużych Modeli Językowych NASK. To niesie ryzyko nieświadomego powielania nieprawdziwych informacji. W przewodniku eksperci NASK radzą m.in., by unikać wprowadzania poufnych danych podczas konwersacji z botem i weryfikować treści podawane przez AI, cytaty, dane i źródła. Kiedy nawet podają wiarygodne fakty, mogą nie rozumieć występujących między nimi zależności i w związku z tym wyciągać błędne wnioski.
Czytaj więcej
Dostępność technologii sprawia, że fałszywe treści produkowane i dystrybuowane są masowo – mówi Izabela Jarka, kierownik zespołu szybkiego reagowan...
Agnieszka Karlińska mówiła też o nowych metodach dezinformacji, np. korzystaniu z LLM groomingu, czyli takiego tworzenia materiałów, by były wysoko pozycjonowane w wyszukiwarce i chatboty odpowiadały tymi treściami.
Eksperci NASK zwrócili też uwagę na kwestie cyberhigieny, która wzmacnia bezpieczeństwo pracy. Podstawą powinny być silne hasła, uwierzytelnianie dwuskładnikowe, regularne kopie zapasowe, zwracanie szczególnej uwagi na ochronę przed phishingiem czy rozdzielenie pracy od strefy prywatnej. – Październik jest europejskim miesiącem cyberbezpieczeństwa. To dobra okazja, by zacząć o nie dbać lub przypomnieć sobie niektóre zasady – dodała Anna Kwaśnik z Zespołu Zarządzania Wiedzą w Obszarze Cyberbezpieczeństwa NASK.
