Dezinformacja nasili się tuż przed wyborami. Niebezpieczne nowe technologie i treści

Czy w szerzeniu dezinformacji rośnie rola technologii?

Zdecydowanie, rozwój technologii ma ogromny wpływ na szerzenie dezinformacji. Jej dostępność sprawia, że fałszywe treści produkowane i dystrybuowane są masowo. Nie tylko jeśli chodzi o deepfake, ale także o automatyzację nieautentycznych kont w mediach społecznościowych. A to oznacza, że w krótkim czasie można opublikować nienaturalnie dużą liczbę dezinformujących wpisów.

Jeśli chodzi o sam deepfake, to jego stworzenie zajmuje obecnie krótką chwilę. Można to zrobić za pomocą łatwo dostępnych narzędzi w przeglądarce czy aplikacji w telefonie. Często są one bezpłatne, a przez to powszechne. Coraz lepsza jest przy tym jakość preparowanych zdjęć czy grafik. Wygląd i ruchy prezentowanej osoby są wiernie odtwarzane. Czasem wygląda to bardzo naturalnie. Niejednokrotnie potrzeba zewnętrznego oprogramowania do analizy wideo czy zdjęć, by sprawdzić, czy materiał wygenerowano przy pomocy AI.

Warto zauważyć, że dzięki rozwojowi technologii, analitycy zyskują dodatkowe narzędzia do weryfikacji i detekcji dezinformacji.

Kandydaci w wyborach prezydenckich są już wykorzystywani do dezinformacji?

Odnotowujemy głównie reklamy w mediach społecznościowych, które są wygenerowanymi deepfake’ami. Jako zjawisko i metoda szerzenia dezinformacji nie jest to nic nowego. Jednak w wielu przypadkach jakość jest już tak wysoka, że odbiorcy są realnie narażeni na manipulację lub próby oszustwa. Warto wskazać, że deepfake to także metoda na wyłudzanie danych lub środków. Spreparowane filmy czy zdjęcia służą do nakłaniania do inwestycji lub odbioru wygranej. W ostatnim czasie obsługiwaliśmy takie zgłoszenia z wykorzystaniem wizerunku Lecha Wałęsy, Agaty Dudy oraz kandydatów na prezydenta - Sławomira Mentzena czy Rafała Trzaskowskiego.

Kandydaci w wyborach prezydenckich są już wykorzystywani do dezinformacji?

Odnotowujemy głównie reklamy w mediach społecznościowych, które są wygenerowanymi deepfake’ami. Jako zjawisko i metoda szerzenia dezinformacji nie jest to nic nowego. Jednak w wielu przypadkach jakość jest już tak wysoka, że odbiorcy są realnie narażeni na manipulację lub próby oszustwa. Warto wskazać, że deepfaki to także metoda na wyłudzanie danych lub środków. Spreparowane filmy czy zdjęcia służą do nakłaniania do inwestycji lub odbioru wygranej. W ostatnim czasie obsługiwaliśmy takie zgłoszenia z wykorzystaniem wizerunku Lecha Wałęsy, Agaty Dudy oraz kandydatów na prezydenta - Sławomira Mentzena czy Rafała Trzaskowskiego.

To właściwie reklama czy dezinformacja?

W przypadku tegorocznych wyborów prezydenckich odnotowaliśmy deepfaki, które miały wyłudzić dane i pieniądze odbiorców, a więc reklamy. Obecnie nie widzimy deepfake’ów, wskazujących na kogo głosować albo takich jak na Słowacji, gdzie w spreparowanym wywiadzie jeden z kandydatów w wyborach zapowiada podniesienie cen piwa. Należy jednak wskazać, że oba te zjawiska to dezinformacja, bo ich autorzy chcą oszukać odbiorców w celu uzyskania wpływu i korzyści.

W tym aspekcie równie ciekawe są materiały tworzone w teorii w celach humorystycznych, które często służą jako wytrych do obejścia regulaminów platform społecznościowych. Takich treści nie można usunąć, bo nie łamią polskiego ani europejskiego prawa. Jednocześnie właściciele serwisów pozostawiają dowolność autorom w oznaczaniu takich materiałów etykietą, że zostały wygenerowane przy pomocy AI. Mowa tutaj na przykład o wideo z kandydatami, którzy śpiewają piosenki lub robią inne ośmieszające ich czynności.

Donald Tuska śpiewa z zakonnicami „wklejony” w postać Luisa De Funes...

Takich filmików, których jest bardzo dużo, nie możemy określić jako dezinformacja, ale w dłuższej perspektywie mogą mieć wpływ na odbiór danej osoby. Szczególnie przed wyborami może mieć to wpływ na poglądy polityczne odbiorcy. To wszystko balansuje na cienkiej granicy pomiędzy humorem a manipulacją.

Kiedy nie będzie można rozpoznać, że dany film czy zdjęcie to deepfake?

Powoli zbliżamy się do granicy braku możliwości odróżnienia takiej fałszywki gołym okiem. W Ośrodku Analizy Dezinformacji NASK zajmujemy się m.in. analizą takich przypadków. Jeśli odbiorca nie jest pewien tego, co widzi w mediach społecznościowych, czy szerzej w internecie, zawsze może przesłać taką treść do nas do weryfikacji. Oprócz naszego ośrodka w Instytucie mamy również dział zajmujący się sztuczną inteligencją. W przypadku deepfake’ów często wymieniamy się doświadczeniami. Obecnie najlepiej odwzorowane materiały są tworzone z użyciem tych już istniejących. Natomiast te tworzone od zera przez AI mają jeszcze dużo halucynacji, często widać np. sześć palców u ręki albo dziwne ułożenie ciała. W modyfikowanych materiałach najlepiej patrzyć na mimikę i ruch ust, bo to jeszcze nie jest idealnie dopracowane.

Kiedy deepfake stanie się potężną bronią dezinformacyjną?

Narzędzia są już dostępne, więc gdyby ktoś chciał zorganizować taką akcję, mógłby to zrobić. To jest w zasięgu ręki, ale na razie w Polsce tego nie odnotowujemy. Jednocześnie mamy tego świadomość i jesteśmy przygotowani, że takie coś może się zdarzyć.

Dlaczego jeszcze nie odnotowano takich przypadków?

Zmasowany atak jednym, nawet świetnie spreparowanym wideo byłby łatwiejszy do wykrycia i ściągnięcia z platformy społecznościowej. W niektórych serwisach moderacja deklaruje, że ma już narzędzia do wykrycia i zablokowania takich materiałów.

Filmy czy zdjęcia deepfake pojawią się jeszcze przed wyborami prezydenckimi w Polsce?

Spodziewamy się tego. Dlatego tuż przed wyborami będziemy mieli wzmocniony monitoring i dodatkowe dyżury. W taki sam sposób przygotowujemy się na ewentualną drugą turę, jeśli się odbędzie. Działamy tu dwutorowo, przeszukujemy internet manualnie np. po słowach kluczowych, ale mamy także narzędzia analityczne do monitoringu. Obserwujemy również konta, które wcześniej szerzyły dezinformację związaną z bezpieczeństwem kraju.

Pomagają wam algorytmy?

W wypracowanym przez nas modelu są pomocne, ale tutaj opieramy się głównie na pracy ludzkiej i wykorzystaniu zewnętrznych narzędzi. Nasz język jest pełen neologizmów, więc poleganie jedynie na algorytmach nie byłoby w pełni skuteczne. Każdy z kandydatów na prezydenta ma swój pseudonim stosowany w mediach społecznościowych zarówno przez zwykłych użytkowników, jak i przez aktorów dezinformacji. Składają się one z istniejących słów, ale czasami również są to zlepki różnych wyrazów.

Warto przytoczyć także przykład na obejście ciszy wyborczej w przestrzeni informacyjnej, który miał miejsce podczas ostatnich wyborów parlamentarnych. Nazwy partii zastępowane były nazwami warzyw i owoców. Z tego względu musimy zachować czujność i obserwować, jak rozwija się dyskusja w mediach społecznościowych pod kątem rozprzestrzeniania potencjalnej dezinformacji oraz nielegalnych aktywności w czasie ciszy wyborczej.

Przed tymi wyborami nie widać jeszcze zmasowanej akcji dezinformacyjnej. Jak to wygląda w porównaniu z innymi wyborami w przeszłości?

W porównaniu do wyborów samorządowych i do Europarlamentu teraz aktywność jest większa, ale porównywalna z ostatnimi wyborami do naszego parlamentu w 2023 roku. W 2025 roku podczas kontynuowania projektu bezpiecznewybory.pl, od 1 stycznia do 30 kwietnia Zespół Szybkiego Reagowania i Wykrywania Dezinformacji zgłosił do platform społecznościowych 428 incydentów związanych ze zbliżającymi się wyborami. 62 zgłoszenia (14 proc.) trafiły do zespołu kanałami zewnętrznymi; były one przekazywane przez komitety wyborcze oraz obywateli. Pozostałe 366 przypadków (86 proc.) zostało zidentyfikowanych dzięki bieżącemu, codziennemu monitoringowi polskiej przestrzeni informacyjnej. Platformy społecznościowe zdecydowały o zablokowaniu lub poddaniu moderacji 209 szkodliwych wpisów (49 proc.). Pozostałe 219 przypadków (51 proc.) nie spotkało się z żadną reakcją zespołów moderujących lub jest nadal w trakcie obsługi.

Szeroka dostępność takich materiałów pokazuje nam, jak ważne jest to, by ludzie nie czerpali swojej wiedzy tylko z mediów społecznościowych, które obecnie odgrywają znaczącą rolę szczególnie wśród młodych odbiorców.

Jaka narracja dominuje?

Obserwujemy m.in. narracje o tym, że: ABW pracuje nad planem unieważnienia wyborów; wybory będą anulowane albo że Unia Europejska zdecyduje o wyniku wyborów, co jest niemożliwe. Jest cały nurt dezinformacji antyeuropejskiej oraz nawiązań do Rumunii, gdzie przecież Sąd Konstytucyjny Rumunii (CCR) wydał decyzję, a nie UE. Pojawiają się też wpisy, że w dniu głosowania może być atak terrorystyczny, co ma zniechęcić do głosowania oraz wzbudzić chaos informacyjny i poczucie braku bezpieczeństwa wśród społeczeństwa.