Potężny cios w demokrację i biznes. Jak sztuczna inteligencja sieje dezinformację

Fałszywe materiały wideo z prawdziwymi politykami, influencerami czy szefami firm to już poważne zagrożenie, na które trzeba szybko znaleźć antidotum.

Publikacja: 02.04.2024 07:32

AI ułatwia tworzenie zmanipulowanych filmów i obrazów. Ale nie ustrzega się błędów. Na tym popularny

AI ułatwia tworzenie zmanipulowanych filmów i obrazów. Ale nie ustrzega się błędów. Na tym popularnym „zdjęciu” z polskich protestów rolników auta są dziwnie spłaszczone, a flagi austriackie

Foto: mat. pras.

Podczas wyborów w kilku krajach członkowskich już widać było fałszywe treści i reklamy jak deepfake. – Ich stworzenie przy użyciu sztucznej inteligencji zajmuje 30 minut – mówi wiceprzewodnicząca Komisji Europejskiej Vera Jourova. – Nie mamy danych, żeby ocenić, czy wpłynęło to radykalnie na wynik wyborów. Ale gdyby to zostało wykorzystane na masową skalę, moglibyśmy zapomnieć o wolnych i uczciwych wyborach.

AI zmienia reguły gry

Deepfaki to sztucznie generowane lub manipulowane obrazy, które mogą uchodzić za autentyczne. – Naciskamy na platformy, na których mogą pojawiać się takie treści, aby albo je oznaczyli, albo usunęli – mówiła Jourova w wywiadzie dla Bloomberga.

Szybki rozwój sztucznej inteligencji pozwala na tworzenie coraz bardziej przekonujących materiałów, które mogą przedstawiać polityków w sytuacjach, które nigdy się nie wydarzyły. Jak miało to miejsce w USA z kandydatką do Senatu Kari Lake z Partii Republikańskiej. Organizacja Arizona Agenda wykorzystała sztuczną inteligencję i wizerunek polityczki i stworzyła fałszywy film z jej udziałem. Wideo prezentowało, jak technologia ta może być wykorzystana do manipulacji informacjami w kontekście wyborów. Na nagraniu były zupełnie nieprawdziwe i kontrowersyjne stwierdzenia kobiety, ale kończyło się ostrzeżeniem o potencjalnym wykorzystaniu sztucznej inteligencji do wpływania na elektorat w wyborach. Kari Lake nakazała firmie usunąć wideo ze wszystkich miejsc, ale wielu Amerykanów zdążyło je obejrzeć.

Czytaj więcej

Deepfake zachwieje państwami. Sztuczna inteligencja mnoży fałszywe treści

W Polsce to też będzie problem. Już w sierpniu 2023 r. Platforma Obywatelska wykorzystała sztuczną inteligencję do stworzenia głosu premiera Mateusza Morawieckiego. Materiał nie został odpowiednio oznaczony jako wygenerowany przez AI, co wzbudziło protesty i krytykę.

Nie tylko politycy padają ofiarą technologii deepfake. Wizerunek znanego polskiego influencera, Buddy, został wykorzystany do zachęcania do inwestycji „gwarantującej ogromne zyski”. Bo też technologia pozwalająca na podszywanie się niemal niezauważalnie pod inne osoby już jest wykorzystywana na coraz większą skalę w biznesie. Przykład ukraińskiej studentki Olga Loiek prowadzącej na YouTubie kanał o zdrowiu psychicznym pokazuje, że możliwości są znacznie większe. Jej wygenerowany przez sztuczną inteligencję klon promuje Chiny w sieci oraz sprzedaje towary.

W niektórych filmach awatary vlogerki opowiadają o tym, jak bardzo ceni bliskie więzi Rosji i Chin. W innych filmach chwali chińską historię i kulturę lub opowiada o tym, jak bardzo Rosjanki chcą poślubić Chińczyka.

Czytaj więcej

To rewolucja. Treści i obrazy tworzone przez sztuczną inteligencję będą oznaczane

– Sztuczna inteligencja z założenia nie jest czymś złym. Tak samo jak nóż w rękach kucharza. Sytuacja jednak znacząco się zmienia, kiedy nóż przechwyci ktoś o złych zamiarach – mówi Marcin Bednarczyk, trener cyberbezpieczeństwa z HackerU. Wymienia możliwości pozwalające na skopiowanie właściwie każdego wizerunku i rozwinięcie go do filmów. Choćby to Stable Diffusion, czyli ogromne ułatwienie np. dla osób zajmujących się czymś związanym z grafiką. Jest też funkcja zwana face swap – zamiana twarzy. – Możemy ją wykorzystać np. do pochwalenia się „nową rzeźbą ciała”, czy pokazać gdzie „byliśmy” na wakacjach – mówi Marcin Bednarczyk. Wystarczy się jednak zastanowić przez chwilę, aby zobaczyć, jak wiele niebezpieczeństw niesie za sobą ta technologia w rękach człowieka, który ma złe zamiary. Można dosłownie zniszczyć komuś życie.

Rośnie świadomość zagrożenia

Zwraca uwagę, że na razie generowane filmy nie są jeszcze świetnej jakości, a w dodatku są zasadniczo dosyć krótkie. Tego typu narzędzia są jak najbardziej użyteczne i przydatne, ale nie w sytuacji, gdy dostanie się do nich przestępca. – Może skonstruować np. materiał, gdzie znana osoba opowiada o nowych możliwościach zarobku za pomocą jakiejś platformy, która tak naprawdę po prostu okrada ludzi z pieniędzy – przekonuje Marcin Bednarczyk.

Czytaj więcej

Dzięki AI można już ukraść postać. Klon Ukrainki kocha Chiny i sprzedaje tam towary

Świadomość zagrożenia jednak rośnie, UE ma już AI Act, w ramach którego ma pojawić się m.in. wymóg informowania każdego użytkownika internetu, że treści, które do niego docierają są wygenerowane przez AI. – Media społecznościowe już wprowadzają swoje rozwiązania – TikTok daje użytkownikom możliwość oznaczenia publikowanego materiału informacją o tym, że powstał z użyciem AI, platforma X (dawniej Twitter) pozwala użytkownikom na społeczne weryfikowanie treści opublikowanych przez innych użytkowników i dodawanie do nich przypisów wyjaśniających, dlaczego dana informacja czy wypowiedź jest nieprawdziwa lub zmanipulowana – mówi Aleksandra Bilińska z zarządu Koda.ai. – Ale nie oszukujmy się – gdy ktoś bardzo chce, te zabezpieczenia przed dezinformacją łatwo da się obejść.

Podczas wyborów w kilku krajach członkowskich już widać było fałszywe treści i reklamy jak deepfake. – Ich stworzenie przy użyciu sztucznej inteligencji zajmuje 30 minut – mówi wiceprzewodnicząca Komisji Europejskiej Vera Jourova. – Nie mamy danych, żeby ocenić, czy wpłynęło to radykalnie na wynik wyborów. Ale gdyby to zostało wykorzystane na masową skalę, moglibyśmy zapomnieć o wolnych i uczciwych wyborach.

AI zmienia reguły gry

Pozostało 92% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Globalne Interesy
CrowdStrike zablokował systemy Microsoft. Potężna awaria na całym świecie
Materiał Promocyjny
Jak wykorzystać potencjał elektromobilności
Globalne Interesy
OpenAI rozpoczyna wojnę, wprowadzając nowy model ChatGPT. Jest tańszy i szybszy
Globalne Interesy
Elon Musk zabiera swoje firmy z Kalifornii. Podał szokujący powód
Globalne Interesy
Rosyjski gigant ucieka z USA. Niedostępne oprogramowanie i zwolnienia pracowników
Globalne Interesy
Elon Musk po zamachu ogłasza gigantyczne wsparcie finansowe dla Donalda Trumpa