Internetowe trolle sięgają po deep fake. Zastraszanie i szantaż

Czasy, gdy internetowe trolle wykorzystywały cudze zdjęcia albo zakładały konta bez zdjęć minęły. Teraz tworzą nowe, unikalne twarze, które mają oszukiwać innych użytkowników internetu.

Telewizja CNN opisała przypadek aktywistki i współzałożycielki organizacji Sleeping Giants – Nandini Jammi. Organizacja powstała by wywierać nacisk na firmy i platformy internetowe, by nie umieszczały one reklam o charakterze rasistowskim, seksistowskim, antysemickim czy ksenofobicznym. Jammi otrzymała na Twitterze groźnie brzmiącą wiadomość od „osoby”, która chciała się dowiedzieć, dlaczego usunęła swoje dane z serwisu randkowego dla swingersów Adult Friend Finder. Autorką informacji była „Jessica” a ze zdjęcia profilowego na adresatkę informacji patrzyła roześmiana, sympatyczna blondynka.

CZYTAJ TAKŻE: Sztuczna inteligencja zrobi z tobą film porno

Nandini Jammi odebrała wiadomość jako niezbyt subtelnie zawoalowaną groźbę od kogoś, kto rzekomo posiada kompromitujące ją materiały. W informacji znalazło się też odniesienie do innego działacza związanego z Sleeping Giants E.J. Gibneya. Okazało się, że grupa internetowych trolli z fałszywych kont, okraszonych fejkowymi zdjęciami, które wyglądały niezwykle prawdziwie, atakowała i zastraszała osoby związane z Sleeping Giants. E.J. Gibney napisał na Twitterze, że wszystkie zdjęcia zostały wygenerowane dzięki sztucznej inteligencji i wyglądały niezwykle autentycznie.

Dziennikarze CNN postanowili przesłać zdjęcia rzekomych użytkowników Twittera, którzy rozsyłali wiadomości do osób związanych z Sleeping Giants, do ekspertów. Wszyscy potwierdzili, że zdjęcia przedstawiają postaci wygenerowane przez algorytm, a nie twarze prawdziwych, rzeczywistych osób.

CZYTAJ TAKŻE: Trump zabija przeciwników. YouTube odmawia usunięcia fejkowego filmu

Internetowe trolle starają się tworzyć profile, które wyglądają na jak najbardziej autentyczne, łącznie z profilowym zdjęciem. W 2017 roku Twitter usunął m.in. profil należący rzekomo do Jenny Abrams – konserwatywnej Amerykanki, która miała ponad 70 tys. followersów. Okazało się, że profil należał do grupy rosyjskich trolli, którzy jako zdjęcia profilowego użyli podobizny 26-letniej niczego nieświadomej Rosjanki. Dzięki zdjęciom tworzonym przez AI mogą uniknąć takich wpadek i przypadkowego zdemaskowania.

Okazało się, że „Jessica” była jednym z 50 kont zarządzanych przez grupę osób – pisze CNN, powołując się na informacje z Twittera. Konta były używane by nękać aktywistów związanych z Sleeping Giants. Wszystkie konta miały zięcia profilowe wygenerowane przez AI i wszystkie – na pierwszy rzut oka – wyglądały bardzo autentycznie.

Technologia pozwalająca wykreować autentycznie wyglądające zdjęcia i filmy rozwija się tak szybko, że czasami nawet specjalisto zajmuje trochę czasu rozpoznanie fałszywki. Deep fake jest na tyle niebezpieczne, że w Pentagonie powstała specjalna grupa pracująca nad metodami szybkiego wykrywania tego typu zdjęć, ale przede wszystkim filmów. Amerykański wywiad ostrzega, że deep fake może zostać wykorzystane w wojnie informacyjnej przeciwko USA oraz jego sojusznikom przez na przykład terrorystów.

CZYTAJ TAKŻE: Deepfake budzi przerażenie. Mamy tylko pół roku

W zeszłym roku Phil Wang, były programista Ubera, stworzył stronę o nazwie „Ta osoba nie istnieje” (This person does not exist). Za każdym razem, gdy odwiedzasz te stronę, widzisz nową twarz, która wygląda jak prawdziwa osoba. Jednak wszystkie te twarze są stworzone przy użyciu AI. Wand postanowił pokazać ludziom, co potrafi AI i jak bardzo powinni być ostrożni w internecie. Zwłaszcza kiedy dostają informacje od nieznajomych.