Deepfake będzie wkrótce groźną bronią polityczną

Jedna z liderek Demokratów senator Elizabeth Warren też padła ofiarą fejkowej prowokacji
mat. pras.

Fałszywki wideo ośmieszające celebrytów i polityków przestają już być niewinną zabawą. Mogą wpływać na wybory czy wywoływać zamieszki.

Adam Mosseri, prezes Instagrama, przyznał w rozmowie z CBS, że platforma społecznościowa nie ma opracowanej polityki postępowania w przypadku wykrycia fałszywych filmów. Mosseri, który prezesem Instagrama jest od zeszłego roku, powiedział w wywiadzie, że na razie firma stara się znaleźć optymalny sposób na określenie, czym w ogóle jest deepfake. Dopiero potem może zacząć opracowywać sposób na to, co z nim zrobić – usuwać czy oznaczać, tak by użytkownicy wiedzieli, z czym mają do czynienia.

CZYTAJ TAKŻE: Aplikacja do rozbierania kobiet wywołała burzę w internecie

Instagram nie usunął nawet fejkowego wideo z Markiem Zuckerbergiem w obawie o pogwałcenie własnych zasad. Film jest wyjątkowo realistyczny. Jego twórcy wykorzystali wywiad prezesa Facebooka dla CBSM z 2017 roku, podłożyli głos aktora i za pomocą sztucznej inteligencji zmanipulowali mimikę twarzy Zuckerberga, tak, by wyglądało, że faktycznie mówił to, co mówi. A Mark Zuckerberg „przyznaje”, że ma kontrolę nad światem i nad skradzionymi danymi milionów ludzi na całym świecie.

Algorytmy Facebooka i Instagrama nie są przygotowane na zalew takich treści

„Nie zamierzamy podejmować jednorazowej decyzji o zdjęciu tego filmu tylko dlatego, że to Mark i dlatego, że Mark jest naszym szefem” – powiedział Mosseri w wywiadzie. „Byłoby to naprawdę niewłaściwe i nieodpowiedzialne. Musimy mieć określone zasady i musimy być transparentni w odniesieniu do tych zasad” – powiedział Mosseri, a wideo z szefem Facebooka nadal na Instagramie jest dostępne. Facebook zdecydował się jedynie na obniżenie priorytetu tego materiału i nierekomendowanie go użytkownikom.

Światem rządzi Spectre

Ten deepfake jest jednym z kilku, które powstały na potrzeby wystawy „Spectre”, która odbyła się w ramach Sheffield Doc Fest w Wielkiej Brytanii – festiwalu filmów dokumentalnych. Wideo zostało stworzone przez dwóch artystów – Billa Postersa i Daniela Howe’a, we współpracy z agencją reklamową Canny. Materiał powstał przy użyciu technologii VDR pozwalającej na podłożenie dowolnej ścieżki dialogowej pod obraz przy wsparciu narzędzi sztucznej inteligencji. „Ofiarą” artystów padł nie tylko Mark Zuckerberg, ale także popularna instragramerka i celebrytka Kim Kardashian.

CZYTAJ TAKŻE: Zuckerberg mówi szalone rzeczy. Coraz więcej fałszywek wideo

Te deepfake są w miarę nieszkodliwe, ale nie są jedynymi w internecie. W maju pojawiło się fałszywe wideo z Nancy Pelosi, spikerką amerykańskiej Izby Reprezentantów. Pelosi wyglądała na nim na pijaną. Wtedy też Facebook nie zdjął filmu, ale przestał go rekomendować użytkownikom. Jednak zdaniem analityków to za mało. Deepfake rozpowszechniają nieprawdziwe informacje, ale w takiej formie, że wiele osób może je uznać za prawdziwe. Algorytmy Facebooka i Instagrama nie są przygotowane na zalew takich treści. Nie potrafią ich wyszukać i prawidłowo zidentyfikować jako nieprawdziwe. Muszą polegać na zgłoszeniach użytkowników serwisów społecznościowych.

Bezradny Facebook

Zarówno Facebook, jak i Instagram zapewniają, że pracują nad lepszymi i szybszymi algorytmami wyłapującymi deepfake. Nie wiadomo jednak, jak szybko będą w stanie je wprowadzić i wykorzystywać.

CZYTAJ TAKŻE: Sztuczna inteligencja zrobi z tobą film porno

Według analityków takich filmów zawierających nieprawdziwe treści będzie jeszcze wiele. Dotychczas po sieci krążyły filmy pornograficzne, w których rzekomo grały znane aktorki. Żaden z tych filmów nie jest prawdziwy, ale technika, za pomocą której „nałożono” na ciało aktorki porno twarz Gal Gadot czy Scarlett Johansson, jest tak perfekcyjna, że trudno dostrzec manipulację. Deepfake daje znacznie większe możliwości manipulacji. Zwłaszcza przed wyborami. Analitycy ostrzegają, że mogą się stać potężnym narzędziem w rękach spin doktorów partii politycznych lub osób, którym zależy na konkretnym wyniku wyborczym.

W USA wciąż jest analizowany rzekomy wpływ rosyjskiego wywiadu na wynik ostatnich wyborów prezydenckich. Sfałszowane filmy wideo mogą stać się całkiem nową jakością w walce wyborczej. Przy braku skutecznych algorytmów Facebook, Instagram czy Twitter nie będą w stanie sobie z nimi poradzić.

CZYTAJ TAKŻE: Groźne oblicze SI. To mistrz konfabulacji i fake newsów

Hao Li, profesor Uniwersytetu Kalifornii Południowej, ostrzega, że najlepsze algorytmy wykrywające deepfake będą przydatne tylko przez krótki czas. Sztuczna Inteligencja stojąca za tymi filmami będzie w stanie się dostosować i obejść wszelkie zabezpieczenia – pisze The Verge. Profesor Li jest jednym z naukowców, którzy opracowali kilka algorytmów wykrywających napędzane AI filmy. Algorytm potrafi wykryć niezgodność w mimice twarzy zmanipulowanych filmów, porównując je z autentycznymi wystąpieniami polityków. W ten sposób udało im się zdemaskować deepfake z prezydentem Donaldem Trumpem oraz senator Elizabeth Warren. Zdaniem profesora Li deepfake są coraz lepsze i doskonalsze i wkrótce dotychczasowe algorytmy nie będą w stanie ich zidentyfikować.

Tagi:

Mogą Ci się również spodobać

Firmy technologiczne uciekają z Londynu

Coraz więcej globalnych firm decyduje się na przeniesienie siedzib, a nawet produkcji, poza Wyspy ...

Zostań żołnierzem, dilerem narkotyków, a potem idź do spa

Liczba producentów gier na rynku głównym GPW może w tym roku powiększyć się o co ...

Kreml: Rosja jest atakowana w cyberprzestrzeni

Rosyjskie instytucje, w tym strona rosyjskiego prezydenta są regularnie obiektem cyberataków z USA i ...

4Fun Media poślizgnęły się na e-commerce

E-commerce może być perspektywicznym biznesem, ale z prognozami trzeba uważać. Taki wniosek można wyciągnąć ...

Technologia AI zadba o atmosferę w pracy

Firmowe działy HR zyskają nowatorskie narzędzie – sztuczną inteligencję, która rozpozna nastrój pracownika. Wdrożenia ...

HTC rusza w Polsce z serwisem z treścią VR

Viveport Infinity, pierwsza na świecie usługa dostępu do materiałów w rozszerzonej rzeczywistości, debiutuje na ...