Adam Mosseri, prezes Instagrama, przyznał w rozmowie z CBS, że platforma społecznościowa nie ma opracowanej polityki postępowania w przypadku wykrycia fałszywych filmów. Mosseri, który prezesem Instagrama jest od zeszłego roku, powiedział w wywiadzie, że na razie firma stara się znaleźć optymalny sposób na określenie, czym w ogóle jest deepfake. Dopiero potem może zacząć opracowywać sposób na to, co z nim zrobić – usuwać czy oznaczać, tak by użytkownicy wiedzieli, z czym mają do czynienia.

CZYTAJ TAKŻE: Aplikacja do rozbierania kobiet wywołała burzę w internecie

Instagram nie usunął nawet fejkowego wideo z Markiem Zuckerbergiem w obawie o pogwałcenie własnych zasad. Film jest wyjątkowo realistyczny. Jego twórcy wykorzystali wywiad prezesa Facebooka dla CBSM z 2017 roku, podłożyli głos aktora i za pomocą sztucznej inteligencji zmanipulowali mimikę twarzy Zuckerberga, tak, by wyglądało, że faktycznie mówił to, co mówi. A Mark Zuckerberg „przyznaje”, że ma kontrolę nad światem i nad skradzionymi danymi milionów ludzi na całym świecie.

„Nie zamierzamy podejmować jednorazowej decyzji o zdjęciu tego filmu tylko dlatego, że to Mark i dlatego, że Mark jest naszym szefem” – powiedział Mosseri w wywiadzie. „Byłoby to naprawdę niewłaściwe i nieodpowiedzialne. Musimy mieć określone zasady i musimy być transparentni w odniesieniu do tych zasad” – powiedział Mosseri, a wideo z szefem Facebooka nadal na Instagramie jest dostępne. Facebook zdecydował się jedynie na obniżenie priorytetu tego materiału i nierekomendowanie go użytkownikom.

Światem rządzi Spectre

Ten deepfake jest jednym z kilku, które powstały na potrzeby wystawy „Spectre”, która odbyła się w ramach Sheffield Doc Fest w Wielkiej Brytanii – festiwalu filmów dokumentalnych. Wideo zostało stworzone przez dwóch artystów – Billa Postersa i Daniela Howe’a, we współpracy z agencją reklamową Canny. Materiał powstał przy użyciu technologii VDR pozwalającej na podłożenie dowolnej ścieżki dialogowej pod obraz przy wsparciu narzędzi sztucznej inteligencji. „Ofiarą” artystów padł nie tylko Mark Zuckerberg, ale także popularna instragramerka i celebrytka Kim Kardashian.

CZYTAJ TAKŻE: Zuckerberg mówi szalone rzeczy. Coraz więcej fałszywek wideo

Te deepfake są w miarę nieszkodliwe, ale nie są jedynymi w internecie. W maju pojawiło się fałszywe wideo z Nancy Pelosi, spikerką amerykańskiej Izby Reprezentantów. Pelosi wyglądała na nim na pijaną. Wtedy też Facebook nie zdjął filmu, ale przestał go rekomendować użytkownikom. Jednak zdaniem analityków to za mało. Deepfake rozpowszechniają nieprawdziwe informacje, ale w takiej formie, że wiele osób może je uznać za prawdziwe. Algorytmy Facebooka i Instagrama nie są przygotowane na zalew takich treści. Nie potrafią ich wyszukać i prawidłowo zidentyfikować jako nieprawdziwe. Muszą polegać na zgłoszeniach użytkowników serwisów społecznościowych.

Bezradny Facebook

Zarówno Facebook, jak i Instagram zapewniają, że pracują nad lepszymi i szybszymi algorytmami wyłapującymi deepfake. Nie wiadomo jednak, jak szybko będą w stanie je wprowadzić i wykorzystywać.

CZYTAJ TAKŻE: Sztuczna inteligencja zrobi z tobą film porno

Według analityków takich filmów zawierających nieprawdziwe treści będzie jeszcze wiele. Dotychczas po sieci krążyły filmy pornograficzne, w których rzekomo grały znane aktorki. Żaden z tych filmów nie jest prawdziwy, ale technika, za pomocą której „nałożono” na ciało aktorki porno twarz Gal Gadot czy Scarlett Johansson, jest tak perfekcyjna, że trudno dostrzec manipulację. Deepfake daje znacznie większe możliwości manipulacji. Zwłaszcza przed wyborami. Analitycy ostrzegają, że mogą się stać potężnym narzędziem w rękach spin doktorów partii politycznych lub osób, którym zależy na konkretnym wyniku wyborczym.

W USA wciąż jest analizowany rzekomy wpływ rosyjskiego wywiadu na wynik ostatnich wyborów prezydenckich. Sfałszowane filmy wideo mogą stać się całkiem nową jakością w walce wyborczej. Przy braku skutecznych algorytmów Facebook, Instagram czy Twitter nie będą w stanie sobie z nimi poradzić.

CZYTAJ TAKŻE: Groźne oblicze SI. To mistrz konfabulacji i fake newsów

Hao Li, profesor Uniwersytetu Kalifornii Południowej, ostrzega, że najlepsze algorytmy wykrywające deepfake będą przydatne tylko przez krótki czas. Sztuczna Inteligencja stojąca za tymi filmami będzie w stanie się dostosować i obejść wszelkie zabezpieczenia – pisze The Verge. Profesor Li jest jednym z naukowców, którzy opracowali kilka algorytmów wykrywających napędzane AI filmy. Algorytm potrafi wykryć niezgodność w mimice twarzy zmanipulowanych filmów, porównując je z autentycznymi wystąpieniami polityków. W ten sposób udało im się zdemaskować deepfake z prezydentem Donaldem Trumpem oraz senator Elizabeth Warren. Zdaniem profesora Li deepfake są coraz lepsze i doskonalsze i wkrótce dotychczasowe algorytmy nie będą w stanie ich zidentyfikować.