Deepfake zniszczy politykę, biznes i życie prywatne ludzi

Michał SzułdrzyńskiFot. Waldemar Kompała

Ćwierć miliona dolarów – tyle padło łupem oszustów, którzy w pierwszym dotąd udokumentowanym przestępstwie posłużyli się sztuczną inteligencją.

Za pomocą specjalnie przygotowanego programu stworzyli nagranie głosu prezesa firmy, który polecił dyrektorowi spółki córki szybkie przelanie pieniędzy na konto węgierskiego kontrahenta. Dyrektor nie miał żadnych wątpliwości, prezes mówił ze swoim charakterystycznym niemieckim akcentem. Mało tego, po południu zadzwonił jeszcze raz, dziękując za przelew. Dyrektor nabrał podejrzeń dopiero, gdy prezes zadzwonił po raz trzeci i zlecił wykonanie kolejnej transakcji. Ale – jak opisywał niedawno „The Wall Street Journal” – wtedy już było za późno. Pieniądze z Węgier przetransferowano do Meksyku i ślad po nich zaginął.

Właśnie tak działa deepfake. Tym mianem określane są oparte na sztucznej inteligencji narzędzia pozwalające tworzyć zupełnie fałszywe nagrania audio i wideo, których nawet wprawne oko nie może odróżnić od prawdziwych. Kilka lat temu wydawało się, że to coś ze sfery science fiction, ale historia kradzieży opisana przez „WSJ”, a nagłośniona w Polsce przez portal Konkret24, pokazuje, że żarty się skończyły i że trzeba się przygotować na nową rzeczywistość. Ktoś powie, że to tylko udoskonalenie dobrze znanej metody na wnuczka – ktoś wyłudza pieniądze, twierdząc, że przekaże je członkowi rodziny w potrzebie. Ale to nie tylko techniczne udoskonalenie. To nowa rzeczywistość.

Chińska agencja Xinhua w ostatnich miesiącach stworzyła dwóch prezenterów – awatar kobiety czytającej informacje w języku chińskim i mężczyzny dla wiadomości w języku angielskim. Z kolei na przełomie sierpnia i września Chińczycy oszaleli na punkcie aplikacji Zao, która służy do tworzenia deepfake’ów. Natychmiast pojawiły się zastrzeżenia co do poziomu prywatności i bezpieczeństwa, które oferują. A jedno jest z drugim związane. Powstały bowiem obawy, że program potrafiący robić m.in. wideo ze zdjęcia człowieka może posłużyć do łamania zabezpieczeń transakcji. Największy w Chinach operator płatności elektronicznych Alipay (870 mln użytkowników) posługuje się systemem Smile to Pay – w restauracji czy sklepie wystarczy spojrzeć w obiektyw kamery smartfona, a system rozpoznaje twarz, czym potwierdza transakcję. I choć Alipay wydał oświadczenie, że system jest absolutnie bezpieczny, to już na przykład WeChat – największy chiński komunikator – zablokował możliwość wrzucania filmików powstałych dzięki aplikacji Zao, powołując się właśnie na względy bezpieczeństwa.

Ryzyko stało się tak poważne, że w tym tygodniu Facebook wyłożył na stół 10 mln dol. na nagrodę w konkursie Deepfake Detection Challenge. Do inicjatywy dołączyły Microsoft i kilka uczelni – jak choćby słynny MIT czy Berkeley. Celem konkursu jest stworzenie powszechnie dostępnej technologii, która pozwoli identyfikować sfałszowane nagrania czy zdjęcia.

Z deepfake’ami oczywiście trzeba walczyć. Ale nie jestem optymistą. W czasach, gdy wiedzę o świecie czerpiemy z nagłówków w mediach społecznościowych, memów i krótkich filmików, fałszywe materiały dokonają wielkiego spustoszenia. Fałszywki pójdą w świat i będą się sączyły jak jad, niszcząc politykę, biznes, ale też i życie prywatne wielu ludzi.

A teza Andrzeja Zybertowicza, że sieć stanie się oceanem dezinformacji, w którym przeciętny użytkownik nie będzie potrafił oddzielić prawdy od fałszu, nie będzie żadną publicystyczną przesadą, lecz opisem rzeczywistości.

Tagi:

Mogą Ci się również spodobać

11 bit studios wierzy we „Frostpunka”. Kolejny ma być „Projekt 8”

Rok 2020 będzie dla 11 bit studios pracowity. Firma rekrutuje i przeprowadza się do ...

Mroczny potencjał technologicznych gigantów

Unijna komisarz ds. konkurencji Margrethe Vestager skrytykowała wielkich graczy na rynku wyszukiwarek i mediów ...

Spielberg nakręci znikający horror

Steven Spielberg pisze scenariusz do nowego serialu, który zostanie wyemitowany na serwisie streamingowym Quibi. ...

Klub Benfica Lizbona gra na polskiej platformie

Piłkarzy wiodącego klubu z Portugalii można oglądać nie tylko na stadionie, lecz także w ...

Cyberataki: najbardziej boimy się wycieku i utraty danych

W 2018 roku aż 93 proc. amerykańskich firm zetknęło się z incydentem zakwalifikowanym jako ...

Znajomy zamieścił podejrzany post. Nie wjedziesz do USA

Kolejne deportacje w USA za posty w mediach społecznościowych. Wystarczy, że znajomy zamieści post, ...