Deepfake zachwieje państwami. Sztuczna inteligencja mnoży fałszywe treści

Wygenerowany głos Joe Bidena zniechęcający do wyborów i spreparowany film porno z udziałem piosenkarki Taylor Swift to ledwie zapowiedź plagi deepfake’ów.

Publikacja: 13.02.2024 09:55

Taylor Swift czy Joe Biden to ostatnie ofiary wykorzystania AI do tworzenia nielegalnych treści audi

Taylor Swift czy Joe Biden to ostatnie ofiary wykorzystania AI do tworzenia nielegalnych treści audio i wideo. Eksperci ostrzegają: to nowa i bardzo skuteczna broń cyberprzestępców

Foto: Bloomberg

Fałszywe treści zalewają internet z mocą, z jaką nigdy wcześniej nie mieliśmy do czynienia. Dziś zapanowanie nad rosnącą skalą dezinformacji w sieci, tworzonej za pomocą zaawansowanych narzędzi sztucznej inteligencji, wydaje się wręcz niemożliwe – odbiorcy nie mają praktycznie możliwości, by określić, czy treści, które widzą online, są rzeczywistością. Tymczasem filmy oraz zdjęcia generowane przez AI (tzw. deepfake) czy klony głosu prawdziwych osób mogą zachwiać nie tylko życiem jednostki, ale wręcz całymi przedsiębiorstwami, a nawet państwami.

Broń cyberprzestępców

O tym, że nie są to obawy na wyrost, może świadczyć historia, którą ujawniło CNN. Chodzi o pracownika międzynarodowej firmy odpowiedzialnego za jej finanse, który został oszukany na kwotę 25 mln dol. Pieniądze wyłudzili od niego oszuści, którzy za pomocą technologii deepfake podszyli się pod jednego z dyrektorów przedsiębiorstwa. Choć wcześniej wysłany e-mail w sprawie przelewu wzbudził wątpliwości ofiary, to już połączenie wideokonferencyjne, które miało potwierdzić autentyczność polecenia służbowego, przekonało pracownika do przeprowadzenia transakcji. Na ekranie zobaczył bowiem swoich kolegów, którzy okazali się być jedynie cyfrowo wygenerowanym przez AI obrazem. Eksperci ostrzegają, iż podobnych incydentów będzie przybywać.

Czytaj więcej

To rewolucja. Treści i obrazy tworzone przez sztuczną inteligencję będą oznaczane

– AI jest obecnie zarówno szansą, jak i zagrożeniem – przyznaje Marcin Spychała z firmy HCL Software. I wskazuje, że sztuczna inteligencja może być wykorzystywana przez przestępców do tworzenia bardziej zaawansowanych ataków, jak choćby właśnie obrazy typu deepfake.

Ale spreparowany może być też głos. Jak zauważa Kamil Sadkowski, analityk firmy Eset, głos sklonowany przez AI jest wystarczająco przekonujący, by oszukać nawet najbliższych członków rodziny.

– Co więcej, takie rozwiązania AI są na tyle szeroko dostępne, iż przestępcy bez większego trudu mogą z nich skorzystać. Dzięki AI możliwe jest przygotowanie pliku dźwiękowego z dowolnym tekstem, generowanego na podstawie nagrań wideo, które bardzo często sami umieszczamy w social mediach. Wiemy już, że tego rodzaju technologie do tworzenia deepfake’ów będą się rozwijać i niedługo mogą stać się powszechnym narzędziem cyberprzestępców – alarmuje.

Czytaj więcej

Fałszywy głos Bidena. Sztuczna inteligencja i deepfake to chaos wyborczy

Przy tym sztuczna inteligencja w niewłaściwych rękach może nie tylko mieć konsekwencje finansowe, ale i polityczne, czego dowodzi przykład komputerowo wygenerowanego głosu prezydenta Stanów Zjednoczonych.

Czy nowe regulacje uderzą w polski ElevenLabs?

Przed prawyborami w USA doszło do niepokojącego incydentu – Amerykanie, odbierając telefon, usłyszeli po drugiej stronie Joe Bidena, który zniechęcał ich do udziału w głosowaniu. Klon głosu prezydenta doprowadził do ostrego zamieszania, a fałszerstwo wyszło na jaw. Sprawą zajęło się biuro prokuratora generalnego, które orzekło, iż była to „bezprawna próba zakłócenia prawyborów”. Jak podała firma Pindrop zajmująca się demaskowaniem oszustw tego typu, fałszerstwa dokonano z wykorzystaniem narzędzia od polskiego start-upu ElevenLabs. Niewykluczone, że kolejne tego typu incydenty negatywnie wpłyną na biznes tej firmy. Jessica Rosenworcel, przewodnicząca Amerykańskiej Federalnej Komisji Łączności, już bowiem wskazała, że należałoby zdelegalizować używanie głosów generowanych przez sztuczną inteligencję w tzw. automatach dzwoniących. – Klony głosów i deepfaki generowane przez AI sieją zamęt, a konsumenci padają ofiarą oszustw wykorzystujących tę technologię. Obecnie każdy może nią być – przekonuje Rosenworcel.

Ale generatywne narzędzia AI, zamiast być wykluczane z polityki, zdobywają coraz większe zasięgi. W br. w kampaniach do wyborów prezydenckich w Indonezji po raz pierwszy w historii użyto tej technologii aż na taką skalę. Korzysta z niej większość kandydatów. I to – jak pisze Reuters – wbrew wytycznym dostawców takich rozwiązań (m.in. Midjourney i OpenAI). Advocacy Team on Elections Concerns, organizacja non profit z siedzibą w Dżakarcie, już stwierdziła, iż dostępne w internecie „wygenerowane” filmy związane z wyborami ukazują gigantyczny potencjał AI w zakresie manipulacji wyborcami.

To takie filmy dominują

Zmanipulowane treści mogą bić także bezpośrednio w konkretne osoby. Tak było m.in. w przypadku Taylor Swift, gdy pod koniec zeszłego miesiąca w mediach społecznościowych rozprzestrzeniły się pornograficzne obrazy deepfake z udziałem znanej piosenkarki. Jak się okazało, uderzenie w wizerunek gwiazdy nie było pierwszym i ostatnim. Tego typu materiały to zaledwie kropla w morzu – jak pokazują badania Home Security Heroes, aż 98 proc. wszystkich filmów online generowanych przez AI ma bowiem nie charakter polityczny, lecz właśnie pornograficzny.

Fałszywe treści zalewają internet z mocą, z jaką nigdy wcześniej nie mieliśmy do czynienia. Dziś zapanowanie nad rosnącą skalą dezinformacji w sieci, tworzonej za pomocą zaawansowanych narzędzi sztucznej inteligencji, wydaje się wręcz niemożliwe – odbiorcy nie mają praktycznie możliwości, by określić, czy treści, które widzą online, są rzeczywistością. Tymczasem filmy oraz zdjęcia generowane przez AI (tzw. deepfake) czy klony głosu prawdziwych osób mogą zachwiać nie tylko życiem jednostki, ale wręcz całymi przedsiębiorstwami, a nawet państwami.

Pozostało 89% artykułu
2 / 3
artykułów
Czytaj dalej. Kup teraz
Technologie
Sztuczna inteligencja rozgryzie emocje każdego. Nowa broń nie tylko dla sklepów
Technologie
Sztuczna inteligencja przerobi każdą książkę na bestseller i hit filmowy. Ma sposób
Technologie
Sztuczna inteligencja wskazała armii USA cele nalotów. To rewolucja na polu walki
Technologie
ChatGPT miesza na salach rozpraw. Sztuczna inteligencja znów pogrążyła prawników
Materiał Promocyjny
PR&Media Days 2024 - trendy i wyzwania
Technologie
Sztuczna inteligencja wchodzi do smartfonów. Przewidzi ruchy użytkownika
Technologie
Przełomowy system komunikacji od NASA. Ruchem oczu można sterować urządzeniami