Fałszywy głos Bidena. Sztuczna inteligencja i deepfake to chaos wyborczy

Fałszywe i wygenerowane komputerowo nagranie głosu prezydenta Joe Bidena, który miał zniechęcać wyborców do udziału w demokratycznych prawyborach, słyszeli Amerykanie, odbierając telefon. To pokazuje, z czym zmierzą się partie polityczne i wyborcy.

Aktualizacja: 24.01.2024 13:23 Publikacja: 23.01.2024 14:29

W spreparowanym nagraniu Joe Biden namawiał telefonicznie do niebrania udziału w prawyborach

W spreparowanym nagraniu Joe Biden namawiał telefonicznie do niebrania udziału w prawyborach

Foto: Bloomberg

W USA wybuchła prawdziwa polityczna burza, po tym jak sfabrykowane nagranie audio prezydenta USA Joe Bidena pojawiło się w weekend. Głos spreparowany tak, aby brzmiał jak Biden, nalegał, aby wyborcy w New Hampshire nie oddawali głosów we wtorkowych prawyborach Demokratów. - Zachowaj swój głos na listopadowe wybory – brzmiała wiadomość telefoniczna, o której pisze Bloomberg. W nagraniu wykorzystano nawet jedno z charakterystycznych sformułowań Bidena: „Co za banda głupców”.

Czytaj więcej

Wybory w Polsce i AI przyniosą cyberwojnę oraz plagę deepfake

W rzeczywistości prezydenta nie ma na karcie do głosowania w wyścigu o fotel prezydenta w prawyborach w New Hampshire, a głosowanie nie uniemożliwia obywatelom wzięcia udziału w listopadowych wyborach.

Moment politycznego deepfake

Wielu ekspertów ostrzegało, że w tym roku do celów politycznych zostaną wykorzystane nowe narzędzia dezinformacji wygenerowane dzięki sztucznej inteligencji treści wideo i obrazów. Zwłaszcza niepokojące są te audio, ponieważ są łatwe w edycji, tanie w produkcji i szczególnie trudne do wyśledzenia. Naukowcy twierdzą, że jeśli połączysz przekonującą wiadomość telefoniczną z bazą danych rejestracji wyborców, wówczas mamy polityczną broń, z którą nie poradzą sobie nawet najbardziej zaawansowane systemy wyborcze.

- Nadszedł moment politycznego deepfake – powiedział Robert Weissman, prezes think tanku Public Citizen. Wezwał rząd władzą ustawodawczą do wprowadzenia zabezpieczeń przed fałszywymi nagraniami audio i wideo, aby zapobiec chaosowi wyborczemu.

Czytaj więcej

Były premier sięgnął w więzieniu po polską sztuczną inteligencję. Wróci do władzy?

Fałszywy przekaz Bidena pojawia się w związku z tym, że coraz większa liczba amerykańskich kampanii politycznych wykorzystuje oprogramowanie AI do masowego docierania do wyborców, a inwestorzy pompują pieniądze w start-upy zajmujące się generowaniem głosu. W poniedziałek, gdy obie partie były zszokowane fałszywą wiadomością telefoniczną akurat polski start-up ElevenLabs, zajmujący się generowaniem głosu w oparciu o sztuczną inteligencję, ogłosił, że pozyskał nową rundę finansowania, w ramach której wyceniono firmę na 1,1 mld dol. W efekcie forma weszła do elitarnego klubu jednorożców, czyli start-upów wycenianych na co najmniej 1 mld dol.

Plaga fałszywych nagrań

Sfałszowane nagranie polityczne nie było pierwszym. W zeszłym roku w mediach społecznościowych przed wyborami parlamentarnymi na Słowacji rozpowszechniły się fałszywe nagrania dźwiękowe, w których m.in. lider partii Michal Simecka zdawał się omawiać plan zakupu głosów.

Czytaj więcej

Scarlett Johansson wykorzystana przez sztuczną inteligencję. Pierwszy taki pozew

Nie jest jasne, w jaki sposób wiadomość Bidena została wygenerowana. W poniedziałek prokurator generalny New Hampshire badał nagranie. Jednak według Joan Donovan, adiunkta dziennikarstwa i studiów nad mediami na Uniwersytecie Bostońskim, wyśledzenie źródła fałszywego nagrania będzie szczególnie trudne, ponieważ rozprzestrzeniano je drogą telefoniczną, a nie internetową. Wiadomości audio dostarczane przez telefon nie mają tej samej ścieżki cyfrowej. Sytuację skomplikuje rozwój sztucznej inteligencji. Skokowo zwiększy ona liczbę manipulacji i będą one coraz lepsze i bardziej wiarygodne.

Globalne Interesy
„Złota kopuła” Trumpa ma ochronić Amerykę przed rakietami. Chce ją zbudować Musk
Globalne Interesy
Ogromna awaria Spotify. Nie działa na całym świecie
Globalne Interesy
Multimiliarder tworzy nowy serwis społecznościowy. To cios w Muska i Zuckerberga
Globalne Interesy
Meta wyszkoli AI na wpisach na Facebooku. Będą kontrowersje
Materiał Partnera
Konieczność transformacji energetycznej i rola samorządów
Globalne Interesy
Nie Trzaskowski, Nawrocki czy Mentzen. To ci kandydaci podbili internet po debacie