Potężny cios w demokrację i biznes. Jak sztuczna inteligencja sieje dezinformację

Podczas wyborów w kilku krajach członkowskich już widać było fałszywe treści i reklamy jak deepfake. – Ich stworzenie przy użyciu sztucznej inteligencji zajmuje 30 minut – mówi wiceprzewodnicząca Komisji Europejskiej Vera Jourova. – Nie mamy danych, żeby ocenić, czy wpłynęło to radykalnie na wynik wyborów. Ale gdyby to zostało wykorzystane na masową skalę, moglibyśmy zapomnieć o wolnych i uczciwych wyborach.

AI zmienia reguły gry

Deepfaki to sztucznie generowane lub manipulowane obrazy, które mogą uchodzić za autentyczne. – Naciskamy na platformy, na których mogą pojawiać się takie treści, aby albo je oznaczyli, albo usunęli – mówiła Jourova w wywiadzie dla Bloomberga.

Szybki rozwój sztucznej inteligencji pozwala na tworzenie coraz bardziej przekonujących materiałów, które mogą przedstawiać polityków w sytuacjach, które nigdy się nie wydarzyły. Jak miało to miejsce w USA z kandydatką do Senatu Kari Lake z Partii Republikańskiej. Organizacja Arizona Agenda wykorzystała sztuczną inteligencję i wizerunek polityczki i stworzyła fałszywy film z jej udziałem. Wideo prezentowało, jak technologia ta może być wykorzystana do manipulacji informacjami w kontekście wyborów. Na nagraniu były zupełnie nieprawdziwe i kontrowersyjne stwierdzenia kobiety, ale kończyło się ostrzeżeniem o potencjalnym wykorzystaniu sztucznej inteligencji do wpływania na elektorat w wyborach. Kari Lake nakazała firmie usunąć wideo ze wszystkich miejsc, ale wielu Amerykanów zdążyło je obejrzeć.

Czytaj więcej

Technologie

Deepfake zachwieje państwami. Sztuczna inteligencja mnoży fałszywe treści

Wygenerowany głos Joe Bidena zniechęcający do wyborów i spreparowany film porno z udziałem piosen...

W Polsce to też będzie problem. Już w sierpniu 2023 r. Platforma Obywatelska wykorzystała sztuczną inteligencję do stworzenia głosu premiera Mateusza Morawieckiego. Materiał nie został odpowiednio oznaczony jako wygenerowany przez AI, co wzbudziło protesty i krytykę.

Nie tylko politycy padają ofiarą technologii deepfake. Wizerunek znanego polskiego influencera, Buddy, został wykorzystany do zachęcania do inwestycji „gwarantującej ogromne zyski”. Bo też technologia pozwalająca na podszywanie się niemal niezauważalnie pod inne osoby już jest wykorzystywana na coraz większą skalę w biznesie. Przykład ukraińskiej studentki Olga Loiek prowadzącej na YouTubie kanał o zdrowiu psychicznym pokazuje, że możliwości są znacznie większe. Jej wygenerowany przez sztuczną inteligencję klon promuje Chiny w sieci oraz sprzedaje towary.

W niektórych filmach awatary vlogerki opowiadają o tym, jak bardzo ceni bliskie więzi Rosji i Chin. W innych filmach chwali chińską historię i kulturę lub opowiada o tym, jak bardzo Rosjanki chcą poślubić Chińczyka.

Czytaj więcej

Globalne Interesy

To rewolucja. Treści i obrazy tworzone przez sztuczną inteligencję będą oznaczane

Koncern Meta zapowiada oznaczanie treści wygenerowanych przez sztuczną inteligencję na Instagrami...

– Sztuczna inteligencja z założenia nie jest czymś złym. Tak samo jak nóż w rękach kucharza. Sytuacja jednak znacząco się zmienia, kiedy nóż przechwyci ktoś o złych zamiarach – mówi Marcin Bednarczyk, trener cyberbezpieczeństwa z HackerU. Wymienia możliwości pozwalające na skopiowanie właściwie każdego wizerunku i rozwinięcie go do filmów. Choćby to Stable Diffusion, czyli ogromne ułatwienie np. dla osób zajmujących się czymś związanym z grafiką. Jest też funkcja zwana face swap – zamiana twarzy. – Możemy ją wykorzystać np. do pochwalenia się „nową rzeźbą ciała”, czy pokazać gdzie „byliśmy” na wakacjach – mówi Marcin Bednarczyk. Wystarczy się jednak zastanowić przez chwilę, aby zobaczyć, jak wiele niebezpieczeństw niesie za sobą ta technologia w rękach człowieka, który ma złe zamiary. Można dosłownie zniszczyć komuś życie.

Rośnie świadomość zagrożenia

Zwraca uwagę, że na razie generowane filmy nie są jeszcze świetnej jakości, a w dodatku są zasadniczo dosyć krótkie. Tego typu narzędzia są jak najbardziej użyteczne i przydatne, ale nie w sytuacji, gdy dostanie się do nich przestępca. – Może skonstruować np. materiał, gdzie znana osoba opowiada o nowych możliwościach zarobku za pomocą jakiejś platformy, która tak naprawdę po prostu okrada ludzi z pieniędzy – przekonuje Marcin Bednarczyk.

Czytaj więcej

Technologie

Dzięki AI można już ukraść postać. Klon Ukrainki kocha Chiny i sprzedaje tam towary

Studentka Olga Loiek prowadząca na YouTube kanał poświęcony zdrowiu psychicznemu ze zdziwieniem o...