Dzięki AI można już ukraść postać. Klon Ukrainki kocha Chiny i sprzedaje tam towary

Olga Loiek zaczęła to badać i odkryła, że jej awatary wygenerowane przez sztuczną inteligencję pod różnymi imionami są teraz na chińskich platformach mediów społecznościowych i opowiadają o chęci poślubienia Chińczyka lub wychwalają chińską historię i kulturę.

Serwis voanews.com podaje, że już na początku lutego na chińskich platformach mediów społecznościowych w okolicach Księżycowego Nowego Roku zaczęły pojawiać się niezliczone filmy przedstawiające kobiety wyglądające na cudzoziemki, nakręcone przy użyciu sztucznej inteligencji. Kobiety mówią po mandaryńsku i promują miłość do Chin. Awatary w filmach są tworzone na podstawie obrazów dostępnych w Internecie, które są kradzione, powielane i wykorzystywane w inny sposób.

Wygenerowany przez AI klon kocha Chiny

Olga Loiek jest jedną z takich kobiet. To 20-letnia Ukrainka, studiująca kognitywistykę na Uniwersytecie Pensylwanii. Kilka miesięcy temu założyła kanał na YouTube, na którym opowiada o zdrowiu psychicznym i dzieli się swoją filozofią życia.

Czytaj więcej

Technologie

Deepfake zachwieje państwami. Sztuczna inteligencja mnoży fałszywe treści

Wygenerowany głos Joe Bidena zniechęcający do wyborów i spreparowany film porno z udziałem piosenkarki Taylor Swift to ledwie zapowiedź plagi deepfake’ów.

Jednak wkrótce potem zaczęła otrzymywać wiadomości od obserwujących, w których informowali ją, że widzieli ją w chińskich mediach społecznościowych. Tam nie jest Olgą Loiek, ale Rosjanką, która mówi po mandaryńsku, kocha Chiny i chce wyjść za Chińczyka. Ma na imię Natasha, Anna lub Grace, w zależności od platformy mediów społecznościowych, na których ją znajdziesz w Chinach. - Zaczęłam tłumaczyć filmy za pomocą tłumacza Google i zdałam sobie sprawę, że większość z tych relacji mówi o Chinach, Rosji i dobrych stosunkach między Chinami a Rosją – mówi serwisowi voanews.com.

W niektórych filmach awatary opowiadają o tym, jak bardzo cenią bliskie więzi Rosji i Chin. W innych filmach chwalą chińską historię i kulturę lub opowiadają o tym, jak bardzo Rosjanki chcą poślubić Chińczyka.

W witrynach wideo Douyin i Bilibili można znaleźć kilkadziesiąt filmów przedstawiających awatara Loiek mówiącego po mandaryńsku. Na większości tych kont widzowie proszeni są o odwiedzenie ich sklepów internetowych w celu zakupu, ich zdaniem, autentycznych rosyjskich towarów.

Douyin, chińska wersja TikToka, oznaczyła niektóre z tych filmów jako potencjalnie wygenerowane przez sztuczną inteligencję. Ale komentarze pokazują, że wiele osób wierzyło, że patrzy na prawdziwą kobietę. - Prawdopodobnie używa się tego, aby ludzie, być może mieszkańcy Chin, mieli poczucie, że obcokrajowcy uważają, że ich kraj jest lepszy — mówi youtuberka.

Przerażające możliwości sztucznej inteligencji

Na Bilibili, największej chińskiej witrynie wideo, niektóre filmy AI wykorzystujące twarz Loiek są oznaczone logo HeyGen, co oznacza, że wideo zostało wygenerowane na stronie internetowej firmy. W jednym z tutoriali na temat Bilibili demonstrator pokazuje nawet, jak nagrać krótki film o HeyGen z fragmentem mówiącym głosem Loiek.

Czytaj więcej

Globalne Interesy

Fałszywy głos Bidena. Sztuczna inteligencja i deepfake to chaos wyborczy

Fałszywe i wygenerowane komputerowo nagranie głosu prezydenta Joe Bidena, który miał zniechęcać wyborców do udziału w demokratycznych prawyborach, słyszeli Amerykanie, odbierając telefon. To pokazuje, z czym zmierzą się partie polityczne i wyborcy.

HeyGen to firma zajmująca się sztuczną inteligencją z siedzibą w Los Angeles, która została założona w Chinach w 2020 roku. Specjalizuje się w realistycznych awatarach cyfrowych, generowaniu głosu i tłumaczeniu wideo.

Technologia opracowana przez HeyGen została wykorzystana w filmach zawierających tworzone przez sztuczną inteligencję obrazy, na których Donald Trump i Taylor Swift mówią doskonale po mandaryńsku, które stały się popularne w chińskich mediach społecznościowych w październiku 2023 r. Według Forbesa wycena firmy wynosi obecnie 75 mln dol.

Polityka moderacji HeyGen stanowi, że użytkownicy nie mogą generować awatarów „przedstawiających rzeczywiste osoby, w tym celebrytów lub osoby publiczne, bez wyraźnej zgody”. Oficjalny film instruktażowy firmy na temat tworzenia awatarów pokazuje, że użytkownicy muszą przesłać film przedstawiający osoby wyrażające zgodę na wykorzystanie ich podobizny. Nie jest jasne, w jaki sposób niektórzy w Chinach mogliby obejść wymóg nagrywania filmów z Loiek.

Czytaj więcej

Technologie

Scarlett Johansson wykorzystana przez sztuczną inteligencję. Pierwszy taki pozew

Aktorka pozwała firmę za wygenerowanie jej głosu przy pomocy algorytmu, a następnie wykorzystanie go w reklamie internetowej. Niedawno głośna była sprawa wygenerowania na potrzeby reklamy postaci niezwykle podobnej do Toma Hanksa.

Sama zainteresowana powiedziała, że odkąd ona i jej subskrybenci YouTube wysłali skargi do chińskich firm zajmujących się mediami społecznościowymi, kilkanaście kont imitujących ją zostało usuniętych. Właściciel HeyGen i Douyin czyli koncern ByteDance (znany także z TikToka) nie odpowiedział na pytania dziennikarzy.

Na początku 2023 r. chiński rząd wprowadził przepisy regulujące usługi deepfakes i inne „usługi głębokiej syntezy”. Prawo zabrania generowania deepfakes bez zgody osób, których wizerunek lub inne informacje są wykorzystywane.