Dzięki AI można już ukraść postać. Klon Ukrainki kocha Chiny i sprzedaje tam towary

Studentka Olga Loiek prowadząca na YouTube kanał poświęcony zdrowiu psychicznemu ze zdziwieniem odkryła, że jej wygenerowany przez sztuczną inteligencję klon promuje Chiny w sieci, sprzedaje towary i szuka męża.

Publikacja: 01.03.2024 13:07

Olga Loiek padła ofiarą kradzieży wierunku. Stała się Nataszą, Anną lub Grace

Olga Loiek padła ofiarą kradzieży wierunku. Stała się Nataszą, Anną lub Grace

Foto: Olga Loiek, konto YouTube

Olga Loiek zaczęła to badać i odkryła, że jej awatary wygenerowane przez sztuczną inteligencję pod różnymi imionami są teraz na chińskich platformach mediów społecznościowych i opowiadają o chęci poślubienia Chińczyka lub wychwalają chińską historię i kulturę.

Serwis voanews.com podaje, że już na początku lutego na chińskich platformach mediów społecznościowych w okolicach Księżycowego Nowego Roku zaczęły pojawiać się niezliczone filmy przedstawiające kobiety wyglądające na cudzoziemki, nakręcone przy użyciu sztucznej inteligencji. Kobiety mówią po mandaryńsku i promują miłość do Chin. Awatary w filmach są tworzone na podstawie obrazów dostępnych w Internecie, które są kradzione, powielane i wykorzystywane w inny sposób.

Wygenerowany przez AI klon kocha Chiny

Olga Loiek jest jedną z takich kobiet. To 20-letnia Ukrainka, studiująca kognitywistykę na Uniwersytecie Pensylwanii. Kilka miesięcy temu założyła kanał na YouTube, na którym opowiada o zdrowiu psychicznym i dzieli się swoją filozofią życia.

Czytaj więcej

Deepfake zachwieje państwami. Sztuczna inteligencja mnoży fałszywe treści

Jednak wkrótce potem zaczęła otrzymywać wiadomości od obserwujących, w których informowali ją, że widzieli ją w chińskich mediach społecznościowych. Tam nie jest Olgą Loiek, ale Rosjanką, która mówi po mandaryńsku, kocha Chiny i chce wyjść za Chińczyka. Ma na imię Natasha, Anna lub Grace, w zależności od platformy mediów społecznościowych, na których ją znajdziesz w Chinach. - Zaczęłam tłumaczyć filmy za pomocą tłumacza Google i zdałam sobie sprawę, że większość z tych relacji mówi o Chinach, Rosji i dobrych stosunkach między Chinami a Rosją – mówi serwisowi voanews.com.

W niektórych filmach awatary opowiadają o tym, jak bardzo cenią bliskie więzi Rosji i Chin. W innych filmach chwalą chińską historię i kulturę lub opowiadają o tym, jak bardzo Rosjanki chcą poślubić Chińczyka.

W witrynach wideo Douyin i Bilibili można znaleźć kilkadziesiąt filmów przedstawiających awatara Loiek mówiącego po mandaryńsku. Na większości tych kont widzowie proszeni są o odwiedzenie ich sklepów internetowych w celu zakupu, ich zdaniem, autentycznych rosyjskich towarów.

Douyin, chińska wersja TikToka, oznaczyła niektóre z tych filmów jako potencjalnie wygenerowane przez sztuczną inteligencję. Ale komentarze pokazują, że wiele osób wierzyło, że patrzy na prawdziwą kobietę. - Prawdopodobnie używa się tego, aby ludzie, być może mieszkańcy Chin, mieli poczucie, że obcokrajowcy uważają, że ich kraj jest lepszy — mówi youtuberka.

Przerażające możliwości sztucznej inteligencji

Na Bilibili, największej chińskiej witrynie wideo, niektóre filmy AI wykorzystujące twarz Loiek są oznaczone logo HeyGen, co oznacza, że wideo zostało wygenerowane na stronie internetowej firmy. W jednym z tutoriali na temat Bilibili demonstrator pokazuje nawet, jak nagrać krótki film o HeyGen z fragmentem mówiącym głosem Loiek.

Czytaj więcej

Fałszywy głos Bidena. Sztuczna inteligencja i deepfake to chaos wyborczy

HeyGen to firma zajmująca się sztuczną inteligencją z siedzibą w Los Angeles, która została założona w Chinach w 2020 roku. Specjalizuje się w realistycznych awatarach cyfrowych, generowaniu głosu i tłumaczeniu wideo.

Technologia opracowana przez HeyGen została wykorzystana w filmach zawierających tworzone przez sztuczną inteligencję obrazy, na których Donald Trump i Taylor Swift mówią doskonale po mandaryńsku, które stały się popularne w chińskich mediach społecznościowych w październiku 2023 r. Według Forbesa wycena firmy wynosi obecnie 75 mln dol.

Polityka moderacji HeyGen stanowi, że użytkownicy nie mogą generować awatarów „przedstawiających rzeczywiste osoby, w tym celebrytów lub osoby publiczne, bez wyraźnej zgody”. Oficjalny film instruktażowy firmy na temat tworzenia awatarów pokazuje, że użytkownicy muszą przesłać film przedstawiający osoby wyrażające zgodę na wykorzystanie ich podobizny. Nie jest jasne, w jaki sposób niektórzy w Chinach mogliby obejść wymóg nagrywania filmów z Loiek.

Czytaj więcej

Scarlett Johansson wykorzystana przez sztuczną inteligencję. Pierwszy taki pozew

Sama zainteresowana powiedziała, że odkąd ona i jej subskrybenci YouTube wysłali skargi do chińskich firm zajmujących się mediami społecznościowymi, kilkanaście kont imitujących ją zostało usuniętych. Właściciel HeyGen i Douyin czyli koncern ByteDance (znany także z TikToka) nie odpowiedział na pytania dziennikarzy.

Na początku 2023 r. chiński rząd wprowadził przepisy regulujące usługi deepfakes i inne „usługi głębokiej syntezy”. Prawo zabrania generowania deepfakes bez zgody osób, których wizerunek lub inne informacje są wykorzystywane.

Loiek opublikowała swoją historię na YouTube i udostępniła ją w chińskich mediach społecznościowych.

Technologie
Sztuczna inteligencja zdecyduje o zabiciu człowieka. ChatGPT idzie na wojnę
Technologie
Powstała realna alternatywa dla plastiku. Zwycięstwo w wojnie z odpadami?
Technologie
Jakim pojazdem pojadą po Księżycu astronauci? Pierwszy taki łazik skonstruował Polak
Technologie
Chcą dostarczyć niezwykłą broń Ukrainie. Moneta trafiona z odległości kilometra
Technologie
Naukowcy opracowali „inteligentny” płyn. Ma odmienić robotykę i motoryzację