To rewolucja. Treści i obrazy tworzone przez sztuczną inteligencję będą oznaczane

Koncern Meta zapowiada oznaczanie treści wygenerowanych przez sztuczną inteligencję na Instagramie, Facebooku i w serwisie społecznościowym Threads. To m.in. odpowiedź na zalew fałszywek, których ofiarami padli niedawno Joe Biden czy Taylor Swift.

Aktualizacja: 07.02.2024 15:21 Publikacja: 06.02.2024 15:55

Fałszywe treści mogą wywołać nawet polityczne wstrząsy

Fałszywe treści mogą wywołać nawet polityczne wstrząsy

Foto: X, Eliot Higgins (@EliotHiggins)

Firma Meta podkreśla iż od uruchomienia Meta AI bardzo realistyczne i przypominające do złudzenia obrazy stworzone za pomocą takich narzędzi są oznaczane, tak aby inni użytkownicy wiedzieli, że są wytworzone przez sztuczną inteligencję. Teraz jednak firma współpracuje z partnerami branżowymi nad wypracowaniem wspólnych standardów technicznych identyfikacji treści stworzonych przez AI, w tym wideo i audio.

W nadchodzących miesiącach Meta zacznie oznaczać obrazy i zdjęcia publikowane na Facebooku, Instagramie i Threads, jeśli wykryje, że zostały wygenerowane przez AI.

Polityczna dezinformacja w Ameryce

To efekt niedawnych wydarzeń jak choćby stworzonego przez sztuczną inteligencję nagrania przypominającego do złudzenia głos prezydenta USA Joe Bidena, który zniechęcał do udziału w demokratycznych prawyborach w stanie New Hampshire. Wcześniej stworzone przez oprogramowanie wizerunki znanych aktorów np. Toma Hanksa były bez ich wiedzy i zgody wykorzystywane w reklamach.

Czytaj więcej

Wyścig zbrojeń AI. Jedni wykrywają sztuczną inteligencję, inni ją maskują

Meta obecnie współpracuje z partnerami branżowymi w celu uzgodnienia wspólnych standardów technicznych, które sygnalizowałyby, że dana treść publikowana na platformie została stworzona przy użyciu AI. Możliwość wykrycia takich sygnałów pozwoli na oznaczenie obrazów i zdjęć wygenerowanych przez sztuczną inteligencję na Facebooku, Instagramie i Threads. Obecnie firma intensywnie pracuje nad tym rozwiązaniem, aby w kolejnych miesiącach móc wprowadzić je we wszystkich językach wspieranych przez każdą z aplikacji.

W przypadku treści tworzonych przy użyciu Meta AI umieszczane są widoczne znaczniki na obrazach, a także niewidoczne znaki wodne oraz metadane osadzone w plikach graficznych. Użycie obu oznaczeń zwiększa ich skuteczność i pomaga innym platformom w ich identyfikacji.

Nowe narzędzia do identyfikacji

Specjalne narzędzia mogą identyfikować niewidzialne znaczniki na dużą skalę – w szczególności informację o treści "generowane przez sztuczną inteligencję" w standardach technicznych C2PA i IPTC – dzięki czemu możliwe jest oznaczanie obrazów pochodzących z takich źródeł jak Google, OpenAI, Microsoft, Adobe, Midjourney i Shutterstock, w czasie, gdy wdrażają one dopiero swoje własne rozwiązania dotyczące dodawania metadanych do obrazów tworzonych przez ich narzędzia.

Czytaj więcej

Fałszywy głos Bidena. Sztuczna inteligencja i deepfake to chaos wyborczy

Ponadto serwisy dodają funkcję, dzięki której ludzie mogą informować innych, kiedy udostępniają wideo lub audio generowane przez sztuczną inteligencję. Użytkownicy będą zobowiązani do umieszczania specjalnych etykiet na treściach tworzonych przez AI. W tym postach zawierających fotorealistyczne wideo lub realistycznie brzmiący dźwięk, który został stworzony lub zmieniony cyfrowo. Jeśli utworzone lub zmienione przez AI grafiki, wideo lub audio stwarzają szczególnie wysokie ryzyko istotnego wprowadzenia w błąd opinii publicznej w ważnej sprawie, Meta ma możliwość w razie potrzeby dodać bardziej widoczną etykietę, aby użytkownicy mieli więcej informacji i poznali szerszy kontekst.

Postępy w wykrywaniu deepfake sztucznej inteligencji są najwyższym priorytetem dla Nicka Clegga, prezesa Mety ds. globalnych, ponieważ firma przygotowuje się do wyborów, w tym w USA. W zeszłym miesiącu na Światowym Forum Ekonomicznym w Davos w Szwajcarii Clegg powiedział, że stworzenie standardu branżowego wokół znaku wodnego było „najpilniejszym zadaniem, przed którym dzisiaj stoimy”.

W poniedziałek Rada ds. Nadzoru Meta opublikowała krytykę polityki Mety w tej dziedzinie, argumentując, że jest ona zbyt wąska i że firma musi lepiej etykietować posty stworzone przez AI, zamiast próbować je usunąć.

Globalne Interesy
Szefował badaniom nad ChatGPT w OpenAI. Teraz chce zbudować jego „zabójcę”
Globalne Interesy
Nowa najcenniejsza firma na świecie. Microsoft zdetronizowany
Globalne Interesy
Elon Musk znów miesza w X. Czy ta zmiana nie zdenerwuje użytkowników?
Globalne Interesy
Intel kasuje gigantyczną inwestycję. Co z opóźnioną budową fabryki w Polsce?
Akcje Specjalne
Firmy chcą działać w sposób zrównoważony
Globalne Interesy
Elon Musk skapitulował w wojnie o sztuczną inteligencję. Pogrążyły go maile
Materiał Promocyjny
Sztuczna inteligencja może być wykorzystywana w każdej branży