Facebook walczy z chińską propagandą. AI „tworzyła” użytkowników

Facebook usunął dwie sieci powiązanych ze sobą kont, które rozpowszechniały chińską, rządową propagandę. Jedna z tych sieci była umiejscowiona na Filipinach a druga w Chinach.

Facebook potwierdził, że zablokował 155 kont założonych w Chinach, 11 stron oraz dziewięć grup a także siedem kont na Instagramie, które wspierały chińska sieć. Poza tym zablokował 57 kont, 31 stron oraz 20 kont na Instagramie, które zostały założone na Filipinach i publikowały treści popierające prezydenta tego kraju Rodrigo Duterte oraz jego córkę, która prawdopodobnie wystartuje w wyborach prezydenckich w 2022 r. Obie sieci złamały zasady Facebooka, które zabraniają „skoordynowanego nieautentycznego działania w imieniu podmiotu zagranicznego lub rządowego” – informuje The Verge.

CZYTAJ TAKŻE: Facebook grozi wycofaniem się z Europy

Przedstawiciele portalu społecznościowego poinformowali, że ich twórcy wykorzystali technologię znaną jako GAN (Generative Adversarial Networks), opartą na sztucznej inteligencji (AI), żeby stworzyć zdjęcia przypominające prawdziwych użytkowników i w ten sposób oszukać algorytmy weryfikujące prawdziwość profili. Korzystali oni także z prywatnych sieci i narzędzi cyfrowych, które miały im pomóc ukryć fakt, że działają na chińskich serwerach.

Facebook opublikował raport wspólnie z firma analityczną Graphika, która zajmuje się wykrywaniem dezinformacji w sieciach społecznościowych. To analitycy tej firmy znaleźli chińską sieć propagandową, dzięki analizie zdjęć zamieszczonych przy profilach. Na pozór wyglądały autentycznie, ale analitycy mają narzędzia, dzięki którym są w stanie odkryć subtelne wskazówki potwierdzające, że twarz ze zdjęcia została wygenerowana cyfrowo a nie należy do prawdziwej osoby.

CZYTAJ TAKŻE: Facebook chce zabić smartfony. Przełomowy projekt

Co więcej, okazuje się, że używanie technologii GAN w ciągu ostatniego roku stało się dość powszechne wśród grup zajmujących się propagandą i ostatnio dezinformacją w internecie. – Wydaje nam się, że teraz używają tego wszyscy – napisał na Twitterze Ben Nimmo z Graphika.

Facebook zablokował też sieć kont założonych na amerykańskich stronach, które były jednak znacznie mniej aktywne, niż te na Filipinach i w Chinach. Miały mniej niż 3 tys. obserwatorów i prawdopodobnie dopiero budowały sieć swoich odbiorców. Za ich pośrednictwem publikowano zarówno treści popierające, jak i krytykujące prezydenta Donalda Trumpa, a publikujące treści wspierające demokratycznych kandydatów Joe Bidena oraz Kamalę Harris.