Co niosą ze sobą treści pornograficzne generowane przez sztuczną inteligencję

Liczba nieautoryzowanych, deepfake’owych treści pornograficznych online rośnie wykładniczo od 2017 roku. W ostatnich dniach ofiarą tego typu przemocy internetowej padła premier Włoch - Giorgia Meloni, która domaga się 100 tysięcy euro odszkodowania za zamieszczenie w internecie filmów pornograficznych z jej wizerunkiem . W styczniu sieć obiegły wygenerowane przez sztuczną inteligencję fałszywe zdjęcia pornograficzne amerykańskiej piosenkarki - Taylor Swift. Eksperci AI są zaniepokojeni nowymi metodami tworzenia fałszywych treści, takimi jak InstantID, które umożliwiają zamianę twarzy na wielu obrazach przy użyciu tylko jednego przykładu uczącego . Społeczności związane z tworzeniem treści przy użyciu AI starają się przeciwdziałać rozprzestrzenianiu się pornografii i nieaprobowanych obrazów, zgłaszając naruszanie zasad na platformach, takich jak Reddit . Niestety, mimo oddolnych inicjatyw internetowej społeczności, szybkość i skala rozprzestrzeniania się fałszywych materiałów sprawia, że oddolna kontrola staje się praktycznie niemożliwa. Tymczasem według analiz agencji badawczej - Absolute Markets Insights, wartość globalnego rynku pornografii online w 2021 roku wyniosła ponad 35 mld USD, a do 2030 roku przewidywany jest średni roczny wzrost na poziomie 15,12%.