Cyfrowy kult zbrodniarza i fabryka kłamstw. Jak zamach w Krakowie podpalił sieć

Zaledwie kilka godzin po ataku w Krakowie algorytmy TikToka zaczęły podsuwać użytkownikom niepokojące treści. W centrum uwagi znalazł się sprawca zbrodni Michał O., wokół którego natychmiast uaktywniła się internetowa społeczność TCC (True Crime Community). Choć nazwa ta z pozoru odsyła do osób pasjonujących się kryminalistyką, jej skrajne, zradykalizowane skrzydło stanowi toksyczną subkulturę gloryfikującą sprawców masowych morderstw.

Chory kult zbrodni

Niedługo po zamachu w sieci zaroiło się od profili – nierzadko posługujących się syntetycznym, rosyjskim lektorem – które fałszowały przebieg krakowskich wydarzeń, stosowały cyniczny slang i otwarcie kreowały mordercę na idola. Mechanizm ten nie jest przypadkowy. TCC opiera się na tzw. editach – dynamicznie zmontowanych, estetycznych klipach wideo z podkładem muzycznym, w których zamachowcy są przedstawiani przez pastelowe filtry niemal jak popkulturowe ikony. Zamiast bezwzględnych zbrodniarzy odbiorca widzi zbuntowane, tragiczne postacie, które aktem przemocy miałyby wyrażać np. swój ból.

Po krakowskim zamachu w serwisach wideo zaczęły krążyć wygenerowane przez sztuczną inteligencję montaże z wizerunkiem Michała O., opatrzone symbolami czaszek, liczbą „-5” (nawiązującym do wstępnie podawanej liczby ofiar) oraz hashtagiem #rampage. To groźna powtórka schematu, który widzieliśmy 8 października w Leszczydole-Nowinach, gdzie 15-latek zamordował woźną. Nastolatek był pod wpływem ideologii TCC, miał interesować się Pekką-Erikiem Auvinenem z Jokeli, Władisławem Roslakowem z Kerczu czy Brentonem Tarrantem z Christchurch. To masowi mordercy, sprawcy głośnych zamachów w szkołach i obiektach kultu religijnego. Nastolatek posiadał hełm z kamerą i zamieszczał cytaty w rodzaju „The urge won”. Dokładnie taki sam wzorzec treści algorytmy TikToka podsuwają dziś młodym odbiorcom. Choć problem dotyczy wielu mediów społecznościowych, a właściwie całego internetu (jednym z głównych miejsc kultu TCC jest platforma gier wideo Roblox), to właśnie z takich miejsc użytkownicy są przyciągani na zewnętrzne, szyfrowane platformy – w tym np. Telegram oraz Signal, gdzie z pozoru cyniczne żarty przeradzają się w kult zbrodni i potencjalne inspiracje do kolejnych ataków. To właśnie z takich miejsc użytkownicy są przyciągani na zewnętrzne, szyfrowane platformy – w tym np. Telegram oraz Signal, gdzie z pozoru cyniczne żarty przeradzają się w kult zbrodni i potencjalne inspiracje do kolejnych ataków.

Skala zjawiska jest dramatyczna: Institute for Strategic Dialogue wiąże subkulturę TCC z co najmniej dziewięcioma zamachami i szesnastoma udaremnionymi planami od początku 2024 r., a organizacja ADL odnotowała tylko do połowy br. co najmniej 28 powiązanych z nią aktów przemocy, w tym 19 śmiertelnych.

Akt terrorystyczny w Krakowie pokazał, że współczesna tragedia natychmiast staje się w sieci paliwem dla radykalizacji, ale też elementem wojny hybrydowej. Równolegle z fetyszyzacją zabójcy w przestrzeni cyfrowej eksplodowała masa fake newsów, która wymusiła nadzwyczajne działania państwa. Ministerstwo Cyfryzacji wraz z Ośrodkiem Analizy Dezinformacji NASK przeszło w tryb kryzysowy, uruchamiając operację w formacie „War Room” we współpracy z centrum antyterrorystycznym ABW.

200 mln odsłon kłamstwa

Jak poinformował wicepremier i minister cyfryzacji Krzysztof Gawkowski, analitycy zgłosili do moderacji platform społecznościowych ponad 2000 kont. Wśród nich znalazły się wielojęzyczne farmy zautomatyzowanych botów publikujące po polsku, angielsku, francusku czy niderlandzku, a także kilkadziesiąt profili bezpośrednio powiązanych z Rosją lub posługujących się cyrylicą. W sobotę wieczorem skumulowane zasięgi najpopularniejszych kłamstw przekroczyły 200 mln wyświetleń. Fabryki fałszu testowały całe spektrum narracji: od teorii, że zamach zaplanował polski rząd wspólnie z Unią Europejską, przez wersję o prowokacji mającej uzasadnić odwołanie Marszu Niepodległości (5,6 mln zasięgu) i plotki o sprawcy-żołnierzu (blisko 18 mln zasięgu), aż po powiązanie strzelaniny z protestami pod Trybunałem Konstytucyjnym. Próbowano również wmawiać opinii publicznej ukraińskie pochodzenie zamachowca, a gdy to zdementowano – zrobić z niego najemnika walczącego dla Kijowa. Kiedy oficjalne komunikaty służb wygaszały kolejne manipulacje, w niedzielę pojawiły się absurdalne twierdzenia o „zamachu zainscenizowanym przez statystów”.

Swoją rolę odegrały narzędzia generatywnej sztucznej inteligencji. Jeden z radnych dzielnicy Dąbrowa w Gdyni miał kolportować spreparowane zdjęcia łączące ministra Marcina Kierwińskiego z krakowskim zamachowcem. Na niebezpieczeństwo modyfikowanych przez AI zdjęć z miejsca tragedii zwracał uwagę resort cyfryzacji, a w oficjalnym stanowisku organizacja fact-checkingowa Demagog przypomniała, że odpowiedzialność za manipulację nie znika tylko dlatego, że obraz wygenerowało AI. Owa odpowiedzialność spoczywa na twórcach, osobach rozpowszechniających te treści, ale również samych platformach internetowych. Eksperci zwracają uwagę, że, dopóki Big Techy nie wezmą odpowiedzialności za algorytmy promujące morderców oraz fake newsy, i nie uszczelnią moderacji, dopóty kult zbrodni i dezinformacja będą zatruwać cyfrową przestrzeń.