Maszyna wykrywająca korupcję okazała się zbyt skuteczna

Chiński system oparty o sztuczną inteligencję łapie skorumpowanych urzędników. Wzbudził jednak silne protesty administracji i w wielu miejscach został nawet wyłączony, gdy dokopał się do afer korupcyjnych.

Wyobraźmy sobie system, który pozwala z dużą precyzją namierzyć skorumpowanego urzędnika, integruje informacje z ponad 150 baz danych, sprawdza, czy dany urzędnik lub jego krewni dokonywali podejrzanych transakcji na rynku nieruchomości, czy ich konta bankowe zbyt szybko nie rosły, czy kupowali ostatnio nowe samochody. Przygląda się podejmowanym decyzjom administracyjnym i powiązaniom między administracją a prywatnym biznesem. Ocenia też prawdopodobieństwo tego, że funkcjonariusz publiczny bierze łapówki. Science fiction? Nie.

Tego typu system informatyczny, nazywany Zero Trust, działa już w Chinach od 2012 r. Został opracowany przez Chińską Akademię Nauk. Wdrożono go na razie w 30 gminach i miastach, stanowiących łącznie mniej niż 1 proc. powierzchni Chin. To niemal wyłącznie dosyć ubogie regiony położone z dala od politycznych centrów kraju. Nic dziwnego. Przez blisko siedem lat działania system ten jednak pomógł złapać 8721 funkcjonariuszy publicznych winnych korupcji, nepotyzmu, marnotrawstwa oraz nadużyć władzy.

CZYTAJ TAKŻE: Rozpoznawanie emocji będzie wkrótce żyłą złota

Część z nich trafiła do więzienia, ale wielu dostało tylko nagany i pouczenia. Wiedzą, że są obserwowani, więc zmienili postępowanie. System okazał się tak skuteczny, że chińska biurokracja mocno opiera się rozszerzaniu go na inne samorządy. W niektórych samorządach został on wyłączony, po tym jak dokopał się do afer korupcyjnych.

Wrażliwe dane

System Zero Trust nie jest oczywiście urządzeniem pozbawionym wad. Może wskazać podejrzanego urzędnika, ale to człowiek musi sprawdzić, czy podejrzenia te mają jakieś oparcie w rzeczywistości. Zdarza się również, że dane dostarczane do systemu (np. dotyczące majątków urzędników) są zafałszowane, ale system stara się je zweryfikować, porównując z danymi z wielu baz.

Niektórzy chińscy oficjele walczą z wykorzystywaniem systemu Zero Trust, kwestionując prawo tego programu do przeglądania zastrzeżonych informacji z wielu baz danych

– Używamy wyników zgromadzonych przez maszynę jedynie jako punktu odniesienia. Musimy sprawdzić ich prawidłowość. Maszyna nie może zadzwonić do człowieka mającego problem i poprosić go o wyjaśnienia. Ostateczna decyzja musi zawsze być podjęta przez człowieka – powiedział dziennikowi „South China Morning Post” Zhang Yi, członek Komisji Inspekcji Dyscypliny w strukturach Komunistycznej Partii Chin w prowincji Hunan.

CZYTAJ TAKŻE: Wyścig po sztuczną inteligencję bez Polski

Niektórzy chińscy oficjele walczą z wykorzystywaniem systemu Zero Trust, kwestionując prawo tego programu do przeglądania zastrzeżonych informacji z wielu baz danych. W tych samorządach, w których zrezygnowano z używania Zero Trust, zrobiono to pod pretekstem, że nie ma wystarczających regulacji pozwalających na przeglądanie wrażliwych danych przez sztuczną inteligencję.

Chińscy urzędnicy mają prawo obawiać się zastosowania Zero Trust na szerszą skalę. Odkąd w 2012 r. Xi Jinping został prezydentem ChRL, mocno zaostrzył walkę z korupcją (choć jego krytycy wskazują, że ta kampania antykorupcyjna miała za zadanie głównie oczyścić partię z przedstawicieli frakcji mu wrogich). Około 1,4 mln członków Komunistycznej Partii Chin zostało w ramach tej kampanii poddanych różnym karom. Wśród nich znalazł się m.in. były szef bezpieki Zhou Yongkang.

Orwell o tym nie śnił

Sztuczna inteligencja jest wykorzystywana na bardzo szeroką skalę w chińskim sektorze bezpieczeństwa publicznego. W wielu chińskich miastach zainstalowano systemy nadzoru elektronicznego umożliwiające rozpoznawanie w ciągu kilkunastu sekund twarzy każdego obywatela. W domach komunalnych w Pekinie zaczęto montować inteligentne zamki połączone z systemem rozpoznawania twarzy (mają zapobiegać wchodzeniu do budynków osób nieuprawnionych oraz uniemożliwić nielegalne wynajmowanie mieszkań).

CZYTAJ TAKŻE: Laser sprawdzi na światłach, czy piłeś

W Chinach wdrażany jest również system kredytu społecznego, czyli oceny zachowań obywateli. W ramach tego systemu zbierane są ogromne ilości danych o zachowaniach mieszkańców ChRL. Zachowania premiowane przez rząd mają skutkować różnego rodzaju ulgami i przywilejami. Zachowania zwalczane mogą sprawić, że np. rząd zmniejszy szybkość połączenia internetowego, z którego korzysta dany obywatel, lub zabroni mu podróżowania koleją. Powstała już też aplikacja na smartfony pozwalająca identyfikować dłużników na ulicy.

Sztuczna inteligencja jest wykorzystywana na bardzo szeroką skalę w chińskim sektorze bezpieczeństwa publicznego

Śledzeni są jednak nie tylko obywatele. W Guizhou uruchomiono system pozwalający nadzorować w czasie rzeczywistym działania policjantów.

CZYTAJ TAKŻE: Polacy nieufni wobec sztucznej inteligencji

W styczniu sąd w Szanghaju jako pierwszy w Chinach zaczął wykorzystywać jako asystenta program oparty na sztucznej inteligencji. Maszyna mająca oznaczenie kodowe 206 nagrywa zeznania, porównuje je, wyszukując sprzeczności, oraz wyświetla zapisy z kamer telewizji przemysłowej, gdy wspominają o nich prawnicy.