Sztuczna inteligencja (AI) jest w stanie zrewolucjonizować niemal każdy obszar naszego życia. Jej wykorzystanie np. w przedsiębiorstwie pozwala odciążyć pracowników. Ale bez odpowiedniego nadzoru technologia ta staje się niebezpieczna i może przejąć kontrolę nad człowiekiem. Choć może to brzmieć jak science fiction, to już się to dzieje. I to w naszym kraju.
Algorytm dyskryminacji
Przykładów tego zjawiska nad Wisłą przybywa. Fundacja Centrum Cyfrowe i Klub Jagielloński opracowały raport, w którym wytykają to m.in. systemowi profilowania bezrobotnych, który nie daje możliwości odwołania się (algorytm dzieli zarejestrowane osoby nieaktywne zawodowo na trzy grupy różniące się stopniem gotowości do podjęcia zatrudnienia i rodzajem pomocy, jaką otrzymają z urzędu pracy – w trakcie rozmowy z urzędnikiem wypowiedzi bezrobotnego dopasowywane są do specjalnego klucza i punktowane, po czym przyznaje mu się określony profil). Fundacja Panoptykon doprowadziła do uznania tego systemu za niekonstytucyjny.
W 2018 r. we Wrocławiu głośno było o systemie przydziału miejsce w żłobkach. Źle zaprogramowany algorytm sprawił, że do placówki nie dostały się wtedy dzieci, którym przysługiwało miejsce.
Inny przykład to blokada konta na podstawie analizy przepływów podatkowych (algorytm Krajowej Administracji Skarbowej) czy algorytmy wspierające banki przy podejmowaniu decyzji kredytowych lub pożyczkowych (Polska jako pierwsza wprowadziła prawo do wyjaśnienia decyzji dla każdej osoby starającej się o kredyt), a także algorytm losowego przydziału spraw w sądach (określa, który sędzia otrzyma konkretną sprawę do rozpatrzenia), który – jak wykazała kontrola w Sądzie Okręgowym w Toruniu – działa wadliwie.
CZYTAJ TAKŻE: Sztuczna inteligencja zawsze wie, kto wygra wybory
