Sztuczna inteligencja trzyma imigrantów w więzieniach

W USA do sądu trafił pozew ws. kontrowersyjnego narzędzia do walki z osobami podejrzanymi o łamanie przepisów imigracyjnych. Chodzi o amerykańską służbę celno-imigracyjną (Immigration and Customs Enforcement – ICE), która stworzyła specjalne oprogramowanie do weryfikowania i oceniania osób zatrzymanych.

Publikacja: 04.03.2020 11:04

Sztuczna inteligencja trzyma imigrantów w więzieniach

Foto: Bloomberg

Sztuczna inteligencja (AI) korzysta od kilku lat z algorytmu, który ocenia ryzyko ewentualnego zwolnienia zatrzymanego z aresztu. Problem w tym, że ICE – dzięki tej technologii – realizowało „tajną politykę zakazu uwalniania podejrzanych do czasu rozprawy” – pisze „The Verge”.

CZYTAJ TAKŻE: Algorytmy stają się rasistami i seksistami

New York Civil Liberties Union (NYCLU) i Bronx Defenders, które zajęły się tą sprawą, twierdzą, że algorytm, który dwukrotnie był zmieniany (w latach 2015-2017), stracił możliwość rekomendowania zwolnienia z aresztu. Dotyczyło to nawet tych zatrzymanych, którzy nie stanowili żadnego zagrożenia. Organizacje te oskarżają ICE o celową zmianę systemu RCA.

RCA, czyli właśnie napędzany przez sztuczną inteligencję system oceny klasyfikacji ryzyka, opracowano do analizy historii kryminalnej zatrzymanych, a także ich więzów rodzinnych i powiązań z innymi podejrzanymi. Idea była taka, by na podstawie takich danych AI oceniała, czy dana osoba była zatrzymana lub zwolniona (ewentualnie również za kaucją). Już w 2018 r. Reuters informował jednak, że ta druga opcja została usunięta. AI więc jedynie zalecało zatrzymanie, bądź kierowało sprawę do przełożonego w ICE. W latach 2017-2019 zwalniano tylko 3 proc. aresztowanych przez urzędników imigracyjnych. Tymczasem, gdy w 2013 r. ruszał system AI, odsetek ten wynosił ok. 40 proc.

CZYTAJ TAKŻE: Pechowa aktualizacja oprogramowania. Więźniowie na wolności

NYCLU i Bronx Defenders pozwały nowojorskie biuro ICE.

Sztuczna inteligencja (AI) korzysta od kilku lat z algorytmu, który ocenia ryzyko ewentualnego zwolnienia zatrzymanego z aresztu. Problem w tym, że ICE – dzięki tej technologii – realizowało „tajną politykę zakazu uwalniania podejrzanych do czasu rozprawy” – pisze „The Verge”.

CZYTAJ TAKŻE: Algorytmy stają się rasistami i seksistami

2 / 3
artykułów
Czytaj dalej. Subskrybuj
Technologie
Elon Musk zbuduje potężny superkomputer. Szykuje sztuczną inteligencję Grok 2 i 3
Technologie
Zaskakujące „zrozumienie" dla szkodliwych ideologii. Sztuczna inteligencja ma problem
Technologie
Elon Musk: Sztuczna inteligencja zabierze pracę wszystkim. Zmieni to sens życia
Technologie
Mają dość przekręcania swoich nazwisk. Podjęli radykalne działania
Technologie
Samouczące się protezy z AI pomagają ukraińskim żołnierzom. Mogą wrócić na front
Materiał Promocyjny
CERT Orange Polska: internauci korzystają z naszej wiedzy