Sztuczna inteligencja wsadza do więzienia. Niestety, także niewinnych. Afera w USA

Detroit po kolejnym aresztowaniu wskazanego przez systemy rozpoznawania twarzy, który okazał się niewinny, wycofuje się z tego rodzaju rozwiązań opartych o algorytmy i przestanie ich używać policja.

Publikacja: 02.07.2024 15:12

Sztuczna inteligencja może wsadzić do więzienia. System nie jest doskonały

Sztuczna inteligencja może wsadzić do więzienia. System nie jest doskonały

Foto: Adobe Stock

Departament Policji miasta Detroit nie będzie już dłużej używał wyników analiz systemów rozpoznawania twarzy jako jedynej podstawy aresztowania, zgodnie z niedawnym porozumieniem zawartym z mężczyzną, który został niesłusznie aresztowany w 2020 r.

Oskarżenie o kradzież zegarka

Robert Williams, spędził 30 godzin w więzieniu w Detroit po tym, jak technologia rozpoznawania twarzy niesłusznie zasugerowała, że jest złodziejem sklepowym. Jego aresztowanie nastąpiło około 15 miesięcy po kradzieży luksusowych zegarków, na podstawie zapisu z kamery monitorującej. Jak informował "The New York Times" bardzo niewyraźne i ziarniste nagrania z dnia incydentu zostały przeanalizowane przez system policyjny, który wytypował ponad 243 osób. Stare zdjęcie z prawa jazdy Williamsa było dziewiąte na liście, zgodnie z raportem dziennika. Mimo to osoba prowadząca poszukiwania wybrała Williamsa jako najlepszego kandydata i raport został wysłany do policji.

Czytaj więcej

Policja zyskała potężne narzędzie nadzoru i inwigilacji. Obywatele na widelcu

Zdjęcie Williamsa zostało następnie zaprezentowane wśród pięciu innych osób w serii zdjęć, a następnie poproszono wykonawcę usług ochrony sklepu o potwierdzenie podejrzanego, który był „najbliżej” oskarżonego w butiku. Po potwierdzeniu przez wykonawcę usług ochrony wydano nakaz aresztowania Williamsa.

Został zatrzymany i musiał spędzić noc w więzieniu, pobrano również jego odciski palców i próbkę DNA. Jego obrona szybko udowodniła, że Williams był przy biurku w miejscu pracy, gdy doszło do kradzieży. Sprawa przeciwko niemu została ostatecznie umorzona, a Policja ma mu zapłacić 300 tys. dolarów odszkodowania i obiecać, że nie będzie wykorzystywać technologii rozpoznawania twarzy jako jedynej podstawy dokonywania aresztowań.

Sztuczna inteligencja może się pomylić

Incydent z udziałem Williamsa jest jednym z wielu, w których doszło do niesłusznych aresztowań. American Civil Liberties Union (ACLU) od lat proponuje nowe zasady korzystania z usług policji.

Phil Mayor, prawnik z Michigan, został zacytowany przez NYT, mówiąc iż ugoda przenosi Departament Policji Detroit z najlepiej udokumentowanego nadużycia technologii rozpoznawania twarzy do krajowego lidera w zakresie stosowania barier ochronnych.

Czytaj więcej

Wystarczy zdjęcie twarzy. Sztuczna inteligencja posiadła groźną umiejętność

Takich spraw było już znacznie więcej w USA i w zdecydowanej większości dochodziło do błędnych aresztowań czarnoskórych mężczyzn. Mieszkaniec New Jersey pozwał miasto Woodbridge i jego policję po tym, jak został bezprawnie aresztowany w wyniku nieprawidłowego rozpoznania twarzy przez sztuczną inteligencję. W 2019 roku spędził 10 dni w więzieniu, przy czym przez tydzień przebywał w izolatce. Oskarżono go m.in. o kradzież w sklepie i posiadanie narkotyków.

W Atlancie inny mężczyzna został zatrzymany w listopadzie 2022 r., spędził tydzień w odosobnieniu przez błąd systemu za zbrodnię, której nie popełnił. On również skierował sprawę przeciwko policji do sądu.

Czytaj więcej

Algorytm wsadził go do więzienia, gdzie przeszedł piekło. Chce odszkodowania

Z kolei jak pisaliśmy Amerykanin z Kalifornii oskarżył sztuczną inteligencję i oprogramowanie do rozpoznawania twarzy za błędne wskazanie go jako za winnego napadu na sklep. Domaga się 10 mln dol. odszkodowania za pobyt w więzieniu i brutalny gwałt, jakiego ofiarą był w więzieniu.

Departament Policji miasta Detroit nie będzie już dłużej używał wyników analiz systemów rozpoznawania twarzy jako jedynej podstawy aresztowania, zgodnie z niedawnym porozumieniem zawartym z mężczyzną, który został niesłusznie aresztowany w 2020 r.

Oskarżenie o kradzież zegarka

Pozostało 93% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Technologie
Fałszywe oferty pracy to już plaga. Sztuczna inteligencja wspiera oszustów
Technologie
„Babcie supermodelki”. Naukowcy wynaleźli lek przedłużający życie aż o jedną czwartą
Technologie
Chcieli tworzyć historię i nadać AI prawa pracownicze. „Bunt” i klęska dużej firmy
Technologie
Powstały superbaterie przyszłości. Mają niezwykłe możliwości
Materiał Promocyjny
Mała Księgowość: sprawdzone rozwiązanie dla małych i średnich przedsiębiorców
Technologie
Przełomowe odkrycie. Era elektroniki o niespotykanej szybkości, wydajności i miniaturyzacji