SI ma ciągotki do rasizmu i homofobii

Sztuczna inteligencja jest rasistowska i pewne dzielnice woli omijać. Np. nowojorski Harlem, gdzie rozegrała się jedna ze scen drugiej części filmowego hitu "Szklana pułapka".
YouTube

Pomimo szybkiego rozwoju sztucznej inteligencji, wykazuje ona wiele zaskakujących braków. Zachowuje się rasistowsko, seksistowsko i homofobicznie.

Ostatnie lata to ekspansja sztucznej inteligencji na wielu polach, od werbowania pracowników do firmy, przez rozpoznawanie twarzy wśród tłumów przechodniów, aż po werdykty w sądzie – wszędzie tam mamy do czynienia z algorytmami, które mają zachowywać się jak ludzki mózg, a nawet lepiej. Niestety tak jak my ulegamy stereotypom czy wpływom, tak samo zaczyna zachowywać się sztuczna inteligencja – wskazują badania AI Now Institute, w których zebrano liczne przykłady jej niewłaściwego działania.

CZYTAJ TAKŻE: Algorytmy stają się rasistami i seksistami

Amazon wycofał się właśnie z programu rekrutacji opartego na SI po tym, jak okazało się, że faworyzował mężczyzn. Amerykę zbulwersował też algorytm sądowy, który wydawał cięższe wyroki dla Afroamerykanów niż dla białych, czy sztuczna inteligencja, która wykorzystywana w ocenie kredytobiorców, dyskryminowała Latynosów. Przez system Ubera, który również opiera się na SI, kierowcy po zmianie płci tracili swoje konta, ponieważ technologia nie radziła sobie z innym wyglądem twarzy i uważała, że ktoś podszywa się pod kierowcę.

Z takimi sytuacjami chce walczyć IBM. Tworzy narzędzia, które skanują SI w poszukiwaniu stronniczości i naprawiają ją.

CZYTAJ TAKŻE: Algorytmy Amazona promują teorie spiskowe

Jednak naukowcy z AI Now Institute w nowym raporcie twierdzą, że rozwiązania IBM nie rozwiążą problemu, a wręcz mogą zaognić sytuację. Problemem nie jest algorytm sztucznej inteligencji, a to, w jaki sposób jest wykorzystywana i przez kogo tworzona.

Współautorka badań Kate Crawford wskazuje, że zagrożeń jest więcej. – Mogą się wiązać z próbami odczytywania z twarzy skłonności przestępczych czy kompetencji pracowniczych – tłumaczy, cytowana przez serwis vox.com. – Widzimy, że te systemy powielają uprzedzenia w sposób, który może tylko  pogłębiać i usprawiedliwiać niesprawiedliwość.

Tagi:

Mogą Ci się również spodobać

I ty możesz zostać lekarzem walczącym z pandemią

Po grach symulatorach opowiadających o handlarzach narkotyków, pracownikach prosektorium, pszczołach czy księżach, przyszedł czas ...

Co piąty student korzysta z Tindera. Dramatycznie słaba skuteczność

Jeśli szukasz szalonej przygody i seksu na Tinderze, to zapomnij. Masz taką samą szansę, ...

Netflix: będzie drugi sezon Wiedźmina

Netflix poinformował jeszcze przed premierą pierwszego sezonu, że powstanie kolejny sezon Wiedźmina, najnowszego serialu ...

Obcy atakują Polskę – tak widzą to Czesi

Gdzieś na poligonie wojskowym ląduje statek z kosmitami. Potencjalnie cenna pozaziemska technologia przyciąga Rosjan, ...

Polak musi testować, czyli jak kupujemy online

50 mld zł – tyle, według raportu Interaktywnie.com, wydamy na zakupy online w 2019 ...

USA biorą się za chińskie spółki od inwigilacji

Administracja Donalda Trumpa może wpisać chińską spółkę Hikvision, jednego z globalnych liderów na rynku ...