Ogłoszenie o pracę wydaje się być skrojone pod nasze osiągnięcia zawodowe, a mimo że wysłaliśmy CV, nikt się nie odzywa? Bank lub firma ubezpieczeniowa po złożonym online wniosku odsyłają bardzo niekorzystne warunki kredytu czy polisy? Niekoniecznie musi stać za tym złośliwy pracownik. Często to tylko komputerowy algorytm. Coraz częściej okazuje się, że nawet sztuczna inteligencja nie jest wolna od uprzedzeń na tle rasy, płci czy statusu społecznego. I bardzo trudno z tym walczyć.
Ułomne systemy
Systemy oparte na maszynowym uczeniu się święcą teraz triumfy i znacznie usprawniają obsługę klientów, analizę dokumentów czy wniosków finansowych. Jednak już widać, że pojawiają się negatywne symptomy i trzeba się liczyć ze wzrostem skali tego rodzaju zjawisk.
W Idaho komputery zdecydowały o obniżeniu wysokości wypłacanych zasiłków z systemu Medicaid dla 4 tys. niepełnosprawnych
Jak pisze dziennik „Financial Times”, w USA problem z rasistowskimi czy seksistowskimi uprzedzeniami algorytmów zaczyna przynosić już realne straty. W Idaho komputery właśnie z takich powodów zdecydowały o obniżeniu wysokości wypłacanych zasiłków z systemu Medicaid dla 4 tys. niepełnosprawnych.
CZYTAJ TAKŻE: Sztuczna inteligencja zrobi z tobą film porno
