AI może mylić twarze kobiet i Azjatów

Amerykanie mają coraz większe wątpliwości, czy aplikacje do rozpoznawania twarzy są faktycznie tak dokładne i niezawodne, jak twierdza ich twórcy.

Alexandria Ocasio-Cortez, członkini Izby Reprezentantów z Nowego Jorku, uważa, że życie dogoniło fikcję rodem z takich seriali jak „Black Mirror”, które ostrzegają przed nadmiernym użyciem nowoczesnej techniki. Niestety, według Ocasio-Cortez prawo nie nadąża za nowoczesną technologią, co może być niebezpieczne dla zwykłych obywateli – informuje BBC.

Grupa członków Izby Reprezentantów rozpoczęła prace nad ustawą ograniczającą użycie nowoczesnych technologii, m.in. takich jak rozpoznawanie twarzy.

CZYTAJ TAKŻE: Policja w Londynie wykorzysta system rozpoznawania twarzy

Wątpliwości co do zastosowania sztucznej inteligencji mają też naukowcy. Meredith Whittaker dyrektor AI Now Institute w Uniwersytecie Nowojorskim powiedziała na przesłuchaniu w izbie niższej Kongresu Stanów Zjednoczonych, że należy „zatrzymać” tę technologię. Najbardziej niepokoi ją rosnąca liczba i wielkość baz danych kontrolowanych przez rząd i prywatne korporacje, które są używane do rozwoju technologii rozpoznawania twarzy.

Wolnoamerykanka

Obecnie nie ma żadnych reguł, które ograniczałyby pozyskiwanie danych. Ani agencje rządowe, ani firmy nie muszą prosić o zgodę osoby, których zdjęcia wykorzystują. Zgodnie z obowiązującym prawem w USA wystarczy popatrzeć prosto w kamerę – nawet nieświadomie, by firma lub agencja uznała, że dana osoba zgadza się na wykorzystanie jej wizerunku. Według naukowców i polityków to złe prawo i należy je zmienić.

Do rozwijania technologii rozpoznawania twarzy za pomocą aplikacji ze sztuczną inteligencją przyznały się takie koncerny, jak: Google, Microsoft, Amazon oraz Facebook. Firmy budują swoje bazy danych dla AI, pozyskując zdjęcia z kamer przemysłowych, ale także z internetu, na przykład z serwisów Flickr czy Facebook.

CZYTAJ TAKŻE: Szef rozpozna emocje pracownika dzięki AI

Dziennik „The New York Times” odkrył, że jednostki policyjne i firmy ochroniarskie z całych Stanów Zjednoczonych korzystają z bazy danych Clearview AI. Trzy miliardy zdjęć, których użyto do jej zbudowania pochodzą z takich stron internetowych, jak: Facebook, YouTube czy Venmo. Według dziennika takie pozyskiwanie wizerunków to całkowita „śmierć prywatności” jednostki. Praktycznie każdy może się znaleźć w tej lub innej bazie danych. Na dodatek, według NYT, zdjęcia pozyskano niezgodnie z prawem i regulaminami tych stron, które zapewniają swoich użytkowników, że starają się chronić ich dane, pod każda postacią.

Firmy budują swoje bazy danych dla AI, pozyskując zdjęcia z kamer przemysłowych, ale także z internetu, na przykład z serwisów Flickr czy Facebook

Jednak w USA jest wielu zwolenników zastosowania tej technologii. Policja twierdzi, że aplikacje pozwalają jej na zidentyfikowanie zaginionych dzieci lub uciekających i ukrywających się przestępców.

Według NYT dzięki Clearview AI policji udało się rozwiązać wiele spraw, m.in. kradzieży, kradzieży tożsamości i kart kredytowych, oszustw, morderstw, a także wykorzystywania seksualnego nieletnich. System pozwala na rozwiązanie wielu spraw w zaledwie 20 minut. Aplikacja umożliwia ściągnięcie danych dowolnej osoby z internetu, jeżeli posiada ona jakiekolwiek konto w mediach społecznościowych. Śledczy w ciągu chwili mają dostęp do zdjęć, danych oraz linków stron, z których pochodzą te informacje, oraz do profilów osobowych w mediach społecznościowych – informuje portal The Verge.

Wątpliwości rosną

Naukowcy uważają jednak, że bazy danych nie są doskonałe i AI ma ogromne problemy z poprawnym identyfikowaniem twarzy kobiet oraz osób o innym niż biały kolorze skóry. To może prowadzić do poważnych pomyłek sądowych i do skazywania na podstawie niepewnych dowodów niewinnych ludzi. Tym bardziej że bazy danych korzystają także ze zdjęć zmienionych przez filtry fotograficzne. Niektóre zdjęcia są tak zdeformowane, że bardzo łatwo o pomyłkę.

CZYTAJ TAKŻE: Chiny: kupisz smartfona, jak dasz do zeskanowania twarz

Organizacje społeczne i zajmujące się ochroną praw człowieka zwracają uwagę też na to, że ta technologia może stać się narzędziem reżimów autorytarnych, które w ten sposób będą chciały permanentnie inwigilować swoich obywateli. W Chinach taki system nadzoru już działa.

Natomiast Komisja Europejska rozważa wprowadzenie zakazu stosowania tej technologii w miejscach publicznych na terenie Unii Europejskiej. Tymczasem tylko w samych w Niemczech rozpoznawanie twarzy działa już na 134 dworcach i 14 lotniskach. Z nieoficjalnych informacji wynika, że KE opracowała już 18-stronicowy dokument, w którym proponowane są nowe zasady mające lepiej chronić prywatność obywateli Unii Europejskiej oraz ich dane. Na wdrożenie tych zasad potrzeba jednak czasu, dlatego też, zanim to nastąpi, UE chciałaby zablokować możliwość rozpoznawania twarzy w miejscach publicznych na pięć lat.