Oprogramowanie wykryje uprzedzenia rasowe? Firmy to już testują

Pracownicy Telhio Credit Union są przyzwyczajeni do monitorowania ich komunikacji wewnętrznej pod kątem zgodności z amerykańskimi przepisami finansowymi. Teraz firma sprawdza też oznaki uprzedzeń w e-mailach, SMS-ach i rozmowach telefonicznych.

Publikacja: 01.10.2021 09:10

Nawet kopenhaska syrenka padła ofiarą wandali, zarzucających rasizm Janowi Christianowi Andersenowi,

Nawet kopenhaska syrenka padła ofiarą wandali, zarzucających rasizm Janowi Christianowi Andersenowi, autorowi bajki, której jest bohaterką

Foto: NIELS CHRISTIAN VILMANN / RITZAU SCANPIX / AFP

Firma Telhio, która ma siedzibę w Columbus w stanie Ohio i zatrudnia ponad 250 pracowników, w sierpniu zaczęła używać nowego oprogramowania o nazwie UnBiasIt do monitorowania oznak lub słów kluczowych związanych z uprzedzeniami rasowymi, płciowymi lub wiekowymi - informuje CNN Busines.

Rzeczniczka Telhio Jessica Bing wyjaśniła, że oprogramowanie po specyficznych słowach kluczowych lub frazach wyszukuje w komunikacji między pracownikami wszelkich oznak dyskryminacji. Bazę danych tych słów można aktualizować na bieżąco, dodając w razie potrzeby nowe.

Jeśli aplikacja UnBiasIt zeskanuje wiadomość e-mail i znajdzie sformułowania, które mogą być nieodpowiednie, wyśle ostrzeżenie alarmowe do małej grupy pracowników Telhio odpowiedzialnych za zasoby ludzkie, różnorodność, równość i integrację. Pracownicy dostaną podejrzaną informację z wyraźnie, na żółto zaznaczonym tekstem, który wzbudził zaniepokojenie aplikacji. Aplikacja nie jest pomyślana jako pułapka na pracowników. Wyłapuje ona nie tylko świadome, ale także nieświadome przypadki zachowań dyskryminujących. Ma pomóc kierownictwu firmy w zapobieganiu wynikających z tego kłopotów – organizując na przykład szkolenia dla pracowników, uświadamiające im czym są zachowania dyskryminacyjne.

Czytaj więcej

Policyjne algorytmy to rasiści. Stygmatyzują na całe życie

Aplikacja UnBiasIt została stworzona przez firmę spoza branży technologicznej - Black Progress Matters. To agencja rekrutacyjną z siedzibą w Phoenix w Arizonie, która pomaga firmom zatrudniać osoby z mniejszości etnicznej na stanowiskach kadry kierowniczej, a także prowadzi inkubator dla firm należących do mniejszości.

UnBiasIt powstała pod koniec 2020 r., zaczęła udostępniać swoje oprogramowanie firmom w marcu tego roku. Jest ono podobne do aplikacji zwykle używanych przez firmy finansowe (takiego jak to, którego już używa Telhio) do wykrywania potencjalnych naruszeń związanych z finansami, takich jak wykorzystywanie informacji poufnych.

UnBiasIt opiera się na wykrywaniu słów kluczowych i fraz, a także na sygnałach, takich jak położenie słów i fraz w wiadomości, aby określić, kiedy należy oflagować wiadomość e-mail, tekst lub nagranie rozmowy. Aplikacja wykorzystuje sztuczną inteligencję do określenia, kiedy wysłać alert. Narzędzie nie ma być używane w sposób represyjny, a zgodnie z prawem firmy powinny informować pracowników, że z niego korzystają.

Firma Telhio, która ma siedzibę w Columbus w stanie Ohio i zatrudnia ponad 250 pracowników, w sierpniu zaczęła używać nowego oprogramowania o nazwie UnBiasIt do monitorowania oznak lub słów kluczowych związanych z uprzedzeniami rasowymi, płciowymi lub wiekowymi - informuje CNN Busines.

Rzeczniczka Telhio Jessica Bing wyjaśniła, że oprogramowanie po specyficznych słowach kluczowych lub frazach wyszukuje w komunikacji między pracownikami wszelkich oznak dyskryminacji. Bazę danych tych słów można aktualizować na bieżąco, dodając w razie potrzeby nowe.

2 / 3
artykułów
Czytaj dalej. Subskrybuj
Sztuczna Inteligencja
Nowy napęd smartfonów. Rekordowe wzrosty
Materiał Promocyjny
Naukowa Fundacja Polpharmy ogłasza start XXIII edycji Konkursu o Grant Fundacji
Sztuczna Inteligencja
ChatGPT coraz potężniejszy. Najnowsza wersja ma już „oczy” i rozumie sarkazm
Sztuczna Inteligencja
Algorytmy znad Wisły mogą zdziałać cuda
Sztuczna Inteligencja
Sztuczna inteligencja łamie kolejne bariery. To już groźne