Firma Telhio, która ma siedzibę w Columbus w stanie Ohio i zatrudnia ponad 250 pracowników, w sierpniu zaczęła używać nowego oprogramowania o nazwie UnBiasIt do monitorowania oznak lub słów kluczowych związanych z uprzedzeniami rasowymi, płciowymi lub wiekowymi - informuje CNN Busines.

Rzeczniczka Telhio Jessica Bing wyjaśniła, że oprogramowanie po specyficznych słowach kluczowych lub frazach wyszukuje w komunikacji między pracownikami wszelkich oznak dyskryminacji. Bazę danych tych słów można aktualizować na bieżąco, dodając w razie potrzeby nowe.

Jeśli aplikacja UnBiasIt zeskanuje wiadomość e-mail i znajdzie sformułowania, które mogą być nieodpowiednie, wyśle ostrzeżenie alarmowe do małej grupy pracowników Telhio odpowiedzialnych za zasoby ludzkie, różnorodność, równość i integrację. Pracownicy dostaną podejrzaną informację z wyraźnie, na żółto zaznaczonym tekstem, który wzbudził zaniepokojenie aplikacji. Aplikacja nie jest pomyślana jako pułapka na pracowników. Wyłapuje ona nie tylko świadome, ale także nieświadome przypadki zachowań dyskryminujących. Ma pomóc kierownictwu firmy w zapobieganiu wynikających z tego kłopotów – organizując na przykład szkolenia dla pracowników, uświadamiające im czym są zachowania dyskryminacyjne.

Czytaj więcej

Policyjne algorytmy to rasiści. Stygmatyzują na całe życie

Aplikacja UnBiasIt została stworzona przez firmę spoza branży technologicznej - Black Progress Matters. To agencja rekrutacyjną z siedzibą w Phoenix w Arizonie, która pomaga firmom zatrudniać osoby z mniejszości etnicznej na stanowiskach kadry kierowniczej, a także prowadzi inkubator dla firm należących do mniejszości.

UnBiasIt powstała pod koniec 2020 r., zaczęła udostępniać swoje oprogramowanie firmom w marcu tego roku. Jest ono podobne do aplikacji zwykle używanych przez firmy finansowe (takiego jak to, którego już używa Telhio) do wykrywania potencjalnych naruszeń związanych z finansami, takich jak wykorzystywanie informacji poufnych.

UnBiasIt opiera się na wykrywaniu słów kluczowych i fraz, a także na sygnałach, takich jak położenie słów i fraz w wiadomości, aby określić, kiedy należy oflagować wiadomość e-mail, tekst lub nagranie rozmowy. Aplikacja wykorzystuje sztuczną inteligencję do określenia, kiedy wysłać alert. Narzędzie nie ma być używane w sposób represyjny, a zgodnie z prawem firmy powinny informować pracowników, że z niego korzystają.