Straszą AI i rozpoznawaniem twarzy. „To niedemokratyczne”

Technologia rozpoznawania twarzy powinna być zabroniona w Europie ze względu na „głęboką i niedemokratyczną ingerencję” w życie prywatne – uważa Europejski Inspektor Ochrony Danych (EIOD). Zapowiada się ciężka batalia wokół takich rozwiązań opartych na AI.

Główny inspektor ochrony danych w Unii Europejskiej wzywa do całkowitego zakazania biometrycznego nadzoru w miejscach publicznych. Zaawansowane systemy do rozpoznawania twarzy bazujące na sztucznej inteligencji skanują twarz każdego, kto znajdzie się na linii kamery. To zaś jest sprzeczne z podstawowymi prawami człowieka dotyczącymi prawa do prywatności – uważa EIOD i domaga się sprecyzowania przepisów i ustanowienia tzw. czerwonych linii, których nie można byłoby przekroczyć przy korzystaniu z systemu rozpoznania twarzy.

CZYTAJ TAKŻE: Cios w techniki rozpoznawania twarzy. Maski i jeden… kolor

Tymczasem kilka dni temu Komisja Europejska przedstawiła projekt nowych regulacji dotyczących wykorzystania technologii sztucznej inteligencji. Wynika z nich, że Bruksela nie zamierza całkowicie blokować rozwoju AI, która może być stosowana na przykład w przypadku usprawniania produkcji lub prognozowania zmian klimatycznych.

– Nie zamierzamy zakazywać samej technologii, ale uregulować jej wykorzystanie – zapewnił komisarz UE ds. rynku wewnętrznego Thierry Breton.

Zastosowanie technologii sztucznej inteligencji zostało podzielone na cztery kategorie ryzyka. Można je przedstawić w formie piramidy, na której szczycie znajdują się technologie niebezpieczne, stanowiące najwęższą grupę, a u jej podstawy technologie stanowiące minimalne ryzyko.

Bruksela absolutnie chce zapobiec stosowania AI w zabawkach interakcyjnych dla dzieci, które analizują jego zachowanie i manipulują nimi, zachęcając do nieodpowiednich zachowań, a także algorytmy, które określają słabe strony człowieka oraz systemy oceny punktowej obywateli UE.

CZYTAJ TAKŻE: Pentagon stworzył laser, który rozpozna wroga po biciu jego serca

Podobny system SCS działa już w Chinach. Algorytm decyduje o tym, czy danej osobie zostanie przyznany kredyt mieszkaniowy, zasiłek dla bezrobotnych, czy zostanie ona przyjęta na studia, zatrudniona w danej firmie lub z niej zwolniona.

Do tej grupy należą także systemy biometryczne, czyli rozpoznawanie twarzy dzięki technologii AI, które są instalowane w przestrzeni publicznej. Wszystkie rodzaje identyfikacji biometrycznej zostały uznane za technologie wysokiego ryzyka. Z zasady ich stosowanie w miejscach publicznych takich jak parki, centra miast, urzędy będzie w UE zakazane. Wyjątkiem mają być takie okoliczności jak walka z przestępczością lub poszukiwanie osób zaginionych, w przypadku których pozwolenie musi wydać sąd.

Wszystkie kraje członkowskie UE mają w taki sam sposób regulować powyższe przepisy. Firmy, które nie będą ich przestrzegać, a prowadzą działalność w Unii Europejskiej, mogą liczyć się z karami w wysokości od 20 milionów euro do 4 proc. rocznych obrotów.

Wdrożenia przepisów pilnować ma specjalnie powołana Europejska Rada ds. Sztucznej Inteligencji. Komisja proponuje też, aby nadzór nad nowymi przepisami sprawowały wyznaczone przez państwa członkowskie krajowe organy nadzoru rynku.