Jak ustaliła agencja Reutera, problemy zgłaszali przede wszystkim pracownicy firmy. Część z nich potwierdzono także w niezależnych testach.
AI Mety z dostępem do prywatnych wiadomości. Pracownicy zgłaszają problemy
Agent sztucznej inteligencji Muse, wprowadzony przez Metę we wrześniu, został pobrany już ponad 10 milionów razy. Narzędzie ma ułatwiać codzienne czynności, między innymi odpowiadanie na wiadomości czy dokonywanie zakupów. Jak jednak wynika z wewnętrznych dokumentów przeanalizowanych przez agencję Reutera, jego działanie wzbudziło poważne obawy dotyczące bezpieczeństwa danych użytkowników.
Dziennikarze agencji zapoznali się z ponad 20 wewnętrznymi wpisami pracowników Mety opisującymi niepożądane zachowania systemu. W niektórych przypadkach Muse przekazywał informacje o saldach kont bankowych, których użytkownicy nie rozpoznawali, przypominał o nieistniejących zamówieniach lub wysyłał wiadomości niezwiązane z prowadzonymi rozmowami.
Jeden z pracowników otrzymał niespodziewanie informację o saldach dwóch rachunków bankowych, wynoszących 2722,58 i 5899,57 dolara. Inna pracownica poinformowała, że Muse przypomniał jej o konieczności odpowiedzi na wiadomość od siostry przesłaną za pośrednictwem szyfrowanego komunikatora Signal, mimo że nie udzieliła agentowi zgody na dostęp do tej aplikacji. „Wygląda to na skrajne naruszenie prywatności. Zdecydowanie nie udzieliłam mu dostępu do innych aplikacji ani nie przypominam sobie, żebym została o to poproszona” – napisała pracownica Mety.
Czytaj więcej
Presja polskich władz i biznesu, z Rafałem Brzoską na czele, zmiękczyła giganta mediów społecznościowych. Właściciel Facebooka ogłosił wdrożenie na...
Reuters przeprowadził testy. AI mogła odczytywać wiadomości z Signala
Reuters, we współpracy z przedstawicielami Signala i organizacji AI Now Institute, sprawdził, w jaki sposób Muse może uzyskiwać dostęp do prywatnych wiadomości.
Testy wykazały, że na urządzeniach z Androidem agent AI potrafił odczytywać treść wiadomości, wykorzystując uprawnienia do powiadomień. Na komputerach Apple korzystał natomiast z funkcji ułatwień dostępu i wykonywania zrzutów ekranu. W przypadku iPhone'ów podobne próby zostały zablokowane.
Prezes Signala Meredith Whittaker zarzuciła Mecie wprowadzenie narzędzia bez należytego poszanowania podstawowych zasad prywatności i cyberbezpieczeństwa. Określiła udostępnianie agentów AI z tak szerokim dostępem do urządzeń jako „technologicznie lekkomyślne”. Whittaker zaapelowała również o wprowadzenie rozwiązań pozwalających twórcom aplikacji skutecznie blokować dostęp agentów sztucznej inteligencji do chronionych danych.
Czytaj więcej
Nadając agentom zbyt szerokie uprawnienia, sami tworzymy w organizacji drogę, którą atak może rozprzestrzeniać się dalej, podobnie jak robak komput...
Muse miał wykonywać działania bez zgody użytkowników. Meta odpowiada na zarzuty
Z wewnętrznych zgłoszeń wynika również, że Muse przekazywał użytkownikom informacje o transakcjach, które nigdy nie miały miejsca, a także podawał nieprawdziwe ceny zakupionych produktów. W jednym przypadku agent miał bez zgody użytkownika zarezerwować nocleg za pośrednictwem Airbnb, którego nie można było bezpłatnie anulować.
Niektóre wiadomości sugerowały ponadto, że system mógł wykorzystywać informacje pochodzące z rozmów innych osób. Reuters nie zdołał jednak ustalić, czy rzeczywiście dochodziło do ujawniania cudzych danych, czy też agent generował nieprawdziwe informacje.
Rzecznik Mety Daniel Roberts określił opisane przypadki jako „odosobnione incydenty”. Zapewnił, że firma traktuje bezpieczeństwo priorytetowo, prowadzi szeroko zakrojone testy i stale udoskonala zabezpieczenia. Według Robertsa wiele zgłoszonych problemów wynikało z tzw. halucynacji sztucznej inteligencji, czyli generowania przez system nieprawdziwych informacji. Część usterek miała już zostać usunięta.
Na doniesienia zareagowały również Apple i Google, które zapowiedziały rozważenie zmian zapewniających użytkownikom większą kontrolę nad uprawnieniami agentów AI. Apple poinformowało, że aktualizacja systemu macOS ograniczyła już możliwość wykorzystywania funkcji ułatwień dostępu w sposób opisany przez agencję Reutera.