Poważny incydent z chatbotem AI od Elona Muska. „Katastrofa prywatności"

Wśród tematów konwersacji z chatbotem opartym na sztucznej inteligencji firmy xAI znalazła się m.in. dokładna instrukcja produkcji bomby czy szczegółowy plan zabójstwa Elona Muska.

Prywatne rozmowy z Grokiem można wyszukać w Google

Magazyn Forbes podał, że w środę 20 sierpnia w wyszukiwarce Google po wpisaniu hasła „Grok chats” można było odnaleźć ponad 370 tys. rozmów użytkowników z chatbotem firmy xAI. Wśród tych przeanalizowanych przez magazyn znalazły się zarówno konwersacje dotyczące próśb o napisanie tweetów, jak i pomocy przy włamaniu do portfeli kryptowalut. Nie zabrakło również intymnych pytań z zakresu medycyny i psychologii, przy których niektórzy ujawniali dane osobowe.

Czytaj więcej

Technologie

Szef działu AI w Microsoft alarmuje: Ludzkość nie jest na to gotowa

Rozwój AI to nie tylko możliwości, ale także nowe zagrożenia. Mustafa Suleyman, szef działu rozwo...

To jednak nie wszystko. Grok udzielał również użytkownikom na ich prośbę instrukcji dotyczących metod samobójstwa, wytwarzania nielegalnych narkotyków czy kodowania samoczynnie uruchamiającego się złośliwego oprogramowania.

Wiele rozmów z Grokiem, które możliwe były do wyszukania w Google, naruszały tym samym, jak informuje Forbes, zasady związane z korzystaniem z chatbota opublikowane przez firmę xAI. Użytkownicy łamali zakaz używania Groka do „promowania działań poważnie zagrażających życiu ludzkiemu” lub do „rozwoju broni biologicznej, chemicznej lub broni masowego rażenia”.

Firma xAI poproszona przez Forbes o komentarz, nie odniosła się do sprawy.

Prywatne rozmowy z Grokiem dostępne w wyszukiwarce Google. Wszystko za sprawą przycisku „udostępnij”

W jaki sposób doszło do wycieku treści wielu rozmów z Grokiem bez zgody użytkowników? Wszystko za sprawą przycisku „udostępnij”, który umożliwia utworzenie unikalnego adresu URL pozwalającego następnie na udostępnienie rozmowy z chatbotem np. za pomocą komunikatora czy poczty e-mail. Jednak, jak wyjaśnia Forbes, unikalny adres URL jest również udostępniany wyszukiwarkom takim jak m.in. Google. Tym samym każdy może go wyszukać w sieci. Innymi słowy, kliknięcie przycisku „udostępnij” jest równoznaczne z opublikowaniem rozmowy na stronie Groka i zindeksowaniem jej przez Google.

Upublicznianie rozmów z chatbotem: Grok nie był pierwszy

Sprawa Groka od xAI to nie pierwszy przypadek upublicznienia rozmów z chatbotem. Na początku sierpnia w wynikach wyszukiwania Google pojawiły się konwersacje użytkowników z ChatGPT od firmy OpenAI. Było to możliwe – podobnie jak w przypadku Groka – po kliknięciu przycisku „udostępnij”. Jednak po tym, jak sprawa wywołała falę oburzenia, firma przerwała tego rodzaju indeksowanie, nazywając je – jak przypomina Forbes – „krótkotrwałym eksperymentem”.

Możliwość wyszukiwania rozmów użytkowników z chatbotami to „katastrofa prywatności”

W związku z możliwością wyszukiwania rozmów użytkowników z chatbotami za pomocą np. Google powstaje poważny problem dotyczący ochrony prywatności, twierdzą eksperci w tej dziedzinie. Wzrasta ryzyko ujawnienia osobistych i poufnych informacji od imion i nazwisk aż do szczegółów dotyczących zdrowia psychicznego czy działalności biznesowej. Na sprawę zwraca uwagę serwis BBC.

„Chatboty oparte na sztucznej inteligencji to katastrofa prywatności” – powiedział w rozmowie z serwisem prof. Luc Rocher, adiunkt w Oxford Internet Institute.