Dowiedziała się, że reklamuje spray na owady. Znana dziennikarka oszukana z pomocą AI

Twarz i głos prezenterki BBC wykorzystano w reklamie środków odstraszających owady. Do kradzieży jej tożsamości i oszukania agencji reklamowej przestępcy wykorzystali sztuczną inteligencję. Sam materiał oszuści spreparowali w technologii deepfake.

Publikacja: 29.04.2024 15:06

Liz Bonnin jest znaną dziennikarką specjalizującą się w ukazywaniu środowiska naturalnego i dzikich

Liz Bonnin jest znaną dziennikarką specjalizującą się w ukazywaniu środowiska naturalnego i dzikich zwierząt. Nieświadomie zareklamowała spray na owady

Foto: Andrew Crowley, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons

Liz Bonnin oszuści wzięli na celownik nieprzypadkowo. Dziennikarka jest znana, pracuje w renomowanej stacji i zajmuje się przyrodą. Jej wizerunek i głos zostały przetworzone przez sztuczną inteligencję. W efekcie powstała reklama środka odstraszającego owady. Znajomi poinformowali dziennikarkę o sytuacji, ponieważ dziwnie brzmiał zwłaszcza jej akcent. - To rzeczywiście wydaje się naruszeniem prawa i nie jest przyjemne – stwierdziła w rozmowie z „The Guardian” Liz Bonnin. - Dzięki Bogu, że to był tylko spray odstraszający owady i nie „reklamowałam” czegoś naprawdę okropnego — dodała.

Sprawa trafiła do kierownictwa BBC, gdy reklama w internecie pojawiła się na masową skalę. Na tym dziwne okoliczności się nie kończą, ponieważ firma zlecająca reklamę twierdzi, że dostała zgodę prezenterki, choć tryb pozyskania był bardzo dziwny sposób.

Spreparowane wiadomości i deepfake

Howard Carter, dyrektor naczelny Incognito, firmy stojącej za kampanią reklamową, twierdzi, że otrzymał szereg wiadomości głosowych od osoby, którą uważał za Bonnin. Już wcześniej zabiegał o jej udział w reklamie, ale bezskutecznie. Potem jednak dostał wiadomość z profilu na Facebooku, który ktoś prowadził pod nazwiskiem Bonnin. Teraz szef spółki twierdzi, że wiadomości wymieniane między nimi doprowadziły go do przekonania, że ma do czynienia z prawdziwą Bonnin i to prawdziwa okazja, mimo że wspomniany profil wydał mu się trochę podejrzany.

Czytaj więcej

Potężny cios w demokrację i biznes. Jak sztuczna inteligencja sieje dezinformację

Osoba przyjmująca tożsamość Bonnin podała Carterowi numer telefonu i adres e-mail. Przekazano mu także dane kontaktowe osoby podającej się za członka Wildlife Trusts, organizacji charytatywnej, której Bonnin jest prezesem. Umowę na udział w reklamie negocjowano za pośrednictwem WhatsAppa i e-maili. Twierdzi również, że przynajmniej raz rozmawiał przez telefon z jednym z oszustów podszywających się pod Bonnin.

Umowa została podpisana elektronicznie, w marcu firma przesłała 20 tys. funtów na konto powiązane z bankiem cyfrowym. Zdjęcia Bonnin do wykorzystania w kampanii wysłano pięć dni później. Kolejne e-maile wysyłane przez agencję Incognito pozostały bez odpowiedzi. Kampania ruszyła niedawno, wykorzystując materiał przesłany przez oszustów. Wkrótce dziennikarka napisała w serwisie X, że nie zgodziła się na udział w reklamie.

Czytaj więcej

Scarlett Johansson wykorzystana przez sztuczną inteligencję. Pierwszy taki pozew

Osoba podszywająca się pod Bonnin wysłała za to do Cartera SMS-a z przeprosinami i stwierdziła, że nie radzi sobie z mediami społecznościowymi, a także powołała się na problemy z serwerem i bezpieczeństwem. W tym momencie prezes Carter zorientował się, że także on został oszukany. - Bardzo mi przykro z powodu tego, przez co przeszła firma. To wcale nie jest zabawne. To także nauczka, że jeśli coś wygląda zbyt dobrze, aby mogło być prawdziwe i jest zbyt łatwe, sprawdź potrójnie lub poczwórnie - mówi sama Bonnin.

Sztuczny głos od sztucznej inteligencji nie wzbudził czujności

W wiadomości głosowej usłyszanej przez dziennikarzy „Guardiana" wygenerowany przez sztuczną inteligencję Bonnin wypowiada kilka wymyślonych zwrotów, dość sztucznym głosem. Surya Koppisettin ze start-upu Reality Defender zajmującego się wykrywaniem fałszerstw obrazu, powiedziała, że wciąż widać luki i problemy z szybkością recytacji, które są spójne z mową generowaną przez sztuczną inteligencję. Dialogi są także nierówne pod względem akcentu, a wymowa niezwykle wyraźna pomimo hałasu wokół, co budzi wątpliwości.

Czytaj więcej

Dzięki AI można już ukraść postać. Klon Ukrainki kocha Chiny i sprzedaje tam towary

Bonnin dodaje, że incydent to wiadomość ostrzegawcza dotycząca potencjalnych pułapek związanych ze sztuczną inteligencją. - Istnieje wiele sposobów wykorzystania jej z korzyścią dla społeczeństwa. Technologia będzie coraz lepsza i bardziej wyrafinowana – dodała dziennikarka.

Liz Bonnin oszuści wzięli na celownik nieprzypadkowo. Dziennikarka jest znana, pracuje w renomowanej stacji i zajmuje się przyrodą. Jej wizerunek i głos zostały przetworzone przez sztuczną inteligencję. W efekcie powstała reklama środka odstraszającego owady. Znajomi poinformowali dziennikarkę o sytuacji, ponieważ dziwnie brzmiał zwłaszcza jej akcent. - To rzeczywiście wydaje się naruszeniem prawa i nie jest przyjemne – stwierdziła w rozmowie z „The Guardian” Liz Bonnin. - Dzięki Bogu, że to był tylko spray odstraszający owady i nie „reklamowałam” czegoś naprawdę okropnego — dodała.

Pozostało 88% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Technologie
Sztuczna inteligencja podbija Polskę. Wiemy, kto z niej najchętniej korzysta
Technologie
Szwajcarzy już wiedzą, jak rozwiązać największy problem elektrowni jądrowych
Technologie
„Niewidzialne” włókna zastąpią nylon i kevlar. Bioelektronika podbije świat
Technologie
Amerykanie zbudują drony przyszłości o wielkim zasięgu. Startuje bitwa koncernów
Materiał Promocyjny
Jakie są główne zalety systemów do zarządzania zasobami ludzkimi?
Technologie
Chińczycy opracowali żaroodporny stop. To rewolucja w lotnictwie i transporcie
Technologie
Apple wyłowił talenty nad Wisłą. Polscy programiści mają świetne pomysły