Na corocznej konferencji MARS w Las Vegas Amazon poinformował, że chce sprawić, by „wspomnienia trwały wiecznie”. Wystarczyć minutowa próbka, by algorytm Amazona skutecznie przemówił głosem zmarłej osoby. Firma poinformowała, że wciąż pracuje nad ulepszeniem algorytmu, który imituje dowolny usłyszany wcześniej głos. Nie wiadomo, kiedy taka funkcjonalność miałaby zostać wprowadzona, ale już wzbudziła sporo kontrowersji. Microsoft zapowiedział niedawno, że ograniczy prace i wykorzystywanie tej technologii w obawie, iż technologia może zostać wykorzystana do kreowania fałszywych informacji. Głównie chodzi o obawy preparowania wypowiedzi polityków, a także wyrafinowanych oszustw telefonicznych.

W 2020 roku w Zjednoczonych Emiratach Arabskich przestępcy skłonili kierownika banku, by przelał im 35 mln dol., podszywając się pod dyrektora firmy, z którym wcześniej rozmawiał. Użyli właśnie algorytmu AI do imitacji głosu.

Czytaj więcej

Na aktorów padł blady strach. AI może ich okraść albo zastąpić

Jednak Amazon przekonuje, że nowa funkcja Alexy powstała po to, by pomóc osobom zmagającym się z traumą utraty bliskiej osoby. Rohit Prasad, zajmujący się w koncernie rozwojem systemu Alexa, powiedział, że ma to być narzędzie dla tych, którzy stracili bliskich w czasie pandemii i bardzo za nimi tęsknią. „Mimo iż sztuczna inteligencja nie może zlikwidować bólu spowodowanego utratą, to z pewnością może sprawić, że wspomnienia o tych osobach przetrwają” – powiedział Prasad.

Nowa funkcja Alexy umożliwi odtworzenie głosu dowolnej osoby. Wystarczy krótkie nagranie, dlatego też wiele osób uznało ją za „przerażającą” i „potworną”. Jednak takie naśladowanie głosu przez AI staje się coraz bardziej powszechne. Te imitacje – znane jako „audio deepfake” – są używane w branżach takich jak podcasting, film i telewizja oraz gry wideo – przypomina portal The Verge.

Ta sama technologia została również zastosowana w filmie. W zeszłym roku pokazano film dokumentalny o życiu znanego szefa kuchni Anthony’ego Bourdaina, który zmarł w 2018 roku. Twórcy dokumentu wykorzystali AI do sklonowania jego głosu użytego do „odczytania” e-maili Bourdaina. Wielu fanów było zniesmaczonych zastosowaniem tej technologii, nazywając ją „upiorną” i „zwodniczą”.

Według Amazona Alexa ma na całym świecie około 100 mln klientów.