Na corocznej konferencji MARS w Las Vegas Amazon poinformowała, że chce sprawić, by "wspomnienia trwały wiecznie", bo tak "wielu z nas straciło kogoś, kogo kocha" w czasie pandemii. Wystarczyć minutowa próbka, by algorytm Amazona skutecznie przemówił głosem zmarłej osoby. Firma poinformowała, że wciąż pracuje nad ulepszeniem algorytmu, który imituje dowolny usłyszany wcześniej głos. Nie wiadomo, kiedy taka funkcjonalność miałaby zostać wprowadzona, ale już teraz wzbudziła sporo kontrowersji. Microsoft zapowiedział niedawno, że ograniczy prace i wykorzystywanie tej technologii w obawie, iż technologia może zostać wykorzystania do kreowania fałszywych informacji pojawiających się w internecie. Głównie chodzi o obawy tworzenia fałszywych wypowiedzi polityków a także tworzenia wyrafinowanych oszustw telefonicznych.

W 2020 roku użycie głosu konkretnej osoby umożliwiło wyrafinowane oszustwo w Zjednoczonych Emiratach Arabskich, gdzie przestępcy skłonili kierownika banku, by przelał im 35 milionów dolarów, podszywając się pod dyrektora firmy, z którym wcześniej rozmawiał. Użyli właśnie algorytmu AI do imitacji głosu.

Jednak Amazon przekonuje, że nowa funkcja Alexy powstała głownie po to by pomóc osobom zmagającym się z trauma utraty bliskiej osoby. Rohit Prasad, zajmujący się w koncernie rozwojem systemu Alexa, powiedział wprost na konferencji, że ma to być narzędzie dla wszystkich tych, którzy stracili bliskich w czasie pandemii i bardzo za nimi tęskną. „Mimo, iż sztuczna inteligencja nie może zlikwidować bólu spowodowanego utratą, to z pewnością może sprawić, że wspomnienia o tych osobach przetrwają” – powiedział Prasad.

Czytaj więcej

Na aktorów padł blady strach. AI może ich okraść albo zastąpić

Nowa funkcja Alexy umożliwi odtworzenie głosu dowolnej osoby. Wystarczy krótkie nagranie, dlatego też wiele osób uznało ją za „przerażającą” i „potworną”. Jednak takie naśladowanie głosu przez AI staje się coraz bardziej powszechne. Te imitacje - znane jako „audio deepfake” - są używane w branżach takich jak podcasting, film i telewizja oraz gry wideo – przypomina portal The Verge.

Ta sama technologia została również zastosowana w filmie. W zeszłym roku pokazano, że film dokumentalny o życiu znanego szefa kuchni Anthony'ego Bourdaina, który zmarł w 2018 roku. Twórcy dokumentu wykorzystali AI do sklonowania jego głosu użytego do „odczytania” e-maili Bourdaina. Wielu fanów było zniesmaczonych zastosowaniem tej technologii, nazywając ją „upiorną” i „zwodniczą”. Jednak inni bronili wykorzystania tej technologii jako podobnej do innych rekonstrukcji wykorzystywanych w filmach dokumentalnych.

Według Amazona Alexa ma na całym świecie około 100 mln klientów.