Na corocznej konferencji MARS w Las Vegas Amazon poinformował, że chce sprawić, by „wspomnienia trwały wiecznie”. Wystarczyć minutowa próbka, by algorytm Amazona skutecznie przemówił głosem zmarłej osoby. Firma poinformowała, że wciąż pracuje nad ulepszeniem algorytmu, który imituje dowolny usłyszany wcześniej głos. Nie wiadomo, kiedy taka funkcjonalność miałaby zostać wprowadzona, ale już wzbudziła sporo kontrowersji. Microsoft zapowiedział niedawno, że ograniczy prace i wykorzystywanie tej technologii w obawie, iż technologia może zostać wykorzystana do kreowania fałszywych informacji. Głównie chodzi o obawy preparowania wypowiedzi polityków, a także wyrafinowanych oszustw telefonicznych.
W 2020 roku w Zjednoczonych Emiratach Arabskich przestępcy skłonili kierownika banku, by przelał im 35 mln dol., podszywając się pod dyrektora firmy, z którym wcześniej rozmawiał. Użyli właśnie algorytmu AI do imitacji głosu.
Czytaj więcej
Equity, amerykański związek zawodowy pracowników sztuk widowiskowych, wystartował z nową kampanią...
Jednak Amazon przekonuje, że nowa funkcja Alexy powstała po to, by pomóc osobom zmagającym się z traumą utraty bliskiej osoby. Rohit Prasad, zajmujący się w koncernie rozwojem systemu Alexa, powiedział, że ma to być narzędzie dla tych, którzy stracili bliskich w czasie pandemii i bardzo za nimi tęsknią. „Mimo iż sztuczna inteligencja nie może zlikwidować bólu spowodowanego utratą, to z pewnością może sprawić, że wspomnienia o tych osobach przetrwają” – powiedział Prasad.
Nowa funkcja Alexy umożliwi odtworzenie głosu dowolnej osoby. Wystarczy krótkie nagranie, dlatego też wiele osób uznało ją za „przerażającą” i „potworną”. Jednak takie naśladowanie głosu przez AI staje się coraz bardziej powszechne. Te imitacje – znane jako „audio deepfake” – są używane w branżach takich jak podcasting, film i telewizja oraz gry wideo – przypomina portal The Verge.
