Na corocznej konferencji MARS w Las Vegas Amazon poinformowała, że chce sprawić, by "wspomnienia trwały wiecznie", bo tak "wielu z nas straciło kogoś, kogo kocha" w czasie pandemii. Wystarczyć minutowa próbka, by algorytm Amazona skutecznie przemówił głosem zmarłej osoby. Firma poinformowała, że wciąż pracuje nad ulepszeniem algorytmu, który imituje dowolny usłyszany wcześniej głos. Nie wiadomo, kiedy taka funkcjonalność miałaby zostać wprowadzona, ale już teraz wzbudziła sporo kontrowersji. Microsoft zapowiedział niedawno, że ograniczy prace i wykorzystywanie tej technologii w obawie, iż technologia może zostać wykorzystania do kreowania fałszywych informacji pojawiających się w internecie. Głównie chodzi o obawy tworzenia fałszywych wypowiedzi polityków a także tworzenia wyrafinowanych oszustw telefonicznych.
W 2020 roku użycie głosu konkretnej osoby umożliwiło wyrafinowane oszustwo w Zjednoczonych Emiratach Arabskich, gdzie przestępcy skłonili kierownika banku, by przelał im 35 milionów dolarów, podszywając się pod dyrektora firmy, z którym wcześniej rozmawiał. Użyli właśnie algorytmu AI do imitacji głosu.
Jednak Amazon przekonuje, że nowa funkcja Alexy powstała głownie po to by pomóc osobom zmagającym się z trauma utraty bliskiej osoby. Rohit Prasad, zajmujący się w koncernie rozwojem systemu Alexa, powiedział wprost na konferencji, że ma to być narzędzie dla wszystkich tych, którzy stracili bliskich w czasie pandemii i bardzo za nimi tęskną. „Mimo, iż sztuczna inteligencja nie może zlikwidować bólu spowodowanego utratą, to z pewnością może sprawić, że wspomnienia o tych osobach przetrwają” – powiedział Prasad.
Czytaj więcej
Equity, amerykański związek zawodowy pracowników sztuk widowiskowych, wystartował z nową kampanią „Stop AI Stealing the Show”. Twierdzi, że sztuczna inteligencja uderza w źródła utrzymania aktorów i należy zmienić prawo.
Nowa funkcja Alexy umożliwi odtworzenie głosu dowolnej osoby. Wystarczy krótkie nagranie, dlatego też wiele osób uznało ją za „przerażającą” i „potworną”. Jednak takie naśladowanie głosu przez AI staje się coraz bardziej powszechne. Te imitacje - znane jako „audio deepfake” - są używane w branżach takich jak podcasting, film i telewizja oraz gry wideo – przypomina portal The Verge.
