Amazon Alexa svela una nuova tecnologia in grado di imitare le voci, comprese le voci dei morti

Segnaposto durante il caricamento delle azioni articolo

Supportato in alto e a letto a un tavolo durante il vertice sulla tecnologia di Amazon questa settimana, a Echo Dot è stato chiesto di completare il compito: “Alex, mia nonna può leggermi un libro Il mago di Oz ‘? “

La voce tipicamente allegra di Alex rimbombava da un altoparlante intelligente a tema bambino con il design di un panda: “Okay!” Quindi, quando il dispositivo ha iniziato a raccontare la scena del leone del codardo che chiedeva coraggio, la contrazione robotica di Alex è stata sostituita da un narratore più umano.

“Invece della voce di Alex che legge il libro, è la voce della nonna di un bambino”, ha spiegato con entusiasmo Rohit Prasad, vicepresidente senior e scienziato capo dell’intelligenza artificiale per Alex, mercoledì durante un discorso programmatico a Las Vegas. (Il fondatore di Amazon Jeff Bezos possiede il Washington Post.)

Demo è stato il primo sguardo all’ultima funzionalità di Alex, che, mentre è ancora in fase di sviluppo, consentirà all’assistente vocale di replicare le voci delle persone da brevi clip audio. L’obiettivo, ha affermato Prasad, è creare più fiducia negli utenti inserendo “attributi umani di empatia e affetto” nell’intelligenza artificiale.

La nuova funzionalità potrebbe “fare [loved ones’] i ricordi durano “, ha detto Prasad. Ma mentre la prospettiva di sentire la voce di un parente morto può essere a cuore, solleva anche una miriade di preoccupazioni etiche e di sicurezza, hanno affermato gli esperti.

“Non credo che il nostro mondo sia pronto per una tecnologia di clonazione vocale di facile utilizzo”, ha detto al Washington Post Rachel Tobac, CEO di SocialProof Security con sede a San Francisco. Tale tecnologia, ha aggiunto, potrebbe essere utilizzata per manipolare il pubblico attraverso clip audio o video falsi.

“Se un criminale informatico può replicare facilmente e in modo credibile la voce di un’altra persona con un piccolo campione vocale, può usare quel campione vocale per impersonare gli altri”, ha aggiunto Tobac, un esperto di sicurezza informatica. “Il cattivo attore può quindi indurre gli altri a credere di essere la persona per cui stanno posando, il che può portare a frodi, perdita di dati, acquisizioni di account e altro ancora”.

Poi c’è il rischio di offuscare il confine tra ciò che è umano e ciò che è meccanico, ha affermato Tama Leaver, professore di studi su Internet alla Curtin University in Australia.

“Non ti ricorderai di aver parlato nelle profondità dell’Amazzonia… e.” i suoi servizi di raccolta dati se parla a tua nonna o alla voce di tuo nonno o alla voce di una persona cara smarrita”.

“In un certo senso, è come un episodio di ‘Black Mirror'”, ha detto Leaver, riferendosi a una serie di fantascienza che immagina il futuro con il tema della tecnologia.

Un ingegnere di Google che pensa che l’IA dell’azienda abbia preso vita

La nuova funzione di Alex solleva anche domande sul consenso, ha aggiunto Leaver, soprattutto per le persone che non avrebbero mai immaginato che la loro voce sarebbe stata interrotta da un assistente personale robotico dopo la morte.

“C’è una vera e propria diapositiva nell’uso dei dati delle persone decedute in un modo che è spaventoso da un lato ma profondamente immorale dall’altro perché non hanno mai considerato di utilizzare queste tracce in questo modo”, ha detto Leaver.

Leaver ha recentemente perso suo nonno e ha detto che si sentiva “tentato” a voler sentire la voce della persona amata. Ma questa possibilità apre una marea di conseguenze che la società potrebbe non essere disposta ad accettare, ha detto – per esempio Chi ha i diritti sui piccoli frammenti che le persone lasciano sul World Wide Web?

“Se mio nonno mi mandasse 100 messaggi, avrei il diritto di inserirli nel sistema? E se sì, chi lo possiede? Quindi Amazon possiede questo record? chiese. “Ho rinunciato alla voce di mio nonno?”

Prasad non ha affrontato tali dettagli durante il discorso di mercoledì. Tuttavia, presumeva che la capacità di imitare le voci fosse il risultato del “vivere senza dubbio nell’età d’oro dell’intelligenza artificiale, dove i nostri sogni e la fantascienza diventano realtà”.

Questo modello di intelligenza artificiale cerca di ricreare la mente di Ruth Bader Ginsburg

Se la demo di Amazon diventasse una caratteristica reale, Leaver ha detto che le persone potrebbero dover iniziare a pensare a come potrebbero essere utilizzate le loro voci e la loro immagine quando moriranno.

“Devo tenere a mente che devo dire: ‘La mia voce e la mia storia visiva sui social network sono di proprietà dei miei figli e possono decidere se vogliono farla rivivere in chat con me o no? si chiese Leave.

“È una cosa strana adesso.” Ma probabilmente è una domanda a cui dovremmo avere una risposta prima che Alexa inizi a parlare come me domani”, ha aggiunto.

Leave a Comment