Questa intelligenza artificiale ti consente di falsificare la tua voce per parlare come Barack Obama

La signora Tech | Immagini Getty

Incontra il mio alter ego, Katie:

L'accento, l'emozione e l'intonazione sono tutti miei. Ma in qualche modo ora sembro una donna giovane con una voce acuta.

La mia pelle vocale femminile è stata creata da Modulate.ai , una società con sede a Cambridge, Massachusetts. L'azienda utilizza l'apprendimento automatico per copiare, modellare e manipolare le proprietà della voce in un modo nuovo e potente.

La tecnologia va ben oltre i semplici filtri vocali che possono farti sembrare Kylo Ren. Utilizzando questo approccio, è possibile assumere qualsiasi età, sesso o tono che desideri, il tutto in tempo reale. O per assumere la voce di una celebrità. Posso tenere una lunga conversazione telefonica nelle vesti di Katie, se lo desidero.

Ho visitato la sede di Modulate per conoscere la tecnologia e le ambizioni dell'azienda e per discutere le implicazioni etiche dell'utilizzo dell'IA per copiare la voce di qualcun altro. In una cabina insonorizzata, ho provato alcune delle skin vocali dell'azienda.

Ecco la mia vera voce:

E qui viene alimentato attraverso un'altra persona:

Ed essere cambiati tra i due personaggi in tempo reale.

La tecnologia di modellazione vocale non è perfetta; ogni nuova voce è un po' gorgheggiata. Ma è straordinariamente buono e migliora alimentando più dati vocali. E mostra come i progressi nell'apprendimento automatico stiano iniziando rapidamente ad alterare la realtà digitale. Modulate utilizza le reti generative contraddittorio (GAN) per acquisire e modellare le proprietà audio di un segnale vocale. I GAN mettono due reti neurali l'una contro l'altra in una battaglia per catturare e riprodurre in modo convincente le proprietà di un set di dati (vedi The GANfather ).

Il machine learning ha permesso di scambiare i volti di due persone in un video, utilizzando software scaricabili gratuitamente da internet (vedi di nuovo Fake America great). I ricercatori di intelligenza artificiale stanno utilizzando GAN e altre tecniche per manipolare scene visive e persino evocare completamente facce false .

Modulate ha una skin vocale dimostrativa di Barack Obama sul suo sito e il cofondatore e CEO Mike Pappas ha affermato che sarebbe possibile generarne uno per chiunque, dati i dati di formazione sufficienti. Ma aggiunge che la società non renderà disponibile una skin vocale per celebrità senza il permesso del proprietario. Insiste anche sul fatto che l'inganno non è il punto principale.

Questa non è una tecnologia costruita per imitare le persone, dice Pappas. È costruito per darti nuove opportunità.

Modulate mira a giochi online come Fornite o Call of Duty, in cui i giocatori possono chattare con estranei tramite un microfono. Questo può migliorare il gioco, ma può anche aprire la porta ad abusi e molestie.

Quando vogliamo interagire online e vivere esperienze davvero profonde, le voci sono fondamentali, afferma Pappas. Ma alcune persone non sono disposte a mettere effettivamente la loro voce là fuori. In alcuni casi, forse voglio solo rimanere anonimo. In altri casi, sono preoccupato di rivelare la mia età o sesso e di essere molestato.

Sapone Carlo , un professore alla New York University che studia la diffusione della disinformazione, afferma che la tecnologia sembra significativamente più avanzata rispetto ad altre tecnologie di modifica vocale. E afferma che il modo in cui l'IA ora può manipolare video e audio ha il potenziale per alterare radicalmente i media. Dobbiamo iniziare a pensare a ciò che costituisce la realtà, dice.

'Finora, la qualità della tecnologia di conversione vocale è stata bassa in modo da poter distinguere facilmente una voce convertita', aggiunge Tuomas Virtanen , esperto di sintesi e manipolazione vocale presso l'Università di Tampere in Finlandia. 'Ma posso immaginare che nel prossimo futuro la qualità sarà abbastanza buona in modo che la conversione non possa essere rilevata facilmente.'

Modulate è consapevole che la sua tecnologia ha il potenziale per essere utilizzata in modo improprio. La società afferma che cercherà garanzie che qualsiasi cliente che copia la voce di qualcuno abbia il permesso di quella persona. Ha anche sviluppato una tecnologia di filigrana audio che potrebbe essere utilizzata per rilevare una voce copiata. Ciò potrebbe emettere un avviso se qualcuno sta usando una voce falsa durante una chiamata, ad esempio.

'Abbiamo creato salvaguardie etiche nella nostra azienda da zero', afferma il cofondatore e CTO, Carter Huffman, 'dal modo in cui distribuiamo la nostra tecnologia, al modo in cui selezioniamo le skin vocali da offrire, alla filigrana del nostro audio per il rilevamento in ambienti sensibili sistemi.

Modulate potrebbe essere in grado di limitare l'uso improprio della propria tecnologia, ma è possibile che altri sviluppino una tecnologia simile in modo indipendente e la rendano disponibile per l'uso improprio delle persone. La domanda è: quanto ampiamente potrebbe essere utilizzato in modo improprio e quanto ne diventerà esperto il pubblico?

Pappas è ottimista sul fatto che il potenziale per la falsificazione dell'IA sia spesso esagerato. È sicuramente qualcosa di cui vuoi esserne consapevole, ma non è qualcosa in cui le stesse sfaccettature della società stanno crollando, dice. Abbiamo gli strumenti per gestirlo.

nascondere