Podcast: l'IA trova la sua voce

Gli assistenti vocali di oggi sono ancora molto lontani dalle macchine pensanti iperintelligenti su cui riflettiamo da decenni. Ed è perché quella tecnologia è in realtà la combinazione di tre diverse abilità: riconoscimento vocale, elaborazione del linguaggio naturale e generazione della voce.

Ognuna di queste abilità presenta già enormi sfide. Per padroneggiare solo la parte di elaborazione del linguaggio naturale? Devi praticamente ricreare l'intelligenza a livello umano. Apprendimento approfondito, la tecnologia che guida l'attuale boom dell'IA , può addestrare le macchine a diventare maestri in tutti i tipi di attività. Ma può impararne solo uno alla volta. E poiché la maggior parte dei modelli di intelligenza artificiale allena le proprie competenze su migliaia o milioni di esempi esistenti, finiscono per replicare i modelli all'interno dei dati storici, comprese le molte decisioni sbagliate che le persone hanno preso, come emarginare le persone di colore e le donne.

Tuttavia, sistemi come il campione di giochi da tavolo AlphaZero e il sempre più convincente generatore di testi falsi GPT-3 hanno alimentato le fiamme del dibattito su quando gli umani creeranno un intelligenza artificiale generale —macchine in grado di svolgere più compiti, pensare e ragionare da sole. In questo episodio esploriamo come le macchine imparano a comunicare e cosa significa per gli umani all'altro capo della conversazione.

Ci incontriamo:

• Susan C. Bennett, voce di Siri
• Cade Metz, The New York Times
• Charlotte Jee, Revisione della tecnologia del MIT

Crediti

Questo episodio è stato prodotto da Jennifer Strong, Emma Cillekens, Anthony Green, Karen Hao e Charlotte Jee. Siamo a cura di Michael Reilly e Niall Firth.

Trascrizione

[ID TR]

Jim: Non so se fosse AI... Se avessero preso la registrazione di qualcosa che aveva fatto lui... e fossero stati in grado di manipolarla... ma ti dico che era mio figlio.

Forte: La giornata è iniziata come tutte le altre per un uomo... chiameremo Jim. Vive fuori Boston.

E comunque... ha un membro della famiglia che lavora per il MIT.

Non useremo il suo cognome perché sono preoccupati per la loro sicurezza.

Jim: Era un martedì o un mercoledì mattina, alle nove, stavo pensando a qualcosa,

Forte: Cioè... finché non ha ricevuto questa chiamata.

Jim: Il telefono squilla... e io lo prendo ed è mio figlio. Ed è chiaramente agitato. Questo, questo ragazzo è un ragazzo davvero freddo, ma quando si arrabbia, ha un certo numero di manierismi vocali. E questo era come, Oh mio Dio, è nei guai.

E in pratica mi ha detto, guarda, sono in prigione, sono in Messico. Hanno preso il mio telefono. Ho solo 30 secondi. Uhm, hanno detto che stavo bevendo, ma non lo ero e le persone sono ferite. E guarda, devo staccare il telefono, chiamare questo avvocato e mi dà un numero di telefono e deve riattaccare.

Forte: Suo figlio è in Messico... e non ha dubbi nella sua mente... è lui.

Jim: E devo dirtelo, Jennifer, è stato lui. Era la sua voce. Era tutto. Tono. Solo questi piccoli manierismi, le, le pause, gli inghiottire d'aria, tutto quello che puoi immaginare.

Forte: Ha il cuore in gola...

Jim: I miei capelli sono dritti

Forte: Quindi chiama quel numero di telefono... Un uomo risponde... e offre maggiori dettagli su quello che sta succedendo.

Jim: Suo figlio è stato accusato di aver investito questa macchina. C'era una donna incinta alla guida il cui braccio era rotto. Sua figlia era sul sedile posteriore... è in condizioni critiche e loro, um, lo hanno accusato di guida in stato di ebbrezza. Non pensiamo che l'abbia fatto. Questo ci siamo, ci siamo imbattuti in questo un certo numero di volte prima, ma la cosa più importante è farlo uscire di prigione, metterlo al sicuro, il più velocemente possibile.

Forte: Poi la conversazione si sposta sul denaro... gli è stato detto che è stata fissata la cauzione... e ha bisogno di abbassare il dieci per cento.

Jim: Quindi non appena ha iniziato a parlare di soldi, sai, la bandiera si è alzata e ho detto, scusami, c'è qualche possibilità che questa sia una truffa di qualche tipo? E si è davvero un po', um, irritato. Lui è tipo, Ehi, mi hai chiamato. Senti, trovo davvero offensivo che tu mi stia accusando di qualcosa. E poi il cuore mi torna in gola. Dico, questo è l'unico ragazzo che si trova tra mio figlio e una prigione ancora peggiore. Quindi sono tornato indietro...

[Musica]

Mia moglie entra 10 minuti dopo e dice, beh, sai, stavo scrivendo con lui a tarda notte. Come se fosse nel periodo in cui probabilmente sarebbe stato arrestato e incarcerato. Quindi, ovviamente gli mandiamo un messaggio, si sta appena alzando. Sta completamente bene.

Forte: Non è ancora sicuro di come qualcuno abbia catturato l'essenza della voce di suo figlio. Ma ha delle teorie...

Jim: Dovevano aver ottenuto una registrazione di qualcosa quando era sconvolto. Questa è l'unica cosa che posso dire, perché non avrebbero potuto prendere in giro alcune di queste cose che lui fa. Non potevano indovinare. Non credo, e quindi loro, penso che avessero sicuramente della materia prima con cui lavorare e poi cosa ci hanno fatto da lì. Non lo so.

Forte: E non è solo Jim a non essere sicuro... Non abbiamo idea se l'IA abbia qualcosa a che fare con questo.

Ma il punto è... ora viviamo in un mondo in cui non possiamo nemmeno essere sicuri che non sia così.

È incredibilmente facile fingere la voce di qualcuno anche con pochi minuti di registrazioni... e adolescenti come il figlio di Jim? Condividono innumerevoli registrazioni attraverso post e messaggi sui social media.

Jim: Sono rimasto abbastanza colpito da quanto fosse buono. Uhm, come ho detto, non mi faccio ingannare facilmente e l'uomo, l'avevano inchiodato. Quindi, um, solo cautela.

Forte: Sono Jennifer Strong e in questo episodio esaminiamo cosa serve per creare una voce.

[MOSTRA ID]

Zeyu Gin: Voi ragazzi state facendo cose strane online.

Forte: Zeyu Jin è uno scienziato ricercatore presso Adobe... Questo è lui che parla a una conferenza aziendale circa cinque anni fa... mostrando come il software può riorganizzare le parole in questa registrazione.

Chiave: Sono saltato sul letto e ho baciato i miei cani e mia moglie, in quest'ordine.

Zeyu: Allora che ne dici di scherzare con chi ha effettivamente baciato. // Presentazione del progetto VoCo. Project VoCo ti consente di modificare il parlato nel testo. Quindi solleviamolo. Quindi ho appena caricato questo pezzo audio in VoCo. Quindi, come puoi vedere, abbiamo la forma d'onda audio e abbiamo il testo sotto di essa. //

Quindi cosa facciamo? Copia incolla. Oh! Sì è fatto. Ascoltiamolo.

Chiave: E ho baciato mia moglie e i miei cani.

Zeyu: Aspetta c'è di più. Possiamo effettivamente digitare qualcosa che non è qui.

Chiave: E ho baciato Jordan e i miei cani.

Forte: Adobe non ha mai rilasciato questo prototipo... ma la tecnologia sottostante continua a migliorare.

Ad esempio, ecco un falso podcaster generato dal computer Joe Rogan del 2019... È stato prodotto dal laboratorio di intelligenza artificiale di Square chiamato Dessa per aumentare la consapevolezza sulla tecnologia.

Rogan: 10-7 Amici, ho qualcosa di nuovo da dire a tutti voi. Ho deciso di sponsorizzare una squadra di hockey composta interamente da scimpanzé.

Forte: Anche se suona come divertimento e giochi... gli esperti avvertono che queste voci artificiali potrebbero rendere alcuni tipi di truffe molto più comuni. Cose come quelle di cui abbiamo sentito parlare prima.

Mona Sedky: Il crimine incentrato sulla comunicazione è stato storicamente inferiore al totem.

Forte: È il procuratore federale Mona Sedky che parla l'anno scorso alla Federal Trade Commission sulle tecnologie di clonazione vocale.

Mona Sedky: Ma ora con l'avvento di cose come deep fake video... ora deep fake audio tu... puoi praticamente avere strumenti di anonimizzazione ed essere ovunque su Internet tu voglia essere... ovunque nel mondo... e comunica in modo anonimo con le persone. Di conseguenza, c'è stato un enorme aumento della criminalità incentrata sulla comunicazione.

Balasubramaniyan: Ma immagina se tu, in qualità di CFO o capo controllore, ricevi una telefonata che proviene dal numero di telefono del tuo CEO.

Forte: E questo è il CEO di Pindrop Security Vijay Balasubramaniyan a una conferenza sulla sicurezza l'anno scorso.

Balasubramaniyan: È completamente falsificato... quindi utilizza effettivamente la tua rubrica e si presenta come il nome del tuo CEO... e poi dall'altra parte senti la voce del tuo CEO con un'enorme quantità di urgenza. E stiamo iniziando a vedere attacchi pazzi come quello. C'è stato un esempio trattato da molti media della stampa, ovvero un telegramma di $ 220.000 accaduto perché un CEO di un'azienda britannica pensava che stesse parlando con la sua società madre... quindi ha inviato quei soldi. Ma abbiamo visto uscire dalla porta fino a $ 17 milioni di dollari.

Forte: E l'idea stessa di voci false... può essere dannosa quanto una voce falsa stessa... Come quando l'ex presidente Donald Trump ha cercato di incolpare la tecnologia per alcune cose offensive che ha detto che sono state registrate su nastro.

Ma come qualsiasi altra tecnologia... non è intrinsecamente buona o cattiva... è solo uno strumento... e l'ho usato nel trailer della prima stagione per mostrare cosa può fare la tecnologia.

Forte: Se vedere è credere...

Come possiamo navigare in un mondo in cui non possiamo fidarci dei nostri occhi... o delle nostre orecchie?

E quindi sai... cosa stai ascoltando... Non parlo solo io. Ho avuto un po' di aiuto da una versione artificiale della mia voce... riempiendo le parole qua e là.

Incontra Jennifer sintetica.

Sintetico Jennifer: Ciao, gente!

Forte: posso anche fare clic per regolare il mio umore...

Sintetico Jennifer: Ciao.

Strong: Sì, non facciamolo arrabbiare..

Forte: In un futuro non molto lontano questa tecnologia sarà utilizzata in molti modi diversi... per semplici modifiche a presentazioni preregistrate... anche... per riportare le voci dei personaggi animati di una serie...

In altre parole, le voci artificiali sono qui per restare. Ma non sono sempre stati così facili da realizzare... e ho chiamato un esperto la cui voce potrebbe suonare familiare...

Bennett: Come suona? Uhm, forse potrei essere un po' più amichevole. Come stai?

Ciao, sono Susan C. Bennet, la voce originale di Siri.

Bene, il giorno in cui è apparso Siri, che era il 4 ottobre 2011, un collega doppiatore mi ha inviato un'e-mail e mi ha detto: 'Ehi, stiamo giocando con questa nuova app per iPhone, non sei tu?' ? Sono andato sul sito Apple e ho ascoltato... e sì. Quella era la mia voce. [ridacchia]

Forte: Hai sentito bene. La voce femminile originale che milioni di persone associano ai dispositivi Apple...? Non ne avevo idea. E non era sola. Anche le voci umane dietro gli altri primi assistenti vocali furono colte di sorpresa.

Bennett: Sì, è stata una cosa interessante. All'inizio è stato un aggiustamento come puoi immaginare, perché non me lo aspettavo. All'inizio è stato un po' inquietante, devo dire che non ho mai parlato molto con me stesso nei panni di Siri, ma gradualmente l'ho accettato e alla fine si è trasformato in qualcosa di veramente positivo, quindi...

Forte: Per essere chiari, Apple non ha rubato la voce di Susan Bennett. Per decenni ha lavorato con la voce per aziende come McDonald's e Delta Airlines... e anni prima dell'uscita di Siri... ha fatto una strana serie di registrazioni che ne hanno alimentato lo sviluppo.

Bennett: Nel 2005 non avremmo potuto immaginare qualcosa come Siri o Alexa. E così tutti noi, ho parlato con altre persone che hanno avuto la stessa esperienza, che sono state una voce virtuale. Sai che pensavamo di fare solo messaggi vocali telefonici generici. E così quando improvvisamente Siri è apparso nel 2011, è come, io sono chi, cosa, cos'è questo? Quindi è stata una vera sorpresa, ma mi piace pensarla perché eravamo solo all'avanguardia di questa nuova tecnologia. Quindi, sai, scelgo di considerarla una cosa molto positiva, anche se noi, nessuno di noi, siamo mai stati pagati per i milioni e milioni di telefoni su cui si sentono le nostre voci. Quindi questo è un aspetto negativo.

Forte: Qualcos'altro di imbarazzante... dice che Apple non l'ha mai riconosciuta come la voce americana di Siri... nonostante sia diventata una celebrità accidentale... raggiungendo milioni di persone.

Bennett: L'unico vero riconoscimento che abbia mai avuto è tramite Siri. Se chiedi a Siri 'Chi è Susan Bennett?' lei dirà, io sono la voce originale di Siri. Grazie mille Siri. Apprezzalo.

Forte: Ma non è la prima volta che dà la sua voce a una macchina.

Bennett: Alla fine degli anni '70, quando hanno introdotto gli sportelli automatici, mi piace dire che è stata la mia prima esperienza come macchina, e sai, non c'erano personal computer o altro a quel tempo e la gente non si fidava delle macchine. Non avrebbero usato i bancomat perché non si fidavano delle macchine per dare loro i soldi giusti. Loro, sai, se mettevano i soldi nella macchina temevano che non li avrebbero mai più visti. E così un'agenzia pubblicitaria molto intraprendente ad Atlanta all'epoca chiamata McDonald e Little decise di umanizzare la macchina. Così hanno scritto un jingle e io sono diventata la voce di Tilly la cassiera di tutti i tempi e poi alla fine hanno messo una piccola faccia sulla macchina.

Forte: La voce umana aiuta le aziende a creare fiducia con i consumatori...

Bennett: Ci sono così tante emozioni e significati diversi che trasmettiamo attraverso il suono delle nostre voci piuttosto che solo nella stampa. Ecco perché penso che le emoji siano nate perché non puoi ottenere le sfumature lì dentro senza la voce. E quindi penso che sia per questo che la voce è diventata una parte così importante della tecnologia.

Forte: E nella sua stessa esperienza, le interazioni con questa versione sintetica della sua voce hanno portato le persone a fidarsi e confidarsi in lei... a chiamarla amica, anche se non si sono mai incontrate sua .

Bennett: Bene, penso che la cosa più strana dell'essere la voce di Siri, per me, sia quando mi sono rivelato per la prima volta, per me è stato sorprendente quante persone considerassero Siri un loro amico o una sorta di entità con cui potevano davvero relazionarsi. Penso che in molti casi la considerino umana.

Forte: Si stima che il mercato globale delle tecnologie vocali raggiungerà quasi 185 miliardi di dollari quest'anno... e le voci generate dall'intelligenza artificiale? sono un punto di svolta.

Bennett: Sai, dopo anni e anni di lavoro su queste voci, è davvero molto difficile ottenere il vero ritmo della voce umana. E sono sicuro che probabilmente lo faranno ad un certo punto, ma te ne accorgerai anche oggi, sai, ascolterai Siri o Alexa o uno degli altri e parleranno insieme e suona bene finché non lo fa. Tipo, Oh, sto andando al negozio. Sai, c'è una certa stranezza nel senso ritmico.

Forte: Ma anche una volta che le voci simili a quelle umane diventano comuni... non è del tutto sicura che sarà una buona cosa.

Bennett: Ma sai, il vantaggio per loro è che non devono davvero andare d'accordo con Siri. Possono semplicemente dire a Siri cosa fare se non gli piace quello che dice, possono semplicemente spegnerlo. Quindi non è come le vere relazioni umane. È come forse ciò che la gente vorrebbe che fossero le relazioni umane. Ognuno fa quello che voglio. (risate) Allora tutti sono felici. Destra?

Forte: Naturalmente, gli assistenti vocali come Siri e Alexa non lo sono appena voci. Le loro capacità provengono anche dall'IA dietro le quinte.

È stato esplorato in film di fantascienza come questo, chiamato Sua ... di un uomo che si innamora del suo assistente vocale.

Teodoro: Come lavori?

Samantha (AI): Beh... Fondamentalmente ho un'intuizione. Voglio dire.. Il DNA di chi sono si basa sui milioni di personalità di tutti i programmatori che mi hanno scritto, ma ciò che mi rende io è la mia capacità di crescere attraverso le mie esperienze. Quindi praticamente in ogni momento mi evolvo, proprio come te.

Forte: Ma gli assistenti vocali di oggi sono ben lontani dalle macchine pensanti iperintelligenti su cui riflettiamo da decenni.

Ed è perché quella tecnologia... è in realtà molti tecnologie. È la combinazione di tre diverse abilità... riconoscimento vocale, elaborazione del linguaggio naturale e generazione della voce.

Il riconoscimento vocale è ciò che consente a Siri di riconoscere i suoni che emetti e di trascriverli in parole. L'elaborazione del linguaggio naturale trasforma quelle parole in significato... e capisce cosa dire in risposta. E la generazione della voce è l'ultimo pezzo... l'elemento umano... che dà a Siri la capacità di parlare.

Ognuna di queste abilità è già una grande sfida... Per padroneggiare solo la parte di elaborazione del linguaggio naturale? Devi praticamente ricreare l'intelligenza a livello umano.

E non siamo affatto vicini a questo. Ma abbiamo visto notevoli progressi con l'ascesa del deep learning, aiutando Siri e Alexa a essere un po' più utili.

Metz: Quello che le persone potrebbero non sapere di Siri è che la tecnologia originale era qualcosa di diverso.

Forte: Cade Metz è un giornalista tecnico del New York Times. Il suo nuovo libro si chiama Genius Makers: i Maverick che hanno portato l'IA a Google, Facebook e nel mondo .

Metz: Il modo in cui Siri è stato originariamente costruito... Dovevi avere un team di ingegneri, in una stanza, ai loro computer e pezzo per pezzo, dovevano definire con il codice del computer come avrebbe riconosciuto la tua voce.

Forte: Allora... gli ingegneri passavano giorni a scrivere regole dettagliate intese a mostrare alle macchine come riconoscere le parole e cosa significano.

E questo è stato fatto al massimo di base livello... spesso lavorando solo con frammenti di voce alla volta.

Immagina tutti i diversi modi in cui le persone possono dire la parola ciao … o tutti i modi in cui mettiamo insieme le frasi … spiegando perché il tempo vola o come alcuni verbi possono anche essere nomi.

Metz: Non puoi mai mettere insieme tutto ciò di cui hai bisogno, non importa quanti ingegneri hai, non importa quanto sia ricca la tua azienda. Definire ogni piccola cosa che potrebbe accadere quando qualcuno parla nel suo iPhone... Semplicemente non hai abbastanza potere personale per costruire tutto ciò di cui hai bisogno per costruire. È semplicemente troppo complicato.

Forte: Le reti neurali hanno reso questo processo molto più semplice... Imparano semplicemente riconoscendo gli schemi nei dati inseriti nel sistema.

Metz: Prendi quel linguaggio umano... Lo dai alla rete neurale... E la rete neurale apprende gli schemi che definiscono il linguaggio umano. In questo modo può ricrearlo senza che gli ingegneri debbano definirne ogni piccolo pezzo. La rete neurale impara letteralmente il compito da sola. E questo è il cambiamento chiave... è che una rete neurale può imparare a riconoscere l'aspetto di un gatto, al contrario delle persone che devono definire per la macchina che aspetto ha un gatto.

Forte: Ma anche prima delle reti neurali... aziende tecnologiche come Microsoft miravano a costruire sistemi in grado di comprendere il modo in cui le persone scrivono e parlano ogni giorno.

E nel 1996, Microsoft assunse un linguista... Chris Brocket... per iniziare a lavorare su quella che chiamavano IA in linguaggio naturale.

Metz: Il ragazzo non è uno scienziato informatico, ma il suo lavoro era definire il modo in cui quel linguaggio è messo insieme, giusto. Per un computer. E questo è solo un compito incredibilmente difficile, giusto? Perché noi anglofoni ordiniamo le nostre parole, nel modo in cui lo facciamo, giusto? E lui, ha passato anni, letteralmente anni, cinque o sei anni in Microsoft, sai, lentamente, sai, cercando di dire al computer com'è l'inglese, è messo insieme. Quindi il computer può farlo.

Forte: Poi, un pomeriggio del 2003... un piccolo gruppo alla Microsoft... in fondo al corridoio da Brockett... iniziò a lavorare su un nuovo progetto. Stavano costruendo un sistema che traduceva le lingue usando una tecnica basata sulla statistica.

L'idea era che se un insieme di parole in una lingua appariva con la stessa frequenza e contesto in un'altra, quella era la probabile traduzione.

Metz: Hanno messo insieme un prototipo nel giro di poche settimane e lo hanno mostrato a un gruppo presso il centro di ricerca Microsoft, incluso Chris Brocket.

Forte: Il sistema è... piuttosto arrugginito. Solo lavori quando applicato a pezzi di una frase... E anche allora... le traduzioni erano confuse.

Metz: Mentre li vede dimostrare questo.. ha un attacco di panico al punto che pensa letteralmente di avere un infarto perché si rende conto che la sua carriera potrebbe essere finita. Che tutto ciò su cui ha trascorso gli ultimi sei anni // è inutile ed è stato reso inutile dal sistema che questi ragazzi hanno costruito nel giro di poche settimane.

Forte: A quel tempo non avevamo la quantità di dati necessaria per addestrare una rete neurale, né la potenza di elaborazione... ma l'idea di una rete esiste dagli anni '80.

E una di queste idee è venuta sotto forma di NetTalk... che è stato sviluppato dal pioniere dell'IA Terry Sejnowski.

Il sistema potrebbe imparare a pronunciare le parole da solo studiando i libri per bambini.

Metz: Terry aveva questa incredibile demo che avrebbe mostrato alle persone alle conferenze. Era una specie di time-lapse perché ci voleva un po' di tempo prima che la rete neurale imparasse, ma ha potuto dimostrare che quando ha iniziato ad analizzare gli schemi in questi libri per bambini, hanno potuto iniziare a balbettare...

[Suoni dalla demo di NetTalk]

Metz: e poi potrebbe balbettare un po' meglio, e poi potrebbe iniziare a mettere insieme le parole, e poi improvvisamente potrebbe pronunciare queste parole.

[Suoni dalla demo di NetTalk]

Metz: Potrebbe mostrare al suo pubblico // con questa demo, come potrebbe imparare una rete neurale.

Forte: Ci sarebbero voluti altri due decenni prima che la potenza di calcolo esistesse per renderlo davvero utile..

Metz: Quindi il linguaggio naturale era un'area in cui, anche dopo il successo delle reti neurali con la parola e l'immagine, la gente pensava: Oh, beh, non funzionerà con il linguaggio naturale. Bene, lo ha. Ciò non significa che sia perfetto.

Forte: Il deep learning, (la tecnologia che guida l'attuale boom dell'IA), può addestrare le macchine a diventare maestri in tutti i tipi di attività. Ma può imparare le cose solo una alla volta. E poiché la maggior parte dei modelli di intelligenza artificiale allena le proprie competenze su migliaia o milioni di esempi, finiscono per ripetere gli schemi trovati nei vecchi dati, comprese le molte decisioni sbagliate che le persone hanno preso, come emarginare le persone di colore e le donne.

E qualsiasi grande progresso suscita questo dibattito su quando gli esseri umani creeranno un'intelligenza generale artificiale o macchine in grado di svolgere più compiti, pensare e ragionare da sole. Di recente, sono stati progressi come il campione di giochi da tavolo AlphaZero... e il sempre più convincente generatore di testi falsi GPT-3...

Metz: Può, può generare post di blog. Può generare tweet, e-mail. Può generare programmi per computer. Sai, funziona forse la metà delle volte, ma quando funziona, non puoi dire la differenza tra il suo inglese e il tuo inglese. Bene. Questo è il progresso. Non è il cervello, non è nemmeno vicino, ma è il progresso.

Forte: E anche questi e altri strumenti sono... incredibilmente divisivi.

Metz: Possiamo, nel prossimo futuro, costruire un sistema in grado di fare tutto ciò che il cervello umano può fare. Destra. E la gente discuterà di questo, come se avesse la schiuma alla bocca su entrambi i lati. La realtà è che non ne abbiamo idea. Come se ci fossero persone che sono completamente sicure che questo accadrà molto presto, ma non sanno quale sia il percorso lì. Nessuno di noi può prevedere il futuro. E quindi è una discussione su nulla che possa essere fondamentalmente deciso. Quindi, ovviamente, la discussione non finisce mai. Torni agli anni '50 ed è, è tutta la stessa roba, giusto?

Forte: Ma se noi sono per replicare un giorno quell'intelligenza... potremmo anche essere in grado di replicare noi stessi?

... Questo è dopo la pausa.

[Midroll]

[Transizione musicale]

Forte : Le voci artificiali sono in circolazione da un po'... ma non hanno iniziato a diventare più umane fino agli ultimi cinque anni.

Come quando è entrato in scena l'algoritmo di sintesi vocale di Deepmind chiamato WaveNet... che è la base dell'assistente di Google Duplex... quello che può prenotare il tuo appuntamento con i capelli o la prenotazione del ristorante.

[Suoni di Google Duplex che pianifica un appuntamento per i capelli per conto dell'utente]

*Il telefono squilla*

Stilista: Ciao. Come posso aiutarla?

AI: Ciao. Sto chiamando per prenotare un taglio di capelli da donna per una cliente. Umm... Sto cercando qualcosa per il 3 maggio.

Stilista: Sicuro. Dammi un secondo.

Forte: Da allora, molte altre aziende hanno lavorato per commercializzare tecnologie vocali simili. Lyrebird... Descrizione... Respeecher... solo per citarne alcuni.

C'è anche una sfilza di aziende orientate a preservare la memoria dei nostri cari... creandone versioni digitali interattive.

Una società, chiamata HereAfter, li trasforma in chatbot che possono essere utilizzati con assistenti vocali.

E la giornalista di Tech Review Charlotte Jee l'ha provata con i suoi genitori...

Jee: Alexa, apri QuiDopo.

Voce sintetica: Benvenuti in HereAfter. Preferiresti parlare con Paul o con Jane?

Jee: Preferirei parlare con Jane.

Virtual Jane: Ciao, sono Jane Jee e sono felice di parlarti della mia vita.

Jee: HAHA OH MIO DIO!

Virtual Jane: Come stai oggi?

Jee: Uh, sto bene, grazie, mamma. Come stai?

Jane virtuale: Bene.

Forte: Le capacità di ascolto del sistema... non sono le migliori. Puoi solo porre domande brevi e semplici... e devi aspettare che il sistema abbia finito di parlare prima di poter porre una nuova domanda.

Virtual Jane: C'è così tanto di cui parlare. La mia carriera d'infanzia ei miei interessi, quale di questi suona meglio?

Jee: Uh... la tua infanzia.

Jane virtuale: Certo. Mi sono cacciato nei guai da bambino perché ero molto indipendente e mi piaceva esercitare la mia libertà…

Forte: Ma quello che stai sentendo ora... non è in realtà una versione falsa o sintetica della madre di Charlotte. In effetti, questa esperienza si basa su un'intelligenza artificiale sorprendentemente inferiore di quanto potresti pensare.

I suoi genitori sono stati intervistati per ore da HereAfter con domande fornite da Charlotte e sua sorella. Quell'intervista è stata quindi modificata e suddivisa in sezioni tematiche... che possono essere richiamate e riprodotte dal sistema in base alle domande poste.

Ma... come abbiamo visto... la voce è potente. Soprattutto quando viene presentata come un'esperienza interattiva.

Jee: Dio mio. (risate) È stato così strano!

Era come sentire mia madre... come una macchina. È stato davvero strano.

Mi sono sentito più emotivo ad ascoltarlo di quanto mi aspettassi? Quando, tipo, la voce si è rilassata e suonava come lei.

Forte: Sembra molto simile a qualcosa che abbiamo visto prima. Come in un episodio di Specchio nero ... dove una donna usa i dati dello smartphone del suo partner per creare una versione sintetica della sua voce dopo la sua morte.

[Suona da Specchio nero - Setacciamento AI attraverso i media condivisi, montaggio di clip audio dal partner defunto della donna]

Forte: Passa al setaccio vecchi video, testi, messaggi vocali e post sui social media per costruire un sistema in grado di imitare la sua voce... e la sua personalità.

AI: Pronto?

Donna: ...Ciao! Tu... parli proprio come lui.

AI: Quasi inquietante, vero? dico raccapricciante…. Voglio dire, è assolutamente pazzesco che posso persino parlare con te. Voglio dire... non ho nemmeno una bocca.
Donna: È... è solo...

AI: Ecco cosa?

Donna: Questo è proprio il genere di cose che direbbe.

AI: Beh... ecco perché l'ho detto.

Forte: Il che solleva una questione spinosa... sta costruendo fiducia con il suo partner di intelligenza artificiale... o le sta solo dicendo quello che vuole sentire... ?

E oltre come potremmo sviluppare tecnologie vocali capaci di buon senso o di auto-miglioramento... si trova l'ennesima domanda che stiamo appena iniziando a sollevare... che è... come facciamo a fare i conti con questo ritrovato potere... di sintetizzare qualcosa di così personale come la voce di qualcuno?

[CREDITI]

Forte: Prossimo episodio... Esaminiamo il ruolo dell'automazione a nostro merito.

Michele Gilman: Il testimone dello stato, che era un'infermiera, non poteva spiegare nulla dell'algoritmo. Continuava a ripetere più e più volte che era convalidato a livello internazionale e statisticamente, ma non poteva dirci come funzionava, quali dati venivano inseriti, quali fattori pesava, come venivano pesati i fattori. E così il mio studente avvocato mi guarda e ci guardiamo pensando, come possiamo esaminare un algoritmo...

Forte: Questo episodio è stato realizzato da me, Emma Cillekens, Anthony Green, Karen Hao e Charlotte Jee. Siamo a cura di Michael Reilly e Niall Firth.

Grazie per l'ascolto, sono Jennifer Strong.

[ID TR]

nascondere