Il problema della lingua dell'IA

Le macchine che capiscono veramente il linguaggio sarebbero incredibilmente utili. Ma non sappiamo come costruirli. Di

• Will Cavaliere pagina di archivio

9 agosto 2016

Circa a metà di una partita particolarmente tesa di Go svoltasi a Seoul, in Corea del Sud, tra Lee Sedol, uno dei migliori giocatori di tutti i tempi, e AlphaGo, un'intelligenza artificiale creata da Google, il programma di intelligenza artificiale ha fatto una mossa misteriosa che ha dimostrato una snervante superare il suo avversario umano.

Alla mossa 37, AlphaGo ha scelto di mettere una pietra nera in quella che, all'inizio, sembrava una posizione ridicola. Sembrava sicuramente rinunciare a un territorio sostanziale, un errore da principiante in un gioco in cui si tratta di controllare lo spazio sul tabellone. Due commentatori televisivi si sono chiesti se avessero letto male la mossa o se la macchina avesse funzionato male in qualche modo. In effetti, contrariamente a qualsiasi saggezza convenzionale, la mossa 37 consentirebbe ad AlphaGo di costruire una base formidabile al centro del tabellone. Il programma Google aveva effettivamente vinto la partita usando una mossa che nessun essere umano avrebbe inventato.

Circa l'art

• Uno dei motivi per cui comprendere il linguaggio è così difficile per i computer e i sistemi di intelligenza artificiale è che le parole spesso hanno significati basati sul contesto e persino sull'aspetto delle lettere e delle parole. Nelle immagini che accompagnano questa storia, diversi artisti dimostrano l'uso di una varietà di indizi visivi per trasmettere significati ben oltre le lettere reali.

  
  
  

Questa storia faceva parte del nostro numero di settembre 2016

• Vedi il resto del problema
• sottoscrivi

La vittoria di AlphaGo è particolarmente impressionante perché l'antico gioco di Go è spesso considerato una prova di intelligenza intuitiva. Le regole sono abbastanza semplici. Due giocatori, a turno, mettono pietre nere o bianche all'intersezione di linee orizzontali e verticali su un tabellone, cercando di circondare i pezzi dell'avversario e rimuoverli dal gioco. Giocare bene, tuttavia, è incredibilmente difficile.

Mentre i giocatori di scacchi sono in grado di guardare avanti alcune mosse, in Go questo non è possibile senza che il gioco si svolga in una complessità intrattabile e non ci sono mosse classiche. Inoltre, non esiste un modo semplice per misurare il vantaggio e può essere difficile anche per un giocatore esperto spiegare esattamente perché ha fatto una mossa particolare. Ciò rende impossibile scrivere un semplice insieme di regole che un programma per computer di livello esperto deve seguire.

Ad AlphaGo non è stato affatto detto come si gioca a Go. Invece, il programma ha analizzato centinaia di migliaia di partite e giocato milioni di partite contro se stesso. Tra le diverse tecniche di intelligenza artificiale, ha utilizzato un metodo sempre più popolare noto come deep learning, che prevede calcoli matematici ispirati, in modo molto generico, al modo in cui strati interconnessi di neuroni si attivano in un cervello mentre impara a dare un senso alle nuove informazioni. Il programma si è insegnato da solo attraverso ore di pratica, affinando gradualmente un senso intuitivo della strategia. Il fatto che sia stato poi in grado di battere uno dei migliori giocatori di Go al mondo rappresenta una vera pietra miliare nell'intelligenza artificiale e nell'IA.

Lawrence Weiner
Una palla di gomma lanciata in mare
1970/2014

Poche ore dopo la mossa 37, AlphaGo ha vinto la partita salendo di due partite a zero nella partita al meglio delle cinque. Successivamente Sedol si è presentato davanti a una folla di giornalisti e fotografi, scusandosi educatamente per aver deluso l'umanità. Sono abbastanza senza parole, ha detto, sbattendo le palpebre attraverso una tempesta di fotografie con il flash.

Il sorprendente successo di AlphaGo indica quanti progressi sono stati compiuti nell'intelligenza artificiale negli ultimi anni, dopo decenni di frustrazioni e battute d'arresto spesso descritte come un inverno AI. Il deep learning significa che le macchine possono imparare sempre più da sole come eseguire compiti complessi che solo un paio di anni fa si pensava richiedessero l'intelligenza unica degli umani. Le auto a guida autonoma sono già una possibilità prevedibile. Nel prossimo futuro, i sistemi basati sull'apprendimento profondo aiuteranno a diagnosticare malattie e consigliare trattamenti.

Il deep learning significa che le macchine possono imparare sempre più da sole come eseguire compiti complessi che solo un paio di anni fa si pensava richiedessero l'intelligenza unica degli umani.

Eppure, nonostante questi progressi impressionanti, una capacità fondamentale rimane sfuggente: il linguaggio. Sistemi come Siri e Watson di IBM possono seguire semplici comandi vocali o digitati e rispondere a domande di base, ma non possono sostenere una conversazione e non hanno una reale comprensione delle parole che usano. Se l'IA vuole essere veramente trasformativa, questo deve cambiare.

Anche se AlphaGo non può parlare, contiene una tecnologia che potrebbe portare a una maggiore comprensione della lingua. In aziende come Google, Facebook e Amazon, nonché nei principali laboratori accademici di intelligenza artificiale, i ricercatori stanno cercando di risolvere finalmente questo problema apparentemente intrattabile, utilizzando alcuni degli stessi strumenti di intelligenza artificiale, incluso il deep learning, responsabili del successo di AlphaGo e il risveglio dell'IA di oggi. Il loro successo determinerà la scala e il carattere di ciò che si sta trasformando in una rivoluzione dell'intelligenza artificiale. Aiuterà a determinare se abbiamo macchine con cui possiamo comunicare facilmente, macchine che diventano una parte intima della nostra vita quotidiana, o se i sistemi di intelligenza artificiale rimangono misteriose scatole nere, anche se diventano più autonomi. Non c'è modo di avere un sistema di intelligenza artificiale simile a quello umano che non ha il linguaggio al centro, afferma Josh Tenenbaum, professore di scienze cognitive e computazione al MIT. È una delle cose più ovvie che distingue l'intelligenza umana.

Forse le stesse tecniche che hanno permesso ad AlphaGo di conquistare Go consentiranno finalmente ai computer di padroneggiare il linguaggio, o forse sarà necessario anche qualcos'altro. Ma senza la comprensione della lingua, l'impatto dell'IA sarà diverso. Naturalmente, possiamo ancora avere un software immensamente potente e intelligente come AlphaGo. Ma il nostro rapporto con l'IA potrebbe essere molto meno collaborativo e forse molto meno amichevole. Una domanda assillante fin dall'inizio era 'E se avessi cose intelligenti nel senso di essere efficaci, ma non come noi nel senso di non entrare in empatia con ciò che siamo?', dice Terry Winograd, professore emerito alla Stanford University. Puoi immaginare macchine che non sono basate sull'intelligenza umana, che sono basate su questa roba di big data e che gestiscono il mondo.

Sussurratori di macchine

Un paio di mesi dopo il trionfo di AlphaGo, mi sono recato nella Silicon Valley, il cuore dell'ultimo boom dell'intelligenza artificiale. Volevo visitare i ricercatori che stanno facendo notevoli progressi nelle applicazioni pratiche dell'IA e che ora stanno cercando di fornire alle macchine una maggiore comprensione del linguaggio.

Ho iniziato con Winograd, che vive in un sobborgo annidato all'estremità meridionale del campus di Stanford a Palo Alto, non lontano dalle sedi di Google, Facebook e Apple. Con i capelli bianchi ricci e i baffi folti, sembra la parte di un venerabile accademico e ha un entusiasmo contagioso.

Nel 1968, Winograd fece uno dei primi sforzi per insegnare a una macchina a parlare in modo intelligente. Un prodigio della matematica affascinato dal linguaggio, era venuto al nuovo laboratorio di intelligenza artificiale del MIT per studiare per il suo dottorato di ricerca, e ha deciso di costruire un programma che avrebbe dialogato con le persone, tramite un messaggio di testo, usando il linguaggio di tutti i giorni. All'epoca non sembrava un'ambizione stravagante. Si stavano facendo incredibili passi avanti nell'intelligenza artificiale e altri al MIT stavano costruendo complessi sistemi di visione artificiale e bracci robotici futuristici. C'era un senso di possibilità sconosciute e illimitate, ricorda.

Giuseppe Kosuth
Quattro colori Quattro parole
1966

Tuttavia, non tutti erano convinti che la lingua potesse essere padroneggiata così facilmente. Alcuni critici, tra cui l'influente linguista e professore del MIT Noam Chomsky, hanno ritenuto che i ricercatori di intelligenza artificiale avrebbero faticato a far capire alle macchine, dato che i meccanismi del linguaggio negli esseri umani erano così poco compresi. Winograd ricorda di aver partecipato a una festa in cui uno studente di Chomsky se ne andò quando lo sentì dire che lavorava nel laboratorio di intelligenza artificiale.

Ma c'era anche motivo di essere ottimisti. Joseph Weizenbaum, un professore di origine tedesca al MIT, aveva creato il primo programma di chatbot un paio di anni prima. Chiamato ELIZA, è stato programmato per agire come uno psicoterapeuta dei cartoni animati, ripetendo parti chiave di una dichiarazione o ponendo domande per incoraggiare ulteriori conversazioni. Se dicessi al programma che eri arrabbiato con tua madre, per esempio, direbbe: Cos'altro ti viene in mente quando pensi a tua madre? Un trucco economico, ma ha funzionato sorprendentemente bene. Weizenbaum è rimasto scioccato quando alcuni soggetti hanno iniziato a confessare i loro segreti più oscuri alla sua macchina.

C'è un problema evidente nell'applicare il deep learning alla lingua. È che le parole sono simboli arbitrari e come tali sono fondamentalmente diversi dalle immagini.

Winograd voleva creare qualcosa che sembrava davvero capire la lingua. Cominciò riducendo la portata del problema. Ha creato un semplice ambiente virtuale, un mondo a blocchi, costituito da una manciata di oggetti immaginari seduti su un tavolo immaginario. Poi ha creato un programma, che chiamò SHRDLU , che era in grado di analizzare tutti i nomi, i verbi e le semplici regole grammaticali necessarie per fare riferimento a questo mondo virtuale ridotto al minimo. SHRDLU (una parola senza senso formata dalla seconda colonna di chiavi su una macchina Linotype) potrebbe descrivere gli oggetti, rispondere a domande sulle loro relazioni e apportare modifiche al mondo dei blocchi in risposta a comandi digitati. Aveva anche una sorta di memoria, per cui se gli dicessi di spostare il cono rosso e poi ti riferissi al cono, presumerebbe che tu intenda quello rosso piuttosto che uno di un altro colore.

SHRDLU è stato addotto come un segno che il campo dell'IA stava facendo profondi progressi. Ma era solo un'illusione. Quando Winograd ha cercato di ampliare il mondo dei blocchi del programma, le regole richieste per tenere conto delle parole necessarie e della complessità grammaticale sono diventate ingestibili. Solo pochi anni dopo, si era arreso e alla fine ha abbandonato del tutto l'IA per concentrarsi su altre aree di ricerca. I limiti erano molto più vicini di quanto sembravano in quel momento, dice.

Winograd ha concluso che sarebbe impossibile fornire alle macchine una vera comprensione del linguaggio utilizzando gli strumenti disponibili in quel momento. Il problema, come sostenne Hubert Dreyfus, professore di filosofia alla UC Berkeley, in un libro del 1972 intitolato Cosa non possono fare i computer , è che molte cose che gli esseri umani fanno richiedono un tipo di intelligenza istintiva che non può essere catturata con regole rigide. Questo è esattamente il motivo per cui, prima della partita tra Sedol e AlphaGo, molti esperti dubitano che le macchine avrebbero dominato Go.

Giovanni Baldessari
Pura bellezza
1966–68

Ma anche mentre Dreyfus stava facendo questa argomentazione, alcuni ricercatori stavano, in effetti, sviluppando un approccio che alla fine avrebbe fornito alle macchine questo tipo di intelligenza. Prendendo ampia ispirazione dalla neuroscienza, stavano sperimentando reti neurali artificiali: strati di neuroni simulati matematicamente che potevano essere addestrati a attivarsi in risposta a determinati input. Per cominciare, questi sistemi erano dolorosamente lenti e l'approccio è stato respinto in quanto poco pratico per la logica e il ragionamento. Fondamentalmente, tuttavia, le reti neurali potrebbero imparare a fare cose che non potevano essere codificate a mano, e in seguito ciò si sarebbe rivelato utile per compiti semplici come riconoscere i caratteri scritti a mano, un'abilità che è stata commercializzata negli anni '90 per leggere i numeri sugli assegni. I sostenitori sostenevano che le reti neurali alla fine avrebbero permesso alle macchine di fare molto, molto di più. Un giorno, hanno affermato, la tecnologia avrebbe persino compreso il linguaggio.

Negli ultimi anni, le reti neurali sono diventate molto più complesse e potenti. L'approccio ha beneficiato di importanti perfezionamenti matematici e, cosa ancora più importante, di hardware per computer più veloci e una gran quantità di dati. Entro il 2009, i ricercatori dell'Università di Toronto avevano dimostrato che una rete di apprendimento profondo a più livelli è in grado di riconoscere il parlato con una precisione record. E poi, nel 2012, lo stesso gruppo ha vinto un concorso di visione artificiale utilizzando un algoritmo di deep learning sorprendentemente accurato.

Una rete neurale di deep learning riconosce gli oggetti nelle immagini utilizzando un semplice trucco. Uno strato di neuroni simulati riceve input sotto forma di un'immagine e alcuni di questi neuroni si attivano in risposta all'intensità dei singoli pixel. Il segnale risultante passa attraverso molti più strati di neuroni interconnessi prima di raggiungere uno strato di uscita, che segnala che l'oggetto è stato visto. Una tecnica matematica nota come backpropagation viene utilizzata per regolare la sensibilità dei neuroni della rete per produrre la risposta corretta. È questo passaggio che dà al sistema la capacità di apprendere. Diversi livelli all'interno della rete risponderanno a caratteristiche come bordi, colori o texture. Tali sistemi ora possono riconoscere oggetti, animali o volti con una precisione che rivaleggia con quella degli umani.

C'è un problema evidente nell'applicare il deep learning alla lingua. È che le parole sono simboli arbitrari e come tali sono fondamentalmente diversi dalle immagini. Ad esempio, due parole possono avere un significato simile mentre contengono lettere completamente diverse; e la stessa parola può significare varie cose in contesti diversi.

Negli anni '80, i ricercatori avevano avuto un'idea intelligente su come trasformare il linguaggio nel tipo di problema che una rete neurale può affrontare. Hanno dimostrato che le parole possono essere rappresentate come vettori matematici, consentendo di calcolare le somiglianze tra parole correlate. Ad esempio, la barca e l'acqua sono vicine nello spazio vettoriale anche se hanno un aspetto molto diverso. I ricercatori dell'Università di Montreal, guidati da Yoshua Bengio, e un altro gruppo di Google, hanno utilizzato questa intuizione per costruire reti in cui ogni parola in una frase può essere utilizzata per costruire una rappresentazione più complessa, qualcosa che Geoffrey Hinton, professore presso l'Università di Toronto e un importante ricercatore di deep learning che lavora part-time presso Google, chiama un vettore di pensiero.

Utilizzando due di queste reti, è possibile tradurre tra due lingue con eccellente precisione. E combinando questo tipo di rete con quella progettata per riconoscere gli oggetti nelle immagini, è possibile evocare didascalie sorprendentemente plausibili.

Lo scopo della vita

Seduto in una sala conferenze nel cuore della vivace sede centrale di Google a Mountain View, in California, uno dei ricercatori dell'azienda che ha contribuito a sviluppare questo approccio, Quoc Le, sta valutando l'idea di una macchina in grado di sostenere una conversazione adeguata. Le ambizioni di Le vanno dritte al cuore del motivo per cui le macchine parlanti potrebbero essere utili. Voglio un modo per simulare i pensieri in una macchina, dice. E se vuoi simulare i pensieri, dovresti essere in grado di chiedere a una macchina a cosa sta pensando.

Tauba Auerbach
La risposta/non c'era II
2008

Google sta già insegnando ai suoi computer le basi del linguaggio. A maggio la società ha annunciato un sistema, chiamato Parsey McParseface, in grado di esaminare la sintassi, riconoscere nomi, verbi e altri elementi di testo. Non è difficile vedere quanto possa essere preziosa una migliore comprensione della lingua per l'azienda. L'algoritmo di ricerca di Google utilizzato per monitorare semplicemente le parole chiave e i collegamenti tra le pagine Web. Ora, utilizzando un sistema chiamato RankBrain, legge il testo sulle pagine nel tentativo di raccogliere un significato e fornire risultati migliori. Le vuole andare molto oltre. Adattando il sistema che si è rivelato utile nella traduzione e nella didascalia delle immagini, lui e i suoi colleghi hanno creato Smart Reply, che legge il contenuto dei messaggi di Gmail e suggerisce una manciata di possibili risposte. Ha anche creato un programma che ha imparato dai registri della chat del supporto IT di Google come rispondere a semplici domande tecniche.

Più recentemente, Le ha costruito un programma in grado di produrre risposte accettabili a domande aperte; è stato addestrato ricevendo dialoghi da 18.900 film. Alcune delle sue risposte sembrano stranamente azzeccate. Ad esempio, Le ha chiesto, Qual è lo scopo della vita? e il programma ha risposto: Per servire il bene superiore. È stata un'ottima risposta, ricorda con un grande sorriso. Probabilmente meglio del mio sarebbe stato.

C'è solo un problema, come diventa subito evidente quando guardi più risposte del sistema. Quando Le ha chiesto, quante gambe ha un gatto? il suo sistema ha risposto: Quattro, credo. Poi ha provato, quante gambe ha un millepiedi? che ha prodotto una risposta curiosa: Otto. Fondamentalmente, il programma di Le non ha idea di cosa stia parlando. Capisce che alcune combinazioni di simboli vanno insieme, ma non apprezza il mondo reale. Non sa che aspetto abbia effettivamente un millepiedi o come si muova. È ancora solo un'illusione di intelligenza, senza il tipo di buon senso che gli umani danno per scontato. I sistemi di deep learning possono spesso essere traballanti in questo modo. Quello creato da Google per generare didascalie per le immagini farebbe errori bizzarri, come descrivere un segnale stradale come un frigorifero pieno di cibo.

Le chiese, Qual è lo scopo della vita? e il programma ha risposto: Per servire il bene superiore.

Per una curiosa coincidenza, il vicino di casa di Terry Winograd a Palo Alto è qualcuno che potrebbe essere in grado di aiutare i computer a ottenere un apprezzamento più profondo del significato effettivo delle parole. Fei-Fei Li, direttrice dello Stanford Artificial Intelligence Lab, era in congedo di maternità quando l'ho visitata, ma mi ha invitato a casa sua e mi ha presentato con orgoglio il suo bellissimo bambino di tre mesi, Phoenix. Guarda come ti guarda più di me, disse Li mentre Phoenix mi fissava. Questo perché sei nuovo; è il riconoscimento facciale precoce.

Li ha trascorso gran parte della sua carriera facendo ricerche sull'apprendimento automatico e sulla visione artificiale. Diversi anni fa, ha condotto uno sforzo per costruire un database di milioni di immagini di oggetti, ciascuno contrassegnato da una parola chiave appropriata. Ma Li crede che le macchine necessitino di una comprensione ancora più sofisticata di ciò che sta accadendo nel mondo, e quest'anno il suo team ha rilasciato un altro database di immagini, annotato con dettagli molto più ricchi. Ogni immagine è stata contrassegnata da un essere umano con dozzine di descrittori: un cane su uno skateboard, il cane ha una pelliccia soffice e ondulata, la strada è screpolata e così via. La speranza è che i sistemi di apprendimento automatico imparino a capire di più sul mondo fisico. La parte linguistica del cervello riceve molte informazioni, anche dal sistema visivo, dice Li. Una parte importante dell'IA integrerà questi sistemi.

Questo è più vicino al modo in cui i bambini imparano, associando parole con oggetti, relazioni e azioni. Ma l'analogia con l'apprendimento umano va solo fino a questo punto. I bambini piccoli non hanno bisogno di vedere un cane da skateboard per poterne immaginare o descrivere verbalmente uno. In effetti, Li ritiene che gli odierni strumenti di apprendimento automatico e intelligenza artificiale non saranno sufficienti per realizzare una vera IA. Non sarà solo un deep learning ricco di dati, dice. Li crede che i ricercatori di IA dovranno pensare a cose come l'intelligenza emotiva e sociale. Noi [umani] siamo terribili nell'elaborare dati enormi, dice, ma siamo bravi nell'astrazione e nella creatività.

Nessuno sa come dare alle macchine quelle capacità umane, ammesso che sia possibile. C'è qualcosa di unicamente umano in tali qualità che le pone al di fuori della portata dell'IA?

Scienziati cognitivi come Tenenbaum del MIT teorizzano che nelle reti neurali di oggi mancano componenti importanti della mente, non importa quanto grandi possano essere queste reti. Gli esseri umani hanno la capacità di apprendere molto rapidamente da una quantità relativamente piccola di dati e hanno una capacità incorporata di modellare il mondo in 3-D in modo molto efficiente. Il linguaggio si basa su altre abilità che sono probabilmente più basilari, che sono presenti nei bambini piccoli prima che abbiano il linguaggio: percepire il mondo visivamente, agire sui nostri sistemi motori, comprendere la fisica del mondo o gli obiettivi di altri agenti, dice Tenenbaum.

Se ha ragione, sarà difficile ricreare la comprensione del linguaggio nelle macchine e nei sistemi di intelligenza artificiale senza cercare di imitare l'apprendimento umano, la costruzione di modelli mentali e la psicologia.

Spiegati

L'ufficio di Noah Goodman nel dipartimento di psicologia di Stanford è praticamente spoglio, fatta eccezione per un paio di dipinti astratti appoggiati a una parete e alcune piante troppo cresciute. Quando sono arrivato, Goodman stava scrivendo su un laptop, i piedi nudi su un tavolo. Abbiamo fatto una passeggiata attraverso il campus assolato dal sole per un caffè freddo. La lingua è speciale in quanto si basa su molte conoscenze sulla lingua, ma si basa anche su un'enorme quantità di conoscenza del buon senso sul mondo, e quei due vanno insieme in modi molto sottili, ha spiegato.

Goodman ei suoi studenti hanno sviluppato un linguaggio di programmazione, chiamato Webppl, che può essere usato per dare ai computer una sorta di buon senso probabilistico, che si rivela piuttosto utile in una conversazione. Una versione sperimentale può capire i giochi di parole e un'altra può far fronte all'iperbole. Se viene detto che alcune persone hanno dovuto aspettare per sempre un tavolo in un ristorante, deciderà automaticamente che il significato letterale è improbabile e molto probabilmente sono rimasti in giro per molto tempo e sono stati infastiditi. Il sistema è tutt'altro che veramente intelligente, ma mostra come i nuovi approcci potrebbero aiutare a creare programmi di intelligenza artificiale che parlano in un modo più realistico.

Allo stesso tempo, l'esempio di Goodman suggerisce anche quanto sarà difficile insegnare il linguaggio alle macchine. Comprendere il significato contestuale di per sempre è il genere di cose che i sistemi di intelligenza artificiale dovranno imparare, ma è un risultato piuttosto semplice e rudimentale.

Voglio un modo per simulare i pensieri in una macchina, dice. E se vuoi simulare i pensieri, dovresti essere in grado di chiedere a una macchina a cosa sta pensando.

Tuttavia, nonostante la difficoltà e la complessità del problema, il sorprendente successo che i ricercatori hanno ottenuto utilizzando tecniche di apprendimento profondo per riconoscere le immagini ed eccellere in giochi come Go, almeno fornisce la speranza che potremmo essere sull'orlo di scoperte anche nel linguaggio . Se è così, quei progressi arriveranno appena in tempo. Se l'intelligenza artificiale deve fungere da strumento onnipresente che le persone utilizzano per aumentare la propria intelligenza e fiducia per assumere compiti in una collaborazione senza interruzioni, il linguaggio sarà la chiave. Ciò sarà particolarmente vero poiché i sistemi di intelligenza artificiale utilizzano sempre più il deep learning e altre tecniche per programmare essenzialmente se stessi.

In generale, i sistemi di deep learning sono maestosi, afferma John Leonard, professore al MIT che ricerca la guida automatizzata. Ma d'altra parte, la loro performance è davvero difficile da capire.

Toyota, che sta studiando una serie di tecnologie per la guida autonoma, ha avviato un progetto di ricerca al MIT guidato da Gerald Sussman, esperto di intelligenza artificiale e linguaggio di programmazione, per sviluppare sistemi di guida automatizzata in grado di spiegare perché hanno intrapreso un'azione particolare. E un modo ovvio per un'auto a guida autonoma sarebbe parlare. Costruire sistemi che sanno quello che sanno è un problema davvero difficile, dice Leonard, che sta guidando un altro progetto sostenuto da Toyota al MIT. Ma sì, idealmente darebbero non solo una risposta ma una spiegazione.

Poche settimane dopo essere tornato dalla California, ho visto David Silver, il ricercatore di Google DeepMind che ha progettato AlphaGo, parlare della partita contro Sedol in una conferenza accademica a New York. Silver ha spiegato che quando il programma ha inventato la sua mossa killer durante la seconda partita, la sua squadra è rimasta sorpresa quanto tutti gli altri. Tutto ciò che potevano vedere erano le probabilità di vincita previste da AlphaGo, che cambiavano poco anche dopo la mossa 37. Solo alcuni giorni dopo, dopo un'attenta analisi, il team di Google fece una scoperta: digerendo le partite precedenti, il programma aveva calcolato le possibilità di un giocatore umano che fa la stessa mossa su uno su 10.000. E i suoi giochi di pratica avevano anche dimostrato che il gioco offriva un vantaggio posizionale insolitamente forte.

Quindi, in un certo senso, la macchina sapeva che Sedol sarebbe stato completamente preso alla sprovvista.

Silver ha affermato che Google sta valutando diverse opzioni per commercializzare la tecnologia, inclusa una sorta di assistente intelligente e uno strumento per l'assistenza sanitaria. In seguito, gli ho chiesto dell'importanza di poter comunicare con l'IA dietro tali sistemi. Questa è una domanda interessante, disse dopo una pausa. Per alcune applicazioni può essere importante. Come nell'assistenza sanitaria, può essere importante sapere perché viene presa una decisione.

In effetti, poiché i sistemi di intelligenza artificiale diventano sempre più sofisticati e complessi, è difficile immaginare come collaboreremo con loro senza il linguaggio, senza poter chiedere loro, perché? Inoltre, la capacità di comunicare senza sforzo con i computer li renderebbe infinitamente più utili e sembrerebbe a dir poco magico. Dopotutto, il linguaggio è il nostro modo più potente per dare un senso al mondo e interagire con esso. Era ora che le nostre macchine
raggiunto.

Will Knight è redattore senior per l'IA e la robotica presso Revisione della tecnologia del MIT . Il suo lungometraggio The People's Robots è apparso nel numero di maggio/giugno.

nascondere