L'uomo che ha aiutato a inventare gli assistenti virtuali pensa che siano condannati senza un nuovo approccio di intelligenza artificiale

La signora Tech

Siri, Alexa, Google Home: la tecnologia che analizza il linguaggio si fa sempre più strada nella vita di tutti i giorni.

Boris Katz , uno dei principali ricercatori del MIT, non è così colpito. Negli ultimi 40 anni, Katz ha dato un contributo fondamentale alle capacità linguistiche delle macchine. Negli anni '80 si è sviluppato INIZIO , un sistema in grado di rispondere a query formulate in modo naturale. Le idee utilizzate in START hanno aiutato Watson di IBM a vincere Pericolo! e ha gettato le basi per i servitori artificiali chiacchieroni di oggi.

Ma Katz ora teme che il campo soffra di una dipendenza da idee vecchie di decenni e che queste idee non ci forniranno macchine con una vera intelligenza. L'ho incontrato per discutere degli attuali limiti degli assistenti di intelligenza artificiale e per ascoltare i suoi pensieri su dove deve andare la ricerca se vogliono diventare più intelligenti.

Come ti sei interessato a fare in modo che i computer usino il linguaggio?

Ho incontrato per la prima volta i computer negli anni '60 da studente universitario all'Università di Mosca. La macchina particolare che ho usato era un mainframe chiamato BESM-4. Si potrebbe usare solo il codice ottale per comunicare con esso. Il mio primo progetto per computer consisteva nell'insegnare a un computer a leggere, comprendere e risolvere problemi di matematica.

Poi ho sviluppato un programma per computer per scrivere poesie. Ricordo ancora che stavo nella sala macchine in attesa di vedere la prossima poesia generata dalla macchina. Rimasi sbalordito dalla bellezza delle poesie; sembravano essere prodotti da un'entità intelligente. E ho capito subito che volevo lavorare per il resto della mia vita sulla creazione di macchine intelligenti e trovare modi per comunicare con esse.

Cosa pensi di Siri, Alexa e altri assistenti personali?

È divertente parlarne, perché da un lato siamo molto orgogliosi di questo incredibile progresso: tutti hanno in tasca qualcosa che abbiamo contribuito a creare qui molti, molti anni fa, il che è meraviglioso.

CON

Ma d'altra parte, questi programmi sono così incredibilmente stupidi. Quindi c'è la sensazione di essere orgogliosi e di essere quasi imbarazzati. Lanci qualcosa che le persone ritengono intelligente, ma non è nemmeno vicino.

Ci sono stati progressi significativi nell'IA grazie all'apprendimento automatico. Non è questo rendere le macchine migliori nel linguaggio?

Da un lato c'è questo progresso drammatico, e poi alcuni di questi progressi sono gonfiati. Se guardi ai progressi dell'apprendimento automatico, tutte le idee sono venute da 20 a 25 anni fa. È solo che alla fine gli ingegneri hanno fatto un ottimo lavoro nel trasformare queste idee in realtà. Questa tecnologia, per quanto grande sia, non risolverà il problema della vera comprensione, della vera intelligenza.

Sembra che stiamo facendo progressi nell'IA, anche se... (vedi 10 tecnologie rivoluzionarie: assistenti personali che parlano senza problemi) ?

Ad un livello molto alto, le tecniche moderne, tecniche statistiche come l'apprendimento automatico e il deep learning, sono molto brave a trovare regolarità. E poiché gli esseri umani di solito producono le stesse frasi per la maggior parte del tempo, è molto facile trovarle nella lingua.

Guarda il testo predittivo. La macchina sa meglio di te cosa stai per dire. Potresti chiamarlo intelligente, ma conta solo parole e numeri. Poiché continuiamo a dire la stessa cosa, è facile costruire sistemi che catturino le regolarità e si comportino come se fossero intelligenti. Questa è la natura fittizia di gran parte del progresso attuale.

Che dire del pericoloso strumento di generazione del linguaggio annunciato di recente da OpenAI ?

Questi esempi sono davvero molto impressionanti, ma non sono sicuro di cosa ci insegnino. Il modello linguistico OpenAI è stato addestrato su 8 milioni di pagine Web per prevedere la parola successiva, date tutte le parole precedenti all'interno di un testo (che era sullo stesso argomento di quello su cui è stato addestrato il modello). Questa enorme mole di formazione ha sicuramente assicurato la coerenza locale (sintattica e persino semantica) del testo.

Perché pensi che l'IA stia andando nella direzione sbagliata nel linguaggio?

Nell'elaborazione del linguaggio, come in altri campi, sono stati compiuti progressi addestrando modelli su enormi quantità di dati, molti milioni di frasi. Ma il cervello umano non sarebbe in grado di imparare la lingua usando questo paradigma. Non lasciamo i nostri bambini con un'enciclopedia nella culla, aspettandoci che padroneggiano la lingua.

Quando vediamo qualcosa, lo descriviamo con un linguaggio; quando sentiamo qualcuno parlare di qualcosa, immaginiamo che aspetto hanno gli oggetti e gli eventi descritti nel mondo. Gli esseri umani vivono in un ambiente fisico, pieno di input sensoriali visivi, tattili e linguistici e la natura ridondante e complementare di questi input consente ai bambini umani di dare un senso al mondo e di imparare la lingua allo stesso tempo. Forse studiando queste modalità in isolamento, abbiamo reso il problema più difficile piuttosto che più facile?

Perché il buon senso è importante?

Supponiamo che il tuo robot ti stia aiutando a fare le valigie e digli: questo libro non entrerebbe nella scatola rossa perché esso è anche piccolo. Chiaramente, vuoi che il tuo robot capisca che il rete scatola è troppo piccolo, in modo da poter continuare ad avere una conversazione significativa. Tuttavia, se dici al robot: questo libro non rientrerebbe nella casella rossa perché esso è anche grande, vuoi che il tuo robot capisca che il libro è troppo grande.

Sapere a quale entità in una conversazione si riferisce un pronome è un compito molto comune che gli esseri umani svolgono ogni giorno, eppure, come puoi vedere da questi e altri esempi, spesso si basa su una profonda comprensione del mondo, che attualmente è fuori portata delle nostre macchine: comprensione del buon senso e della fisica intuitiva, comprensione delle credenze e delle intenzioni degli altri, capacità di visualizzare e ragionare su causa ed effetto e molto altro.

Stai cercando di insegnare alle macchine il linguaggio usando mondi fisici simulati. Perché?

Devo ancora vedere un bambino i cui genitori mettono un'enciclopedia nella culla e dicono: vai a imparare. E questo è ciò che fanno i nostri computer oggi. Non credo che questi sistemi impareranno nel modo in cui vorremmo che capissero il mondo nel modo in cui vorremmo.

Quello che succede con i bambini è che ottengono immediatamente un'esperienza tattile del mondo. Quindi i bambini iniziano a vedere il mondo e ad assorbire gli eventi e le proprietà degli oggetti. E poi il bambino alla fine sente l'input linguistico. Ed è questo input complementare che fa accadere la magia della comprensione.

Qual è un approccio migliore?

Un modo per andare avanti è acquisire una maggiore comprensione dell'intelligenza umana e quindi utilizzare tale comprensione per creare macchine intelligenti. La ricerca sull'intelligenza artificiale deve basarsi su idee provenienti dalla psicologia dello sviluppo, dalle scienze cognitive e dalle neuroscienze e i modelli di intelligenza artificiale dovrebbero riflettere ciò che è già noto su come gli esseri umani imparano e comprendono il mondo.

Il vero progresso arriverà solo quando i ricercatori usciranno dai nostri uffici e inizieranno a parlare con persone in altri campi. Insieme ci avvicineremo alla comprensione dell'intelligenza e scopriremo come replicarla in macchine intelligenti in grado di parlare, vedere e operare nel nostro mondo fisico.

La sfida di creare macchine veramente intelligenti è molto difficile, ma è anche una delle sfide più importanti che abbiamo.

nascondere