Non possiamo fidarci dei sistemi di intelligenza artificiale basati solo sul deep learning

Riavvio dell'IA di Gary Marcus ed Ernest Davis per gentile concessione di Penguin Random House

Gary Marcus non è impressionato dal clamore intorno al deep learning. Sebbene il professore della New York University ritenga che la tecnica abbia svolto un ruolo importante nel progresso dell'IA, pensa anche che l'attuale enfasi eccessiva del campo su di essa potrebbe portare alla sua scomparsa.

Marcus, neuroscienziato di formazione che ha trascorso la sua carriera in prima linea nella ricerca sull'IA, cita preoccupazioni sia tecniche che etiche. Da un punto di vista tecnico, il deep learning può essere efficace nell'imitare i compiti percettivi del cervello umano, come il riconoscimento delle immagini o del parlato. Ma non è all'altezza di altri compiti, come la comprensione delle conversazioni o delle relazioni causali. Per creare macchine più capaci e ampiamente intelligenti, spesso denominate colloquialmente intelligenza artificiale generale, il deep learning deve essere combinato con altri metodi.

Quando un sistema di intelligenza artificiale non comprende veramente i suoi compiti o il mondo che lo circonda, ciò potrebbe anche portare a conseguenze pericolose. Anche i più piccoli cambiamenti imprevisti nell'ambiente di un sistema potrebbero farlo andare storto. Ci sono già stati innumerevoli esempi di questo: rilevatori di incitamento all'odio facili da ingannare, sistemi di domande di lavoro che perpetuano la discriminazione e auto a guida autonoma che si sono schiantate, a volte uccidendo il conducente o un pedone. La ricerca dell'intelligenza artificiale generale è più di un interessante problema di ricerca. Ha implicazioni molto reali.

Nel loro nuovo libro Riavvio dell'IA , Marcus e il suo collega Ernest Davis sostengono un nuovo percorso da seguire. Credono che non siamo affatto vicini al raggiungimento di una tale intelligenza generale, ma sono anche fiduciosi che alla fine potremo arrivarci.

Ho parlato con Marcus dei punti deboli del deep learning, delle lezioni che il campo può prendere in prestito dalla mente umana e del perché è ottimista.

Quanto segue è stato modificato per lunghezza e chiarezza.

Perché vogliamo anche l'intelligenza generale? L'IA stretta ha già generato molto valore per noi.

Gary Marcus per gentile concessione di Gary Marcus

Ce l'ha e ne genererà ancora di più. Ma ci sono molti problemi di cui l'IA ristretta non sembra molto capace. Cose come la comprensione del linguaggio naturale conversazionale e l'assistenza generale nel mondo virtuale, o cose come Rosie il robot che potrebbe essere in grado di aiutarti a riordinare la tua casa o a prepararti la cena. Questi sono solo molto al di fuori dell'ambito di ciò che possiamo fare con un'IA ristretta. È anche un'interessante domanda empirica sul fatto che l'IA ristretta possa portarci a macchine sicure senza conducente. La realtà finora è che l'IA ristretta ha molti problemi con casi anomali, anche per la guida, che è un problema abbastanza limitato.

Più in generale, penso che tutti vorremmo vedere l'IA aiutarci a fare nuove scoperte in medicina su larga scala. Non è chiaro se le tecniche attuali ci porteranno dove dobbiamo essere, perché la biologia è complicata. Devi davvero essere in grado di leggere la letteratura. Gli scienziati hanno una comprensione causale su come interagiscono reti e molecole; possono sviluppare teorie su orbite e pianeti o altro. Con un'IA ristretta, non possiamo convincere le macchine a fare quel livello di innovazione. Con l'IA generale, potremmo essere in grado di rivoluzionare la scienza, la tecnologia, la medicina. Quindi penso che lavorare per l'IA generale sia davvero un progetto degno.

Sembra che tu stia usando l'IA generale per fare riferimento a un'IA robusta?

L'IA generale consiste nel fare in modo che l'IA sia in grado di pensare al volo e risolvere da sola nuovi problemi. Questo è al contrario, diciamo, di Go, dove il problema non è cambiato in 2000 anni.

Anche l'IA generale dovrebbe essere in grado di lavorare in modo altrettanto comodo ragionando sulla politica come ragionando sulla medicina. È l'analogo di ciò che le persone hanno; qualsiasi persona ragionevolmente brillante può fare molte, molte cose diverse. Prendi uno stagista universitario e, nel giro di pochi giorni, gli fai lavorare essenzialmente su qualsiasi cosa, da un problema legale a un problema medico. È perché hanno una comprensione generale del mondo e sanno leggere, quindi sono in grado di contribuire a una vasta gamma di cose.

La relazione tra questo e l'intelligenza robusta è che se non sei robusto, probabilmente non sarai davvero in grado di fare la cosa generale. Quindi, per costruire qualcosa che sia sufficientemente affidabile per affrontare un mondo in continua evoluzione, probabilmente devi almeno avvicinarti all'intelligenza generale.

Ma sai, siamo abbastanza lontani da quello in questo momento. AlphaGo può giocare molto bene su una tavola 19x19 ma in realtà deve essere riqualificato per giocare su una tavola rettangolare. Oppure prendi il tuo sistema di apprendimento profondo medio e può riconoscere un elefante fintanto che l'elefante è ben illuminato e puoi vedere la trama dell'elefante. Ma se metti l'elefante in sagoma, potrebbe non essere più in grado di riconoscerlo.

Come dici nel tuo libro, il deep learning non può davvero raggiungere l'IA generale perché manca una comprensione profonda.

Nelle scienze cognitive si parla di avere modelli cognitivi delle cose. Quindi sono seduto in una stanza d'albergo e capisco che c'è un armadio, c'è un letto, c'è la televisione che è montata in modo insolito. So che ci sono tutte queste cose qui e non le identifico solo. Capisco anche come si relazionano tra loro. Ho queste idee su come funziona il mondo esterno. Non sono perfetti. Sono fallibili, ma sono abbastanza buoni. E faccio molte inferenze su di loro per guidare le mie azioni quotidiane.

L'estremo opposto è qualcosa come il sistema di gioco Atari realizzato da DeepMind, in cui memorizzava ciò che doveva fare mentre vedeva i pixel in punti particolari dello schermo. Se ottieni abbastanza dati, può sembrare che tu abbia comprensione, ma in realtà è una comprensione molto superficiale. La prova è che se sposti le cose di tre pixel, il gioco è molto più scadente. Si rompe con il cambiamento. Questo è l'opposto della comprensione profonda.

Suggerisci di tornare all'IA classica per risolvere questa sfida. Quali sono i punti di forza dell'IA classica che dovremmo cercare di incorporare?

Sono semplicemente sbalordito da quanto poco apprezzi la comunità di deep learning in generale per questo.

Ci sono alcuni. In primo luogo, l'IA classica in realtà è un quadro per la costruzione di modelli cognitivi del mondo su cui puoi quindi fare inferenze. La seconda cosa è che l'IA classica è perfettamente a suo agio con le regole. È una strana sociologia in questo momento nel deep learning in cui le persone vogliono evitare le regole. Vogliono fare tutto con le reti neurali e non fare nulla con qualsiasi cosa che assomigli alla programmazione classica. Ma ci sono problemi che vengono regolarmente risolti in questo modo a cui nessuno presta attenzione, come fare il tuo percorso su Google Maps.

In realtà abbiamo bisogno di entrambi gli approcci. Il materiale dell'apprendimento automatico è abbastanza buono per imparare dai dati, ma è molto scarso nel rappresentare il tipo di astrazione rappresentato dai programmi per computer. L'IA classica è piuttosto brava nell'astrazione, ma deve essere tutto codificato a mano e c'è troppa conoscenza nel mondo per inserire manualmente tutto. Quindi sembra evidente che ciò che vogliamo è una sorta di sintesi che unisca questi approcci.

Questo si collega al capitolo in cui menzioni diverse cose che possiamo imparare dalla mente umana. Il primo si basa su ciò di cui abbiamo già parlato: l'idea che le nostre menti sono composte da molti sistemi disparati che funzionano in modi diversi.

Penso che ci sia un altro modo per chiarire il punto, che è: ogni sistema cognitivo che abbiamo sta davvero facendo una cosa diversa. Allo stesso modo, le controparti nell'IA devono essere progettate per affrontare problemi diversi che hanno caratteristiche diverse.

In questo momento le persone stanno cercando di utilizzare una sorta di tecnologie universali per affrontare cose che sono davvero fondamentalmente diverse. Comprendere una frase è fondamentalmente diverso dal riconoscere un oggetto. Ma le persone stanno cercando di utilizzare il deep learning per fare entrambe le cose. Questi sono problemi qualitativamente diversi dal punto di vista cognitivo, e sono semplicemente sbalordito da quanto poco apprezzamento la comunità di deep learning in generale abbia per questo. Perché aspettarsi che un proiettile d'argento funzionerà per tutto questo? Non è realistico e non rivela una comprensione sofisticata di quale sia la sfida dell'IA.

Un'altra cosa che sollevi è la necessità che i sistemi di intelligenza artificiale comprendano le relazioni causali. Pensi che deriverà dal deep learning, dall'IA classica o da qualcosa di completamente nuovo?

È di nuovo un luogo in cui il deep learning non è particolarmente adatto. Il deep learning non fornisce spiegazioni sul perché le cose accadono ma, piuttosto, una probabilità su ciò che potrebbe accadere in una determinata circostanza.

La natura costruisce la prima bozza, la bozza approssimativa. Quindi l'apprendimento rivede quella bozza per il resto della tua vita.

Il tipo di cose di cui stiamo parlando: guardi alcuni scenari e hai una certa comprensione del perché accade e cosa potrebbe accadere se alcune cose fossero cambiate. Posso guardare il cavalletto su cui è accesa la televisione dell'hotel e indovinare che se taglio una delle gambe, il cavalletto si ribalterà e il televisore cadrà con esso. Questo è un ragionamento causale.

L'IA classica ci offre alcuni strumenti per questo. Può rappresentare, ad esempio, cos'è una relazione di supporto e cosa sta cadendo. Non voglio venderlo troppo, però. Un problema è che l'IA classica dipende principalmente da informazioni molto complete su cosa sta succedendo, mentre ho appena fatto questa deduzione senza essere effettivamente in grado di vedere l'intero cavalletto. Quindi sono in qualche modo in grado di creare scorciatoie, deducendo pezzi del cavalletto che non riesco nemmeno a vedere. Non abbiamo ancora strumenti in grado di farlo.

Una terza cosa che sollevi è l'idea che gli esseri umani abbiano una conoscenza innata. Come lo vedi incorporato nei sistemi di intelligenza artificiale?

Per gli umani, quando nasci, il tuo cervello è in realtà strutturato in modo molto elaborato. Non è fisso, ma la natura costruisce la prima bozza, la bozza approssimativa. Quindi l'apprendimento rivede quella bozza per il resto della tua vita.

Una bozza del cervello ha già determinate capacità. Un cucciolo di stambecco di poche ore può arrampicarsi giù dal piano di una montagna senza commettere errori. Chiaramente ha una certa comprensione dello spazio tridimensionale, del proprio corpo e dell'interrelazione tra i due. Roba piuttosto sofisticata.

Questo è parte del motivo per cui penso che abbiamo bisogno di ibridi. È difficile vedere come potremmo costruire un robot che funzioni bene nel mondo senza una conoscenza analoga fin dall'inizio, invece di iniziare con una tabula rasa e imparare attraverso un'esperienza enorme e massiccia.

Per gli esseri umani, la nostra conoscenza innata deriva dai nostri genomi che si sono evoluti nel tempo. Per i sistemi di intelligenza artificiale, devono seguire una strada diversa. Alcuni di questi possono derivare da regole su come costruiamo i nostri algoritmi. Alcuni possono derivare da regole su come costruiamo le strutture di dati manipolate da quegli algoritmi. E poi parte di essa potrebbe derivare dalla conoscenza che insegniamo direttamente alle macchine.

È interessante che ricolleghi tutto nel tuo libro all'idea di fiducia e alla costruzione di sistemi affidabili. Perché hai scelto in particolare quella cornice?

Perché penso che sia l'intera partita in questo momento. Penso che stiamo vivendo uno strano momento della storia in cui diamo molta fiducia a un software che non merita tale fiducia. Penso che le preoccupazioni che abbiamo ora non siano permanenti. Tra cento anni, l'IA garantirà la nostra fiducia e forse prima.

Ma in questo momento l'IA è pericolosa e non nel modo in cui Elon Musk è preoccupato. Ma per quanto riguarda i sistemi di colloqui di lavoro che discriminano le donne indipendentemente da ciò che fanno i programmatori perché le tecniche che usano sono troppo poco sofisticate.

Voglio che abbiamo un'IA migliore. Non voglio che ci sia un inverno di intelligenza artificiale in cui le persone si rendono conto che questa roba non funziona ed è pericolosa, e non fanno nulla al riguardo.

In un certo senso, il tuo libro sembra davvero molto ottimista, perché stai suggerendo che è possibile costruire un'IA affidabile. Dobbiamo solo guardare in una direzione diversa.

Giusto, il libro è pessimista a brevissimo termine e ottimista a lungo termine. Pensiamo che ogni problema che abbiamo descritto nel libro possa essere risolto se il campo ha una visione più ampia su quali siano le risposte giuste. E pensiamo che se ciò accadrà, il mondo sarà un posto migliore.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.

nascondere