Ciò che l'IA non è ancora in grado di fare

L'intelligenza artificiale non sarà molto intelligente se i computer non coglieranno causa ed effetto. È qualcosa con cui anche gli umani hanno problemi. Di

• Brian Bergstein pagina di archivio

19 febbraio 2020

Saiman Chow

In meno di un decennio, i computer sono diventati estremamente bravi nella diagnosi di malattie, nella traduzione delle lingue e nella trascrizione del parlato. Possono battere gli umani in complicati giochi di strategia, creare immagini fotorealistiche e suggerire risposte utili alle tue e-mail.

Eppure, nonostante questi risultati impressionanti, l'intelligenza artificiale ha evidenti debolezze.

Questa storia faceva parte del nostro numero di marzo 2020

• Vedi il resto del problema
• sottoscrivi

I sistemi di apprendimento automatico possono essere ingannati o confusi da situazioni che non hanno mai visto prima. Un'auto a guida autonoma viene sconvolta da uno scenario che un guidatore umano potrebbe gestire facilmente. Un sistema di intelligenza artificiale faticosamente addestrato per svolgere un compito (identificare i gatti, diciamo) deve essere insegnato ancora una volta a fare qualcos'altro (identificare i cani). Nel processo, è soggetto a perdere parte dell'esperienza che aveva nell'attività originale. Gli informatici chiamano questo problema dimenticanza catastrofica.

Queste carenze hanno qualcosa in comune: esistono perché i sistemi di intelligenza artificiale non comprendono la causalità. Vedono che alcuni eventi sono associati ad altri eventi, ma non accertano quali cose facciano accadere direttamente altre cose. È come se sapessi che la presenza delle nuvole rende più probabile la pioggia, ma non sapessi che le nuvole causano la pioggia.

Elias Bareinboim: I sistemi di intelligenza artificiale sono all'oscuro quando si tratta di causalità.

Comprendere causa ed effetto è un aspetto importante di ciò che chiamiamo buon senso, ed è un'area in cui i sistemi di intelligenza artificiale oggi sono all'oscuro, afferma Elias Bareinboim. Dovrebbe saperlo: in qualità di direttore del nuovo Causal Artificial Intelligence Lab della Columbia University, è in prima linea negli sforzi per risolvere questo problema.

La sua idea è di infondere la ricerca sull'intelligenza artificiale con intuizioni dalla scienza relativamente nuova della causalità, un campo modellato in larga misura da Judea Pearl, uno studioso vincitore del premio Turing che considera Bareinboim il suo protetto.

Come lo descrivono Bareinboim e Pearl, la capacità dell'IA di individuare correlazioni, ad esempio che le nuvole rendono più probabile la pioggia, è semplicemente il livello più semplice di ragionamento causale. È abbastanza buono per aver guidato il boom della tecnica di intelligenza artificiale nota come deep learning negli ultimi dieci anni. Data una grande quantità di dati su situazioni familiari, questo metodo può portare a previsioni molto buone. Un computer può calcolare la probabilità che un paziente con determinati sintomi abbia una certa malattia, perché ha appreso quante volte migliaia o addirittura milioni di altre persone con gli stessi sintomi hanno avuto quella malattia.

Ma c'è un crescente consenso sul fatto che i progressi nell'IA si bloccheranno se i computer non migliorano nella lotta con la causalità. Se le macchine potessero capire che certe cose portano ad altre cose, non dovrebbero imparare tutto da capo tutto il tempo: potrebbero prendere ciò che hanno imparato in un dominio e applicarlo a un altro. E se le macchine potessero usare il buon senso, saremmo in grado di riporre più fiducia in loro per intraprendere azioni da sole, sapendo che è probabile che non commettano errori stupidi.

L'IA di oggi ha solo una capacità limitata di dedurre ciò che risulterà da una determinata azione. Nell'apprendimento per rinforzo, una tecnica che ha consentito alle macchine di padroneggiare giochi come gli scacchi e il go, un sistema utilizza numerosi tentativi ed errori per discernere quali mosse li faranno essenzialmente vincere. Ma questo approccio non funziona in ambienti più disordinati nel mondo reale. Non lascia nemmeno una macchina con una comprensione generale di come potrebbe giocare ad altri giochi.

Un livello ancora più alto di pensiero causale sarebbe la capacità di ragionare sul perché le cose sono accadute e di porre domande e se. Un paziente muore durante una sperimentazione clinica; è stata colpa della medicina sperimentale o qualcos'altro? I punteggi dei test scolastici sono in calo; quali cambiamenti politici li migliorerebbero di più? Questo tipo di ragionamento va ben oltre le attuali capacità dell'intelligenza artificiale.

Fare miracoli

Il sogno di dotare i computer di un ragionamento causale ha portato Bareinboim dal Brasile negli Stati Uniti nel 2008, dopo aver completato un master in informatica presso l'Università Federale di Rio de Janeiro. Ha colto al volo l'opportunità di studiare sotto Judea Pearl, uno scienziato informatico e statistico all'UCLA. Pearl, 83 anni, è un gigante— il gigante dell'inferenza causale, e la sua carriera aiuta a illustrare perché è difficile creare un'IA che comprenda la causalità.

Anche scienziati ben addestrati tendono a interpretare erroneamente le correlazioni come segni di causalità, o a sbagliare nella direzione opposta, esitando a richiamare la causalità anche quando è giustificata. Negli anni '50, ad esempio, alcuni eminenti statistici hanno confuso le acque sul fatto che il tabacco causasse il cancro. Hanno sostenuto che senza un esperimento che assegnasse casualmente le persone a fumatori o non fumatori, nessuno poteva escludere la possibilità che qualche sconosciuto - stress, forse, o qualche gene - inducesse le persone a fumare e ad ammalarsi di cancro ai polmoni.

Alla fine, il fatto che il fumo provoca il cancro è stato definitivamente stabilito, ma non è necessario che ci sia voluto così tanto tempo. Da allora, Pearl e altri statistici hanno escogitato un approccio matematico per identificare quali fatti sarebbero necessari per supportare un'affermazione causale. Il metodo di Pearl mostra che, data la prevalenza del fumo e del cancro ai polmoni, un fattore indipendente che causi entrambi sarebbe estremamente improbabile.

Al contrario, le formule di Pearl aiutano anche a identificare quando le correlazioni non possono essere utilizzate per determinare la causalità. Bernhard Schölkopf, che ricerca le tecniche di IA causale come direttore presso il Max Planck Institute for Intelligent Systems tedesco, sottolinea che puoi prevedere il tasso di natalità di un paese se conosci la sua popolazione di cicogne. Questo non è perché le cicogne partoriscono o perché i bambini attirano le cicogne, ma probabilmente perché lo sviluppo economico porta a più bambini e più cicogne. Pearl ha contribuito a fornire a statistici e informatici modi per affrontare tali problemi, afferma Schölkopf.

Judea Pearl: La sua teoria del ragionamento causale ha trasformato la scienza.

Il lavoro di Pearl ha anche portato allo sviluppo di reti bayesiane causali, un software che setaccia grandi quantità di dati per rilevare quali variabili sembrano avere la maggiore influenza su altre variabili. Ad esempio, GNS Healthcare, una società di Cambridge, Massachusetts, utilizza queste tecniche per consigliare i ricercatori su esperimenti che sembrano promettenti.

In un progetto, GNS ha lavorato con ricercatori che studiano il mieloma multiplo, una specie di cancro del sangue. I ricercatori volevano sapere perché alcuni pazienti con la malattia vivono più a lungo di altri dopo aver ricevuto trapianti di cellule staminali, una forma comune di trattamento. Il software ha sfornato dati con 30.000 variabili e ne ha indicato alcune che sembravano particolarmente probabili. Biostatistici ed esperti della malattia si sono concentrati su uno in particolare: il livello di una certa proteina nel corpo dei pazienti. I ricercatori potrebbero quindi condurre uno studio clinico mirato per vedere se i pazienti con la proteina hanno effettivamente beneficiato maggiormente del trattamento. È molto più veloce che frugare qua e là in laboratorio, afferma il cofondatore di GNS Iya Khalil.

Tuttavia, i miglioramenti che Pearl e altri studiosi hanno ottenuto nella teoria causale non hanno ancora fatto molti passi avanti nel deep learning, che identifica le correlazioni senza preoccuparsi troppo della causalità. Bareinboim sta lavorando per compiere il passo successivo: rendere i computer strumenti più utili per le esplorazioni causali umane.

Pearl afferma che l'IA non può essere veramente intelligente finché non ha una ricca comprensione di causa ed effetto, il che consentirebbe l'introspezione che è al centro della cognizione.

Uno dei suoi sistemi, che è ancora in versione beta, può aiutare gli scienziati a determinare se dispongono di dati sufficienti per rispondere a una domanda causale. Richard McElreath, un antropologo del Max Planck Institute for Evolutionary Anthropology, sta usando il software per guidare la ricerca sul perché gli esseri umani attraversano la menopausa (siamo le uniche scimmie che lo fanno).

L'ipotesi è che il declino della fertilità nelle donne anziane abbia giovato alle prime società umane perché le donne che si impegnavano di più nella cura dei nipoti alla fine avevano più discendenti. Ma quali prove potrebbero esistere oggi a sostegno dell'affermazione che i bambini stanno meglio con i nonni in giro? Gli antropologi non possono semplicemente confrontare i risultati educativi o medici dei bambini che hanno vissuto con i nonni e quelli che non l'hanno fatto. Ci sono quelli che gli statistici chiamano fattori confondenti: le nonne potrebbero avere maggiori probabilità di vivere con i nipoti che hanno più bisogno di aiuto. Il software di Bareinboim può aiutare McElreath a discernere quali studi sui bambini cresciuti con i nonni sono meno pieni di fattori confondenti e potrebbero essere preziosi per rispondere alla sua domanda causale. È un enorme passo avanti, dice McElreath.

L'ultimo miglio

Bareinboim parla veloce e spesso gesticola con due mani in aria, come se stesse cercando di bilanciare due lati di un'equazione mentale. Era la metà del semestre quando sono andato a trovarlo alla Columbia in ottobre, ma sembrava che si fosse appena trasferito nel suo ufficio: quasi niente sui muri, niente libri sugli scaffali, solo un elegante computer Mac e una lavagna così densa con equazioni e diagrammi che sembrava un dettaglio di un cartone animato su un professore pazzo.

Si è scrollato di dosso lo stato provvisorio della stanza, dicendo che era stato molto impegnato a fare discorsi su entrambi i lati della rivoluzione causale. Bareinboim crede che un lavoro come il suo offra l'opportunità non solo di incorporare il pensiero causale nelle macchine, ma anche di migliorarlo negli esseri umani.

Indurre le persone a pensare più attentamente alla causalità non è necessariamente molto più facile che insegnarlo alle macchine, dice. I ricercatori in un'ampia gamma di discipline, dalla biologia molecolare alle politiche pubbliche, a volte si accontentano di portare alla luce correlazioni che non sono effettivamente radicate in relazioni causali. Ad esempio, alcuni studi suggeriscono che bere alcolici ti ucciderà presto, mentre altri indicano che un consumo moderato va bene e persino benefico, e altre ricerche ancora hanno scoperto che i forti bevitori sopravvivono ai non bevitori. Questo fenomeno, noto come crisi della riproducibilità, si manifesta non solo in medicina e nutrizione, ma anche in psicologia ed economia. Puoi vedere la fragilità di tutte queste inferenze, dice Bareinboim. Stiamo capovolgendo i risultati ogni due anni.

Sostiene che chiunque si chieda cosa accadrebbe se - ricercatori medici che organizzano sperimentazioni cliniche, scienziati sociali che sviluppano programmi pilota, persino editori web che preparano test A/B - dovrebbe iniziare non semplicemente raccogliendo dati ma utilizzando la logica causale di Pearl e il software come quello di Bareinboim per determinare se i dati disponibili potrebbero eventualmente rispondere a un'ipotesi causale. Alla fine, immagina che questo porti a un software per scienziati automatizzato: un essere umano potrebbe inventarsi una domanda causale da perseguire e il software combinerebbe la teoria dell'inferenza causale con tecniche di apprendimento automatico per escludere esperimenti che non risponderebbero alla domanda. Ciò potrebbe salvare gli scienziati da un numero enorme di costosi vicoli ciechi.

Bareinboim ha descritto questa visione mentre eravamo seduti nell'atrio della Sloan School of Management del MIT, dopo un discorso che ha tenuto lo scorso autunno. Abbiamo un edificio qui al MIT con, non so, 200 persone, ha detto. In che modo quegli scienziati sociali, o qualsiasi altro scienziato ovunque, decidono quali esperimenti intraprendere e quali dati raccogliere? Seguendo la loro intuizione: stanno cercando di vedere dove porteranno le cose, in base alla loro attuale comprensione.

Questo è un approccio intrinsecamente limitato, ha detto, perché gli scienziati umani che progettano un esperimento possono considerare solo una manciata di variabili nella loro mente contemporaneamente. Un computer, d'altra parte, può vedere l'interazione di centinaia o migliaia di variabili. Codificato con i principi di base del calcolo causale di Pearl e in grado di calcolare cosa potrebbe accadere con nuovi insiemi di variabili, uno scienziato automatizzato potrebbe suggerire esattamente su quali esperimenti i ricercatori umani dovrebbero dedicare il loro tempo. Forse alcune politiche pubbliche che hanno dimostrato di funzionare solo in Texas potrebbero essere fatte funzionare in California se alcuni fattori causalmente rilevanti fossero meglio apprezzati. Gli scienziati non farebbero più esperimenti nell'oscurità, ha detto Bareinboim.

Inoltre non pensa che sia così lontano: questo è l'ultimo miglio prima della vittoria.

Cosa succede se?

Percorrere quel miglio richiederà probabilmente tecniche che stanno appena iniziando a essere sviluppate. Ad esempio, Yoshua Bengio, uno scienziato informatico dell'Università di Montreal che ha condiviso il Turing Award 2018 per il suo lavoro sull'apprendimento profondo, sta cercando di convincere le reti neurali, il software al centro dell'apprendimento profondo, a fare meta-apprendimento e notare le cause delle cose.

Allo stato attuale delle cose, se volessi che una rete neurale rilevi quando le persone ballano, le mostreresti molte, molte immagini di ballerini. Se volessi che identifichi quando le persone corrono, lo mostreresti molte, molte immagini di corridori. Il sistema imparerebbe a distinguere i corridori dai ballerini identificando caratteristiche che tendono a essere diverse nelle immagini, come le posizioni delle mani e delle braccia di una persona. Ma Bengio sottolinea che la conoscenza fondamentale del mondo può essere raccolta analizzando le cose che sono simili o invarianti tra i set di dati. Forse una rete neurale potrebbe apprendere che i movimenti delle gambe provocano fisicamente sia la corsa che la danza. Forse dopo aver visto questi esempi e molti altri che mostrano persone a pochi metri da terra, una macchina alla fine capirebbe qualcosa sulla gravità e su come limita il movimento umano. Nel tempo, con un sufficiente meta-apprendimento sulle variabili coerenti tra i set di dati, un computer potrebbe acquisire una conoscenza causale che sarebbe riutilizzabile in molti domini.

Da parte sua, Pearl afferma che l'IA non può essere veramente intelligente finché non ha una ricca comprensione di causa ed effetto. Sebbene il ragionamento causale non sarebbe sufficiente per un'intelligenza artificiale generale, è necessario, dice, perché consentirebbe l'introspezione che è al centro della cognizione. E se le domande fossero i mattoni della scienza, degli atteggiamenti morali, del libero arbitrio, della coscienza, mi ha detto Pearl.

Non puoi indurre Pearl a prevedere quanto tempo impiegherà i computer per ottenere potenti capacità di ragionamento causale. Non sono un futurista, dice. Ma in ogni caso, pensa che la prima mossa dovrebbe essere quella di sviluppare strumenti di apprendimento automatico che combinino i dati con le conoscenze scientifiche disponibili: abbiamo molte conoscenze che risiedono nel cranio umano e che non vengono utilizzate.

Brian Bergstein, ex redattore del MIT Technology Review, è vicedirettore di opinione al Boston Globe.

nascondere