Google e altri stanno costruendo sistemi di intelligenza artificiale che dubitano di se stessi

Saiman Chow

L'approccio più potente nell'IA, il deep learning, sta acquisendo una nuova capacità: un senso di incertezza.

I ricercatori di Uber e Google stanno lavorando su modifiche ai due framework di deep learning più popolari che consentiranno loro di gestire la probabilità. Ciò fornirà ai programmi di intelligenza artificiale più intelligenti un modo per misurare la loro fiducia in una previsione o in una decisione, in sostanza, per sapere quando dovrebbero dubitare di se stessi.

Il deep learning, che prevede l'alimentazione di dati di esempio a una rete neurale ampia e potente, è stato un enorme successo negli ultimi anni, consentendo alle macchine di riconoscere oggetti nelle immagini o trascrivere il parlato quasi perfettamente. Ma richiede molti dati di allenamento e potenza di calcolo e può essere sorprendentemente fragile.

In qualche modo controintuitivo, questo dubbio su se stessi offre una soluzione. Il nuovo approccio potrebbe essere utile in scenari critici che coinvolgono auto a guida autonoma e altre macchine a guida autonoma.

Vorresti un sistema che ti dia una misura di quanto sia certo, dice Dustin Tran, che sta lavorando a questo problema in Google. Se un'auto a guida autonoma non conosce il suo livello di incertezza, può commettere un errore fatale e può essere catastrofico.

Il lavoro riflette la consapevolezza che l'incertezza è un aspetto chiave del ragionamento e dell'intelligenza umana. Aggiungerlo ai programmi di intelligenza artificiale potrebbe renderli più intelligenti e meno inclini a errori, afferma Zoubin Ghahramani , un importante ricercatore di intelligenza artificiale, professore all'Università di Cambridge e capo scienziato presso Uber.

Ciò potrebbe rivelarsi di vitale importanza poiché i sistemi di intelligenza artificiale vengono utilizzati in scenari sempre più critici. Vogliamo avere una struttura solida per il deep learning, ma rendere più facile per le persone rappresentare l'incertezza, mi ha detto di recente Ghahramani davanti a un caffè una mattina durante un'importante conferenza sull'intelligenza artificiale a Long Beach, in California.

Durante la stessa conferenza sull'intelligenza artificiale, un gruppo di ricercatori si è riunito in un bar vicino un pomeriggio per discutere di Pyro, un nuovo linguaggio di programmazione rilasciato da Uber che unisce il deep learning con la programmazione probabilistica.

L'incontro a Long Beach è stato organizzato da Noè Goodman , un professore a Stanford che è anche affiliato con AI Lab di Uber. Con i capelli ricci e spettinati e la camicia sbottonata, potrebbe essere facilmente scambiato per un insegnante di yoga piuttosto che per un esperto di intelligenza artificiale. Tra i presenti c'era Tran, che ha anche contribuito allo sviluppo di Pyro.

Goodman spiega che dare al deep learning la capacità di gestire le probabilità può renderlo più intelligente in diversi modi. Potrebbe, ad esempio, aiutare un programma a riconoscere le cose, con un ragionevole grado di certezza, da pochi esempi anziché da molte migliaia. Offrire una misura di certezza piuttosto che una risposta sì o no dovrebbe anche aiutare con la progettazione di sistemi complessi.

E mentre un sistema di deep learning convenzionale apprende solo dai dati che riceve, Pyro può anche essere usato per costruire un sistema preprogrammato con la conoscenza. Questo potrebbe essere utile in quasi tutti gli scenari in cui l'apprendimento automatico potrebbe attualmente presentarsi.

Storia correlata

Storia correlata Alphabet, numero 5 nella nostra lista delle 50 aziende più intelligenti, pensa di poter strappare il mercato del cloud computing ad Amazon aiutando le aziende a utilizzare l'apprendimento automatico con uno strumento chiamato TensorFlow.

Nei casi in cui si dispone di conoscenze pregresse che si desidera integrare nel modello, la programmazione probabilistica è particolarmente utile, afferma Goodman. Le persone useranno Pyro per ogni genere di cose.

Edward è un altro linguaggio di programmazione che abbraccia l'incertezza, questo sviluppato alla Columbia University con il finanziamento della DARPA. Sia Pyro che Edward sono ancora nelle prime fasi di sviluppo, ma non è difficile capire perché Uber e Google siano interessati.

Uber utilizza l'apprendimento automatico in innumerevoli aree, dall'instradamento dei conducenti all'impostazione di prezzi in aumento e, naturalmente, nelle sue auto a guida autonoma. L'azienda ha investito molto nell'IA, assumendo una serie di esperti che lavorano su nuove idee. Google ha ricostruito la sua intera attività intorno all'intelligenza artificiale e al deep learning negli ultimi tempi.

David Blai , professore di statistica e informatica alla Columbia University e consulente di Tran, afferma che combinare apprendimento profondo e programmazione probabilistica è un'idea promettente che necessita di più lavoro. In linea di principio, è molto potente, dice. Ma ci sono molte, molte sfide tecniche.

Tuttavia, come osserva Goodman, Pyro ed Edward sono anche significativi per aver riunito due scuole concorrenti di IA, una incentrata sulle reti neurali e l'altra sulla probabilità.

Negli ultimi anni, la scuola delle reti neurali è stata così dominante che altre idee sono state del tutto lasciate indietro. Per andare avanti, il campo potrebbe aver bisogno di abbracciare queste altre idee.

La storia interessante qui è che non devi pensare a questi campi come separati, dice Goodman. Possono riunirsi, anzi, si stanno unendo negli strumenti che ora stiamo costruendo.

Potresti anche dire che stanno diventando più intelligenti, in parte, imparando ciò che non sanno.

nascondere