Cosa succede quando dai a un'IA una memoria di lavoro?

Un nuovo tipo di computer, ideato dai ricercatori di Google DeepMind nel Regno Unito, potrebbe ampliare le capacità dei migliori sistemi di intelligenza artificiale di oggi fornendo loro una nuova importante funzionalità: una sorta di memoria di lavoro.





I ricercatori mostrano che il computer, che consiste in una grande rete neurale collegata a una forma unica di memoria, può svolgere compiti relativamente complessi scoprendo da solo quali informazioni conservare nella sua memoria. I compiti includono capire il modo migliore per spostarsi da una stazione all'altra sulla rete di transito della metropolitana di Londra, simile a uno spaghetto, dopo aver esplorato i diagrammi di altri tipi di rete e aver appreso le caratteristiche più salienti.

I ricercatori di Google DeepMind chiamano il loro sistema un computer neurale differenziabile. È differenziabile nel senso che il suo comportamento, incluso cosa immagazzinare in memoria, può essere appreso utilizzando il processo matematico, chiamato backpropagation, che è alla base del funzionamento delle reti neurali. Poiché la rete viene addestrata con i dati, memorizzerà automaticamente alcune informazioni in una matrice di memoria.

Come un computer convenzionale, può usare la sua memoria per rappresentare e manipolare strutture di dati complesse ma, come una rete neurale, può imparare a farlo dai dati, scrivono gli autori, che includono Alex Graves, Greg Wayne e Demis Hassabis. un articolo pubblicato oggi sulla rivista Natura .



Il progresso è un passo verso l'intelligenza artificiale che è un po' più umana nelle sue capacità. Sebbene la tecnica sia limitata per ora, i sistemi costruiti in questo modo potrebbero un giorno svolgere un lavoro utile, afferma Ruslan Salakhutdinov , professore associato presso CMU specializzato in machine learning e intelligenza artificiale. Ad esempio, una versione più avanzata potrebbe eseguire la scansione di Wikipedia e capire quali concetti significativi, come nomi, luoghi e date, memorizzare nella memoria. Oppure potrebbe consentire a un robot di utilizzare le informazioni apprese in un ambiente in uno completamente nuovo. È un lavoro molto eccitante, dice Salakhutdinov.

I più recenti sistemi di apprendimento automatico sono eccezionali in determinati compiti, come riconoscere i volti nelle immagini o nelle parole pronunciate. E con la pratica possono imparare a svolgere compiti complessi come giocare a giochi per computer a livello di esperti. Ma richiedono enormi quantità di dati specifici per l'addestramento e, a differenza di un essere umano, non possono memorizzare gran parte di ciò che hanno appreso in memoria per un uso successivo. Ciò presenta un problema in molte aree, inclusa la lingua (vedi Problema linguistico dell'IA).

Salakhutdinov osserva, tuttavia, che rendere più complesso un computer neurale così differenziabile potrebbe essere difficile. Questo perché per accedere alla sua memoria, deve eseguire un calcolo complesso interrogando ogni pezzo memorizzato. È super difficile far funzionare queste cose, dice. Il ridimensionamento può essere un po' problematico.

È interessante notare che il lavoro avvicina un po' due campi dell'IA che sono stati a lungo in conflitto tra loro. I primi lavori sull'intelligenza artificiale prevedevano la programmazione di macchine per rappresentare simbolicamente le informazioni, mentre la moda attuale consiste nell'utilizzare reti neurali molto grandi che si addestrano per eseguire compiti. Per molto tempo, alcuni tradizionalisti dell'IA e scienziati cognitivi si sono chiesti se le reti neurali possano fare ciò che fanno gli umani senza acquisire una capacità più profonda di rappresentare simbolicamente le informazioni.

Sono molto colpito dalla capacità della rete di apprendere 'algoritmi' dagli esempi, afferma Lago Brenda , uno scienziato cognitivo alla New York University che studia i modi per far sì che i computer imitino l'intelligenza umana. Ciò potrebbe ampliare l'utilità dell'apprendimento profondo. Gli algoritmi, come l'ordinamento o la ricerca di percorsi più brevi, sono il pane quotidiano dell'informatica classica. Tradizionalmente richiedono un programmatore per la progettazione e l'implementazione.

Ma Lake sottolinea che il sistema non è ancora del tutto umano nel modo in cui funziona. Le persone possono acquisire una nuova attività da una quantità limitata di esperienza, soprattutto se hanno familiarità con il dominio, dice. Al contrario, il computer neurale differenziale è addestrato su decine o centinaia di migliaia di esempi di ciascuna attività. Penso che la capacità umana di apprendere rapidamente nuovi compiti sarà una delle prossime grandi sfide dell'IA.

nascondere