Questi bracci robotici virtuali diventano più intelligenti allenandosi a vicenda





al virtuale il braccio robotico ha imparato a risolvere una vasta gamma di enigmi diversi —impilare blocchi, apparecchiare la tavola, disporre i pezzi degli scacchi — senza dover essere riqualificati per ogni compito. Lo ha fatto giocando contro un secondo braccio robotico che è stato addestrato per dargli sfide sempre più difficili.

Gioco autonomo: Sviluppato dai ricercatori di OpenAI , le identiche braccia robotiche, Alice e Bob, imparano giocando una partita l'una contro l'altra in una simulazione, senza l'intervento umano. I robot utilizzano l'apprendimento per rinforzo, una tecnica in cui le IA vengono addestrate per tentativi ed errori quali azioni intraprendere in diverse situazioni per raggiungere determinati obiettivi. Il gioco prevede lo spostamento di oggetti su un tavolo virtuale. Disponendo gli oggetti in modi specifici, Alice cerca di impostare enigmi difficili da risolvere per Bob. Bob cerca di risolvere gli enigmi di Alice. Man mano che imparano, Alice imposta enigmi più complessi e Bob migliora nel risolverli.

Dopo l'allenamento sui puzzle a blocchi impostati da Alice, Bob può generalizzare a una serie di compiti, tra cui apparecchiare un tavolo e disporre i pezzi degli scacchi.



Multitasking: I modelli di deep learning in genere devono essere riqualificati tra le attività. Ad esempio, AlphaZero (che impara anche giocando contro se stesso) utilizza un unico algoritmo per imparare a giocare a scacchi, shogi e Go, ma solo una partita alla volta. L'AlphaZero che gioca a scacchi non può giocare a Go e quello che gioca a Go non può giocare a shogi. Costruire macchine in grado di svolgere davvero il multitasking è un grosso problema irrisolto la strada verso un'IA più generale .

Dojo AI: Un problema è che addestrare un'IA al multitasking richiede un vasto numero di esempi. OpenAI lo evita addestrando Alice a generare gli esempi per Bob, usando un'IA per addestrarne un'altra. Alice ha imparato a fissare obiettivi come costruire una torre di blocchi, poi sollevarla e bilanciarla. Bob ha imparato a usare le proprietà dell'ambiente (virtuale), come l'attrito, per afferrare e ruotare gli oggetti.

Realta virtuale: Finora l'approccio è stato testato solo in una simulazione, ma i ricercatori di OpenAI e altrove stanno migliorando nel trasferire i modelli addestrati in ambienti virtuali in quelli fisici. Una simulazione consente alle IA di sfornare set di dati di grandi dimensioni in un breve lasso di tempo, prima di essere ottimizzato per le impostazioni del mondo reale.



Ambizione generale: I ricercatori affermano che il loro scopo finale è addestrare un robot a risolvere qualsiasi compito che una persona potrebbe chiedergli. Come GPT-3, un modello linguistico che può utilizzare il linguaggio in un'ampia varietà di modi diversi, questi bracci robotici fanno parte dell'ambizione generale di OpenAI di costruire un'IA multitasking. L'uso di un'IA per addestrarne un'altra potrebbe essere una parte fondamentale di questo.

nascondere