211service.com
Nvidia ti consente di scrutare all'interno della scatola nera della sua intelligenza artificiale a guida autonoma
Nvidia ha sviluppato un'IA a guida autonoma che ti mostra come funziona.
Come abbiamo spiegato nella nostra ultima storia di copertina, The Dark Secret at the Heart of AI , alcune delle più potenti tecniche di apprendimento automatico disponibili producono un software quasi completamente opaco, anche per gli ingegneri che lo creano. Gli approcci che forniscono alcuni indizi su come funziona un'IA saranno, quindi, estremamente importanti per creare fiducia in una tecnologia che sembra destinata a rivoluzionare tutto, dalla medicina alla produzione.
Nvidia fornisce chip ideali per il deep learning, una tecnica di apprendimento automatico particolarmente potente (vedi 10 Breakthrough Technologies 2013: Deep Learning).
Il software di rete neurale di Nvidia mette in evidenza le aree su cui si sta concentrando mentre prende le decisioni di guida.
Anche il produttore di chip è stato sviluppato sistemi che dimostrano come una casa automobilistica potrebbe applicare il deep learning alla guida autonoma. Ciò include un'auto che è controllata interamente da un algoritmo di deep learning. Sorprendentemente, il computer del veicolo non ha alcuna regola da seguire: abbina semplicemente l'input di diverse videocamere al comportamento di un guidatore umano e capisce da solo come dovrebbe guidare. L'unico problema è che il sistema è così complesso che è difficile districare come funziona effettivamente.
Ma Nvidia sta lavorando per aprire questa scatola nera. Ha sviluppato un modo per evidenziare visivamente ciò a cui il sistema sta prestando attenzione. Come spiegato in un recente pubblicato carta , l'architettura della rete neurale sviluppata dai ricercatori di Nvidia è progettata in modo da poter evidenziare le aree di un'immagine video che contribuiscono maggiormente al comportamento della rete neurale profonda dell'auto. Sorprendentemente, i risultati mostrano che la rete si sta concentrando sui bordi delle strade, sulla segnaletica orizzontale e sulle auto parcheggiate, proprio il genere di cose a cui un buon guidatore umano vorrebbe prestare attenzione.
La cosa rivoluzionaria di questo è che non abbiamo mai detto direttamente alla rete di occuparci di queste cose, ha scritto Urs Muller, capo architetto di Nvidia per le auto a guida autonoma, in un post sul blog .
Non è una spiegazione completa di come ragiona la rete neurale, ma è un buon inizio. Come dice Muller: non posso spiegare tutto ciò di cui ho bisogno che l'auto faccia, ma posso mostrarlo e ora può mostrarmi ciò che ha imparato.
Questo tipo di approccio potrebbe diventare sempre più importante man mano che il deep learning viene applicato a quasi tutti i problemi che coinvolgono grandi quantità di dati, comprese aree critiche come medicina, finanza e intelligence militare.
Anche una manciata di ricercatori accademici stanno esplorando la questione. Per esempio, Jeff Clune presso l'Università del Wyoming e Carlo Guestrin presso l'Università di Washington (e Apple) hanno trovato il modo di evidenziare le parti delle immagini che i sistemi di classificazione stanno raccogliendo. e Tommi Jaakola e Regina Barzilay al MIT stanno sviluppando modi per fornire frammenti di testo che aiutino a spiegare una conclusione tratta da grandi quantità di dati scritti.
La Defense Advanced Projects Research Agency (DARPA), che svolge ricerche a lungo termine per le forze armate statunitensi, sta finanziando diversi sforzi di ricerca simili attraverso un programma che chiama Intelligenza artificiale spiegabile (XAI) .
Al di là delle specifiche tecniche, tuttavia, è affascinante considerare come questo si confronta con l'intelligenza umana. Facciamo ogni genere di cose che non riusciamo a spiegare completamente e le spiegazioni che inventiamo spesso sono solo approssimazioni o storie su ciò che sta succedendo. Data l'opacità dei metodi di apprendimento automatico sempre più complessi di oggi, un giorno potremmo essere costretti ad accettare tali spiegazioni anche dall'IA.
(Fonti: Nvidia , L'oscuro segreto nel cuore dell'IA , L'esercito americano vuole che le sue macchine autonome si spieghino da sole)