211service.com
L'esercito americano vuole che le sue macchine autonome si spieghino
Gli agenti dell'intelligence e gli agenti militari potrebbero fare molto affidamento sull'apprendimento automatico per analizzare enormi quantità di dati e controllare un arsenale crescente di sistemi autonomi. Ma le forze armate statunitensi vogliono assicurarsi che ciò non porti a fidarsi ciecamente di alcun algoritmo.
La Defense Advanced Research Projects Agency (DARPA), una divisione del Dipartimento della Difesa che esplora le nuove tecnologie, sta finanziando diversi progetti che mirano a spiegare se stessa l'intelligenza artificiale. Gli approcci vanno dall'aggiunta di ulteriori sistemi di apprendimento automatico volti a fornire una spiegazione, allo sviluppo di nuovi approcci di apprendimento automatico che incorporano una delucidazione di progettazione.
Ora abbiamo questa vera esplosione di intelligenza artificiale, afferma David Gunning, il responsabile del programma DARPA che sta finanziando uno sforzo per sviluppare tecniche di intelligenza artificiale che includono alcune spiegazioni del loro ragionamento. La ragione di ciò è principalmente l'apprendimento automatico e in particolare il deep learning.
Il deep learning e altre tecniche di apprendimento automatico hanno preso d'assalto la Silicon Valley, migliorando significativamente il riconoscimento vocale e la classificazione delle immagini, e vengono utilizzate in un numero sempre maggiore di contesti, comprese aree come le forze dell'ordine e la medicina, dove le conseguenze di un errore possono Sii serio. Ma mentre il deep learning è incredibilmente efficace nel trovare modelli nei dati, può essere impossibile capire come si arriva a una conclusione. Il processo di apprendimento è matematicamente molto complesso e spesso non c'è modo di tradurlo in qualcosa che una persona capirebbe.
E mentre il deep learning è particolarmente difficile da interpretare, anche altre tecniche di machine learning possono essere impegnative. Questi modelli sono molto opachi e difficili da interpretare per le persone, soprattutto se non sono esperti di intelligenza artificiale, afferma Gunning.
Il deep learning è particolarmente criptico a causa della sua incredibile complessità. È più o meno ispirato dal processo mediante il quale i neuroni in un cervello apprendono in risposta all'input. Molti strati di neuroni e sinapsi simulati sono etichettati come dati e il loro comportamento viene regolato finché non imparano a riconoscere, ad esempio, un gatto in una fotografia. Ma il modello appreso dal sistema è codificato nei pesi di molti milioni di neuroni ed è quindi molto difficile da esaminare. Quando una rete di deep learning riconosce un gatto, ad esempio, non è chiaro se il sistema potrebbe concentrarsi sui baffi, sulle orecchie o persino sulla coperta del gatto in un'immagine.
Spesso, potrebbe non importare molto se un modello di apprendimento automatico è opaco, ma questo non è vero per un ufficiale dell'intelligence che cerca di identificare un potenziale obiettivo. Ci sono alcune applicazioni critiche in cui è necessaria la spiegazione, dice Gunning.
Gunning aggiunge che l'esercito sta sviluppando innumerevoli sistemi autonomi che senza dubbio faranno molto affidamento su tecniche di apprendimento automatico come il deep learning. I veicoli a guida autonoma, insieme ai droni aerei, saranno sempre più utilizzati nei prossimi anni, dice, e diventeranno sempre più capaci.
La spiegazione non è importante solo per giustificare le decisioni. Può aiutare a prevenire che le cose vadano male. Un sistema di classificazione delle immagini che ha imparato a concentrarsi esclusivamente sulla trama per la classificazione dei gatti potrebbe essere ingannato da un tappeto peloso. Quindi offrire una spiegazione potrebbe aiutare i ricercatori a rendere i loro sistemi più robusti e aiutare a prevenire che coloro che fanno affidamento su di essi commettano errori.
La DARPA sta finanziando 13 diversi gruppi di ricerca, che stanno perseguendo una serie di approcci per rendere l'IA più spiegabile.
Un team selezionato per il finanziamento proviene da Charles River Analytics, una società che sviluppa strumenti high-tech per vari clienti, tra cui l'esercito statunitense. Questo team sta esplorando nuovi sistemi di deep learning che incorporano una spiegazione, come quelli che evidenziano le aree di un'immagine che sembrano più rilevanti per una classificazione. I ricercatori stanno anche sperimentando interfacce per computer che rendono più esplicito il funzionamento dei sistemi di apprendimento automatico con dati, visualizzazioni e persino spiegazioni in linguaggio naturale.
Xia Hu , un professore della Texas A&M University che guida un altro dei team scelti per il finanziamento, afferma che il problema è importante anche in altre aree in cui viene adottato l'apprendimento automatico, come la medicina, la legge e l'istruzione. Senza una sorta di spiegazione o ragionamento, gli esperti di dominio non si fideranno dei risultati, afferma Hu. Questo è il motivo principale per cui molti esperti di dominio rifiutano di adottare il machine learning o il deep learning.