211service.com
Il mondo finanziario vuole aprire le scatole nere dell'IA
I potenti metodi di apprendimento automatico hanno preso d'assalto il mondo tecnologico negli ultimi anni, migliorando notevolmente il riconoscimento vocale e delle immagini, la traduzione automatica e molte altre cose.
Ora queste tecniche sono pronte a sconvolgere innumerevoli altri settori, incluso il mondo della finanza. Ma il progresso può essere ostacolato da un problema significativo: spesso è impossibile spiegare come questi algoritmi di deep learning raggiungano una decisione (vedi The Dark Secret at the Heart of AI ).
Adam Wenchel, vicepresidente dell'apprendimento automatico e dell'innovazione dei dati presso Capital One, afferma che l'azienda vorrebbe utilizzare il deep learning per tutti i tipi di funzioni, inclusa la decisione a chi viene concessa una carta di credito. Ma non può farlo perché la legge richiede alle aziende di spiegare il motivo di tale decisione a un potenziale cliente. Alla fine dell'anno scorso Capital One ha creato un gruppo di ricerca, guidato da Wenchel, dedicato a trovare modi per rendere più spiegabili queste tecniche informatiche.
La nostra ricerca è garantire che possiamo mantenere quella barra alta per la spiegabilità mentre spingiamo in questi modelli molto più avanzati e intrinsecamente più opachi, dice.
Il deep learning è emerso negli ultimi cinque anni come un potente mezzo per imitare le capacità percettive umane. L'approccio prevede l'addestramento di una rete neurale molto ampia per riconoscere i modelli nei dati. È vagamente ispirato da una teoria sul modo in cui i neuroni e le sinapsi facilitano l'apprendimento. Sebbene ogni neurone simulato sia semplicemente una funzione matematica, la complessità di queste funzioni interconnesse rende estremamente difficile districare il ragionamento di una rete profonda.
Alcune altre tecniche di apprendimento automatico, comprese quelle che superano il deep learning in determinati scenari, sono molto più trasparenti. Ma il deep learning, che consente analisi sofisticate utili al settore finanziario, può essere molto difficile da interrogare.
Alcune startup mirano a sfruttare le preoccupazioni sull'opacità degli algoritmi esistenti promettendo di utilizzare approcci più trasparenti (vedi Una formula di credito alimentata dall'intelligenza artificiale potrebbe aiutarti a ottenere un prestito).
Questo problema potrebbe diventare più significativo nei prossimi anni man mano che il deep learning diventa più comunemente utilizzato e le autorità di regolamentazione rivolgono la loro attenzione alla responsabilità algoritmica. A partire dal prossimo anno, in base al suo Regolamento generale sulla protezione dei dati, l'Unione Europea potrebbe richiedere a qualsiasi azienda di essere in grado di spiegare una decisione presa da uno dei suoi algoritmi.
Il problema ha anche attirato l'attenzione della Defense Advanced Research Projects Agency, che fa ricerca per il Dipartimento della Difesa degli Stati Uniti. L'anno scorso DARPA ha lanciato uno sforzo per finanziare approcci per rendere meno opaco l'apprendimento automatico (vedi L'esercito americano vuole macchine autonome per spiegarsi). I 13 progetti selezionati per il finanziamento mostrano una varietà di approcci per rendere gli algoritmi più trasparenti.
La speranza è che il deep learning possa essere utilizzato per andare oltre la semplice corrispondenza delle capacità percettive umane. Una società di carte di credito potrebbe, ad esempio, inserire la storia del credito e altri dati finanziari in una rete profonda e addestrarla a riconoscere le persone che potrebbero essere inadempienti sui pagamenti con carta di credito.
Capital One sta anche considerando il deep learning come un modo per rilevare automaticamente gli addebiti fraudolenti in modo più affidabile, afferma Wenchel, sebbene la società sia cauta nel fidarsi di un tale sistema quando il suo ragionamento non può essere esaminato. Operiamo in un settore fortemente regolamentato, dice. Dobbiamo essere in grado di spiegare sia internamente che alle persone perché stiamo prendendo decisioni. E assicurati di prendere decisioni per le giuste ragioni.
L'apprendimento profondo è una parola d'ordine molto importante in questo momento e ci sono stati grandi progressi nella visione artificiale e nell'elaborazione del linguaggio naturale, afferma Trevor Darrell , un professore alla UC Berkeley che guida uno dei progetti selezionati per il finanziamento dalla DARPA. Ma [i sistemi di deep learning] sono criticati perché a volte è difficile capire cosa sta succedendo al loro interno.
Per il progetto DARPA, il gruppo di Darrell sta sviluppando diversi nuovi approcci di deep learning, comprese reti profonde più complesse in grado di apprendere più cose contemporaneamente. Esistono anche approcci che includono una spiegazione nei dati di addestramento: nel caso della didascalia dell'immagine, ad esempio, un'immagine classificata come un gatto sarebbe abbinata a una spiegazione del motivo per cui è stata classificata come tale. Lo stesso approccio potrebbe essere utilizzato per classificare gli addebiti sulle carte di credito come fraudolenti. Tutte queste cose ci portano a reti profonde più interpretabili, dice Darrell.