L'IA può essere resa legalmente responsabile delle sue decisioni

L'intelligenza artificiale è destinata a svolgere un ruolo significativamente maggiore nella società. E questo solleva la questione della responsabilità. Se ci affidiamo alle macchine per prendere decisioni sempre più importanti, dovremo disporre di meccanismi di riparazione qualora i risultati dovessero risultare inaccettabili o di difficile comprensione.

Ma fare in modo che i sistemi di IA spieghino le loro decisioni non è del tutto semplice. Un problema è che le spiegazioni non sono gratuite; richiedono risorse considerevoli sia nello sviluppo del sistema di IA che nel modo in cui viene interrogato nella pratica.

Un'altra preoccupazione è che le spiegazioni possono rivelare segreti commerciali costringendo gli sviluppatori a pubblicare i meccanismi interni del sistema di intelligenza artificiale. Inoltre, uno dei vantaggi di questi sistemi è che possono dare un senso a dati complessi in modi che non sono accessibili agli esseri umani. Quindi rendere le loro spiegazioni comprensibili agli esseri umani potrebbe richiedere una riduzione delle prestazioni.

I sistemi esplicativi devono essere separati dai sistemi di intelligenza artificiale, afferma il team di Harvard

Come possiamo quindi rendere l'IA responsabile delle sue decisioni senza soffocare l'innovazione?

Oggi, riceviamo una sorta di risposta grazie al lavoro di Finale Doshi-Velez, Mason Kortz e altri all'Università di Harvard a Cambridge, nel Massachusetts. Queste persone sono informatici, scienziati cognitivi e studiosi di diritto che hanno esplorato insieme le questioni legali sollevate dai sistemi di intelligenza artificiale, identificato problemi chiave e suggerito potenziali soluzioni. Insieme, siamo esperti di spiegazioni nella legge, sulla creazione di sistemi di intelligenza artificiale e sulle capacità e sui limiti del ragionamento umano, dicono.

Iniziano definendo la spiegazione. Quando parliamo di una spiegazione per una decisione, generalmente intendiamo le ragioni o le giustificazioni di quel particolare risultato, piuttosto che una descrizione del processo decisionale in generale, dicono.

La distinzione è importante. Doshi-Velez e compagni sottolineano che è possibile spiegare come un sistema di intelligenza artificiale prende decisioni nello stesso senso in cui è possibile spiegare come funziona la gravità o come cuocere una torta. Questo viene fatto stabilendo le regole seguite dal sistema, senza fare riferimento a nessun oggetto o torta in caduta specifica.

Questa è la paura degli industriali che vogliono mantenere segreto il funzionamento dei loro sistemi di intelligenza artificiale per proteggere il loro vantaggio commerciale.

Ma questo tipo di trasparenza non è necessario in molti casi. Spiegare perché un oggetto è caduto in un incidente sul lavoro, ad esempio, normalmente non richiede una spiegazione della gravità. Invece, di solito sono necessarie spiegazioni per rispondere a domande come queste: quali sono stati i fattori principali in una decisione? Cambiare un certo fattore avrebbe cambiato la decisione? Perché due casi simili hanno portato a decisioni diverse?

Rispondere a queste domande non richiede necessariamente una spiegazione dettagliata del funzionamento di un sistema di intelligenza artificiale.

Quindi quando dovrebbero essere fornite le spiegazioni? In sostanza, quando il vantaggio supera il costo. Troviamo che ci sono tre condizioni che caratterizzano le situazioni in cui la società considera un decisore obbligato - moralmente, socialmente o legalmente - a fornire una spiegazione, affermano Doshi-Velez e co.

Il team afferma che la decisione deve avere un impatto su una persona diversa dal decisore. Deve essere utile sapere se la decisione è stata presa in modo errato. E ci deve essere qualche ragione per credere che si sia verificato (o si verificherà) un errore nel processo decisionale.

Ad esempio, gli osservatori potrebbero sospettare che una decisione sia stata influenzata da qualche fattore irrilevante, come un chirurgo che si rifiuta di eseguire un'operazione a causa della fase lunare. Oppure potrebbero diffidare di un sistema se ha preso la stessa decisione in due serie di circostanze completamente diverse. In tal caso, potrebbero sospettare che non abbia tenuto conto di un fattore importante. Un'altra preoccupazione sorge con le decisioni che sembrano avvantaggiare ingiustamente un gruppo, come quando i direttori aziendali prendono decisioni che avvantaggiano se stessi a spese dei loro azionisti.

In altre parole, ci devono essere buone ragioni per ritenere che una decisione sia impropria prima di chiedere una spiegazione. Ma possono esserci anche altri motivi per fornire spiegazioni, come il tentativo di aumentare la fiducia nei confronti dei consumatori.

Quindi Doshi-Velez e compagni esaminano situazioni legali concrete in cui sono richieste spiegazioni. Sottolineano che le menti ragionevoli possono differire e differiscono sul fatto che sia moralmente giustificabile o socialmente desiderabile richiedere una spiegazione. Le leggi d'altra parte sono codificate, e mentre si potrebbe discutere se una legge è corretta, almeno sappiamo qual è la legge, dicono.

Secondo la legge statunitense, le spiegazioni sono richieste in un'ampia varietà di situazioni e con vari livelli di dettaglio. Ad esempio, sono richieste spiegazioni in caso di responsabilità oggettiva, divorzio o discriminazione; per decisioni amministrative; e per giudici e giurie. Ma il livello di dettaglio varia enormemente.

Tutto ciò ha importanti implicazioni per i sistemi di intelligenza artificiale. Doshi-Velez e colleghi concludono che sono possibili spiegazioni legalmente fattibili per i sistemi di intelligenza artificiale. Questo perché la spiegazione di una decisione può essere fatta separatamente da una descrizione del suo funzionamento interno. Inoltre, il team afferma che un sistema di spiegazione dovrebbe essere considerato distinto dal sistema di intelligenza artificiale.

Questo è un risultato significativo. Ciò non significa che sarà sempre facile generare spiegazioni soddisfacenti. Ad esempio, come possiamo dimostrare che un sistema di sicurezza che utilizza le immagini di un volto come input non discrimina in base al sesso? Ciò è possibile solo utilizzando una faccia alternativa che è simile in ogni modo tranne che per il sesso, afferma la squadra.

Ma le spiegazioni per le decisioni prese dai sistemi di intelligenza artificiale sono generalmente possibili. E questo porta la squadra a una conclusione chiara. Raccomandiamo che, per il momento, i sistemi di intelligenza artificiale possano e debbano essere mantenuti secondo uno standard di spiegazione simile a quello degli esseri umani attualmente, dicono.

Ma è probabile che il nostro uso e la nostra comprensione dell'IA cambi in modi che non comprendiamo ancora (e forse non lo faremo mai). Per questo motivo questo approccio dovrà essere rivisto. In futuro potremmo voler mantenere un'IA a uno standard diverso, affermano Doshi-Velez e co.

Piuttosto!

Rif: arxiv.org/abs/1711.01134 : Responsabilità dell'IA ai sensi della legge: il ruolo della spiegazione

nascondere