211service.com
Dare agli algoritmi un senso di incertezza potrebbe renderli più etici
Gli algoritmi sono i migliori per perseguire un singolo obiettivo matematico, ma gli esseri umani spesso vogliono più cose incompatibili. 18 gennaio 2019
La signora Tech
Gli algoritmi sono sempre più utilizzati per prendere decisioni etiche. Forse il miglior esempio di ciò è un'interpretazione high-tech del dilemma etico noto come problema del tram: se un'auto a guida autonoma non può impedirsi di uccidere uno dei due pedoni, come dovrebbe il software di controllo dell'auto scegliere chi vive e chi muore ?
In realtà, questo enigma non è una rappresentazione molto realistica di come si comportano le auto a guida autonoma. Ma molti altri sistemi che sono già qui o non lontani dovranno fare ogni sorta di veri e propri compromessi etici. Gli strumenti di valutazione attualmente utilizzati nel sistema di giustizia penale devono considerare i rischi per la società contro i danni ai singoli imputati; le armi autonome dovranno pesare la vita dei soldati contro quella dei civili.
Il problema è che gli algoritmi non sono mai stati progettati per gestire scelte così difficili. Sono costruiti per perseguire un unico obiettivo matematico, come massimizzare il numero di vite salvate di soldati o ridurre al minimo il numero di morti tra i civili. Quando inizi a trattare con obiettivi multipli, spesso in competizione, o cerchi di rendere conto di elementi immateriali come la libertà e il benessere, non sempre esiste una soluzione matematica soddisfacente.
Come esseri umani vogliamo molteplici cose incompatibili, afferma Peter Eckersley, direttore della ricerca per la Partnership on AI, che ha recentemente pubblicato un carta che esplora questo problema. Ci sono molte situazioni ad alto rischio in cui è effettivamente inappropriato, forse pericoloso, programmare in un'unica funzione oggettiva che tenti di descrivere la tua etica.
Questi dilemmi senza soluzione non sono specifici degli algoritmi. Gli etici li hanno studiati per decenni e li chiamano teoremi di impossibilità. Quindi, quando Eckersley ha riconosciuto per la prima volta le loro applicazioni all'intelligenza artificiale, ha preso in prestito un'idea direttamente dal campo dell'etica per proporre una soluzione: e se incorporassimo l'incertezza nei nostri algoritmi?
Come esseri umani, prendiamo decisioni in modi piuttosto incerti per la maggior parte del tempo, dice. Il nostro comportamento come esseri morali è pieno di incertezza. Ma quando proviamo a prendere quel comportamento etico e ad applicarlo nell'IA, tende a concretizzarsi e renderlo più preciso. Invece, propone Eckersley, perché non progettare esplicitamente i nostri algoritmi per essere incerti sulla cosa giusta da fare?
Eckersley propone due possibili tecniche per esprimere questa idea matematicamente. Inizia con la premessa che gli algoritmi sono tipicamente programmati con regole chiare sulle preferenze umane. Dovremmo dirlo, ad esempio, che preferiamo decisamente i soldati amichevoli ai civili amichevoli e i civili amichevoli ai soldati nemici, anche se in realtà non eravamo sicuri o non pensavamo che dovesse essere sempre così. Il design dell'algoritmo lascia poco spazio all'incertezza.
La prima tecnica, nota come ordinamento parziale, inizia a introdurre solo un minimo di incertezza. Potresti programmare l'algoritmo per preferire i soldati amici ai soldati nemici e i civili amici ai soldati nemici, ma non specifichi una preferenza tra soldati amici e civili amici.
Nella seconda tecnica, nota come ordinamento incerto, hai diversi elenchi di preferenze assolute, ma a ciascuno è associata una probabilità. Tre quarti delle volte potresti preferire soldati amichevoli a civili amichevoli a soldati nemici. Un quarto delle volte potresti preferire civili amichevoli a soldati amici a soldati nemici.
L'algoritmo potrebbe gestire questa incertezza calcolando più soluzioni e quindi offrendo agli esseri umani un menu di opzioni con i relativi compromessi, afferma Eckersley. Supponiamo che il sistema di intelligenza artificiale avesse lo scopo di aiutare a prendere decisioni mediche. Invece di raccomandare un trattamento piuttosto che un altro, potrebbe presentare tre possibili opzioni: una per massimizzare la durata della vita del paziente, un'altra per ridurre al minimo la sofferenza del paziente e una terza per ridurre al minimo i costi. Chiedi al sistema di essere esplicitamente insicuro, dice, e restituisci il dilemma agli umani.
Carla Gomes, professoressa di informatica alla Cornell University, ha sperimentato tecniche simili nel suo lavoro. In un progetto, ha sviluppato un sistema automatizzato per valutare l'impatto dei nuovi progetti di dighe idroelettriche nel bacino del Rio delle Amazzoni. Le dighe forniscono una fonte di energia pulita. Ma alterano anche profondamente sezioni di fiume e sconvolgono gli ecosistemi della fauna selvatica.
Questo è uno scenario completamente diverso dalle auto a guida autonoma o altri [dilemmi etici comunemente citati], ma è un altro scenario in cui questi problemi sono reali, dice. Ci sono due obiettivi contrastanti, quindi cosa dovresti fare?
Il problema generale è molto complesso, aggiunge. Ci vorrà un corpo di ricerca per affrontare tutte le questioni, ma l'approccio di Peter sta compiendo un passo importante nella giusta direzione.
È un problema che crescerà solo con la nostra dipendenza dai sistemi algoritmici. Sempre di più, i sistemi complicati richiedono che l'IA sia al comando, afferma Roman V. Yampolskiy, professore associato di informatica all'Università di Louisville. Nessuna singola persona può capire la complessità, si sa, dell'intero mercato azionario o dei sistemi di risposta militare. Quindi non avremo altra scelta che cedere parte del nostro controllo alle macchine.
Una versione precedente di questa storia è apparsa originariamente nella nostra newsletter AI The Algorithm. Per riceverlo direttamente nella tua casella di posta, iscriviti qui gratuitamente.