211service.com
Stabilire un codice etico di intelligenza artificiale sarà più difficile di quanto si pensi
Varoon Mathur / AI Now Institute
Negli ultimi sei anni, il dipartimento di polizia di New York ha compilato un enorme database contenente i nomi e le generalità di almeno 17.500 persone che si ritiene siano coinvolte in bande criminali. Lo sforzo è già stato criticato da attivisti per i diritti civili che affermano che è impreciso e discriminatorio dal punto di vista razziale.
'Ora immagina di sposare la tecnologia di riconoscimento facciale con lo sviluppo di un database che teoricamente presuppone che tu sia in una banda', ha detto Sherrilyn Ifill, presidente e consigliere direttivo del fondo per la difesa legale della NAACP, al Simposio AI Now a New York martedì scorso.
Avvocati, attivisti e ricercatori sottolineano la necessità di etica e responsabilità nella progettazione e implementazione dei sistemi di intelligenza artificiale. Ma questo spesso ignora un paio di domande difficili: chi può definire queste etiche e chi dovrebbe farle rispettare?
Sherrilyn Ifill (NAACP Legal Defense Fund), Timnit Gebru (Google) e Nicole Ozer (ACLU) in conversazione al Simposio AI Now 2018. Andrew Federman per AI Now Institute
Non solo il riconoscimento facciale è imperfetto, studi hanno dimostrato che il software principale è meno accurato per le persone e le donne di carnagione scura. Secondo le stime di Ifill, il database della polizia è compreso tra il 95 e il 99% di afroamericani, latinoamericani e asiatici americani. 'Stiamo parlando di creare una classe di […] persone che sono marchiate con una specie di etichetta criminale', ha detto Ifill.
Nel frattempo, i dipartimenti di polizia di Stati Uniti, Regno Unito e Cina hanno iniziato ad adottare il riconoscimento facciale come strumento per trovare criminali noti. A giugno, la polizia del Galles meridionale rilasciato una dichiarazione che giustifica il loro uso della tecnologia a causa del 'beneficio pubblico' che fornisce.
In effetti, la tecnologia spesso mette in evidenza i diversi standard etici delle persone, indipendentemente dal fatto che lo siano censurare l'incitamento all'odio o utilizzando strumenti di valutazione del rischio per migliorare la sicurezza pubblica .
Nel tentativo di evidenziare quanto possano essere divergenti i principi delle persone, i ricercatori del MIT hanno creato una piattaforma chiamata the Macchina morale per raccogliere opinioni umane sulle decisioni morali che dovrebbero essere seguite dalle auto a guida autonoma. Hanno chiesto a milioni di persone da tutto il mondo di valutare le variazioni del classico ' problema del carrello ' scegliendo a chi un'auto dovrebbe cercare di dare la priorità in caso di incidente. I risultati mostrano enormi variazioni tra culture diverse.
Anche la definizione di standard etici non cambia necessariamente il comportamento. A giugno, ad esempio, dopo Google concordato per interrompere il suo lavoro sul Progetto Maven con il Pentagono, ha stabilito una nuova serie di principi etici per guidare il suo coinvolgimento nei futuri progetti di IA. Solo pochi mesi dopo, molti dipendenti di Google ritengono che quei principi siano stati messi da parte con un'offerta per a Contratto del Dipartimento della Difesa da 10 miliardi di dollari . A studi recenti della North Carolina State University ha anche scoperto che chiedere agli ingegneri del software di leggere un codice etico non fa nulla per cambiare il loro comportamento.
Philip Alston, studioso di diritto internazionale presso la School of Law della NYU, propone una soluzione alla natura ambigua e irresponsabile dell'etica: riformulare le conseguenze guidate dall'IA in termini di diritti umani. '[I diritti umani sono] nella costituzione', ha detto Alston nella stessa conferenza. 'Sono nella carta dei diritti; sono stati interpretati dai tribunali', ha detto. Se un sistema di intelligenza artificiale toglie i diritti fondamentali delle persone, non dovrebbe essere accettabile, ha affermato.
Philip Alston (NYU School of Law), Virginia Eubanks (University at Albany, SUNY) e Vincent Southerland (Center on Race, Inequality, and the Law at NYU) sul palco del simposio. Andrew Federman per AI Now Institute
Alston non è l'unico che ha escogitato questa soluzione. Meno di una settimana prima del Simposio, il Data & Society Research Institute ha pubblicato a proposta per aver utilizzato i diritti umani internazionali per governare l'IA. Il rapporto include raccomandazioni per le aziende tecnologiche di impegnarsi con gruppi e ricercatori per i diritti civili e di condurre valutazioni d'impatto sui diritti umani sui cicli di vita dei loro sistemi di intelligenza artificiale.
'Finché non inizieremo a portare [i diritti umani] nella discussione sull'IA', ha aggiunto Alston, 'non c'è un'ancora dura'.