Potremmo vedere la regolamentazione federale sul riconoscimento facciale già la prossima settimana

Foto di AP/John Minchillo, file

Il 10 maggio, 40 gruppi di difesa hanno inviato una lettera aperta chiedendo un divieto permanente sull'uso del software di riconoscimento facciale di Amazon, Rekognition, da parte della polizia statunitense. La lettera era indirizzata a Jeff Bezos e Andy Jassy, ​​gli attuali e entranti CEO dell'azienda, ed è arrivata poche settimane prima La moratoria di Amazon di un anno sulle vendite alle forze dell'ordine era destinato a scadere.

La lettera contrastava con il sostegno vocale di Bezos e Jassy agli attivisti di Black Lives Matter durante le proteste per la giustizia razziale della scorsa estate dopo l'omicidio di George Floyd, riportando che altri prodotti Amazon sono stati utilizzati dalle forze dell'ordine per identificare i manifestanti .

Il 17 maggio Amazon annunciato estenderebbe la sua moratoria indefinitamente, unendosi ai concorrenti IBM e Microsoft nel purgatorio autoregolato. La mossa è un cenno al potere politico dei gruppi che combattono per frenare la tecnologia e il riconoscimento che stanno iniziando a emergere nuovi campi di battaglia legislativi. Molti credono che una sostanziale legislazione federale potrebbe arrivare presto.

Le persone sono esauste

L'anno passato è stato fondamentale per il riconoscimento facciale , con rivelazioni sul ruolo della tecnologia in falsi arresti , e il divieto messo in atto da quasi due dozzine di città e sette stati attraverso gli Stati Uniti. Ma lo slancio è cambiato da tempo.

Nel 2018, i ricercatori di IA hanno pubblicato uno studio confrontando l'accuratezza del software commerciale di riconoscimento facciale di IBM, Microsoft e Face++. Il loro lavoro ha scoperto che la tecnologia identificava gli uomini dalla pelle più chiara in modo molto più accurato rispetto alle donne dalla pelle più scura; Il sistema IBM ha ottenuto il punteggio peggiore, con una differenza del 34,4% nel tasso di errore tra i due gruppi.

Anche nel 2018, l'ACLU ha testato Recognition di Amazon e ha scoperto che ha identificato erroneamente 28 membri del Congresso come criminali, un errore che colpisce in modo sproporzionato le persone di colore. L'organizzazione ha scritto la propria lettera aperta ad Amazon , chiedendo che la società vieti l'uso della tecnologia da parte del governo, così come il Congressional Black Caucus —ma Amazon non ha apportato modifiche.

(Un portavoce di Amazon ha indirizzato la MIT Technology Review a a confutazione pubblicato nel luglio del 2018 che espone i problemi che l'azienda ha avuto con l'accuratezza e i metodi del test dell'ACLU.)

'Se vogliamo impegnarci per l'equità razziale nel sistema di giustizia penale... una delle cose più semplici e chiare che puoi fare è porre fine all'uso della tecnologia di riconoscimento facciale'.

Kate Ruane, ACLU

Durante i movimenti per la giustizia razziale contro la brutalità della polizia la scorsa estate, tuttavia, Amazon ha sorpreso molti annunciando che stava interrompendo l'uso da parte della polizia di Rekognition, con eccezioni per le forze dell'ordine federali come ICE. L'annuncio della società affermava che sperava che la pausa potesse dare al Congresso abbastanza tempo per mettere in atto regole appropriate.

Evan Greer è il direttore di Fight for the Future, un gruppo di difesa della tecnologia che crede nell'abolizione della tecnologia di riconoscimento facciale e afferma che c'è un crescente sostegno pubblico per la sua regolamentazione. Dice che l'estensione della moratoria di questa settimana mostra che Amazon sta rispondendo a questa enorme pressione che sta ricevendo, non solo per il riconoscimento facciale, aggiungendo, io do davvero un enorme merito alle rivolte a livello nazionale per la giustizia razziale che si sono verificate nell'ultimo anno e mezzo.

Una realtà politica

Sebbene ci sia pressione sui grandi fornitori di tecnologia, la realtà è che la maggior parte degli utenti delle forze dell'ordine e del governo non acquista software di riconoscimento facciale da aziende come Amazon. Quindi, sebbene le moratorie e i divieti siano i benvenuti nei gruppi di difesa, non impediscono necessariamente l'uso delle tecnologie. Il Congresso, nel frattempo, non ha ancora approvato alcuna legislazione federale sul riconoscimento facciale nelle forze dell'ordine, nel governo o in contesti commerciali che regolerebbero i fornitori più piccoli.

Alcuni sperano che la legislazione federale arrivi presto, tuttavia, attraverso un'azione diretta del Congresso, un ordine esecutivo presidenziale o imminenti disegni di legge di appropriazione e riforma della polizia.

Penso che lo scenario migliore sia che il Congresso approvi una moratoria sul suo utilizzo, afferma Kate Ruane, consulente legislativo senior dell'ACLU. Ritiene che i nuovi usi dovrebbero essere consentiti solo dopo un maggiore lavoro legislativo.

Sono già stati proposti diversi progetti di legge federali che limiterebbero l'accesso al riconoscimento facciale.

• Il Legge sul riconoscimento facciale e sulla moratoria delle tecnologie biometriche chiede di vietare l'uso del software da parte di qualsiasi entità federale e trattenere il denaro delle sovvenzioni federali da qualsiasi autorità statale e locale che non promulghi la propria moratoria. È stato proposto da quattro membri democratici del Congresso e presentato al Senato l'anno scorso.
• Il George Floyd Giustizia nella legge sulla polizia impedirebbe l'uso del riconoscimento facciale nelle fotocamere del corpo. Il disegno di legge è già passato alla Camera e dovrebbe arrivare al Senato la prossima settimana. Il presidente Biden ha chiesto che il disegno di legge venga approvato prima dell'anniversario della morte di George Floyd, il 25 maggio.
• Il Il quarto emendamento non è in vendita , un disegno di legge bipartisan presentato da 18 senatori, limita il governo a collaborare con fornitori di tecnologia che violano i termini di servizio. In pratica, impedirebbe in gran parte al governo l'accesso ai sistemi che si occupano di web scraping, come Clearview AI .

Mutale Nkonde, CEO fondatore di AI for the People, un'organizzazione no-profit che sostiene la giustizia razziale nella tecnologia, ritiene che probabilmente vedremo ulteriori leggi federali entro le elezioni di medio termine del prossimo anno.

Penso che verrà introdotta una legislazione federale che disciplinerà tutti i sistemi algoritmici, incluso il riconoscimento facciale, afferma Nkonde. Penso che sia una realtà politica.

Nkonde afferma che il concetto di valutazioni d'impatto che valutano i sistemi tecnologici sulla base dei diritti civili sta guadagnando terreno nei circoli politici su entrambi i lati del corridoio.

L'ACLU sta facendo pressioni sull'amministrazione Biden per un ordine esecutivo, e di recente ha pubblicato una lettera con altri 40 gruppi chiedendo un divieto immediato all'uso da parte del governo della tecnologia.

Se vogliamo impegnarci per la giustizia razziale, se vogliamo impegnarci per l'equità razziale nel sistema di giustizia penale, ci impegneremo in questo tipo di riforme, una delle cose più semplici e chiare che puoi fare è porre fine l'uso della tecnologia di riconoscimento facciale, dice Ruane.

Le persone sono solo più radicali

Nel frattempo, Ruane si aspetta che l'autoregolamentazione rimanga uno dei metodi più efficaci per prevenire un uso esteso del riconoscimento facciale. È plausibile che le agenzie federali come i Dipartimenti per l'edilizia abitativa, la sicurezza interna e l'istruzione prendano in considerazione l'imposizione di regole che vietano l'uso della tecnologia .

Nkonde è ottimista sul fatto che le moratorie si estenderanno a divieti e una legislazione più permanente: penso che le moratorie sembravano essere ciò che era possibile prima dell'uccisione di George Floyd. Dopo di che, le persone sono solo più radicali.

Ma Greer avverte che, nonostante tutto lo slancio contro il riconoscimento facciale, la legislazione che si concentra fortemente sull'accuratezza razziale dei sistemi potrebbe non risolvere problemi più profondi. Penso che sarebbe un errore se i politici vedessero nell'accuratezza l'unico problema con il riconoscimento facciale che deve essere affrontato, dice. L'industria sarebbe davvero molto contenta di un disegno di legge che, ad esempio, dice qualcosa del tipo 'Se hai intenzione di vendere un sistema di riconoscimento facciale, deve essere accurato al 99% su persone di tutte le diverse razze e tonalità della pelle'.

Anche se il pregiudizio non è integrato nel sistema, hai ancora un sistema di polizia parziale che ora viene accelerato e in qualche modo sovralimentato con questa tecnologia, aggiunge.

Questa storia è stata aggiornata per includere la confutazione di Amazon al test ACLU del sistema Rekognition di Amazon nel 2018.

nascondere