211service.com
C'è una crisi di riconoscimento facciale e polizia negli Stati Uniti
Signora Tech | Spruzza
Quando è arrivata la notizia che una corrispondenza sbagliata da un sistema di riconoscimento facciale aveva portato la polizia di Detroit ad arrestare Robert Williams per un crimine che non aveva commesso, era la fine di giugno e il paese era già in subbuglio per la morte di George Floyd un mese prima. . Poco dopo, è emerso che un altro uomo di colore, Michael Oliver, è stato arrestato in circostanze simili a quelle della Williams. Mentre gran parte degli Stati Uniti continua a chiedere giustizia razziale, sta prendendo forma una conversazione più tranquilla sulla tecnologia di riconoscimento facciale e sulla polizia. Faremmo bene ad ascoltare.
Quando Jennifer Strong ed io abbiamo iniziato a riferire sull'uso della tecnologia di riconoscimento facciale da parte della polizia per il nostro nuovo podcast, Nelle macchine di cui ci fidiamo , sapevamo che questi sistemi basati sull'intelligenza artificiale venivano adottati da poliziotti in tutti gli Stati Uniti e in altri paesi. Ma non avevamo idea di quanto stessero accadendo fuori dagli occhi del pubblico.
Per cominciare, non sappiamo con quale frequenza i dipartimenti di polizia negli Stati Uniti utilizzino il riconoscimento facciale per il semplice motivo che nella maggior parte delle giurisdizioni non devono denunciare quando lo usano per identificare un sospetto in un crimine. Il i numeri più recenti sono speculativi e del 2016 , ma suggeriscono che all'epoca almeno la metà degli americani aveva foto in un sistema di riconoscimento facciale. Una contea della Florida ha eseguito 8.000 ricerche ogni mese.
Inoltre, non sappiamo quali dipartimenti di polizia abbiano la tecnologia di riconoscimento facciale, perché è normale che la polizia oscuri il processo di approvvigionamento. Ci sono prove, ad esempio, che molti dipartimenti acquistano la loro tecnologia utilizzando sovvenzioni federali o doni senza scopo di lucro, che sono esenti da alcune leggi sulla divulgazione. In altri casi, le aziende offrono periodi di prova della polizia per il loro software che consentono agli agenti di utilizzare i sistemi senza alcuna approvazione o supervisione ufficiale. Ciò consente alle aziende che producono sistemi di riconoscimento facciale di affermare che i loro prodotti sono ampiamente utilizzati e di dare l'impressione esteriore di essere strumenti di risoluzione dei crimini popolari e affidabili.
Algoritmi protetti che non servono
Ma se il riconoscimento facciale è noto per qualcosa, è quanto sia inaffidabile. Come riportiamo nello show, a gennaio la Metropolitan Police di Londra ha debuttato un sistema di riconoscimento facciale dal vivo che nei test aveva un tasso di precisione inferiore al 20% . A New York City, il Metro Transit Authority ha provato un sistema sulle strade principali con un tasso riportato di 0% di precisione. I sistemi sono spesso anche razzisti: uno studio ha scoperto che in alcuni sistemi commerciali, anche in condizioni di laboratorio tassi di errore nell'identificazione delle donne dalla pelle scura erano intorno al 35%. Durante la segnalazione per lo spettacolo, abbiamo scoperto che non è raro che la polizia alteri le foto per aumentare le possibilità di trovare una corrispondenza. Alcuni hanno persino difeso la pratica come fondamentale per svolgere un buon lavoro di polizia.
Due delle aziende più controverse e avanzate del settore, ClearviewAI e NTechLabs, affermano di aver risolto il problema del bias e di aver raggiunto una precisione quasi perfetta. ClearviewAI afferma che è utilizzato da circa 600 dipartimenti di polizia negli Stati Uniti (alcuni esperti con cui abbiamo parlato erano scettici su quella cifra). NTechLabs, con sede in Russia, ha firmato per il riconoscimento facciale video dal vivo in tutta la città di Mosca.
Ma non c'è quasi modo di verificare in modo indipendente le loro affermazioni. Entrambe le società hanno algoritmi che si trovano su database di miliardi di foto pubbliche. Il National Institute of Standards and Technology (NIST), nel frattempo, offre uno dei pochi audit indipendenti della tecnologia di riconoscimento facciale. Il NIST Vendor Test utilizza un set di dati molto più piccolo che, insieme alla qualità e alla diversità delle immagini nel database, ne limita il potere come strumento di controllo. ClearviewAI non ha sostenuto il test più recente del NIST. NTechLabs ha eseguito il test dell'immagine statica e ha ottenuto buoni risultati, ma non esiste un test attualmente utilizzato per il riconoscimento facciale video dal vivo. Inoltre, non esiste un test indipendente specifico per i bias.
Riconoscimento nelle strade
La recente ondata di proteste di Black Lives Matter, innescata dalla morte di Floyd, ha messo in discussione gran parte di ciò che abbiamo accettato sulla polizia moderna, compreso il loro uso della tecnologia. L'ironia oscura è che, quando le persone scendono in strada per protestare contro il razzismo nelle forze dell'ordine, alcuni poliziotti hanno usato strumenti all'avanguardia con un noto pregiudizio razziale contro quelli riuniti. Sappiamo, per esempio, che il dipartimento di polizia di Baltimora ha utilizzato il riconoscimento facciale sui manifestanti dopo la morte di Freddie Gray nel 2015. E sappiamo che una manciata di dipartimenti ha lanciato appelli pubblici per filmati delle proteste di quest'anno. È stato documentato che la polizia di Minneapolis ha accesso a una serie di tecnologie, compresi i servizi di ClearviewAI . Secondo Jameson Spivack del Center on Privacy and Technology della Georgetown University, che intervistiamo nello show, se il riconoscimento facciale viene utilizzato nelle proteste BLM, prende di mira e scoraggia in modo specifico il discorso politico nero.
Dopo anni di lotta per la regolamentazione, da parte di organizzazioni per lo più a guida nera e marrone , non siamo mai stati in un momento migliore per cambiare davvero. Microsoft, Amazon e IBM hanno tutti annunciato interruzioni o moratorie dei loro prodotti di riconoscimento facciale. Negli ultimi mesi, una manciata di grandi città degli Stati Uniti ha annunciato divieti o moratorie sulla tecnologia. D'altra parte, la tecnologia si sta muovendo rapidamente. Le capacità dei sistemi, così come il potenziale di uso improprio e abuso, continueranno a crescere a passi da gigante. Stiamo già iniziando a vedere i dipartimenti di polizia e i fornitori di tecnologia andare oltre i sistemi di riconoscimento facciale statici e retrospettivi per l'analisi video dal vivo che è integrata con altri tipi di flussi di dati come i sistemi di sorveglianza di spari audio.
Alcuni degli agenti di polizia con cui abbiamo parlato hanno detto che non dovrebbero essere lasciati con strumenti arcaici per combattere il crimine nel 21° secolo. Ed è vero che in alcuni casi la tecnologia può rendere la polizia meno violenta e meno incline ai pregiudizi umani.
Ma dopo mesi passati a riportare la nostra miniserie audio, mi è rimasta una sensazione di presentimento. La posta in gioco cresce di giorno in giorno e finora il pubblico è rimasto molto indietro nella sua comprensione di ciò che sta accadendo. Non è chiaro come cambierà a meno che tutte le persone su tutti i lati di questo problema non possano essere d'accordo sul fatto che tutti hanno il diritto di essere informati.