La nuova causa che mostra il riconoscimento facciale è ufficialmente una questione di diritti civili

ACLU

Il 9 gennaio 2020, la polizia di Detroit si è recata nel sobborgo di Farmington Hill e ha arrestato Robert Williams nel suo vialetto mentre sua moglie e le sue giovani figlie guardavano. Williams, un uomo di colore, è stato accusato di aver rubato orologi da Shinola, un negozio di lusso. È stato trattenuto durante la notte in carcere.

Durante l'interrogatorio, un agente ha mostrato a Williams la foto di un sospetto. La sua risposta, come lui detto all'ACLU , doveva respingere la domanda. Questo non sono io, disse all'ufficiale. Spero che non pensiate tutti i neri si somigliano. Dice che l'ufficiale ha risposto: Il computer dice che sei tu.

Storia correlata

Cosa succede quando un algoritmo sbaglia

La cosa strana del falso arresto di Robert Williams non era che la polizia usava il riconoscimento facciale per identificarlo. È che gliel'hanno detto.

L'arresto ingiusto di Williams, riportato per la prima volta dal New York Times ad agosto 2020 , si basava su una cattiva corrispondenza del sistema di riconoscimento facciale del dipartimento di polizia di Detroit. Ancora due istanze di falsi arresti da allora sono stati resi pubblici. Entrambi sono anche uomini neri ed entrambi hanno intrapreso un'azione legale.

Ora Williams sta seguendo il loro percorso e sta andando oltre, non solo facendo causa al dipartimento per il suo arresto illegittimo, ma cercando di bandire la tecnologia.

Martedì, l'ACLU e la Civil Rights Litigation Initiative della University of Michigan Law School ha intentato una causa a nome di Williams, sostenendo che l'arresto violava i suoi diritti del quarto emendamento e violava la legge sui diritti civili del Michigan.

La causa richiede un risarcimento, una maggiore trasparenza sull'uso del riconoscimento facciale e la fine dell'uso da parte del dipartimento di polizia di Detroit della tecnologia di riconoscimento facciale, sia diretta che indiretta.

Cosa dice la causa

Il documenti depositati martedì esporre il caso. Nel marzo 2019, il DPD aveva pubblicato una foto sgranata di un uomo di colore con un berretto rosso dal video di sorveglianza di Shinola attraverso il suo sistema di riconoscimento facciale, realizzato da una società chiamata DataWorks Plus. Il sistema ha restituito una corrispondenza con una vecchia foto della patente di guida di Williams. Gli agenti investigativi hanno quindi incluso la foto della licenza di William come parte di una serie di foto e un appaltatore della sicurezza Shinola ( che in realtà non era presente al momento del furto) ha identificato Williams come il ladro. Gli ufficiali hanno ottenuto un mandato, che richiede più firme da parte della dirigenza del dipartimento, e Williams è stato arrestato.

La denuncia sostiene che il falso arresto di Williams è stato un risultato diretto del sistema di riconoscimento facciale e che questo caso di arresto e reclusione illegittimo esemplifica il grave danno causato dall'uso improprio e dalla dipendenza dalla tecnologia di riconoscimento facciale.

Il caso contiene quattro conteggi, tre dei quali si concentrano sulla mancanza di una probabile causa per l'arresto mentre uno si concentra sulle disparità razziali nell'impatto del riconoscimento facciale. Impiegando una tecnologia che è empiricamente provata per identificare erroneamente i neri a tassi molto più alti rispetto ad altri gruppi di persone, afferma, il DPD ha negato al signor Williams il pieno ed uguale godimento dei servizi, dei privilegi e dei vantaggi del dipartimento di polizia di Detroit a causa della sua razza o colore.

Le difficoltà della tecnologia di riconoscimento facciale nell'identificare le persone dalla pelle più scura lo sono Ben documentato . Dopo l'uccisione di George Floyd a Minneapolis nel 2020, alcune città e stati hanno annunciato divieti e moratorie sull'uso da parte della polizia del riconoscimento facciale. Ma molti altri, tra cui Detroit, hanno continuato a usarlo nonostante le crescenti preoccupazioni.

Basandosi su immagini scadenti

Quando la rivista MIT Technology ha parlato con l'avvocato dell'ACLU di Williams, Phil Mayor, l'anno scorso, ha sottolineato che i problemi di razzismo all'interno delle forze dell'ordine americane hanno reso l'uso del riconoscimento facciale ancora più preoccupante.

Questa non è una situazione da attore cattivo, ha detto il sindaco. Questa è una situazione in cui abbiamo un sistema giudiziario penale che è estremamente veloce da caricare ed estremamente lento nel proteggere i diritti delle persone, soprattutto quando si parla di persone di colore.

Eric Williams, un avvocato senior presso l'Economic Equity Practice di Detroit, afferma che le fotocamere hanno molti limiti tecnologici, non ultimo il fatto che sono codificate con gamme di colori per riconoscere il tono della pelle e spesso semplicemente non possono elaborare la pelle più scura.

'Penso che ogni persona di colore nel paese abbia avuto l'esperienza di essere in una foto e l'immagine risulta essere più chiara o più scura'.

Penso che ogni persona di colore nel paese abbia avuto l'esperienza di essere in una foto e l'immagine risulta in entrambi i casi più chiara o più scura, dice Williams, che è un membro del comitato degli avvocati dell'ACLU del Michigan ma non sta lavorando al Robert caso Williams. L'illuminazione è uno dei fattori primari quando si tratta della qualità di un'immagine. Quindi il fatto che le forze dell'ordine facciano affidamento, in una certa misura... su immagini davvero scadenti è problematico.

Ci sono stati casi che hanno sfidato algoritmi distorti e tecnologie di intelligenza artificiale sulla base della razza. Facebook, ad esempio, ha subito una massiccia verifica dei diritti civili dopo che i suoi algoritmi pubblicitari mirati sono stati trovati per pubblicare annunci sulla base di razza, sesso e religione. YouTube è stato citato in giudizio una class action dei creatori neri che ha affermato che i suoi sistemi di intelligenza artificiale profilano gli utenti e censurano o discriminano i contenuti sulla base della razza. YouTube è stato anche citato in giudizio dai creatori LGBTQ+ che hanno affermato che i sistemi di moderazione dei contenuti ha contrassegnato le parole gay e lesbica.

Alcuni esperti affermano che era solo questione di tempo prima che l'uso di una tecnologia distorta da parte di un'importante istituzione come la polizia non incontrasse sfide legali.

Storia correlata

Perché il 2020 è stato un anno cruciale e contraddittorio per il riconoscimento facciale Il movimento per la giustizia razziale ha spinto i problemi con la tecnologia nella coscienza pubblica, ma nonostante scandali e divieti, la sua crescita non sta rallentando.

L'uso del riconoscimento facciale da parte del governo ha chiaramente un impatto disparato contro le persone di colore, afferma Adam Schwartz, avvocato senior del personale presso la Electronic Frontier Foundation. Studio dopo studio mostra che questa tecnologia pericolosa ha tassi di falsi positivi molto più alti per le persone di colore rispetto ai bianchi. Pertanto, l'uso da parte del governo di questa tecnologia viola le leggi che vietano al governo di adottare pratiche che causano un impatto disparato.

Ma il sindaco, l'avvocato di Williams, si aspettava una dura battaglia. L'anno scorso ha detto al MIT Technology Review che si aspettava che lo facesse il dipartimento di polizia di Detroit continuano a sostenere che il riconoscimento facciale è un ottimo strumento investigativo.

Il caso Williams dimostra che non lo è. Non lo è affatto, ha detto. E in effetti, può danneggiare le persone quando lo usi come strumento investigativo.

Al microscopio

In una dichiarazione, Lawrence Garcia, l'avvocato della città di Detroit, ha affermato che la città mirava a 'ottenere una risoluzione' nel caso, ma ha affermato che il riconoscimento facciale non era la causa della situazione.

'Come ha spiegato il capo della polizia, l'arresto è stato il risultato di un'indagine scadente, non di una tecnologia difettosa', ha detto Garcia. 'Il dipartimento di polizia di Detroit ha condotto un'indagine interna e ha sostenuto accuse di cattiva condotta relative a diversi membri del dipartimento. Nuovi protocolli sono stati messi in atto da DPD per evitare che si verifichino problemi simili.'

Ma la tuta della Williams arriva in un momento critico per la gara e la polizia negli Stati Uniti. È stato archiviato quando gli avvocati difensori hanno iniziato le discussioni nel processo a Derek Chauvin, l'ufficiale accusato di aver ucciso George Floyd a Minneapolis lo scorso maggio, e il terzo giorno di proteste in risposta alla sparatoria di Daunte Wright nel vicino Brooklyn Center, nel Minnesota. Wright, un uomo di colore di 20 anni, è stato fermato per una fermata del traffico e arrestato con un mandato prima che l'agente Kim Potter gli sparasse e lo uccidesse, presumibilmente scambiando la sua pistola per un taser.

Eric Williams afferma che è essenziale comprendere il riconoscimento facciale in questo più ampio contesto di fallimenti della polizia:

Quando DPD ha deciso di acquistare la tecnologia... si sapeva che la tecnologia di riconoscimento facciale era incline a identificare erroneamente le persone dalla pelle più scura prima che il signor Williams fosse preso in custodia, giusto? Nonostante ciò, in una città che è nera per oltre l'80%, hanno scelto di utilizzare questa tecnologia.

Stai chiaramente attribuendo meno valore alle vite, ai mezzi di sussistenza e alle libertà civili dei neri rispetto ai bianchi. È troppo comune negli attuali Stati Uniti.

Questa storia è stata aggiornata per includere una dichiarazione della città di Detroit. Jennifer Strong ha contribuito a questa storia.

nascondere