Perché il 2020 è stato un anno cruciale e contraddittorio per il riconoscimento facciale

Alexander Farnsworth | Getty

Il primo arresto illecito confermato in America mediante la tecnologia di riconoscimento facciale è avvenuto nel gennaio 2020. Robert Williams, un uomo di colore, è stato arrestato nel suo vialetto appena fuori Detroit, con sua moglie e sua figlia che lo osservavano. Ha passato la notte in carcere. Il giorno successivo nella stanza degli interrogatori, un detective ha fatto scivolare sul tavolo una foto di Williams di un altro uomo di colore che era stato catturato in video mentre rubava orologi dalla boutique Shinola.

Sei tu? chiese .

No, non sono io. Williams ha risposto.

Il detective ha passato un'altra foto. Immagino che anche questo non sia tu?

Williams tenne la foto vicino al viso. Chiaramente non era lui. Williams ha detto: Questo non sono io. Spero che tu non pensi che tutti i neri si somigliano.

Il computer dice che sei tu, rispose il detective.

La cosa nuova del arresto di Robert Williams non è che sia successo, o che sia stato un errore. Il riconoscimento facciale è noto per essere meno accurato per le persone dalla pelle più scura. E la tecnologia è ampiamente utilizzata dai dipartimenti di polizia negli Stati Uniti, anche se non ci sono buoni dati su quanto sia pervasiva. La parte insolita della storia di Williams è che la polizia ha ammesso di aver usato il riconoscimento facciale nel suo arresto.

La notizia del caso è diventata pubblica all'inizio di agosto e, dopo un'estate di proteste incentrate sul modo in cui le comunità nere sono controllate in America, è stata accolta con indignazione a livello nazionale. Un paio di settimane dopo, è venuto alla luce un altro arresto illecito di un uomo di colore a Detroit a causa della tecnologia di riconoscimento facciale.

Già prima di questo, gli attivisti avevano chiesto la fine del Project Greenlight, l'iniziativa pubblico-privata cittadina che utilizza il riconoscimento facciale nel tentativo di ridurre la criminalità. Ma non solo il progetto è ancora in corso: a fine settembre il consiglio comunale ha votato per estendere il contratto tra il dipartimento di polizia di Detroit e il suo fornitore di riconoscimento facciale, DataWorks Plus.

Un anno di contraddizioni

Gli eventi di Detroit esemplificano la nostra complicata relazione con il riconoscimento facciale in questo momento. Il suo utilizzo è in crescita e in alcuni campi la tecnologia è diventata parte integrante. In altri, come la vendita al dettaglio, il riconoscimento facciale sta iniziando a essere lanciato con grandi speranze per il futuro. Molti fornitori di tecnologia scommettono che il pubblico si sentirà sempre più a suo agio con l'uso della biometria, e presto sarà una parte organica della vita digitale: Apple ha scommesso molto su di essa e ora milioni di persone usano il suo sistema Face ID per sbloccare i propri iPhone tutti i giorni.

Ma il pubblico ha anche una nuova consapevolezza dei pericoli che il riconoscimento facciale pone, soprattutto nella giustizia penale. C'è molta più consapevolezza, più preoccupazione e più conversazioni ora che mai, e quest'anno ha visto più legislazione sul riconoscimento facciale rispetto a tutti gli anni precedenti messi insieme. Ci sono stati divieti o moratorie in sei città degli Stati Uniti nel 2019 e lo stesso anche quest'anno.

Conciliare queste leggi con la crescita del settore sarà difficile. Ma gli eventi del 2020 forniscono alcuni indizi su come questi compromessi potrebbero svolgersi nel prossimo anno.

Piccoli attori, grande industria

A gennaio, il New York Times ha pubblicato un'indagine di ClearviewAI, una piccola azienda di riconoscimento facciale che ha eseguito il suo algoritmo su un database di miliardi di immagini catturate dai social media. I dipartimenti di polizia che utilizzavano il sistema di ClearviewAI accedevano in modo efficace alle tue foto di Facebook per far corrispondere immagini della polizia spesso sfocate o incomplete durante le indagini.

La società è stata pesantemente criticata e successiva segnalazione di BuzzFeed News ha mostrato che il sistema era utilizzato da ben 2.200 forze dell'ordine negli Stati Uniti, nonché da Immigration and Customs Enforcement, il Dipartimento di giustizia e rivenditori tra cui Macy's e Walmart.

La storia di Clearview ha davvero spaventato molte persone, come dovrebbe, afferma Jameson Spivack, un associato politico presso il Center on Privacy and Technology della Georgetown University. Molte delle preoccupazioni si concentrano su quanto sia frammentato il campo. Mentre le grandi aziende come IBM e Microsoft sono forze significative, ci sono anche molte piccole aziende private, come ClearviewAI e NtechLab, che operano con poca supervisione pubblica. Il rapporto ha anche messo in luce quanto poco il pubblico sapesse dell'uso diffuso della tecnologia da parte del governo.

Il catalizzatore: proteste razziali

Queste storie hanno sollevato la consapevolezza dei problemi, ma Spivack afferma che le proteste di Black Lives Matter in seguito all'omicidio di George Floyd sono state il più grande catalizzatore per la legislazione che limita l'uso del riconoscimento facciale negli Stati Uniti. Gli americani hanno improvvisamente iniziato a riesaminare la polizia e i suoi strumenti, le politiche e la cultura.

La preoccupazione era iniziata a crescere dopo che i ricercatori Joy Buolamwini e Timnit Gebru hanno scoperto e pregiudizi razziali documentati nei prodotti commerciali di riconoscimento facciale nel 2018, portando diverse città e stati a approvare leggi che ha impedito alla polizia di utilizzare il riconoscimento facciale insieme alle telecamere del corpo.

Ma durante il più grande movimento di protesta della storia americana, gli attivisti erano preoccupati che le tecnologie di sorveglianza della polizia sarebbero state utilizzate per ritorsioni. Da allora è stato confermato che almeno il New York , Miami , e Washington, DC, dipartimento di polizia s ha usato il riconoscimento facciale per sorvegliare i manifestanti.

Il 1 giugno a Washington, DC, la polizia ha usato palline di pepe e gas lacrimogeni per respingere i manifestanti in Lafayette Square in modo che il presidente Trump potesse scattare una foto in una chiesa vicina. In mezzo al caos, un manifestante ha preso a pugni un agente di polizia. Giorni dopo, gli agenti hanno trovato una foto dell'uomo su Twitter e l'hanno esaminata attraverso il loro sistema di riconoscimento facciale, hanno trovato una corrispondenza e hanno effettuato l'arresto. Allo stesso modo a Miami, una donna accusata di aver lanciato sassi alla polizia durante una protesta è stata arrestata sulla base di una corrispondenza di riconoscimento facciale.

Spivack ha visto attivisti di base contro il riconoscimento facciale lavorare a stretto contatto con i gruppi di riforma della polizia durante l'estate e l'autunno, guidati da altri gruppi di difesa come l'American Civil Liberties Union. A Portland, in Oregon, un manifestante ha persino creato un sistema di riconoscimento facciale identificare agenti di polizia anonimi .

Nel corso del 2020, è stata proposta una legislazione per limitare l'uso da parte della polizia di tale tecnologia a livello municipale, statale e persino federale. A giugno, i legislatori democratici hanno presentato un disegno di legge che vieterebbe l'uso del riconoscimento facciale da parte delle forze dell'ordine federali. Nel Vermont, un ordine esecutivo del governatore ha creato un divieto in tutto lo stato sull'uso della tecnologia da parte del governo. In Massachusetts, le città di Cambridge e Boston hanno approvato i divieti sulla tecnologia quest'estate e il governo statale ha approvato divieto di riconoscimento facciale per gli enti pubblici, comprese le forze dell'ordine, a dicembre; Attualmente lo è il governatore Charlie Baker rifiutandosi di firmare il disegno di legge .

La California ha avviato il proprio dibattito sulla legislazione in tutto lo stato a maggio e le città di San Francisco e Oakland hanno già vietato l'uso del riconoscimento facciale da parte delle forze dell'ordine. A luglio, New York City ha istituito una moratoria sul riconoscimento facciale nelle scuole fino al 2022. A Portland, Oregon, un nuovo divieto in tutta la città vieta l'uso della tecnologia da parte di qualsiasi gruppo pubblico o privato.

Ma questo cambiamento non sta avvenendo ovunque, come mostra il nuovo impegno per la sorveglianza a Detroit. Spivack ipotizza che le dinamiche del potere razziale potrebbero influenzare la lotta politica attorno alla sorveglianza della polizia. Se guardi molte delle città che sono state tra le prime a vietare il riconoscimento facciale, erano in genere, non sempre, ma in genere più ricche, più bianche, molto progressiste, forse con più capitale politico e capacità di influenzare i legislatori, di più rispetto alle comunità più emarginate, dice.

Una prospettiva nazionale?

Tuttavia, non tutta la reazione ha assunto la forma di legge. All'inizio di giugno, IBM ha annunciato di aver smesso di vendere nessuno dei suoi prodotti di riconoscimento facciale. Amazon e Microsoft hanno seguito l'esempio interrompendo temporaneamente i loro contratti con i dipartimenti di polizia. E a luglio ha depositato l'ACLU una causa contro ClearviewAI per non aver rispettato l'Illinois Biometric Information Privacy Act, la prima sfida legale completa all'azienda.

Microsoft, Amazon, IBM e gruppi industriali come la Security Industry Association si stanno preparando a combattere. Loro drammaticamente aumentato la quantità di lobbying sul riconoscimento facciale dal 2018 al 2019, e si prevede che il 2020 registrerà un aumento ancora maggiore. Molti sono a favore di una maggiore regolamentazione, ma non di divieti. La moratoria di Amazon terminerà a giugno e quella di Microsoft è subordinata all'istituzione di una legge federale.

Nel frattempo, l'ACLU continua a redigere una legge che cerca di vietare la tecnologia. Una dichiarazione sul suo sito web dice che l'organizzazione si sta recando in tribunali, strade, legislature, consigli comunali e persino sale riunioni aziendali per difendere i nostri diritti contro i crescenti pericoli di questa tecnologia di sorveglianza non regolamentata.

Le priorità della nuova amministrazione daranno forma anche alla regolamentazione nel 2021 e oltre. Come candidata alla presidenza, Kamala Harris citato regolamento del riconoscimento facciale nelle forze dell'ordine come parte del suo piano di riforma della polizia. Se l'amministrazione spinge per una legislazione federale, è più probabile che diventi una questione nazionale, con il risultato che meno risorse saranno indirizzate a campagne di controllo più locali. Ma in caso contrario, la lotta continuerà probabilmente a svolgersi a livello statale e cittadino.

nascondere