Il NYPD ha utilizzato un controverso strumento di riconoscimento facciale. Ecco cosa devi sapere.

Getty

È stata una settimana impegnativa per Clearview AI, la controversa società di riconoscimento facciale che utilizza 3 miliardi di foto prelevate dal Web per alimentare un motore di ricerca per i volti. Il 6 aprile è stato pubblicato Buzzfeed News un database di oltre 1.800 entità —compresa la polizia statale e locale e altre agenzie finanziate dai contribuenti come i sistemi sanitari e le scuole pubbliche—che si dice abbiano utilizzato i prodotti controversi dell'azienda. Molte di queste agenzie hanno risposto alle accuse dicendo che avevano solo provato la tecnologia e non avevano alcun contratto formale con l'azienda.

Ma il giorno prima, la definizione di un processo con Clearview è stata dettagliata quando il sito di notizie senza scopo di lucro Muckrock ha rilasciato e-mail tra il dipartimento di polizia di New York e l'azienda. I documenti, ottenuti attraverso richieste di libertà di informazione dalla Legal Aid Society e dalla giornalista Rachel Richards, tracciano un rapporto amichevole di due anni tra il dipartimento e l'azienda tecnologica durante i quali il NYPD ha testato la tecnologia molte volte e ha utilizzato il riconoscimento facciale nelle indagini dal vivo .

Storia correlata

C'è una crisi di riconoscimento facciale e polizia negli Stati Uniti La tecnologia profondamente imperfetta è ampiamente utilizzata, in gran parte fuori dagli occhi del pubblico

Il NYPD ha precedentemente minimizzato il suo rapporto con Clearview AI e il suo uso della tecnologia dell'azienda. Ma le e-mail mostrano che il rapporto tra loro era ben sviluppato, con un gran numero di agenti di polizia che conducono un volume elevato di ricerche con l'app e le utilizzano in vere e proprie indagini. Il NYPD ha eseguire oltre 5.100 ricerche con Clearview AI.

Ciò è particolarmente problematico perché le politiche dichiarate limitano il NYPD dalla creazione di un archivio non supervisionato di foto a cui i sistemi di riconoscimento facciale possono fare riferimento e limitano l'uso della tecnologia di riconoscimento facciale a un team specifico. Entrambe le politiche sembrano essere state aggirate con Clearview AI. Le e-mail rivelano che il NYPD ha concesso a molti agenti esterni al team di riconoscimento facciale l'accesso al sistema, che si basa su un'enorme libreria di foto pubbliche dai social media. Le e-mail mostrano anche come gli agenti della polizia di New York abbiano scaricato l'app sui propri dispositivi personali, contravvenendo alla politica dichiarata, e utilizzato il potente e parziale tecnologia in modo casual.

Clearview AI gestisce una potente rete neurale che elabora fotografie di volti e confronta la loro misurazione precisa e simmetria con un enorme database di immagini per suggerire possibili corrispondenze. Non è chiaro quanto sia accurata la tecnologia, ma è ampiamente utilizzata dai dipartimenti di polizia e da altre agenzie governative. Clearview AI è stato pesantemente criticato per il suo utilizzo di informazioni di identificazione personale, la sua decisione di violare la privacy delle persone estraendo fotografie da Internet senza il loro permesso e la sua scelta della clientela.

Le e-mail coprono un periodo da ottobre 2018 a febbraio 2020, a partire da quando Hoan Ton-That, CEO di Clearview AI è stato presentato al vice ispettore del NYPD Chris Flanagan. Dopo gli incontri iniziali, Clearview AI ha stipulato un contratto di vendita con il NYPD nel dicembre 2018 in via di prova che è durato fino al marzo successivo.

I documenti mostrano che molte persone del NYPD hanno avuto accesso a Clearview durante e dopo questo periodo, dalla dirigenza del dipartimento agli ufficiali minori. Durante gli scambi, Clearview AI ha incoraggiato un maggiore utilizzo dei suoi servizi. (Vedi se riesci a raggiungere 100 ricerche, le sue istruzioni per l'iscrizione hanno esortato gli ufficiali.) Le e-mail mostrano che gli account di prova per il NYPD sono stati creati fino a febbraio 2020, quasi un anno dopo la fine del periodo di prova.

Abbiamo esaminato le e-mail e parlato con i massimi esperti di sorveglianza e legali del loro contenuto. Ecco cosa devi sapere.

Il NYPD ha mentito sulla portata della sua relazione con Clearview AI e sull'uso della sua tecnologia di riconoscimento facciale

Lo ha detto il NYPD Notizie BuzzFeed e il Posta di New York in precedenza che non aveva alcun rapporto istituzionale con Clearview AI, formalmente o informalmente. Il dipartimento ha rivelato di aver testato Clearview AI, ma le e-mail mostrano che la tecnologia è stata utilizzata per un periodo di tempo prolungato da un gran numero di persone che hanno completato un volume elevato di ricerche in indagini reali.

In uno scambio, un detective che lavora nell'unità di riconoscimento facciale del dipartimento ha detto: L'app funziona alla grande. In un altro, un ufficiale della squadra per i furti di identità del NYPD ha affermato che continuiamo a ricevere risultati positivi e che abbiamo continuato a effettuare arresti. (Abbiamo rimosso i nomi completi e gli indirizzi e-mail da queste immagini; altri dettagli personali sono stati oscurati nei documenti originali.)

Albert Fox Cahn, direttore esecutivo del Surveillance Technology Oversight Project, un'organizzazione no profit che sostiene l'abolizione dell'uso da parte della polizia della tecnologia di riconoscimento facciale a New York City, afferma che i documenti contraddicono chiaramente le precedenti dichiarazioni pubbliche del NYPD sull'uso di Clearview AI.

Qui abbiamo uno schema di agenti che ottengono account Clearview, non per settimane o mesi, ma nel corso degli anni, dice. Abbiamo prove di incontri con funzionari al livello più alto del NYPD, inclusa la sezione di identificazione facciale. Non sono pochi gli ufficiali che decidono di andare a prendere un account di prova. Questa è stata un'adozione sistematica della tecnologia di riconoscimento facciale di Clearview per prendere di mira i newyorkesi.

Inoltre, il NYPD descrizione del suo uso del riconoscimento facciale , che è richiesto da una legge approvata di recente, afferma che gli investigatori confrontano le immagini delle sonde ottenute durante le indagini con un gruppo controllato e limitato di fotografie già in possesso del NYPD. Clearview AI è noto per il suo database di oltre 3 miliardi di foto raschiato dal web.

Il NYPD sta lavorando a stretto contatto con le forze dell'ordine dell'immigrazione e gli agenti hanno indirizzato Clearview AI a ICE

I documenti contengono più e-mail del NYPD che sembrano essere rinvii per aiutare Clearview a vendere la sua tecnologia al Dipartimento per la sicurezza interna. Due agenti di polizia avevano affiliazioni sia alla polizia di New York che alla sicurezza interna nella loro firma e-mail, mentre un altro agente identificato come membro di una task force per la sicurezza nazionale.

Sembra che ci sia così tanta comunicazione, forse condivisione di dati e così tanto uso non regolamentato della tecnologia.

New York è designata come una città santuario, il che significa che le forze dell'ordine locali limitano la sua cooperazione con le agenzie federali per l'immigrazione. In effetti, il riconoscimento facciale del NYPD dichiarazione politica afferma che le informazioni non sono condivise per promuovere l'applicazione dell'immigrazione e l'accesso non sarà concesso ad altre agenzie allo scopo di promuovere l'applicazione dell'immigrazione.

Penso che uno dei grandi risultati sia quanto siano illegali e non regolamentate le interazioni e il panorama della sorveglianza e della condivisione dei dati tra polizia locale, forze dell'ordine federali, forze dell'ordine dell'immigrazione, afferma Matthew Guariglia, analista della Electronic Frontier Foundation. Sembra che ci sia così tanta comunicazione, forse condivisione di dati e così tanto uso non regolamentato della tecnologia.

Cahn afferma che le e-mail suonano immediatamente un campanello d'allarme, soprattutto perché una grande quantità di informazioni sulle forze dell'ordine vengono convogliate attraverso sistemi centrali noti come centri di fusione.

Puoi affermare di essere una città santuario quanto vuoi, ma finché continuerai ad avere queste task force del DHS, finché continuerai ad avere centri di fusione delle informazioni che consentono lo scambio di dati in tempo reale con il DHS, stai facendo quella promessa in una bugia.

Molti agenti hanno chiesto di utilizzare Clearview AI sui propri dispositivi personali o tramite i propri account di posta elettronica personali

Almeno quattro agenti hanno chiesto l'accesso all'app di Clearview sui propri dispositivi personali o tramite e-mail personali. I dispositivi del dipartimento sono strettamente regolamentati e può essere difficile scaricare applicazioni sui telefoni cellulari ufficiali del NYPD. Alcuni agenti hanno chiaramente scelto di utilizzare i propri dispositivi personali quando i telefoni del dipartimento erano troppo restrittivi.

Clearview ha risposto a questa e-mail, Ciao William, a breve dovresti avere un'e-mail di configurazione nella tua casella di posta.

Jonathan McCoy è un avvocato forense digitale presso Legal Aid Society e ha partecipato alla presentazione della richiesta di libertà di informazione. Ha trovato l'uso dei dispositivi personali particolarmente problematico: la mia conclusione è che stavano attivamente cercando di aggirare le politiche e le procedure del NYPD che affermano che se utilizzerai la tecnologia di riconoscimento facciale, devi passare attraverso la FIS (sezione di identificazione facciale) e devono usare la tecnologia che è già stata approvata dal grossista NYPD. Il NYPD ha già un sistema di riconoscimento facciale, fornito da una società chiamata Dataworks.

Storia correlata

L'attivista che smantella gli algoritmi della polizia razzista Hamid Khan sta vincendo la sua battaglia per l'abolizione della tecnologia di sorveglianza utilizzata dalla polizia di Los Angeles

Guariglia dice che indica un atteggiamento di incuria sia da parte del NYPD che di Clearview AI. Sarei inorridito nell'apprendere che gli agenti di polizia stavano usando Clearview sui loro dispositivi personali per identificare le persone che hanno poi contribuito agli arresti o alle indagini ufficiali del NYPD, dice.

Le preoccupazioni sollevate da queste e-mail non sono solo teoriche: potrebbero consentire alla polizia di essere impugnata in tribunale e persino ribaltare i casi a causa del mancato rispetto della procedura. McCoy afferma che la Legal Aid Society prevede di utilizzare le prove delle e-mail per difendere i clienti che sono stati arrestati a seguito di un'indagine che ha utilizzato il riconoscimento facciale.

Si spera che avremmo una base per andare in tribunale e dire che qualsiasi condanna ottenuta attraverso l'uso del software è stata eseguita in un modo non commisurato alle politiche e alle procedure del NYPD, dice. Poiché Clearview è una tecnologia non testata e inaffidabile, potremmo sostenere che l'uso di tale tecnologia ha pregiudicato i diritti del nostro cliente.

nascondere