Chi possiede la tua faccia?

La polizia ha una storia di utilizzo del riconoscimento facciale per arrestare i manifestanti, cosa non dimenticata dagli attivisti dalla morte di George Floyd. Nell'ultima di una serie in quattro parti sul riconoscimento facciale, la conduttrice Jennifer Strong esplora la via da seguire per la tecnologia ed esamina come potrebbe essere la politica.

Ci incontriamo :

• Artem Kuharenko, NTechLab
• Deborah Raji, AI Now Institute
• Toussaint Morrison, musicista, attore e organizzatore di Black Lives Matter
• Jameson Spivack, Centro sulla privacy e la tecnologia

Crediti

Questo episodio è stato segnalato e prodotto da Jennifer Strong, Tate Ryan-Mosley, Emma Cillekens e Karen Hao. Abbiamo avuto l'aiuto di Benji Rosen. Siamo a cura di Michael Reilly e Gideon Lichfield. Il nostro direttore tecnico è Jacob Gorski.

Trascrizione Completa dell'Episodio

Toussaint Morrison : Questo posto era stranamente tranquillo il primo fine settimana del coprifuoco. C'erano anche macchine della polizia molto silenziose che guidavano molto lentamente da queste parti.

Jennifer Forte: Quello è Toussaint Morrison. Sta mostrando al mio produttore, Tate Ryan Mosley, un parco a Minneapolis, Minnesota, a 2 miglia e mezzo di auto da dove George Floyd è stato ucciso il 25 maggio, scatenando quello che è probabilmente il più grande movimento di protesta nella storia americana.

Toussaint Morrison : A circa mezzo miglio a est è stato fatto un tentativo di bruciare la quinta stazione di polizia del distretto.

Jennifer Forte: Morrison è un musicista, attore, regista e negli ultimi mesi è anche diventato un organizzatore del movimento Black Lives Matter a Minneapolis.

Toussaint Morrison: La tua rabbia è perfettamente giustificata. La tua pelle è bellissima e non sei il criminale che ti fanno sembrare.

Jennifer Forte: È famoso qui. Gli attivisti sanno chi è. I funzionari del governo sanno chi è. E pensa che probabilmente lo faccia anche la polizia.

Tate Ryan-Mosley : Hai avuto conversazioni con persone preoccupate di essere identificate da agenti di polizia che potrebbero avere foto di loro durante le proteste che fanno parte delle proteste?

Toussaint Morrison: C'è sicuramente una paura. L'ho saputo un po' troppo tardi. Il nome e la faccia del mio governo sono là fuori. Quindi, voglio dire, quindi sì, è stata sicuramente una preoccupazione. E l'ho sentito da gente di colore a gente bianca a, a, ogni cosa tra le persone.

Jennifer Forte: Anche se dice che i manifestanti sono più preoccupati per la loro sicurezza fisica in questo momento, come essere investiti da un'auto.

Toussaint Morrison: L'uscita di identità non è stata qualcosa che ho sentito tanto quanto l'essere, essere timorosi per la propria vita in una marcia vera e propria.

Jennifer Forte: Sappiamo da un'indagine di Buzzfeed che la polizia qui ha accesso a molte tecnologie di sorveglianza, incluso il software di riconoscimento facciale di Clearview, che ricorderete dall'episodio due, inoltre hanno razze che fungono da ripetitori per acquisire dati mobili, una sorveglianza audio sistema chiamato ShotSpotter e un sistema di telecamere con analisi video sovrapposte.

Anche gli agenti federali hanno pilotato un drone predatore durante le proteste. E Morrison ritiene che questi strumenti siano mirati in modo diverso alle comunità di colore.

Toussaint Morrison: Ora non hanno bisogno di un motivo per essere sospettosi. Oh, ho visto che la tua faccia era a questo raduno. E, e vedo che si allinea con qualcos'altro. E se la tecnologia fosse sbagliata? Non penseranno che sarebbe possibile, sai, perché si fidano del computer. Quindi quella tecnologia sta aumentando un pericolo. È già pericoloso. Ed è già puntato su persone di colore, disabili, trans. Siamo, siamo il peso maggiore di quella tecnologia. Quindi, quando crei quella tecnologia, chi influisce di più?

Jennifer Forte: Sono Jennifer Strong e questa è la quarta parte della nostra serie sulla polizia e il riconoscimento facciale, in cui esploreremo la strada da seguire e come potrebbe essere la regolamentazione.

Toussaint Morrison : Andando avanti, non so cosa accadrà,

ma io, quello che so è che non ci sarà alcun ritorno, sai, non ci sarà alcun ritorno.

Jameson Spivek : Non sappiamo se la polizia stia usando il riconoscimento facciale nell'attuale ondata di proteste, ma sappiamo due cose. Uno, che molti di loro hanno la capacità di farlo, e due: è successo in passato.

Jennifer Forte: Jameson Spivek è un policy associate presso il Center for Privacy and Technology...

Jameson Spivek : ...che è un think tank indipendente con sede alla Georgetown Law School.

Jennifer Forte: Nel 2015 la polizia di Baltimora ha utilizzato il monitoraggio dei social media sulle persone che protestavano per la morte di Freddie Gray.

Il riconoscimento facciale ha aiutato la polizia a identificare i manifestanti con mandati in sospeso e li ha arrestati direttamente dalla folla.

Spivek è preoccupato per cosa questo significhi per la libertà di parola se continua.

Jameson Spivek : Questo è davvero preoccupante perché scoraggia il discorso e la partecipazione politica, che è protetta dal primo emendamento. quindi se le persone pensano di essere state identificate o arrestate per un crimine completamente estraneo alle proteste, non parteciperanno. Quindi questo è, prendere di mira e scoraggiare in modo specifico il discorso politico nero.

Jennifer Forte: E, più in generale...

Jameson Spivek : Sposta in modo significativo l'equilibrio di potere verso i governi. Dà loro la possibilità di identificare e rintracciare molte persone... a distanza e in segreto. E il governo non ha mai avuto la capacità di sorvegliare il pubblico in questo modo. Questa è essenzialmente una soluzione alternativa che consente alla polizia di eseguire ricerche senza mandato.

Jennifer Strong: Ecco come vede la regolamentazione che inizia a prendere forma.

Jameson Spivek : Un'opzione che è già stata adottata è quella di vietare in generale l'uso di questa tecnologia da parte della polizia. È imperfetto... Facilita livelli senza precedenti di sorveglianza del governo ed è stato dimostrato che la polizia ne fa un uso improprio. Allo stesso modo, un'altra opzione è quella di porre una moratoria sull'uso da parte della polizia del riconoscimento facciale. E ciò che fa è dare al pubblico e ai funzionari eletti il ​​tempo di aggiornarsi su cos'è questa tecnologia, come funziona, come la polizia la sta usando. Quindi un'altra opzione è semplicemente approvare il regolamento che consente alla polizia di usarlo, ma ha alcune restrizioni sulla loro capacità di usarlo.

Jennifer Forte: Segnalando questa serie, abbiamo parlato con diverse persone che credono che non sia possibile riformare l'uso del Face ID. L'ACLU dice che dovrebbe essere bandito a livello nazionale. E quindi, sono curioso di sapere che tipo di regolamento, secondo lui, farebbe davvero la differenza?

Jameson Spivek : Cose come richiedere un mandato di perquisizione per una probabile causa per qualsiasi ricerca di riconoscimento facciale, limitarne l'uso a reati violenti e vietare l'uso del riconoscimento facciale per l'applicazione dell'immigrazione. Divieti limitati all'uso del riconoscimento facciale insieme a cose come droni o telecamere indossate dalla polizia o per la sorveglianza continua, perché il riconoscimento facciale non dovrebbe essere utilizzato in situazioni di vita o di morte. Un'altra cosa è avere una divulgazione obbligatoria e obbligatoria agli imputati che la polizia usa il riconoscimento facciale per identificarli e poi alla fine arrestarli.

Jennifer Forte: Ma anche se quei regolamenti non dovessero passare, dice che dobbiamo...

Jameson Spivek : Testare per assicurarsi che sia accurato e non di parte e, avere rapporti su come viene utilizzato e, e trasparenza... Sono tutti buoni e sono tutti necessari... Ma non bastano. Abbiamo davvero bisogno di queste, di queste riforme più profonde.

Jennifer Forte: Dice che non può dipendere solo dalle aziende che realizzano la tecnologia essere responsabili delle regole che la governano.

Jameson Spivek : Dobbiamo essere molto vigili e chiederci quali sono le cose che queste aziende supportano in termini di legislazione, proteggeranno davvero le persone o è solo un modo per le aziende di avere chiarezza su come è regolamentata la tecnologia, ma non è realmente regolamentato in un modo che sia sufficientemente forte da proteggere effettivamente le persone e quindi influenzare davvero la capacità dell'azienda di produrlo. Non credo che rinunceranno volontariamente a vendere questa tecnologia. quindi tocca davvero ai legislatori intervenire.

Jameson Spivek : La maggior parte delle principali società che stanno sviluppando il riconoscimento facciale per la polizia e per il governo sono società più piccole e specializzate di cui la maggior parte delle persone non ha sentito parlare.

Jennifer Forte: Una di quelle aziende di cui probabilmente non hai mai sentito parlare è NTechLab, anche se ha fatto scalpore per la prima volta circa cinque anni fa quando, come startup nuova di zecca, ha battuto Google e ha vinto una competizione internazionale con una precisione del 95% in una delle categorie .

Da allora, l'azienda russa ha vinto più volte concorsi biometrici tenuti da aziende come Amazon, agenzie governative statunitensi e università.

Jennifer Forte: E il fondatore dell'azienda è quest'uomo...

Artem Kuharenko : Artem Kuharenko

Jennifer Forte: NTechLab è meglio conosciuto per la sua app chiamata FindFace, che consente alle persone di cercare i profili dei social media con le foto sui loro telefoni.

È pensato per un determinato gruppo di persone o vuoi che sia disponibile per chiunque sui social media?

Artem Kuharenko : Era disponibile per chiunque in Internet.

Jennifer Forte: Questo è il modo in cui John Oliver ha descritto l'app durante un recente episodio di Last Week Tonight della HBO.

Giovanni Oliver : Se vuoi un'idea di quanto possa essere terrificante questa tecnologia se diventa parte della vita di tutti i giorni, guarda come un presentatore televisivo russo mostra un'app chiamata FindFace... [cinegiornale] Se ti trovi in ​​un bar con una ragazza attraente e non hai il coraggio di avvicinarti a lei, nessun problema. Tutto ciò che serve è uno smartphone e l'applicazione FindFace.

Jennifer Forte: L'uomo in questo video usa l'app per scattare una foto di una donna a un tavolo diverso. Fa apparire immediatamente il suo profilo sulla versione russa di Facebook.

Giovanni Oliver : Immagina che dal punto di vista di una donna... non preoccuparti, so già dove vivi.

Jennifer Forte: L'app è stata un successo virale. Ma in questi giorni l'attenzione di NTechLab è sul riconoscimento facciale in tempo reale, il che significa che l'algoritmo funziona in video, in tempo reale.

Si ritiene che un sistema che hanno installato nella città di Mosca sia tra i più grandi di questo tipo al mondo.

Artem Kuharenko : In questo momento più di 100.000 videocamere sono collegate al sistema e il sistema si è rivelato molto utile e utile per la città.

Jennfier forte: Quindi, 100mila videocamere, che catturano un miliardo di volti al mese. E afferma che il sistema è molto, molto accurato.

Artem Kuharenko : Quindi è solo una falsa accettazione, ogni 10 miliardi di confronti. È uno su 10 zeri.

Jennfier forte : Questo tipo di precisione è inaudito. Ma non possiamo nemmeno dire che sia impossibile, e arriverò al perché tra un momento. Quello che sappiamo è che è molto più difficile ottenere la precisione sui video live che sulle foto.

All'inizio di questa serie abbiamo parlato di prove di riconoscimento facciale in tempo reale da parte della polizia di Londra che hanno prodotto un tasso di precisione di circa il 20%. E un altro a New York City che durante il suo periodo di test non ha prodotto nemmeno una corrispondenza corretta.

Ma a Mosca, Kuharenko dice che il suo sistema viene utilizzato per risolvere i crimini in tempo reale. Compresi alla più grande competizione calcistica del mondo:

Artem Kuharenko : Durante la Coppa del Mondo FIFA 2018 a Mosca più di 100 criminali sono stati catturati a causa del sistema.

Jennfier forte : NtechLab lavora con più di cento clienti in 20 paesi, tra cui il produttore di chip statunitense Nvidia e la società di telecomunicazioni cinese Huawei. Ha anche progetti di città intelligenti a Dubai, progetti fintech in Europa e partnership di vendita al dettaglio in Nord e Sud America.

L'azienda presenta alcuni algoritmi per il test da parte del governo degli Stati Uniti, ma afferma che non possono farlo per il loro lavoro più avanzato.

Perché il NIST, o The National Institute of Standards and Technology, testa gli algoritmi di riconoscimento facciale sulle foto e i suoi ultimi sistemi utilizzano il video.

Artem Kuharenko: I loro test sono abbastanza lontani dagli scenari della vita reale.

Jennfier forte: E se gli enti governativi non riescono a mettersi al passo con la tecnologia, le aziende sono più o meno lasciate a controllare se stesse.

Artem Kuharenko : Le aziende leader nel settore hanno i propri test. Nella nostra azienda, abbiamo molti test diversi prima di inviarlo alla produzione. Ma il problema è che non esiste un test indipendente, che sarà aperto, dove chiunque possa vedere e chiunque possa testare tutti gli algoritmi.

Jennfier forte : Quest'estate, NTechLab ha aggiunto il rilevamento della silhouette alla propria piattaforma video. Viene utilizzato per identificare le persone nel profilo.

Hanno anche assunto un nuovo ruolo con la pandemia globale...

Artem Kuharenko: ...misurare la distanza tra le persone e trovare aree in cui molte persone sono vicine l'una all'altra, in modo che la città possa migliorare i processi che stanno avvenendo in queste aree. Ha anche contribuito a fermare l'espansione del coronavirus a Mosca.

Jennifer Forte : Ora, ma dato che siamo nel mezzo di questa pandemia globale, quanto bene funziona la tecnologia quando qualcuno indossa una maschera?

Artem Kuharenko : Funziona con la stessa precisione che senza maschera. Quindi è quasi la stessa precisione. E abbiamo anche un algoritmo speciale, che può dire se c'è una maschera su una persona e se è indossata correttamente o meno.

Jennfier forte: Indossare una maschera ha in genere causato un calo della precisione di questi sistemi, anche in un test pre-pandemico di NTech Lab del NIST. Ma la pandemia ha creato una sorta di corsa agli armamenti tra le aziende che cercano di costruire sistemi che leggono i volti mascherati. L'agenzia afferma anche che gli algoritmi dell'azienda sono spesso tra i più accurati che testano.

Semplicemente non lo sappiamo.

Ma mascherato o meno, il riconoscimento facciale non è l'unica cosa che accade su quei feed video.

Artem Kuharenko: Il rilevamento dell'auto... il riconoscimento della targa... e combiniamo tutte queste analisi video insieme in modo che possa funzionare come un intero sistema ed estrarre quante più informazioni possibili dal flusso video. Idealmente il sistema sarà in grado di estrarre tutte le informazioni che l'uomo può vedere nel video. Ma l'algoritmo può farlo, con una velocità molto migliore. E, se l'uomo può elaborare solo un flusso video alla volta, il sistema potrebbe elaborare centinaia e centinaia di migliaia di video in tempo reale.

Jennfier forte: Ti preoccupi mai che qualcuno possa prendere tutto il tuo duro lavoro e usarlo per costruire un mondo in cui non vuoi davvero vivere?

Artem Kuharenko : Uh, non credo, in realtà non credo in questo scenario perché è abbastanza, è un buon scenario per il film, ma è uno scenario molto improbabile nella vita reale.

Artem Kuharenko : Come azienda tecnologica, cerchiamo sempre di dirlo alle persone in modo che le persone capiscano cosa sta succedendo e prendano la decisione se lo vogliono o no.

Jennfier forte : Come il fondatore di Clearview, dice che spetta a noi, persone comuni e cittadini di tutto il mondo, decidere se e come vivere con questa tecnologia. Ora, considerando le numerose questioni relative alla trasparenza e alla responsabilità, non sembrerebbe così facile. Ma ci sono persone che si sforzano di assumersi questa responsabilità.

E ne incontrerai uno tra un momento.

Deb Raji: Immagino che il viaggio verso il punto in cui siamo oggi sia nato da questo primo tipo di incrinare le lenti color rosa di, questa è una tecnologia che funziona, e dimostrare che non funziona per persone molto specifiche... e poi aprendo su, questa conversazione su cosa significa effettivamente che il riconoscimento facciale funzioni?

Sono Debra Raji e sono una tech fellow presso l'A-I now Institute.

Jennfier forte : Ha sede presso la NYU e lavora per comprendere l'impatto sociale del riconoscimento facciale e di altre tecnologie di intelligenza artificiale.

Deb Raji: Sai, come possiamo effettivamente iniziare ad avere conversazioni sulla sua restrizione, sulla divulgazione del suo utilizzo e come si comporta in termini di restrizioni politiche?

Jennfier forte : Come ricercatrice di intelligenza artificiale, ha un super potere che la maggior parte di noi non ha. Può controllare gli algoritmi che fanno funzionare i prodotti Face ID... purché le aziende forniscano l'accesso.

E i suoi sforzi stanno forzando il cambiamento. La scintilla che l'ha spinta su questa strada è venuta da quella che descrive come un'orribile realizzazione durante il suo tirocinio universitario presso una startup di apprendimento automatico.

Deb Raji : Aspetta un secondo, il riconoscimento facciale in realtà non funziona per tutti.

Jennfier forte: Stava lavorando a un modello di visione artificiale che avrebbe aiutato i clienti a segnalare immagini inappropriate come non sicure per il lavoro. Il problema era che segnalava le foto di persone di colore a un ritmo molto più alto.

Quindi, ha cercato il problema e l'ha trovato. Il modello stava imparando a riconoscere le immagini non sicure dalla pornografia e le immagini sicure dalle foto d'archivio. Si scopre che il porno è molto più vario e che la diversità ha indotto la modella ad associare automaticamente la pelle scura a contenuti salaci.

La startup si è rifiutata di fare qualsiasi cosa al riguardo. Quindi, è andata a lavorare su questi problemi con una donna che abbiamo incontrato all'inizio di questa serie, Joy Buolamwini, che da studentessa ha creato un set di dati più diversificato ed equilibrato. Lo hanno usato per controllare gli algoritmi nei prodotti Face ID già sul mercato.

Questo lavoro ha molto a che fare con la comprensione odierna di come questi prodotti deludono le donne e le persone di colore.

Ma ha avuto un costo.

Deb Raji: La comunità della visione artificiale a quel tempo non aveva queste conversazioni sull'etica, la società e l'equità. Ad esempio, ora siamo molto più a nostro agio con questo lavoro, ma c'è stato un tempo in cui anche la comunità di ricerca era molto ostile e si chiedeva un po', cos'è questo? Qual è il tuo punto qui? Qual è il significato di questo?

Jennfier forte : Le cose sono cambiate nel tempo e lei dice di aver trovato supporto anche nelle società che controllano.

Deb Raji : E anche se il loro livello istituzionale o la posizione a livello aziendale era difensiva. Questi individui all'interno di queste aziende hanno combattuto duramente per cambiare la posizione delle loro aziende e per spingere per alcune di queste posizioni che vediamo oggi.

Jennfier forte : Amazon e Microsoft hanno recentemente sospeso la vendita dei loro sistemi di identificazione facciale alle forze dell'ordine. IBM ha smesso di lavorarci su del tutto.

Deb Raji : C'è questo tipo di riconoscimento aggiuntivo con queste moratorie per dire, aspettare e in realtà, mentre questa conversazione sfumata sta accadendo riguardo all'istituzione di questa politica e questo regolamento di cui abbiamo un disperato bisogno. Non venderemo quella tecnologia allo stesso tempo. E penso che quella realizzazione e quel divario siano un importante passo avanti nella conversazione.

Jennfier forte : Quindi, c'è urgenza in questo momento, che lei chiama una pausa. E durante questa pausa, c'è molto da sistemare.

Ma se ci affidiamo alle aziende tecnologiche per arrivare fino in fondo con la regolamentazione?

Deb Raji : … non saranno sempre all'altezza.

VO: E avverte che l'identificazione facciale è solo la punta dell'iceberg.

Deb Raji : È molto più facile avere questa conversazione sui volti che averla su, dati assicurativi o medici o, sai, anche alcuni di questi, sistemi di previdenza sociale, anche se si applica anche questa esatta situazione di questa prestazione sproporzionata a quei casi.

Jennfier forte : Quindi, andando avanti, vuole divulgazione e trasparenza. Chiede anche un adeguato sistema di valutazione.

Alla fine, però:

Deb Raji: Gran parte del potere è nelle mani dei responsabili politici perché le grandi aziende tecnologiche non dovrebbero assolutamente controllare la conversazione.

Jennfier forte : Potremmo trovarci a un punto di svolta nella nostra relazione con il riconoscimento facciale e con il modo in cui viene utilizzato.

Eppure, sembra sicuro dire che è probabile che l'adozione di questa tecnologia continui a un ritmo vertiginoso, lasciando la nostra comprensione della sua potenza e impatto nella polvere, a meno che non ci fermiamo davvero a prendere fiato e stabiliamo alcune regole per chi ottiene l'accesso alle immagini dei nostri volti e a cosa possono fare con loro.

Il prossimo episodio... andiamo a fare il tampone per il coronavirus sulla metropolitana di New York City, mentre esploriamo il ruolo dell'IA nel rimettere in funzione i sistemi di trasporto pubblico del mondo.

Questo episodio è stato segnalato e prodotto da me, Tate Ryan-Mosley, Emma Cillekens e Karen Hao. Abbiamo avuto l'aiuto di Benji Rosen. Siamo a cura di Michael Reilly e Gideon Litchfield. Il nostro direttore tecnico è Jacob Gorski.

Ci rivediamo qui tra un paio di settimane.

Grazie per l'ascolto, sono Jennifer Strong.

nascondere