I cittadini stanno rivolgendo il riconoscimento facciale alla polizia non identificata

La nuova serie del nostro podcast AI, In Machines We Trust, riguarda il riconoscimento facciale. Nella prima parte della serie, Jennifer Strong e il team del MIT Technology Review esplorano i modi inaspettati in cui viene utilizzata la tecnologia, incluso il modo in cui viene rivolta alla polizia.

Ci incontriamo:

• Christopher Howell, data scientist e manifestante.

Crediti:

Questo episodio è stato segnalato e prodotto da Jennifer Strong, Tate Ryan-Mosley ed Emma Cillekens e Karen Hao. Siamo a cura di Michael Reilly e Gideon Lichfield.

Trascrizione:

[Annuncio pubblicitario]

[ID TR]

Forte: Sono successe alcune cose dall'ultima volta che abbiamo parlato del riconoscimento facciale. Abbiamo visto più luoghi spostarsi per limitarne l'uso mentre, allo stesso tempo, scuole e altri edifici pubblici hanno iniziato a utilizzare Face ID come parte dei loro piani di prevenzione del covid. Lo stiamo usando persino sugli animali e non solo sui volti con somiglianze con il nostro, come scimpanzé e gorilla, le aziende tecnologiche cinesi lo usano sui maiali e gli scienziati canadesi stanno lavorando per identificare le balene, persino gli orsi grizzly.

In altre parole, il numero di modi in cui potremmo utilizzare questa tecnologia sta esplodendo così come le preoccupazioni sulla fattibilità, per non parlare di una buona idea. E così, i divieti su come utilizzare l'identificazione facciale si stanno espandendo, da Portland, nel Maine, a Portland, nell'Oregon, dove le restrizioni più severe sul riconoscimento facciale nel paese entreranno in vigore il prossimo anno, vietandone non solo l'uso da parte della polizia, ma anche commerciale anche le applicazioni.

Volante: Colleghi, siamo qui questo pomeriggio per prendere in considerazione due ordinanze che mirano a vietare l'uso delle tecnologie di riconoscimento facciale da parte del nostro governo della città di Portland e da parte di enti privati ​​negli spazi pubblici.

Forte: Questo è il sindaco di Portland Ted Wheeler che apre la riunione del consiglio comunale che ha approvato questi progetti di legge a settembre. Come per la maggior parte delle cose in questi giorni, i commenti pubblici e il voto si sono svolti su Zoom.

Volante: Portland è tutt'altro che una città anti-tecnologica e voglio chiarirlo. Non siamo contrari alla tecnologia con una vasta gamma di aziende tecnologiche locali e nazionali. Siamo uno dei centri tecnologici in più rapida crescita ovunque sulla costa occidentale.

Forte: Nelle prossime ore avvocati, ingegneri del software, cittadini preoccupati e leader aziendali hanno tutti detto la loro. Poi, poco prima della votazione. Un'ultima persona, un data scientist locale, ha alzato la mano virtuale per fare una domanda.

Volante: Christopher Howell... ultimo ma non meno importante, benvenuto.

Howell: Vorrei esprimere un sostegno condizionato a questa ordinanza, ma ho delle preoccupazioni.

Forte: Questo perché sta costruendo qualcosa che utilizza il riconoscimento facciale in un modo non convenzionale.

Howell: Sono coinvolto nello sviluppo del riconoscimento facciale da utilizzare effettivamente sugli agenti di polizia di Portland poiché non si stanno identificando con il pubblico e stanno commettendo crimini. Diventerebbe illegale se approvassi questa ordinanza?

[Musica]

Forte: Sono Jennifer Strong e nelle prossime settimane faremo un'altra immersione profonda sull'ascesa del riconoscimento facciale. In questa ultima miniserie, esploreremo come viene utilizzato negli sport sia dagli atleti che dai fan, il suo utilizzo nei negozi al dettaglio e anche come viene utilizzato per servire i senzatetto. Ma prima, diamo il via alle cose con uno sguardo a come viene respinto la polizia.

[MOSTRA ID]

Forte: L'anonimato della polizia e di altre figure di autorità è immerso in una storia davvero complicata. C'è un delicato equilibrio tra privacy e responsabilità entrambi schieramenti per i manifestanti e per la polizia.

[Suono di rivolte di Chicago.]

Forte: I Chicago Riots del 1968 interruppero le TV degli americani di tutto il paese mentre si sintonizzavano per guardare la Convenzione Nazionale Democratica, che si tenne a Chicago quell'anno.

[Suono di rivolte di Chicago.]

Forte: I manifestanti stavano manifestando contro la guerra del Vietnam e contro il Partito Democratico. Dopo uno scontro con la polizia a Grant Park, i manifestanti hanno marciato lungo Michigan Avenue fino all'hotel dove alloggiavano molti dei delegati della convention. Per 17 minuti, l'America ha assistito in diretta mentre la Guardia Nazionale dell'Illinois sparava gas lacrimogeni... mentre la polizia picchiava i manifestanti.

[Suono di rivolte di Chicago. 'Il mondo intero sta guardando']

Forte: La polizia non indossava targhette con il nome e questo è in realtà abbastanza comune quando la polizia ha a che fare con i manifestanti. A volte è legale, a volte è illegale ea volte è persino obbligatorio nell'interesse della sicurezza come questa estate a Buffalo, New York.

Reporter: Il commissario della polizia di Buffalo afferma che è stata una sua decisione che gli agenti indossassero i loro numeri di badge e non i loro nomi sulle loro uniformi.

Commissario: C'era una crescente preoccupazione per le molestie nei confronti degli ufficiali e della loro famiglia. Per consentire agli agenti di svolgere il proprio lavoro senza paura, ho preso la decisione in quel momento.

Forte: Ma quando succede, cittadini e attivisti respingono. Molti sostengono che questo dia alla polizia ancora più potere di quello che già ha... perché diventa quasi impossibile ritenerli responsabili.

Intervistato: Abbiamo bisogno che il nostro consiglio si alzi e parli a nome delle 255.000 persone che rappresenti, incoraggi e chieda che questa forza di polizia cambi la politica invece di pensare solo alla dozzina di agenti che sono stati molestati, che potrebbero essere protetti dall'attuale legge esistente .

Forte: Ma, ben prima degli eventi di questa estate, le persone hanno cercato di identificare agenti di polizia non identificati. Hanno utilizzato foto di proteste, investigazioni sui social media, crowdsourcing su Internet e persino ricorso al furto di informazioni personali. Come nel caso di un collettivo di hacker - chiamato Anonymous. È noto per essersi allineato alle proteste di Occupy Wall Street e per aver brevemente rimosso il sito web della Borsa di New York. Quello stesso gruppo in seguito ha fatto trapelare informazioni private che ha rubato dai siti web della polizia e del governo, inclusi gli indirizzi di casa degli agenti di polizia.

Chiamata scherzo: Hai raggiunto l'ufficio dello sceriffo della contea di Baldwin... [anello]

Forte: In questo scherzo telefonico, rivendicano il merito dell'hacking.

[Estratti dallo scherzo telefonico]

Forte: Smascherare coloro che esercitano la forza sugli altri non è un'esclusiva degli Stati Uniti. Nel 2014, durante l'annessione della Crimea alla Russia, potresti ricordare che i soldati senza badge sulle loro uniformi verdi hanno preso il controllo. All'epoca alti funzionari, incluso il presidente Vladimir Putin, negarono ripetutamente che quelle truppe fossero russe.

Un po : Non ci sono truppe di sorta. Almeno nessuna truppa russa.

Forte: Questo è l'ambasciatore russo presso l'UE che parla ai giornalisti.

Ambasciatore: Gli Stati Uniti, essendo nella tradizione di interferire in altri paesi e inviare truppe all'estero, potrebbero agire secondo la propria mentalità... direi. Ma questo non è un caso di interferenza russa.

Forte: Ma era. Abbinando le foto, potenzialmente con l'aiuto del riconoscimento facciale, il governo ucraino ha stabilito che le truppe erano in realtà legate all'esercito russo. E hanno rilasciato foto come prova. Più tardi, Putin ha anche ammesso che le truppe erano davvero russe.

Traduzione Putin: Naturalmente, i militari russi hanno appoggiato le forze di autodifesa della Crimea. Hanno agito in modo civile, come ho già detto, ma in modo deciso e professionale.

[Musica]

Forte: Ora i manifestanti cercano sempre di più di rivolgere Face I-D alla polizia per identificare gli agenti che usano la forza in modo eccessivo. Compreso a Hong Kong, dove l'anno scorso le immagini drammatiche degli scontri tra manifestanti e polizia hanno dominato i feed di notizie che mostrano la polizia che spara proiettili veri e manifestanti che attaccano gli ufficiali. Questo è il giornalista del New York Times Paul Mozur che parla alla televisione pubblica.

Mozur: Mentre le proteste sono andate avanti e la polizia e gli abitanti di Hong Kong continuano a schierarsi settimana dopo settimana, il volto è diventato un'arma e l'identità stessa in un certo senso è diventata un'arma. Sai, i manifestanti usciranno e la polizia cercherà di catturare le loro immagini in video e poi tornare indietro e identificarli tramite tutti i social media e i materiali online disponibili e viceversa. Abbiamo visto la polizia effettivamente togliersi i badge e quindi ora i manifestanti stanno facendo lo stesso con la polizia, dove stanno cercando di tornare indietro e utilizzare i social media e capire quale polizia sta facendo quale azione. Un manifestante in particolare questo Colin Cheung che abbiamo trovato ha creato uno strumento di riconoscimento facciale per cercare di identificare la polizia... e in realtà non ha rilasciato il prodotto, ma dice perché la polizia lo ha preso di mira.

Forte: E Cheung è stato arrestato poco dopo aver postato informazioni sullo strumento su Facebook... ma sforzi simili sono in corso in altri luoghi, tra cui Portland, nell'Oregon.

Howell: Sto prendendo la stessa identica tecnologia che usano su di noi. E non è che sto cercando di doxare le persone. Voglio dire, questo è per gli ufficiali che stanno essenzialmente infrangendo la legge in termini di uso della forza.

Forte: Christopher Howell è uno scienziato dei dati e un contestatore.

Howell: E volevo solo entrare nel registro. Ehi, c'è un altro modo in cui potremmo usarlo. // E in realtà si tratta più di, sai, mantenere la pressione su di loro affinché si identifichino invece di doverlo fare noi.

Forte: La sua testimonianza davanti al consiglio comunale di Portland su questo strumento su cui sta lavorando ha portato il suo progetto a essere coperto dal New York Times. Da allora, ha ricevuto un bel po' di attenzione, così come la reazione del sindaco di Portland, che ha definito il progetto inquietante.

Howell: È inquietante lasciarli uscire e fare lacrimogeni notte dopo notte // e io, davvero, per me è stato solo un momento strabiliante del tipo, è inquietante che questi ragazzi non abbiano i loro nomi. Sai, quel qualcuno può semplicemente travestirsi da poliziotto lo conosci [ride]

Forte: Dice di aver iniziato il progetto in parte solo per vedere come avrebbe funzionato.

Howell: Voglio dire, c'è una precisa curiosità tecnologica lì... e quel genere di cose che posso fare quando è notte fonda ed è frustrante vedere queste cose, le notizie o vai su Twitter e vedi i video delle proteste di persone e di tutti e va bene, bene, cosa posso fare? …e alla fine vorrei che non fosse necessario. Penso che dovrebbero portare i loro nomi in lettere maiuscole in modo da non dover usare il riconoscimento facciale sui poliziotti per cercare di capire chi sono.

Forte: Essere in grado di identificare un agente non significa solo sapere se qualcuno lo è davvero... È estremamente difficile sporgere denuncia contro qualcuno senza sapere chi sia quella persona.

Howell: Uno dei motivi per cui ho iniziato questo è perché nelle cause legali non puoi nominare come il poliziotto che mi ha spinto. Devi sapere chi è. Diranno solo, beh, non sappiamo chi fosse. Quindi non c'è nessuno per te da citare in giudizio e cercando di ottenere documenti su ciò che particolari ufficiali hanno fatto non ti lasceranno andare a pescarlo. // Devi saperlo, se mi dai una foto di, sai, ecco questo poliziotto che colpisce qualcuno con un manganello che voglio, e lo scopriremo, puoi vedere la sua faccia. Quindi scopriremo chi è, come lo facciamo? E inizialmente pensavo più a una ricerca di immagini inversa su un database. Ad esempio, raccoglierò tutte le foto che posso e saremo in grado di collegarle insieme in modo da poter dire che sono tutte la stessa persona. E poi ho capito che potevo fare di meglio.

Forte: Si è reso conto di poter creare uno strumento di identificazione del volto, utilizzando le immagini degli agenti da Internet.

Howell: Così ho iniziato a guardare le loro foto dove sono identificate o notizie, sai, andando più indietro e ottenendo articoli di notizie simili.

Forte: Il progetto è tecnicamente più semplice della costruzione di un sistema destinato a identificare chiunque.

Howell: Sappiamo che chi è la polizia, sai, non ci sono, non dovrebbero esserci persone in tenuta antisommossa che non siano agenti di polizia. Quindi, se riesci a ottenere tutte le loro foto e questa è la vera sfida, ma poi potresti avere un problema matematico meno difficile da identificare in quel senso, ok, sappiamo che questa persona è fuori da questo set. Scopriamo insieme quali sono...

Forte: Dice di aver raccolto migliaia di foto finora... per lo più manualmente da Twitter e articoli di notizie in media da 15 a 20 circa per ogni ufficiale che ha identificato.

Howell: Molte delle immagini iniziali provenivano da Twitter. In gran parte sono stato io ad entrare negli articoli di notizie. // Voglio dire, l'incidente stradale, sai, la notizia è un ottimo esempio. Perché ne ho trovati un sacco. O come un barbecue comunitario e lì ci sono ufficiali in uniforme e li nomina.

Forte: Non è esattamente la stessa scala dei sistemi di riconoscimento facciale utilizzati dalla polizia...

Howell : Lo sto facendo proprio ora su uno script Python - sai, è tutto locale sul mio laptop.

Forte: ...quelli sono solitamente addestrati su set fotografici di milioni o miliardi.

Howell: Perché penso che la precisione sia importante e, uh, e il numero di immagini è abbastanza piccolo che se stavo cercando di mettere la mia faccia lì dentro, non voglio avere un altro Chris Howell.

Forte: Ma sono appena sufficienti immagini che sembra fare il trucco. Dice che il suo strumento è già stato utilizzato per aiutare a confermare l'identità di un agente in un caso che è diretto in tribunale.

Howell: Qualcuno mi ha portato una foto che non avevo trovato e mi ha detto, aiutami, sai, usi il tuo sistema e dimmi cosa dice. E sapeva già chi pensava che fosse, ma non me l'ha detto. E poi il risultato migliore è stato quello che ci si aspettava.

Forte: Per quanto riguarda il futuro, nessuno lo sa, anche se può immaginare un giorno in cui potrebbe essere utilizzato in collaborazione con la città.

Howell: Potrei vedere un futuro, forse tra anni, in cui le cose saranno un po' diverse in cui la città metterà a disposizione qualcosa del genere e lo ospiterà da sola e farà scattare loro un sacco di foto in modo da poter avere una cosa ben allenata. Quindi, come una cosa simile al feedback dei cittadini. E, e non dovrebbero necessariamente essere tutte cose negative, ma in un modo che potrebbe essere utilizzato anche per i reclami. Voglio dire, una parte di me pensa che sarebbe utile collaborare con le stesse agenzie governative per dire, Ehi, vogliamo essere responsabili. Non penso che sia molto realistico nel 2020, ma penso che potrebbe essere non lontano! [ridere]

Forte: Qualcosa che non vuole è renderlo open source.

Howell: Non penso che sia una grande idea per qualcuno che sia davvero come un pubblico su un sito web. Pensa che è chiedere che le cose vadano male al di là delle cose davvero ovvie che potresti avere, persone, sai, cose false o inserire intenzionalmente immagini fuorvianti...

[Musica]

Forte: I divieti di Portland sull'identificazione facciale entreranno in vigore a gennaio, ma il progetto di Howell? Non sarà influenzato. Scuole pubbliche, istituzioni religiose, persino il modo in cui viene utilizzato il riconoscimento facciale in aeroporto, come il modo in cui le compagnie aeree come Delta salgono a bordo dei passeggeri. Niente di tutto ciò sarà influenzato. Le agenzie del governo locale non saranno in grado di usarlo. E non sarà consentito nella maggior parte degli spazi pubblici o privati ​​aperti al pubblico, come un centro commerciale. Anche la polizia locale non sarà autorizzata a utilizzare la tecnologia anche se lo saranno le persone nelle loro case private, come Christopher Howell. I divieti non si applicano inoltre alle forze dell'ordine a livello statale o federale.

In un certo senso, l'uso di questa tecnologia di sorveglianza sta diventando una sorta di corsa agli armamenti globale tra il pubblico e le figure dell'autorità, entrambi sperando di togliere la copertura dell'anonimato per incoraggiare un buon comportamento. È difficile vedere chi potrebbe essere il vincitore, ma sicuramente il perdente è la privacy.

Nella prossima puntata...

Estratto : Non è un trauma informato avere qualcuno che entra in una struttura e dice, sì, puoi assolutamente entrare, ma fammi prendere le tue impronte digitali.

Forte: Esaminiamo la mossa per utilizzare il riconoscimento facciale nelle case popolari e nei rifugi per senzatetto.

Estratto : Il riconoscimento facciale è emotivamente più gentile in quanto è passivo, non li tocca e puoi catturarlo più rapidamente e non c'è rischio di trasmissione.

Forte: Questo episodio è stato segnalato e prodotto da me, Tate Ryan-Mosley, Karen Hao ed Emma Cillekens. Siamo a cura di Michael Reilly e Gideon Lichfield.

Grazie per l'ascolto, sono Jennifer Strong.

[ID TR]

nascondere