Terra di un miliardo di facce

Clearview AI ha creato uno dei database più completi al mondo sui volti delle persone. Probabilmente la tua foto è lì (la nostra ospite Jennifer Strong era). Nella seconda parte di questa serie in quattro parti sul riconoscimento facciale, incontriamo il CEO della controversa azienda che ci dice che il nostro futuro è pieno di FaceID, indipendentemente dal fatto che sia regolamentato o meno.

Ci incontriamo:

• Hoan Ton-That, Clearview AI
• Alexa Daniels-Shpall, Forum di ricerca del dirigente di polizia

Crediti:

Questo episodio è stato segnalato e prodotto da Jennifer Strong, con Tate Ryan-Mosley ed Emma Cillekens, con un ringraziamento speciale a Karen Hao e Benji Rosen. Siamo a cura di Michael Reilly e Gideon Lichfield. Il nostro direttore tecnico è Jacob Gorski.

Trascrizione Completa dell'Episodio:

Jennifer Forte: C'è una rissa in corso nei tribunali tra il sito di networking LinkedIn e una società chiamata hiQ Labs, una startup che informa le aziende quando i loro dipendenti corrono il rischio di essere braccati da altre società...

Il problema è che lo fa estraendo i dati dal sito Web di LinkedIn.

Lettura del conduttore di notizie: con oltre 500 milioni di utenti in tutto il mondo LinkedIn è un tesoro di informazioni personali. Ma cosa succede se le informazioni che non vuoi condividere tornano al tuo capo?

Jennifer Forte: Ma hiQ sostiene che va bene: tutti questi dati sono disponibili pubblicamente senza un accesso. Il caso potrebbe andare alla corte suprema quest'anno, anche se finora il sistema legale è d'accordo con hiQ.

Sai quali sono i tuoi diritti alla privacy su siti web come LinkedIn o YouTube?

Sarebbe sorprendente che le foto, comprese alcune che non hai mai visto ma che in qualche modo sono finite sul Web, vengano utilizzate dalle aziende per far crescere le loro attività, anche per costruire cose come sistemi di intelligenza artificiale che identificano i sospetti per la polizia?

Sono Jennifer Strong e nella seconda parte della nostra serie sul riconoscimento facciale e la polizia parliamo con l'amministratore delegato Hoan Ton-That, il fondatore di una delle società tecnologiche più controverse del mondo, Clearview AI.

Jennifer Forte: Nel 2011 l'allora CEO di Google, Eric Schmidt, rilasciò un'intervista durante una conferenza ospitata dal Wall Street Journal.

Eric Schmidt : Personalmente sono molto preoccupato per l'unione di monitoraggio mobile e riconoscimento facciale.

Jennifer Forte: La combinazione di Face I-D con i dati di tracciamento dei telefoni cellulari potrebbe rivelare quasi ogni dettaglio su come e dove trascorriamo il nostro tempo.

Schmidt ha detto che credeva che potesse essere usato per il bene o per il male, ma nelle democrazie pensava che sarebbe stato regolato rapidamente.

Era sul palco con i giornalisti Walt Mossberg e Kara Swisher e gli hanno insistito: quali capacità aveva Google e cosa poteva succedere nelle mani sbagliate?

Eric Schmidt : Per, per essere chiari, abbiamo costruito quella tecnologia... e l'abbiamo trattenuta. Per quanto ne so, è l'unica tecnologia costruita da Google e dopo averla esaminata, abbiamo deciso di fermarci.

Jennifer Forte: Avanti veloce di quasi un decennio. Il riconoscimento facciale non è ancora regolamentato e la grande tecnologia è tornata a chiedersi cosa dovrebbe essere costruito e chi dovrebbe averlo.

Il fatto è che i giganti della tecnologia non sono i più grandi giocatori in quello spazio. Le aziende che, tra cui NEC, Cognitec e Clearview AI, continuano a vendere i loro sistemi.

E poiché il riconoscimento facciale non è regolamentato, a meno che un'azienda non decida di dirci che questi strumenti esistono o un giornalista scopre qualcosa, non sapremo necessariamente cosa c'è là fuori, per non parlare di come viene utilizzato, anche quando viene utilizzato su di noi.

Clearview viene talvolta definita l'app killer di Face ID. È anche incredibilmente controverso. Ha raschiato silenziosamente miliardi di immagini da Internet - da Venmo, LinkedIn, Google, Facebook, Twitter, YouTube e così via - e ha costruito un sistema che si ritiene sia ampiamente utilizzato dalle forze dell'ordine, inclusi l'FBI e l'ICE. come polizia statale e locale.

Ci sono molte battaglie legali in corso su questa pratica chiamata Web scraping, non perché ci sia qualcosa di intrinsecamente negativo in essa, è solo uno strumento per raccogliere dati da Internet. È così che i siti Web offrono confronti dei prezzi e annunci immobiliari. È anche il modo in cui viene svolta gran parte della ricerca pubblica.

Quindi, il vero problema è che non ci sono davvero regole di base per che cosa può essere raschiato. E la legge federale utilizzata più spesso per risolvere questi casi? Bene, è del 1986. Prima ancora che esistesse il Web.

Durante questa serie ascolteremo le persone che costruiscono tecnologie, così come coloro che le combattono. E mi sono seduto con l'amministratore delegato di Clearview per parlare di tutto questo, dal suo punto di vista.

Hoan Ton-Quello : Mi chiamo Hoan Ton-That e sono il fondatore e CEO di Clearview AI.

Jennifer Forte : Ok, come descriveresti la tua azienda, la tecnologia e cosa fa?

Hoan Ton-Quello : Fondamentalmente è un motore di ricerca per i volti. Quindi carichi una foto di un viso e trova i collegamenti disponibili pubblicamente online. E in questo momento è usato dalle forze dell'ordine per risolvere i crimini dopo il fatto. Quindi un agente, se è bloccato su un caso e ha qualcosa da un filmato, può esaminarlo attraverso il nostro sistema e quindi avviare un'indagine.

Jennifer Forte: Dice che ha immediatamente fatto appello alle forze dell'ordine, ma è stato dopo che l'ha scambiato per alcuni gruppi diversi.

Hoan Ton-Quello : Quando stavamo costruendo la nostra tecnologia di riconoscimento facciale, abbiamo esplorato molte idee diverse e molti settori diversi, dalla sicurezza privata all'ospitalità ... quando l'abbiamo data ad alcune persone nelle forze dell'ordine, l'aumento è stato enorme. E ci hanno richiamato il giorno dopo e hanno detto che stiamo risolvendo i casi. Questo è pazzesco. In una settimana abbiamo avuto un libretto davvero fitto.

Jennifer Forte : Allora, da dove hai avuto l'idea di creare Clearview. Quali erano le tue motivazioni?

Hoan Ton-Quello : Ho sempre amato conoscere la programmazione per computer fin da quando ero bambino guardando le video lezioni del MIT o facendo progetti open source e scaricando immagini per addestrare modelli migliori per il riconoscimento facciale. E alla fine si è trasformato in un motore di ricerca facciale. Ed è stata solo una sorpresa per me quante persone non hanno davvero affrontato questa idea perché è un problema così difficile perché devi essere molto, molto preciso, ma ci siamo fermati e alla fine ha funzionato davvero bene.

Jennifer Forte: C'è un elenco crescente di ragioni per cui i ricercatori potrebbero scegliere di non lavorare su un motore di ricerca di volti. Un grande è il modo in cui questo lavoro potrebbe essere applicato.

Kade Crockford : Prendi il caso di Steve Talley, un analista finanziario del Colorado.

Jennifer Forte: Kade Crockford è un sostenitore della privacy. Questo è dal suo Ted Talk.

Kade Crockford : Nel 2015 Talley è stato accusato di rapina in banca sulla base di un errore in un sistema di riconoscimento facciale. Talley ha combattuto quel caso e alla fine è stato scagionato da quelle accuse, ma ha perso la casa, il lavoro ei suoi figli. Il caso di Steve Talley è un esempio di cosa può succedere quando la tecnologia fallisce. Ma la sorveglianza facciale è altrettanto pericolosa quando funziona come pubblicizzato.

Considera quanto sarebbe banale per un'agenzia governativa mettere una telecamera di sorveglianza all'esterno di un edificio dove le persone si incontrano per le riunioni di Alcolisti Anonimi. Sarebbe altrettanto facile utilizzare questa tecnologia per identificare automaticamente ogni persona che ha partecipato alla marcia delle donne o alla protesta di Black Lives Matter.

Jennifer Forte: Anche se Ton-That crede che lo strumento di Clearview sia più sicuro di quello che sta descrivendo.

Hoan Ton-Quello : Un falso positivo in un'ambientazione dal vivo è più un problema che in un'ambientazione a posteriori. Perché se ricevi un avviso e stai correndo verso il basso per trovare la persona, forse hai molto meno tempo per vedere se è corretto. Mentre se sei dietro una scrivania a fare un'indagine, hai tutto il tempo del mondo per assicurarti di fare la cosa giusta.

Jennifer Forte: Ma non c'è accordo su cosa significhi fare la cosa giusta.

Nell'episodio uno abbiamo incontrato Robert Williams. È stato arrestato ingiustamente proprio nel tipo di indagine di cui parla Ton-That, dopo che il software ha abbinato in modo errato la foto della sua patente alle immagini di qualcuno che ruba orologi.

Lo strumento utilizzato nel caso del signor Williams non è stato creato da Clearview ma da una società chiamata DataWorks, sebbene entrambi questi sistemi si basino su reti neurali.

Hoan Ton-Quello : Quindi una rete neurale è una nuova forma di intelligenza artificiale in cui invece di codificare determinati fattori - ad esempio vogliamo eseguire il riconoscimento facciale per trovare volti simili della stessa persona - invece di codificare fattori come la distanza tra i tuoi occhi o il distanza tra gli occhi e il naso, impara solo da un sacco di esempi diversi. E quello che facciamo è raccogliere come mille esempi di George Clooney o mille esempi di Brad Pitt e la macchina nel tempo impara la differenza tra quei due volti e poi può applicarla a un viso che non è mai stato visto prima .

Jennifer Forte: Qualcosa con cui abbiamo parlato per questa serie concordato è che questi sistemi funzionano meglio quando l'illuminazione è buona e le telecamere sono posizionate all'altezza del viso.

Ma con le telecamere di sicurezza, è raro. C'è anche la sfida della scala.

Hoan Ton-Quello : Come cerchi miliardi di volti o vettori in meno di un secondo? Tipica ricerca nei database per nome ed e-mail. Questo cerca per somiglianza. E farlo su larga scala è difficile. Anche per questo dovevamo dotarci di un nostro data center. In genere, se stai acquistando un sistema di riconoscimento facciale, c'è un problema di avvio a freddo. Che foto ci metti dentro? Quindi i dipartimenti di polizia potrebbero avere le proprie foto segnaletiche ma non hanno foto segnaletiche da altri dipartimenti di polizia. Quindi ne limita davvero l'utilità. E ci siamo appena resi conto che ci sono trilioni e trilioni di pagine Web su Internet e sui social media e, sai, siti di notizie, siti Web di foto segnaletiche.

Jennifer Forte: Siamo a poche miglia di distanza l'uno dall'altro a New York City, ma a causa della pandemia stiamo chattando su Zoom.

Hoan Ton-Quello : Jennifer, avevo già fatto uno screenshot di una tua foto. Ti dispiace se lo carico?

Jennifer Forte : No, va bene.

Jennifer Forte: E mette sullo schermo una vecchia foto del mio account LinkedIn.

Hoan Ton-Quello : Allora, sul lato sinistro? Vedi questo nuovo pulsante di ricerca in cui scegli una foto? Quindi questo è quello che userò. Non preoccuparti. Nessuno può vedere lo schermo tranne noi (risate).

E così ci volle, sai, circa un secondo. E puoi vedere che c'è un link su cui puoi fare clic. Ma mentre attraversiamo questo è, quindi è, uh, da Twitter. Ti ricordi questa foto?

Jennifer Forte : Ummm no non sapevo che fosse stata scattata... sembro molto...

Hoan Ton-Quello : Sì. Fate. Sembri molto serio in quello. Sì.

Qui stai tenendo un discorso al Wall Street Journal, il futuro di tutto.

Jennifer Forte : Sì.

Hoan Ton-Quello : Stai intervistando qualcuno qui alla Duke Health. Quindi, come ho detto, tutte queste cose sono pubblicamente disponibili. Quindi, è fondamentalmente così che funziona.

Jennifer Forte: Non c'è niente di insolito qui. Solo foto di me al lavoro che riporto storie e ospito panel in diverse città - anche se è un po' stridente trovare foto di me stesso che non ho mai visto - e ancora una volta solleva questa spinosa questione del consenso.

Vedi, è improbabile che selezioni una casella che autorizza aziende come Clearview a raschiare la mia immagine e usarla per costruire le loro attività.

Il fatto è che non ne hanno bisogno.

Torneremo tra un momento subito dopo questo.

Hoan Ton-Quello : La particolarità di Clearview AI e che rende un po' più difficile la comprensione per le persone, è solo la ricerca di informazioni pubblicamente disponibili.

Jennifer Forte: Ed è qui che Ton-That fa un argomento che potremmo dibattere e discutere per molti anni a venire: che Internet aperto come lo conosciamo, comprese cose come le ricerche su Google, non esisterebbe davvero se avessimo imposto restrizioni all'uso di dati in linea.

Hoan Ton-Quello : LinkedIn è una società da miliardi di dollari, o una società da miliardi di dollari Microsoft, non hanno il diritto di bloccare l'accesso di altre persone ai dati pubblici. Quindi è una cosa che si trova in una posizione interessante perché sta solo cercando informazioni pubblicamente disponibili e cose che le persone vogliono che siano private. Sappiamo che non vogliamo intonacarli su Internet. Quindi penso che abbiamo un istinto di ciò che vogliamo mantenere privato e di ciò che vogliamo rendere pubblico e sarà sempre così.

Jennifer Forte: È sicuro dire che non tutti sono d'accordo con lui.

Twitter è tra tutta una serie di aziende che hanno inviato a Clearview un ordine di cessazione e cessazione, dicendogli di smettere di raschiare le proprie immagini ed eliminare tutti i propri dati. Twitter afferma anche che le loro politiche vietano l'utilizzo dei loro dati per il riconoscimento facciale. Dato che ha già raschiato miliardi di immagini, saresti perdonato se ti chiedi come siano ancora disponibili molte più informazioni da catturare.

Ma è solo la punta dell'iceberg.

Hoan Ton-Quello : Non siamo ancora nemmeno l'1% di quello che c'è là fuori quando esegui i numeri, è un po' pazzesco quante informazioni ci sono là fuori. Quindi, quando si tratta di privacy, dobbiamo guardare a noi stessi e dire, beh, condividiamo volontariamente molte di queste informazioni. E questo può essere vero, ma come, come ci sentiamo al riguardo? Non abbiamo informazioni private come Google o Facebook. Google ha sempre la tua posizione su Android. Facebook conosce tutte le tue abitudini e cosa ti piace e cosa non ti piace. La scheda Esplora di Instagram è semplicemente fenomenale nello scoprire cosa ti piace, è un po' spaventoso, ma sanno molte più informazioni di quelle che sappiamo noi. E siamo solo concentrati sul tentativo di fare domanda per il bene più grande, pensiamo, per rendere il mondo molto più sicuro.

Jennifer Forte: E per lui questo significa lavorare con la polizia.

Hoan Ton-Quello : Quindi già in molte forze dell'ordine che utilizzano il riconoscimento facciale, hanno una procedura che dice che non puoi semplicemente arrestare qualcuno sulla base di una corrispondenza di riconoscimento facciale. Devi ancora fare ricerche di follow-up. Quindi c'è sempre un essere umano nel giro che controlla se questa persona, la persona giusta? Hanno il nome giusto? Quella persona vive nella stessa zona in cui è stato commesso il reato?

Jennifer Forte: Ma che dire delle persone che sono falsamente accusate?

Ton-That direbbe che è un fallimento umano. Allo stesso modo siamo ancora responsabili del modo in cui guidiamo mentre utilizziamo il GPS, quando la navigazione dice di svoltare a destra e non è sicuro farlo, spetta a noi e al nostro cervello umano ignorarlo.

E ci ricorda che anche le persone sbagliano.

Hoan Ton-Quello : Come un esempio sono le formazioni umane. L'Innocence Project afferma che il 70% delle condanne ingiuste provengono da testimonianze oculari. Quindi, sai, se sei un pessimo agente di polizia e vuoi incastrare qualcuno per un crimine che non ha commesso, puoi in qualche modo incoraggiare le persone a scegliere la persona che desideri da una formazione e penso che la tecnologia piaccia Clearview può effettivamente aiutare ad aggiungere molta trasparenza e responsabilità. Qualcosa a cui vorremmo dare un'occhiata da vicino è come può effettivamente aiutare le persone a non essere erroneamente identificate.

Jennifer Forte: In un certo senso, questa argomentazione contro cui sta facendo umano giudizio? È lo stesso usato contro il passaggio di queste decisioni all'IA: c'è errore, pregiudizi e razzismo. Ma laddove Ton-That non crede che possiamo cambiare le persone in modo affidabile, crede di aver rimosso queste cose dal suo sistema.

Hoan Ton-Quello : E quindi crediamo di aver completamente risolto il problema dell'accuratezza e il problema del pregiudizio razziale che ha afflitto in qualche modo altre società di riconoscimento facciale. E vogliamo che altre persone sappiano che possiamo davvero prendere questa tecnologia e usarla.

Jennifer Forte: Queste sono affermazioni molto grandi che potrebbero non essere nemmeno possibili e al momento non c'è modo di verificarle. Clearview non ha fornito il tipo di accesso pubblico che consentirebbe di controllare il proprio sistema allo stesso modo di Amazon e altri.

Dice che la società ha svolto la propria verifica, riunendo un comitato di revisione indipendente che ha adottato un approccio simile a quando l'ACLU ha testato il sistema di riconoscimento facciale di Amazon facendo scorrere le foto del Congresso degli Stati Uniti oltre un database di foto segnaletiche, che sono foto di persone che sono state arrestate per un crimine.

Hoan Ton-Quello : E così hanno condotto questo studio indipendente. Ma invece di cercare una galleria di 25.000 foto segnaletiche, ha cercato una galleria di 2,8 miliardi di foto in quel momento. E abbiamo fatto altre legislature statali come lo stato di New York e il Texas. E ciascuno dei risultati che è emerso era la persona corretta e li ha esaminati individualmente.

Jennifer Forte: Dal punto di vista di Clearview, ciò significa che la tecnologia potrebbe effettivamente aiutare il sistema giudiziario a diventare più equo. Dice che hanno convinto Jonathan Lippman, il giudice capo della Corte d'Appello di New York, a far parte di quel pannello di revisione.

Hoan Ton-Quello : E crede davvero che se hai qualcosa di più accurato, è meglio anche per gli imputati. Non andranno in prigione per un crimine che non hanno commesso.

Jennifer Forte: Se la Silicon Valley ha un marchio, è questo tecno-ottimismo su come le loro creazioni cambieranno il mondo, ma senza l'onere di essere responsabili di eventuali cambiamenti indesiderati che potrebbero accompagnarlo.

Forse è davvero non dovrebbe essere compito dei creatori di tecnologia di preoccuparsi del tipo di trasparenza, supervisione e guardrail necessari per proteggere il pubblico.

Hoan Ton-Quello : Penso che sia responsabilità del governo e dei responsabili politici elaborare normative e le aziende tecnologiche dovrebbero sedersi al tavolo, ed è nel loro interesse avere un posto al tavolo. A volte si vedono approvate politiche sbagliate perché non sanno come funziona la tecnologia. Quindi, penso che più aziende tecnologiche si impegneranno con le politiche.

Abbiamo ricevuto molte attenzioni, ma sappiamo che stiamo facendo la cosa giusta. E penso che, a lungo termine, qualsiasi tipo di nuova tecnologia sia controversa dalla stampa... e questa è solo una parte del processo. La scelta non è tra nessun riconoscimento facciale e riconoscimento facciale. È tra il riconoscimento facciale responsabile e una specie di selvaggio west.

Jennifer Forte: Un gruppo che mira ad aiutare a domare quel selvaggio west è il Police Executive Research Forum. L'organizzazione senza scopo di lucro ha trascorso gli ultimi quattro decenni ad aiutare i capi della polizia a risolvere problemi emergenti.

Alessia Daniels-Shpall : L'uso dei taser. Usano macchine fotografiche indossate dal corpo. Ora stiamo anche esaminando il tema del riconoscimento facciale.

Jennifer Forte: Alexa Daniels-Shpall sta conducendo questa ricerca in collaborazione con il Dipartimento di Giustizia degli Stati Uniti.

Alessia Daniels-Shpall : Abbiamo svolto molte di queste ricerche in quest'area con l'obiettivo di sviluppare alcune linee guida nazionali. Lo stanno usando in una varietà di modi diversi e hanno sviluppato tutti le proprie procedure, protocolli e politiche.

Jennifer Forte: Entreremo nel prossimo episodio... Ma per ora, la cosa importante è che la sua ricerca suggerisce che l'adozione di Clearview da parte dei dipartimenti di polizia potrebbe non essere così diffusa come affermato. A gennaio ha detto al New York Times che più di 600 forze dell'ordine hanno iniziato a utilizzare il suo prodotto nell'ultimo anno.

Alessia Daniels-Shpall : Abbiamo visto solo una manciata che ha portato a termine un contratto formale.

Jennifer Forte: In conclusione: le agenzie di polizia utilizzano Clearview. Ma c'è una grande differenza tra provare e acquistare.

Alessia Daniels-Shpall : So che alcuni l'hanno provato e poi hanno deciso di non usarlo. E, almeno alcuni di loro con cui abbiamo parlato hanno detto che non ha funzionato molto bene per loro. E penso che probabilmente dipenda, sai, da cosa lo stai testando e, e solo da dove ti trovi nel paese. Perché, sai, non so se qualcuno ha un'idea di dove, tipo quante immagini stanno arrivando in aree diverse.

Jennifer Forte: E non tutte le agenzie di polizia che l'hanno provato lo hanno fatto consapevolmente... o attraverso i canali ufficiali.

Alessia Daniels-Shpall : I dirigenti hanno scoperto che gli investigatori erano stati contattati dalla società per testarlo. E poi lo hanno portato ai loro capi per dire: Ehi, dovremmo cercare di andare avanti con esso. E i dirigenti in un certo senso hanno detto che per ora lo chiuderemo e passeremo attraverso i nostri normali processi di approvvigionamento e valutazione prima di andare avanti. // È stata una specie di accoglienza mista direi da diverse agenzie. E la domanda più importante sarebbe scoprire quanti tipi di contratti permanenti a lungo termine e quante agenzie hanno fatto l'appalto formale per stabilire un rapporto con l'azienda piuttosto che solo quelle prove gratuite che erano in giro.

Jennifer Forte: La prossima volta incontreremo la polizia negli Stati Uniti che sta usando Face ID...

Dori Koren : È un po' hollywoodiano, ma l'abbiamo fatto apposta, è così che volevamo che fosse. Quindi, immagina di entrare in una grande stanza e sulla parete frontale, hai questo enorme display: tutti i tipi di telecamere si alimentano come una stanza di sorveglianza, ma un po' più high-tech, un po' più grande, un po' più avanzata.

Jennifer Forte: E scopri quale ruolo giocano inconsapevolmente l'attore Woody Harrelson e altre celebrità nel nominare i sospetti della polizia...

Questo episodio è stato segnalato e prodotto da me, con Tate Ryan-Mosely ed Emma Cillekens, con un ringraziamento speciale a Karen Hao e Benji Rosen. Siamo a cura di Michael Reilly e Gideon Litchfield. Il nostro direttore tecnico è Jacob Gorski.

Grazie per l'ascolto, sono Jennifer Strong.

nascondere