I sistemi di riconoscimento facciale sono accurati? Dipende dalla tua razza.

Tutto ciò che sappiamo sui sistemi di riconoscimento facciale utilizzati dall'FBI e dalla polizia suggerisce che il software ha un pregiudizio razziale incorporato. Non è apposta: è un artefatto di come sono progettati i sistemi e dei dati su cui vengono addestrati. Ma è problematico. Le forze dell'ordine si affidano sempre di più a tali strumenti per aiutare nelle indagini penali, aumentando il rischio che qualcosa possa andare storto.

Le forze dell'ordine non hanno fornito molti dettagli su come utilizzano i sistemi di riconoscimento facciale, ma a giugno il Government Accountability Office ha pubblicato un rapporto in cui si afferma che l'FBI non ha testato adeguatamente l'accuratezza del suo sistema di riconoscimento facciale, né quello della massiccia rete di database di corrispondenza dei volti a livello di stato a cui può accedere.

E mentre i sistemi di corrispondenza dei volti all'avanguardia possono essere accurati quasi del 95% sui database di foto segnaletiche, quelle foto vengono scattate in condizioni controllate con soggetti generalmente cooperativi. Le immagini scattate in circostanze non ideali, come una cattiva illuminazione, o che catturano pose ed espressioni facciali insolite, possono causare errori.

Illustrazione di Sophia Foster-Dimino

Gli algoritmi possono anche essere distorti a causa del modo in cui vengono addestrati, afferma Anil Jain , capo del gruppo di ricerca biometrica presso la Michigan State University. Per funzionare, il software di corrispondenza dei volti deve prima imparare a riconoscere i volti utilizzando i dati di addestramento, un insieme di immagini che fornisce al software informazioni su come differiscono i volti. Se un sesso, un gruppo di età o una razza è sottorappresentato nei dati di allenamento, ciò si rifletterà nelle prestazioni dell'algoritmo, afferma Jain.

Nel 2012, Jain e diversi colleghi hanno utilizzato una serie di foto segnaletiche dell'ufficio dello sceriffo della contea di Pinellas in Florida per esaminare le prestazioni di diversi sistemi di riconoscimento facciale disponibili in commercio, compresi quelli di fornitori che forniscono le forze dell'ordine. Gli algoritmi erano costantemente meno accurato su donne, afroamericani e giovani. Apparentemente sono stati formati su dati che non erano sufficientemente rappresentativi di quei gruppi, dice Jain.

Se il tuo set di allenamento è fortemente orientato verso una razza particolare, il tuo algoritmo farà meglio a riconoscere quella razza, dice Alice O’Toole , capo del laboratorio di ricerca sulla percezione del viso presso l'Università del Texas a Dallas. O'Toole e diversi colleghi trovato nel 2011 che un algoritmo sviluppato nei paesi occidentali era più efficace nel riconoscere i volti caucasici di quanto non lo fosse nel riconoscere i volti dell'Asia orientale. Allo stesso modo, gli algoritmi dell'Asia orientale hanno ottenuto risultati migliori sui volti dell'Asia orientale rispetto a quelli caucasici.

Nei diversi anni trascorsi da questi studi, l'accuratezza degli algoritmi commerciali è migliorata in modo significativo in molte aree e Jain afferma che i divari di prestazioni tra generi e razze diverse potrebbero essersi ridotti. Ma sono disponibili così poche informazioni sui test che è difficile saperlo. Approcci più recenti al riconoscimento facciale, come i sistemi di deep learning sviluppati da Google e Facebook, possono commettere lo stesso tipo di errori se i dati di allenamento sono sbilanciati, afferma.

Jonathon Phillips, un ingegnere elettronico presso il National Institute of Standards and Technology, conduce test sulle prestazioni di algoritmi commerciali. Dice che è possibile progettare un test per misurare i pregiudizi razziali nei sistemi di corrispondenza dei volti. In effetti, gli esperti di privacy hanno richiesto rendendo tali test un requisito.

L'FBI e MorphoTrust, il fornitore che fornisce il software di riconoscimento facciale dell'ufficio, non hanno risposto alle domande inviate via e-mail da Revisione della tecnologia del MIT per quanto riguarda se testano le prestazioni dei loro algoritmi per razza, sesso o età.

Anche gli accordi tra i fornitori e le numerose forze dell'ordine statali che utilizzano il riconoscimento facciale non sono chiari. Ma Pete Langenfeld, responsabile dell'analisi e dell'identificazione digitale per la Polizia di Stato del Michigan, afferma che la sua organizzazione non verifica l'accuratezza specifica del gruppo. Ha detto che non sa se anche il fornitore che ha fornito la tecnologia esegue tali test, ma ha aggiunto che si tratta di informazioni proprietarie e che la società non è tenuta a rilasciare tali informazioni.

nascondere