Uno studio del governo degli Stati Uniti conferma che la maggior parte dei sistemi di riconoscimento facciale sono razzisti

Categoria: Intelligenza artificiale Inserito 20 dic

Quasi 200 algoritmi di riconoscimento facciale, la maggioranza nel settore, hanno avuto prestazioni peggiori sui volti non bianchi, secondo a studio di riferimento .

Cosa hanno testato: Il National Institute of Standards and Technology (NIST) degli Stati Uniti ha testato ogni algoritmo su due delle attività più comuni per il riconoscimento facciale. Il primo, noto come abbinamento uno-a-uno, prevede l'abbinamento di una foto di qualcuno con un'altra foto della stessa persona in un database. Questo viene utilizzato per sbloccare smartphone o controllare i passaporti, ad esempio. La seconda, nota come ricerca uno a molti, consiste nel determinare se una foto di qualcuno ha una corrispondenza in un database. Questo è spesso utilizzato dai dipartimenti di polizia per identificare i sospetti in un'indagine.

L'agenzia ha studiato i set di dati di quattro volti attualmente utilizzati nelle applicazioni del governo statunitense: foto segnaletiche di persone che vivono negli Stati Uniti; foto delle domande di persone che richiedono benefici per l'immigrazione; foto delle domande di persone che richiedono il visto; e foto di persone mentre attraversavano il confine con gli Stati Uniti. In totale, i set di dati includevano 18,27 milioni di immagini di 8,49 milioni di persone.

Cosa hanno trovato: Il NIST ha condiviso alcuni risultati di alto livello dello studio. I principali:

1. Per la corrispondenza uno a uno, la maggior parte dei sistemi ha avuto un tasso più elevato di corrispondenze false positive per i volti asiatici e afroamericani rispetto ai volti caucasici, a volte di un fattore 10 o addirittura 100. In altre parole, era più probabile che trovare una corrispondenza quando non ce n'era una.

2. Ciò è cambiato per gli algoritmi di riconoscimento facciale sviluppati nei paesi asiatici, che hanno prodotto pochissime differenze nei falsi positivi tra i volti asiatici e caucasici.

3. Gli algoritmi sviluppati negli Stati Uniti erano tutti costantemente pessimi nell'abbinare volti asiatici, afroamericani e nativi americani. I nativi americani hanno subito i tassi di falsi positivi più alti.

4. I sistemi di corrispondenza uno a molti hanno i peggiori tassi di falsi positivi per le donne afroamericane, il che mette questa popolazione a rischio più elevato di essere falsamente accusata di un crimine.

Perché questo è importante: L'uso dei sistemi di riconoscimento facciale sta crescendo rapidamente nelle forze dell'ordine, nel controllo delle frontiere e in altre applicazioni in tutta la società. Mentre diversi studi accademici hanno precedentemente dimostrato che i sistemi commerciali popolari sono prevenuti su razza e genere, lo studio del NIST è la valutazione più completa fino ad oggi e conferma questi risultati precedenti. I risultati mettono in dubbio se questi sistemi debbano continuare ad essere così ampiamente utilizzati.

Prossimi passi: Ora spetta ai responsabili politici trovare il modo migliore per regolamentare queste tecnologie. Il NIST esorta inoltre gli sviluppatori di riconoscimento facciale a condurre ulteriori ricerche su come mitigare questi pregiudizi.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.