211service.com
Il programma di riconoscimento facciale dell'FBI è vasto e impreciso
Sorriso: forse sei stato identificato erroneamente.
L'anno scorso, abbiamo appreso della notevole portata della tecnologia di riconoscimento facciale dell'FBI, con il suo accesso a quasi 412 milioni di foto, molte provenienti da fonti non correlate al crimine, come i documenti di identità. L'agenzia di intelligence ha cercato di creare un sistema in grado di identificare con precisione i criminali, ad esempio, nei filmati delle telecamere a circuito chiuso, anche se all'epoca non si sapeva quanto funzionasse il software dell'ufficio, né se effettivamente migliorasse le indagini.
Ora, abbiamo almeno un po' più di comprensione del programma. Il Custode rapporti che un'audizione della commissione di sorveglianza della Camera la scorsa settimana ha rivelato alcuni nuovi interessanti dettagli sulla proliferazione e sulle capacità dei sistemi di riconoscimento facciale dell'FBI.
Innanzitutto, ci sono ottime possibilità che tu, come americano, compaia nel database. Tra quei molti milioni di foto, si scopre, ci sono le sembianze di circa la metà della popolazione adulta del paese. Ciò è possibile perché le immagini derivate da fonti non correlate al crimine rappresentano l'80% del database. Quindi, quando invii moduli e immagini per un passaporto, una patente di guida o qualche altra identificazione ufficiale, probabilmente stai aiutando a far crescere il set di dati.
Forse più preoccupante è la qualità del riconoscimento dell'FBI. L'udienza ha rivelato che il suo software attualmente identifica erroneamente le persone quasi il 15% delle volte. Al contrario, la tecnologia di riconoscimento facciale leader del mercato è ora così accurata da essere utilizzata per autorizzare pagamenti in Cina e Baidu afferma di confermare correttamente l'identità di qualcuno Il 99,77 per cento delle volte .
A difesa dell'FBI, probabilmente sta lavorando con immagini di qualità molto inferiore, sia nel suo database che nelle immagini su cui tenta di eseguire il riconoscimento, rispetto a quelle disponibili per artisti del calibro di Baidu. Ma i tassi di errore del 15% sono ancora elevati e potrebbero portare a false piste o intrusioni infondate nella privacy.
getty
Il software sembra anche identificare erroneamente le persone di colore più frequentemente rispetto ai bianchi. Purtroppo, quell'effetto è prevedibile: abbiamo spiegato in passato che i sistemi di riconoscimento facciale sono intrinsecamente distorti perché sono addestrati su set di dati che sottorappresentano alcuni dati demografici.
Ma quel problema può avere conseguenze preoccupanti. Come la Custode note, i neri lo sono è più probabile che vengano utilizzati software di riconoscimento facciale per identificarli , quindi sembra strano, persino ingiusto, utilizzare strumenti chiaramente mal equipaggiati per discernere la loro somiglianza.
Queste pepite si aggiungono tutte ai problemi di privacy che hanno già afflitto l'iniziativa dell'FBI di costruire un sistema in grado di identificare accuratamente i criminali. I problemi, almeno, sono stati rivelati, ora devono solo essere risolti.
(Per saperne di più: Il guardiano , Mentre cerca sospetti, l'FBI potrebbe guardarti, pagare con la tua faccia, i sistemi di riconoscimento facciale sono accurati? Dipende dalla tua razza. )