È così che abbiamo perso il controllo dei nostri volti

Getty

Nel 1964 matematico e informatico Woodrow Bledsoe prima tentato il compito di abbinare i volti dei sospetti alle foto segnaletiche. Ha misurato le distanze tra i diversi lineamenti del viso nelle fotografie stampate e le ha inserite in un programma per computer. I suoi rudimentali successi avrebbero dato il via a decenni di ricerca sulle macchine per insegnare a riconoscere i volti umani.

Ora un nuovo studio mostra quanto questa impresa abbia eroso la nostra privacy. Non ha solo alimentato uno strumento di sorveglianza sempre più potente. L'ultima generazione di riconoscimento facciale basato sull'apprendimento profondo ha completamente sconvolto le nostre norme sul consenso.

Deborah Raji, una collega dell'organizzazione no profit Mozilla, e Genevieve Fried, che fornisce consulenza ai membri del Congresso degli Stati Uniti sulla responsabilità algoritmica, hanno esaminato oltre 130 set di dati sul riconoscimento facciale compilati in 43 anni. Hanno scoperto che i ricercatori, spinti dall'esplosione dei requisiti di dati del deep learning, hanno gradualmente abbandonato la richiesta del consenso delle persone. Ciò ha portato sempre più foto personali delle persone a essere incorporate nei sistemi di sorveglianza a loro insaputa.

Ha anche portato a set di dati molto più disordinati: possono includere involontariamente foto di minori, utilizzare etichette razziste e sessiste o avere una qualità e un'illuminazione incoerenti. La tendenza potrebbe aiutare a spiegare il numero crescente di casi in cui i sistemi di riconoscimento facciale hanno fallito con conseguenze preoccupanti, come il falsi arresti di due neri nell'area di Detroit l'anno scorso.

Le persone erano estremamente caute nel raccogliere, documentare e verificare i dati dei volti all'inizio, afferma Raji. Ora non ci interessa più. Tutto ciò è stato abbandonato, dice. Non puoi tenere traccia di un milione di volti. Dopo un certo punto, non puoi nemmeno fingere di avere il controllo.

Una storia di dati di riconoscimento facciale

I ricercatori hanno identificato quattro grandi epoche del riconoscimento facciale, ciascuna guidata da un crescente desiderio di migliorare la tecnologia. La prima fase, che è durata fino agli anni '90, è stata in gran parte caratterizzata da metodi manuali intensivi e computazionalmente lenti.

Ma poi, spinto dalla consapevolezza che il riconoscimento facciale potrebbe tracciare e identificare le persone in modo più efficace delle impronte digitali, il Dipartimento della Difesa degli Stati Uniti ha investito 6,5 milioni di dollari per creare il primo set di dati sui volti su larga scala. In 15 sessioni fotografiche in tre anni, il progetto ha catturato 14.126 immagini di 1.199 individui. Il database Face Recognition Technology (FERET) è stato rilasciato nel 1996.

Il decennio successivo ha visto un aumento della ricerca accademica e commerciale sul riconoscimento facciale e sono stati creati molti altri set di dati. La stragrande maggioranza proveniva da servizi fotografici come quelli di FERET e aveva il pieno consenso dei partecipanti. Molti includevano anche metadati meticolosi, dice Raji, come l'età e l'etnia dei soggetti o informazioni sull'illuminazione. Ma questi primi sistemi hanno lottato in contesti del mondo reale, il che ha spinto i ricercatori a cercare set di dati più ampi e diversificati.

Nel 2007, il rilascio del set di dati Labeled Faces in the Wild (LFW) ha aperto le porte alla raccolta di dati tramite la ricerca sul web. I ricercatori hanno iniziato a scaricare immagini direttamente da Google, Flickr e Yahoo senza preoccuparsi del consenso. Un successivo set di dati compilato da altri ricercatori chiamato LFW+ ha anche allentato gli standard sull'inclusione dei minori, utilizzando foto trovate con termini di ricerca come bambino, giovane e adolescente per aumentare la diversità. Questo processo ha consentito di creare set di dati significativamente più grandi in breve tempo, ma il riconoscimento facciale ha comunque dovuto affrontare molte delle stesse sfide di prima. Ciò ha spinto i ricercatori a cercare ancora più metodi e dati per superare le scarse prestazioni della tecnologia.

Poi, nel 2014, Facebook ha utilizzato le foto degli utenti per addestrare un modello di deep learning chiamato DeepFace. Sebbene la società non abbia mai rilasciato il set di dati, le prestazioni sovrumane del sistema hanno elevato il deep learning al metodo de facto per l'analisi dei volti. Questo è quando la verifica e l'etichettatura manuali sono diventate quasi impossibili poiché i set di dati sono cresciuti fino a decine di milioni di foto, afferma Raji. È anche quando iniziano ad apparire fenomeni davvero strani, come etichette generate automaticamente che includono una terminologia offensiva.

Storia correlata

Un'IA ha visto una foto ritagliata di AOC. L'ha completata automaticamente indossando un bikini. Gli algoritmi di generazione delle immagini stanno rigurgitando le stesse idee sessiste e razziste che esistono su Internet.

Anche il modo in cui venivano utilizzati i set di dati iniziò a cambiare in questo periodo. Invece di cercare di abbinare gli individui, i nuovi modelli hanno iniziato a concentrarsi maggiormente sulla classificazione. Invece di dire: 'Questa è una foto di Karen? Sì o no', si è trasformato in 'Prevediamo la personalità interna di Karen, o la sua etnia' e le persone di boxe in queste categorie, dice Raji.

Amba Kak, il direttore delle politiche globali di AI Now, che non ha partecipato alla ricerca, afferma che il documento offre un quadro chiaro di come si è evoluta l'industria biometrica. Il deep learning potrebbe aver salvato la tecnologia da alcune delle sue difficoltà, ma anche il progresso tecnologico ha avuto un costo, dice. Sono stati sollevati tutti questi problemi che ora conosciamo abbastanza bene: consenso, estrazione, problemi di IP, privacy.

Danno che genera danno

Raji afferma che la sua indagine sui dati l'ha resa gravemente preoccupata per il riconoscimento facciale basato sull'apprendimento profondo.

È molto più pericoloso, dice. Il requisito dei dati ti costringe a raccogliere informazioni incredibilmente sensibili su, come minimo, decine di migliaia di persone. Ti costringe a violare la loro privacy. Questo di per sé è una base di danno. E poi stiamo accumulando tutte queste informazioni che non puoi controllare per costruire qualcosa che probabilmente funzionerà in modi che non puoi nemmeno prevedere. Questa è davvero la natura di dove siamo.

Spera che il documento induca i ricercatori a riflettere sul compromesso tra i guadagni in termini di prestazioni derivanti dall'apprendimento profondo e la perdita del consenso, una meticolosa verifica dei dati e una documentazione completa. Valeva la pena abbandonare tutte queste pratiche per fare deep learning? lei dice.

Esorta coloro che vogliono continuare a costruire il riconoscimento facciale a prendere in considerazione lo sviluppo di tecniche diverse: per noi provare davvero a utilizzare questo strumento senza ferire le persone richiederà di rivisitare tutto ciò che sappiamo su di esso.

Correzione, 15 febbraio 2021: Una versione precedente dell'articolo affermava che il set di dati Labeled Faces in the Wild (LFW) 'rilassava gli standard sull'inclusione dei minori'. Si trattava infatti del set di dati LFW+, compilato in seguito da un diverso gruppo di ricercatori.

nascondere