211service.com
Rendere il riconoscimento facciale meno parziale non lo rende meno spaventoso
Busà Fotografia/Getty
Negli ultimi anni, c'è stato un drammatico aumento nell'adozione della tecnologia di riconoscimento facciale, rilevamento e analisi.
Probabilmente hai più familiarità con riconoscimento sistemi, come il suggeritore di tag foto di Facebook e FaceID di Apple, che possono identificare individui specifici. Rilevamento i sistemi, d'altra parte, determinano se un volto è presente; e analisi i sistemi cercano di identificare aspetti come il genere e la razza. Tutti questi sistemi vengono ora utilizzati per una varietà di scopi, da assumere e vendita al dettaglio a sicurezza e sorveglianza .
Molte persone credono che tali sistemi siano sia altamente accurati che imparziali. La logica è che il personale di sicurezza dell'aeroporto può stancarsi e la polizia può giudicare male i sospetti, ma un sistema di intelligenza artificiale ben addestrato dovrebbe essere in grado di identificare o classificare costantemente qualsiasi immagine di un volto.
Ma in pratica, la ricerca ha ripetutamente dimostrato che questi sistemi trattano alcuni gruppi demografici in modo molto più impreciso di altri. L'anno scorso, Sfumature di genere , uno studio fondamentale condotto dalla ricercatrice del MIT Media Lab Joy Buolamwini, ha scoperto che i sistemi di classificazione di genere venduti da IBM, Microsoft e Face++ avevano un tasso di errore fino a 34,4 punti percentuali in più per le femmine dalla pelle più scura rispetto ai maschi dalla pelle più chiara. L'ACLU della California del Nord trovato allo stesso modo che la piattaforma di Amazon aveva maggiori probabilità di identificare erroneamente i membri del Congresso non bianchi rispetto a quelli bianchi.
Il problema è che i sistemi di riconoscimento facciale e analisi sono spesso addestrati su set di dati distorti: ricevono molte meno immagini di donne e persone con la pelle scura rispetto alle immagini di uomini e persone con la pelle chiara. E mentre molti di loro sono presumibilmente testati per l'equità, quei test non controllano le prestazioni su una gamma sufficientemente ampia di volti, come ha scoperto Buolamwini. Queste disparità perpetuano e rafforzano ulteriormente le ingiustizie esistenti e portano a conseguenze che peggiorano solo quando la posta in gioco aumenta.
Tre nuovi documenti pubblicati la scorsa settimana stanno ora portando l'attenzione tanto necessaria su questo problema. Ecco una breve descrizione di ciascuno di essi.
Carta n. 1. Giovedì scorso, Buolamwini rilasciato un aggiornamento a Gender Shades testando nuovamente i sistemi che aveva precedentemente esaminato ed espandendo la sua recensione per includere Amazon's Rekognition e un nuovo sistema di una piccola azienda di intelligenza artificiale chiamata Kairos. Ci sono buone notizie. Ha scoperto che IBM, Face++ e Microsoft hanno tutti migliorato la precisione della classificazione di genere per le donne dalla pelle più scura, con Microsoft che ha ridotto il tasso di errore al di sotto del 2%. D'altra parte, le piattaforme di Amazon e Kairos presentavano ancora differenze di precisione rispettivamente di 31 e 23 punti percentuali tra i maschi più chiari e le femmine più scure. Buolamwini disse lo studio mostra che queste tecnologie devono essere controllate esternamente per ritenerle tecnicamente responsabili.
Carta n. 2. La domenica l'a studia del MIT Computer Science and Artificial Intelligence Laboratory (CSAIL) ha dimostrato l'efficacia di un nuovo algoritmo per mitigare i pregiudizi in un sistema di rilevamento dei volti anche quando è addestrato su dati fortemente distorti. Mentre si allena, identifica anche quali esempi nei dati sono sottorappresentati e dedica più tempo a esaminarli per compensare. Quando i ricercatori hanno testato il sistema rispetto al set di dati Gender Shades di Buolamwini, hanno scoperto che aiutava a colmare il loro più grande divario di precisione, tra maschi dalla pelle più chiara e più scura, rispetto a un algoritmo di addestramento standard (sebbene non lo elimini completamente). .
Carta n. 3. Questa mattina, IBM Research ha rilasciato un carta che identifica dozzine di caratteristiche per misurare la diversità oltre il colore della pelle e il sesso, tra cui altezza della testa, larghezza del viso, distanza intraoculare ed età. I risultati si basano su precedenti ricerche sui volti umani. A meno che non disponiamo di misure della diversità facciale, afferma John Smith, uno dei coautori del documento, non possiamo tornare indietro e applicarle mentre addestriamo questi sistemi di riconoscimento facciale. Insieme, il team ha rilasciato un nuovo set di dati con 1 milione di immagini di volti, annotato con queste nuove misure.
Diverse misure della diversità facciale, presentate nel nuovo articolo di IBM Research. Ricerca IBM
Ciascuno di questi studi ha compiuto passi importanti per affrontare i pregiudizi nel riconoscimento facciale, ritenendo le società responsabili, creando nuovi algoritmi e ampliando la nostra comprensione della diversità dei dati. Ma creare sistemi più equi e accurati è solo metà della battaglia.
Anche i sistemi più equi e accurati possono ancora essere utilizzati per violare le libertà civili delle persone. L'anno scorso, una bestia quotidiana indagine ha scoperto che Amazon stava attivamente proponendo la sua piattaforma di sorveglianza facciale all'Immigration and Customs Enforcement degli Stati Uniti, meglio noto come ICE, per aiutare la sua repressione delle comunità di migranti. Un'intercettazione indagine ha anche scoperto che IBM ha sviluppato la capacità di identificare l'etnia dei volti come parte di una partnership a lungo termine con il dipartimento di polizia di New York. Questa tecnologia è stata quindi implementata nelle telecamere di sorveglianza pubblica per i test, all'insaputa dei residenti della città. Già, la polizia metropolitana del Regno Unito utilizza il riconoscimento facciale per scansionare le folle pubbliche per le persone nelle liste di controllo e la Cina lo usa per sorveglianza di massa di tutti i residenti, ai fini del monitoraggio dei dissidenti.
In risposta alla rapida proliferazione di questi sistemi, un numero crescente di attivisti per i diritti civili e tecnologi hanno chiesto la loro regolamentazione; Google ha anche sospeso la vendita di tali sistemi fino a quando non disporrà di strategie chiare per prevenirne l'abuso.
Senza giustizia algoritmica, l'accuratezza e l'equità tecnica degli algoritmi possono creare strumenti di intelligenza artificiale armati, afferma Buolamwini.
Questa storia è apparsa originariamente nella nostra newsletter AI The Algorithm. Per riceverlo direttamente nella tua casella di posta, registrati qui gratuitamente.