Facebook afferma che cercherà pregiudizi razziali nei suoi algoritmi

Categoria: Intelligenza artificiale Inserito 22 luglio

Le notizie: Facebook dice che si sta configurando nuovi team interni per cercare pregiudizi razziali negli algoritmi che guidano il suo principale social network e Instagram, secondo il Wall Street Journal. In particolare, le indagini affronteranno gli effetti negativi dell'apprendimento automatico, che può codificare il razzismo implicito nei dati di addestramento, su neri, ispanici e altri gruppi minoritari.

Perchè importa: Negli ultimi anni, un numero crescente di ricercatori e attivisti ha evidenziato il problema della bias nell'IA e il impatto sproporzionato che ha sulle minoranze . Facebook, che utilizza l'apprendimento automatico per curare l'esperienza quotidiana dei suoi 2,5 miliardi di utenti, è in ritardo per una valutazione interna di questo tipo. Ci sono già prove che gli algoritmi di pubblicazione degli annunci di Facebook discriminare per razza e consentire agli inserzionisti di impedire a specifici gruppi razziali di visualizzare i loro annunci, ad esempio.

Sotto pressione: Facebook ha una storia di schivare le accuse di pregiudizi nei suoi sistemi. Ci sono voluti diversi anni di cattiva stampa e pressioni da parte di gruppi per i diritti civili per arrivare a questo punto. Facebook ha creato queste squadre dopo un mese di boicottaggio pubblicitario organizzato da gruppi per i diritti civili, tra cui Anti-Defamation League, Color of Change e NAACP, che ha portato grandi spendaccioni come Coca-Cola, Disney, McDonald's e Starbucks a sospendere le loro campagne.

Nessuna soluzione facile: La mossa è gradita. Ma avviare un'indagine è ben lungi dal risolvere effettivamente il problema del pregiudizio razziale, soprattutto quando nessuno sa davvero come risolverlo. Nella maggior parte dei casi, la distorsione esiste nei dati di addestramento e non ci sono buoni modi concordati per rimuoverlo. E aggiustando quei dati, una forma di azione affermativa algoritmica -è controverso. Il pregiudizio dell'apprendimento automatico è anche solo uno dei problemi dei social media relativi alla razza. Se Facebook esaminerà i suoi algoritmi, dovrebbe far parte di una revisione più ampia che si occupi anche di politiche che offrono piattaforme a politici razzisti, gruppi di suprematisti bianchi e negazionisti dell'Olocausto.

'Continueremo a lavorare a stretto contatto con il team di IA responsabile di Facebook per assicurarci di esaminare potenziali pregiudizi sulle nostre rispettive piattaforme', afferma Stephanie Otway, portavoce di Instagram. 'Sono i primi giorni e abbiamo in programma di condividere maggiori dettagli su questo lavoro nei prossimi mesi'.