211service.com
L'algoritmo di pubblicazione degli annunci di Facebook discrimina in base al sesso e alla razza
Sig.ra Tech/ Logo: facebook
Gli algoritmi sono prevenuti e quelli di Facebook non fanno eccezione.
Proprio la scorsa settimana, il gigante della tecnologia è stato citato in giudizio dal Dipartimento per l'edilizia abitativa e lo sviluppo urbano degli Stati Uniti per aver consentito agli inserzionisti di indirizzare di proposito i propri annunci in base a razza, sesso e religione, tutte classi protette dalla legge statunitense. La società ha annunciato che avrebbe smesso di consentirlo.
Ma nuove prove mostra che l'algoritmo di Facebook, che decide automaticamente a chi viene mostrato un annuncio, effettua comunque la stessa discriminazione, offrendo annunci a oltre due miliardi di utenti sulla base delle loro informazioni demografiche.
Un team guidato da Muhammad Ali e Piotr Sapiezynski della Northeastern University ha pubblicato una serie di annunci altrimenti identici con lievi variazioni nel budget, nel titolo, nel testo o nell'immagine disponibili. Hanno scoperto che quelle sottili modifiche hanno avuto un impatto significativo sul pubblico raggiunto da ogni annuncio, in particolare quando gli annunci erano per lavori o immobili. Gli incarichi per insegnanti di scuola materna e segretarie, ad esempio, sono stati mostrati a una percentuale maggiore di donne, mentre gli incarichi per bidelli e tassisti sono stati mostrati a una percentuale più elevata di minoranze. Gli annunci di case in vendita sono stati mostrati anche a più utenti bianchi, mentre gli annunci di affitti sono stati mostrati a più minoranze.
Abbiamo apportato importanti modifiche ai nostri strumenti di targeting degli annunci e sappiamo che questo è solo un primo passo, un portavoce di Facebook disse in una dichiarazione in risposta ai risultati. Abbiamo esaminato il nostro sistema di pubblicazione degli annunci e abbiamo coinvolto leader del settore, accademici ed esperti di diritti civili proprio su questo argomento e stiamo esplorando ulteriori cambiamenti.
In un certo senso, questo non dovrebbe sorprendere: la distorsione negli algoritmi di raccomandazione è un problema noto da molti anni. Nel 2013, ad esempio, Latanya Sweeney, professore di governo e tecnologia ad Harvard, ha pubblicato un articolo che mostrava l'implicita discriminazione razziale dell'algoritmo di pubblicazione degli annunci di Google. Il problema risale a come funzionano fondamentalmente questi algoritmi. Tutti si basano sull'apprendimento automatico, che trova schemi in enormi quantità di dati e li riapplica per prendere decisioni. Ci sono molti modi in cui i pregiudizi possono insorgere durante questo processo, ma i due più evidenti nel caso di Facebook si riferiscono a problemi durante l'inquadratura dei problemi e la raccolta dei dati.
La distorsione si verifica durante l'inquadratura del problema quando l'obiettivo di un modello di apprendimento automatico è disallineato con la necessità di evitare discriminazioni. Lo strumento pubblicitario di Facebook consente agli inserzionisti di scegliere tra tre obiettivi di ottimizzazione: il numero di visualizzazioni che un annuncio ottiene, il numero di clic e la quantità di coinvolgimento che riceve e la quantità di vendite che genera. Ma quegli obiettivi aziendali non hanno nulla a che fare, diciamo, con il mantenimento della parità di accesso all'alloggio. Di conseguenza, se l'algoritmo scoprisse che potrebbe guadagnare più coinvolgimento mostrando a più utenti bianchi le case per l'acquisto, finirebbe per discriminare gli utenti neri.
La distorsione si verifica durante la raccolta dei dati quando i dati di addestramento riflettono pregiudizi esistenti. Lo strumento pubblicitario di Facebook basa le sue decisioni di ottimizzazione sulle preferenze storiche che le persone hanno dimostrato. Se in passato più minoranze si sono impegnate con annunci per affitti, il modello di apprendimento automatico identificherà quel modello e lo riapplica in perpetuo. Ancora una volta, arranca ciecamente lungo la strada della discriminazione sul lavoro e sull'alloggio, senza che gli venga detto esplicitamente di farlo.
Sebbene questi comportamenti nell'apprendimento automatico siano stati studiati per un po' di tempo, il nuovo studio offre uno sguardo più diretto alla portata del suo impatto sull'accesso delle persone all'alloggio e alle opportunità di lavoro. Questi risultati sono esplosivi! Christian Sandvig, direttore del Center for Ethics, Society, and Computing dell'Università del Michigan, detto L'economista. Il giornale ci dice che [...] i big data, usati in questo modo, non potranno mai darci un mondo migliore. In effetti, è probabile che questi sistemi stiano peggiorando il mondo accelerando i problemi nel mondo che rendono le cose ingiuste.
La buona notizia è che potrebbero esserci dei modi per affrontare questo problema, ma non sarà facile. Molti ricercatori di intelligenza artificiale stanno ora cercando soluzioni tecniche per i pregiudizi dell'apprendimento automatico che potrebbero creare modelli più equi di pubblicità online. Un recente carta della Yale University e dell'Indian Institute of Technology, ad esempio, suggerisce che potrebbe essere possibile vincolare gli algoritmi per ridurre al minimo il comportamento discriminatorio, anche se a un piccolo costo per le entrate pubblicitarie. Ma i responsabili politici dovranno svolgere un ruolo più importante se le piattaforme vogliono iniziare a investire in tali soluzioni, soprattutto se ciò potrebbe influire sui loro profitti.
Questo è apparso originariamente nella nostra newsletter AI The Algorithm. Per riceverlo direttamente nella tua casella di posta, registrati qui gratuitamente.