Gli algoritmi pubblicitari di Facebook stanno ancora escludendo le donne dal vedere lavoro

Signora Tech | Pexel

Facebook sta trattenendo alcuni annunci di lavoro alle donne a causa del loro genere, secondo l'ultimo audit del suo servizio pubblicitario.

L'audit , condotto da ricercatori indipendenti presso la University of Southern California (USC), rivela che il sistema di pubblicazione degli annunci di Facebook mostra annunci di lavoro diversi a donne e uomini anche se i lavori richiedono le stesse qualifiche. Questa è considerata discriminazione basata sul sesso ai sensi della legge statunitense sulle pari opportunità di lavoro, che vieta il targeting degli annunci in base a caratteristiche protette. I risultati arrivano nonostante anni di advocacy e azioni legali, e dopo le promesse di Facebook di rivedere il modo in cui pubblica gli annunci.

I ricercatori si sono registrati come inserzionisti su Facebook e hanno acquistato coppie di annunci per lavori con qualifiche identiche ma dati demografici diversi nel mondo reale. Hanno pubblicizzato due lavori di fattorino, ad esempio: uno per Domino's (consegna della pizza) e uno per Instacart (consegna della spesa). Attualmente ci sono più uomini che donne che guidano per Domino e viceversa per Instacart.

Sebbene nessun pubblico sia stato specificato sulla base di informazioni demografiche, una funzione Facebook disabilitata per annunci immobiliari, di credito e di lavoro nel marzo 2019, dopo aver risolto diverse cause legali, gli algoritmi mostravano ancora gli annunci a gruppi demografici statisticamente distinti. L'annuncio di Domino è stato mostrato a più uomini che donne e l'annuncio Instacart è stato mostrato a più donne che uomini.

I ricercatori hanno trovato lo stesso schema con gli annunci per altre due coppie di lavori: ingegneri del software per Nvidia (maschio obliquo) e Netflix (femmina obliqua) e addetti alle vendite di automobili (maschio obliquo) e gioielli (femmina obliqua).

I risultati suggeriscono che gli algoritmi di Facebook stanno in qualche modo rilevando l'attuale distribuzione demografica di questi lavori, che spesso differiscono per ragioni storiche. (I ricercatori non sono stati in grado di discernere il motivo, perché Facebook non dice come funziona il suo sistema di pubblicazione degli annunci.) Facebook riproduce quelle deviazioni quando pubblica gli annunci anche se non c'è alcuna giustificazione per la qualifica, afferma Aleksandra Korolova, un assistente professore alla USC, che è stata coautrice dello studio con il suo collega John Heidemann e il loro consulente di dottorato Basileal Imana.

Storia correlata

Come Facebook è diventato dipendente dalla diffusione di disinformazione

Gli algoritmi di intelligenza artificiale dell'azienda le hanno dato un'abitudine insaziabile di bugie e incitamento all'odio. Ora l'uomo che li ha costruiti non può risolvere il problema.

Lo studio fornisce le prove più recenti che Facebook non ha risolto i suoi problemi di discriminazione pubblicitaria dai tempi di ProPublica ha portato alla luce la questione nell'ottobre 2016 . All'epoca, ProPublica ha rivelato che la piattaforma consentiva agli inserzionisti di opportunità di lavoro e alloggio di escludere determinati segmenti di pubblico caratterizzati da tratti come sesso e razza. Tali gruppi ricevono una protezione speciale ai sensi della legge statunitense, rendendo questa pratica illegale. Ci sono voluti due anni e mezzo e diverse scaramucce legali per Facebook per rimuovere finalmente quella funzione .

Ma pochi mesi dopo, il Dipartimento per l'edilizia abitativa e lo sviluppo urbano (HUD) degli Stati Uniti ha intentato una nuova causa, sostenendo che gli algoritmi di pubblicazione degli annunci di Facebook stavano ancora escludendo il pubblico per gli annunci immobiliari senza che l'inserzionista specificasse l'esclusione. Un team di ricercatori indipendenti tra cui Korolova, guidato da Muhammad Ali e Piotr Sapieżyński della Northeastern University, ha confermato quelle accuse una settimana dopo . Hanno scoperto, ad esempio, che le case in vendita venivano mostrate più spesso agli utenti bianchi e le case in affitto venivano mostrate più spesso agli utenti delle minoranze.

Korolova ha voluto riesaminare la questione con il suo ultimo audit perché l'onere della prova per la discriminazione sul lavoro è maggiore che per la discriminazione nell'alloggio. Sebbene qualsiasi distorsione nella visualizzazione di annunci basati su caratteristiche protette sia illegale nel caso degli alloggi, il diritto del lavoro statunitense lo ritiene giustificabile se la distorsione è dovuta a legittime differenze di qualificazione. La nuova metodologia controlla questo fattore.

Il design dell'esperimento è molto pulito, afferma Sapieżyński, che non è stato coinvolto nell'ultimo studio. Mentre alcuni potrebbero obiettare che i venditori di auto e gioielli hanno davvero qualifiche diverse, dice, le differenze tra la consegna della pizza e la consegna della spesa sono trascurabili. Queste differenze di genere non possono essere spiegate dalle differenze di genere nelle qualifiche o dalla mancanza di qualifiche, aggiunge. Facebook non può più dire [questo è] difendibile dalla legge.

Il rilascio di questo audit arriva in mezzo a un controllo approfondito del lavoro sui pregiudizi dell'IA di Facebook. A marzo, il MIT Technology Review ha pubblicato i risultati di un'indagine di nove mesi nel team responsabile dell'IA dell'azienda, che ha scoperto che il team, formato per la prima volta nel 2018, aveva trascurato di lavorare su questioni come l'amplificazione algoritmica della disinformazione e la polarizzazione a causa della sua attenzione paralizzata sulla distorsione dell'IA. L'azienda ha pubblicato un post sul blog poco dopo, sottolineando l'importanza di quel lavoro e affermando in particolare che Facebook cerca di comprendere meglio i potenziali errori che potrebbero influenzare il nostro sistema di annunci, come parte del nostro lavoro in corso e più ampio per studiare l'equità algoritmica negli annunci.

'Abbiamo adottato misure significative per affrontare i problemi di discriminazione negli annunci e abbiamo team che lavorano sull'equità degli annunci oggi', ha affermato il portavoce di Facebook Joe Osborn in una dichiarazione. 'Il nostro sistema tiene conto di molti segnali per cercare di offrire annunci alle persone a cui saranno più interessati, ma comprendiamo le preoccupazioni sollevate nel rapporto... Continuiamo a lavorare a stretto contatto con la comunità dei diritti civili, le autorità di regolamentazione e gli accademici su queste importanti questioni.

Nonostante queste affermazioni, tuttavia, Korolova afferma di non aver riscontrato alcun cambiamento evidente tra l'audit del 2019 e questo nel modo in cui funzionano gli algoritmi di pubblicazione degli annunci di Facebook. Da quel punto di vista, in realtà è davvero deludente, perché l'abbiamo portato alla loro attenzione due anni fa, dice. Si è anche offerta di lavorare con Facebook per affrontare questi problemi, dice. «Non abbiamo ricevuto risposta. Almeno per me, non hanno contattato.'

In precedenti interviste, la società ha affermato di non essere stata in grado di discutere i dettagli di come stava lavorando per mitigare la discriminazione algoritmica nel suo servizio pubblicitario a causa del contenzioso in corso. Il team degli annunci ha affermato che i suoi progressi sono stati limitati da sfide tecniche.

Sapieżyński, che ora ha condotto tre audit della piattaforma, afferma che ciò non ha nulla a che fare con il problema. Facebook deve ancora riconoscere che c'è un problema, dice. Mentre il team risolve i nodi tecnici, aggiunge, c'è anche una semplice soluzione provvisoria: potrebbe disattivare il targeting degli annunci algoritmico specifico per annunci immobiliari, di lavoro e di prestito senza influire sul resto del servizio. È davvero solo una questione di volontà politica, dice.

Christo Wilson, un altro ricercatore della Northeastern che studia i bias algoritmici ma non ha partecipato alla ricerca di Korolova o Sapieżyński, è d'accordo: quante volte ricercatori e giornalisti hanno bisogno di trovare questi problemi prima di accettare che l'intero sistema di targeting pubblicitario sia in bancarotta?

nascondere