Il razzismo sta avvelenando la pubblicazione di annunci online, afferma il professore di Harvard

Sei mai stato arrestato? Immagina che la domanda non appaia nella solitudine dei tuoi pensieri mentre leggi questo articolo, ma appaia esplicitamente ogni volta che qualcuno interroga il tuo nome in un motore di ricerca.

Screenshot di un annuncio Google.

Così esordisce Latanya Sweeney dell'Università di Harvard in un convincente articolo in cui sostiene che la discriminazione razziale affligge la pubblicazione di annunci online.

Molte persone avranno l'esperienza di cercare su Google amici, colleghi e parenti per scoprire la loro presenza online: i siti Web su cui appaiono, le loro foto, gli hobby e così via.

L'interesse di Sweeney è negli annunci che appaiono accanto a questi risultati. Quando ha inserito il suo nome su Google è apparso un annuncio con la dicitura:

Latanya Sweeney, arrestata? 1) Immettere il nome e lo stato 2) Accedere allo sfondo completo. Controlli all'istante. www.instantcheckmate.com

Questa è una formulazione suggestiva. Suggerisce che Latanya Sweeney ha precedenti penali i cui dettagli sono accessibili facendo clic sull'annuncio. Ma dopo aver collegato il collegamento e aver pagato la quota di abbonamento necessaria, Sweeney afferma di non aver trovato precedenti di arresto.

La cosa interessante di questo è che anche il nome di Sweeney è suggestivo: che è nera. La domanda che Sweeney si pone è se una ricerca simile con un nome che suggerisce un profilo razziale bianco pubblichi anche annunci che menzionano i record di arresti.

La risposta è un potente campanello d'allarme. Sweeney afferma di avere prove del fatto che i nomi identificativi neri hanno fino al 25% in più di probabilità di essere serviti con un annuncio relativo all'arresto. C'è discriminazione nella consegna di questi annunci, conclude.

Sweeney ha raccolto queste prove raccogliendo oltre 2000 nomi che suggerivano la razza. Ad esempio, nomi come Trevon, Lakisha e Darnell suggeriscono che il proprietario è nero mentre nomi come Laurie, Brendan e Katie suggeriscono che il proprietario è bianco.

Ha quindi inserito questi cognomi plus in Google.com e Reuters.com ed ha esaminato gli annunci che hanno restituito. La maggior parte dei nomi ha generato annunci per i registri pubblici. Tuttavia, i nomi identificativi neri si sono rivelati molto più propensi dei nomi identificativi bianchi a generare annunci che includevano la parola arresto (60 percento contro 48 percento). Tutto è venuto da www.instantcheckmate.com .

Dice che i risultati sono statisticamente significativi con una probabilità inferiore allo 0,1 per cento che siano stati generati per caso.

Su Reuters.com, i nomi identificativi neri avevano il 25% in più di probabilità di essere serviti con un annuncio relativo all'arresto.

Questo è un risultato straordinario e che solleva più domande che risposte. Il più grande enigma, ovviamente, è ciò che fa sì che gli annunci vengano offerti in questo schema. Qui il mistero del servizio Adsense di Google oscura notevolmente le cose.

Sweeney dice che ci sono essenzialmente tre possibilità. uno è quello www.instantcheckmate.com ha impostato gli annunci che menzionano l'arresto da offrire ai nomi identificativi neri. Un altro è che Google ha in qualche modo distorto il suo meccanismo di pubblicazione degli annunci in questo modo.

Una spiegazione più insidiosa è che la colpa è della società nel suo insieme. Se il servizio AdSense di Google apprende quali combinazioni di annunci sono più efficaci, pubblicherà prima gli annunci relativi all'arresto a tutti i nomi in modo casuale. Ma questo cambierebbe se scoprisse che i click-through sono più probabili quando questi annunci vengono offerti con un nome identificativo nero. In altre parole, i risultati riflettono semplicemente il modello discriminatorio dei clic della gente comune.

Naturalmente, non possiamo saperlo senza una maggiore comprensione della scatola nera che è Google Adsense.

Chiaramente Sweeney ha scoperto un problema serio qui, dato l'impatto che la presenza online può avere sulle prospettive di lavoro di un individuo.

Qualunque sia la causa, Sweeney afferma che la tecnologia potrebbe offrire un qualche tipo di soluzione. Se gli algoritmi alla base di Adsense possono ragionare sulla massimizzazione delle entrate, afferma che dovrebbero essere in grado di ragionare sulle conseguenze legali e sociali di determinati schemi di click-through.

È un'idea interessante e Google, www.instantcheckmate.com e la società in generale dovrebbe considerare più in dettaglio.

Rif: http://arxiv.org/abs/1301.6822 Discriminazione nella pubblicazione di annunci online

Aggiornamento 4 febbraio 2013 14:34 EST

In risposta a questo post sul blog, un portavoce di Google invia il seguente commento:

AdWords non conduce alcun profilo razziale. Abbiamo anche un politica anti-violenza in cui si afferma che non saranno consentiti annunci che si oppongono a un'organizzazione, una persona o un gruppo di persone. Spetta ai singoli inserzionisti decidere quali parole chiave desiderano scegliere per attivare i propri annunci.

Aggiornamento 7 febbraio

Instantcheckmate.com invia la seguente dichiarazione:

In effetti, Instant Checkmate vorrebbe affermare inequivocabilmente che non ha mai effettuato profili razziali in Google AdWords.
Non abbiamo assolutamente alcuna tecnologia in atto per collegare un nome con una razza e non abbiamo mai fatto alcun tentativo di farlo. L'idea stessa è contraria ai principi e ai valori più radicati della nostra azienda.

nascondere