211service.com
Sondare il lato oscuro del sistema di targeting degli annunci di Google
È risaputo che Google e altre società tracciano i nostri movimenti sul Web per indirizzarci con annunci pubblicitari. Il modo in cui vengono utilizzate esattamente queste informazioni non lo è, ma un documento di ricerca presentato la scorsa settimana suggerisce che alcuni dei giudizi algoritmici che emergono dal sistema pubblicitario di Google potrebbero sembrare sgradevoli a molte persone.
I ricercatori della Carnegie Mellon University e dell'International Computer Science Institute hanno creato uno strumento chiamato AdFisher per sondare il targeting degli annunci offerti da Google su siti Web di terze parti. Hanno scoperto che gli utenti Web falsi ritenuti da Google in cerca di lavoro di sesso maschile avevano molte più probabilità rispetto alle equivalenti donne in cerca di lavoro di ricevere un paio di annunci per lavori dirigenziali ben pagati quando in seguito visitavano un sito Web di notizie.
AdFisher ha anche mostrato che a Strumento per la trasparenza di Google chiamate impostazioni degli annunci, che ti consentono di visualizzare e modificare gli interessi che l'azienda ha dedotto per te, non riflette sempre le informazioni potenzialmente sensibili utilizzate per indirizzarti. La navigazione di siti rivolti a persone con problemi di abuso di sostanze, ad esempio, ha innescato un'ondata di annunci per programmi di riabilitazione, ma non sono state apportate modifiche alla pagina di trasparenza di Google.
Cosa abbia causato esattamente questi modelli specifici non è chiaro, perché il sistema di pubblicazione degli annunci di Google è molto complesso. Google utilizza i suoi dati per indirizzare gli annunci, ma gli acquirenti di annunci possono prendere alcune decisioni sui dati demografici di interesse e possono anche utilizzare le proprie origini dati sull'attività online delle persone per eseguire un targeting aggiuntivo per determinati tipi di annunci. Né gli esempi violano alcuna specifica regola sulla privacy, sebbene la politica di Google vieti il targeting sulla base delle condizioni di salute. Comunque, dice Anupam Datta , professore associato presso la Carnegie Mellon University che ha contribuito allo sviluppo di AdFisher, mostrano la necessità di strumenti che scoprano come le aziende pubblicitarie online differenziano le persone.
Penso che i nostri risultati suggeriscano che ci sono parti dell'ecosistema pubblicitario in cui iniziano a emergere tipi di discriminazione e c'è una mancanza di trasparenza, afferma Datta. Questo è preoccupante dal punto di vista sociale. I sistemi pubblicitari come quello di Google influenzano le informazioni a cui le persone sono esposte e potenzialmente anche le decisioni che prendono, quindi capire come quei sistemi utilizzano i dati su di noi è importante, dice.
Anche le aziende che gestiscono reti pubblicitarie online non hanno una buona idea di quali inferenze traggono i loro sistemi sulle persone e di come vengono utilizzate, afferma Datta. Il suo gruppo ha iniziato a collaborare con Microsoft per sviluppare una versione di AdFisher da utilizzare all'interno dell'azienda, per cercare modelli potenzialmente preoccupanti nel targeting degli annunci sul motore di ricerca Bing. Un documento di Data e due colleghi— Michael Tschantz , dell'International Computer Science Institute, e Amit Datta , anche al Carnegie Mellon, è stato presentato al Simposio sulle tecnologie per il miglioramento della privacy a Filadelfia giovedì scorso.
Google non ha risposto ufficialmente quando i ricercatori hanno contattato l'azienda in merito alle loro scoperte alla fine dell'anno scorso, dicono. Tuttavia, questo giugno il team ha notato che Google aveva aggiunto un disclaimer alla sua pagina delle impostazioni degli annunci. Si dice che le categorie di interessi mostrate controllino solo alcuni degli annunci Google visualizzati e non quelli in cui terze parti hanno utilizzato i propri dati. Datta afferma che ciò limita notevolmente l'utilità dello strumento di trasparenza di Google, che potrebbe probabilmente rivelare tali informazioni se l'azienda lo desiderasse. Stanno pubblicando questi annunci e, se lo volessero, potrebbero riflettere questi interessi, dice.
Gli inserzionisti possono scegliere di indirizzare il pubblico che vogliono raggiungere e abbiamo norme che guidano il tipo di annunci basati sugli interessi consentiti, ha affermato Andrea Faville, portavoce di Google, in un'e-mail. Forniamo trasparenza agli utenti con gli avvisi 'Perché questo annuncio' e le impostazioni degli annunci, nonché la possibilità di disattivare gli annunci basati sugli interessi. Google sta esaminando la metodologia dello studio per cercare di comprenderne i risultati.
Lo strumento AdFisher funziona inviando centinaia o migliaia di browser Web automatizzati su percorsi accuratamente selezionati sul Web in modo tale che una rete di targeting pubblicitario deduca determinati interessi o attività. Il software registra quindi quali annunci vengono visualizzati quando ciascun browser automatizzato visita un sito Web di notizie che utilizza la rete pubblicitaria di Google, nonché eventuali modifiche alla pagina delle impostazioni degli annunci. In alcuni esperimenti, quella pagina viene modificata per cercare le differenze tra i modi in cui gli annunci vengono indirizzati, ad esempio, a maschi e femmine. AdFisher segnala automaticamente eventuali differenze statisticamente significative nel modo in cui gli annunci vengono indirizzati utilizzando le particolari categorie di interesse o dati demografici che sta esaminando.
Roxana Geambasu , un assistente professore alla Columbia University, afferma che c'è un notevole valore nel modo in cui AdFisher può estrarre statisticamente schemi dalla complessità degli annunci mirati. Uno strumento chiamato XRay , che il suo stesso gruppo di ricerca ha pubblicato l'anno scorso, può decodificare la connessione tra gli annunci mostrati agli utenti di Gmail e le parole chiave nei loro messaggi. Ad esempio, gli annunci per prestiti auto a basso fabbisogno potrebbero essere indirizzati a coloro che utilizzano parole associate a difficoltà finanziarie.
Tuttavia, Geambasu afferma che i risultati sia di XRay che di AdFisher sono ancora solo indicativi. Non puoi trarre grandi conclusioni, perché non abbiamo studiato molto e questi esempi potrebbero essere rare eccezioni, dice. Ciò di cui abbiamo bisogno ora sono infrastrutture e strumenti per studiare questi sistemi su scala molto più ampia. Essere in grado di osservare come gli algoritmi prendono di mira e tracciano le persone per fare cose come pubblicare annunci o modificare il prezzo di assicurazioni e altri prodotti è probabilmente vitale se i gruppi per i diritti civili e le autorità di regolamentazione vogliono tenere il passo con gli sviluppi nel modo in cui le aziende utilizzano i dati, afferma. .
Un rapporto della Casa Bianca sull'impatto dei big data lo scorso anno è giunto a conclusioni simili. L'analisi dei dati ha il potenziale per eclissare le protezioni dei diritti civili di lunga data nel modo in cui le informazioni personali vengono utilizzate negli alloggi, nel credito, nell'occupazione, nella salute, nell'istruzione e nel mercato, ha affermato.