La discriminazione dei dati significa che i poveri possono sperimentare un Internet diverso

L'analisi dei dati viene utilizzata per implementare una sottile forma di discriminazione, mentre i set di dati anonimi possono essere estratti per rivelare dati sanitari e altre informazioni private, ha avvertito un ricercatore Microsoft questa mattina su Revisione della tecnologia del MIT la conferenza EmTech.

Divisione dati: Kate Crawford parla oggi alla conferenza EmTech al MIT.

Kate Crawford , ricercatore principale presso Microsoft Research, ha affermato che questi problemi potrebbero essere affrontati con nuovi approcci legali all'uso dei dati personali.

in un nuovo carta , lei e un collega propongono un sistema di giusto processo che darebbe alle persone più diritti legali per capire come l'analisi dei dati viene utilizzata nelle decisioni prese contro di loro, come la negazione dell'assicurazione sanitaria o un lavoro. È proprio l'inizio di una conversazione su come farlo meglio, ha detto Crawford, che è anche professore in visita al MIT Center for Civic Media, in un'intervista prima dell'evento. La gente pensa che i 'big data' evitino il problema della discriminazione, perché si ha a che fare con grandi set di dati, ma in realtà i big data vengono utilizzati per forme di discriminazione sempre più precise, una forma di annotazione dei dati.

Durante il suo discorso di questa mattina, Crawford ha aggiunto che con i big data, non saprai mai quali sono queste discriminazioni, e penso che sia da lì che inizi la preoccupazione.

I dati sulla salute sono particolarmente vulnerabili, afferma il ricercatore. I termini di ricerca per i sintomi della malattia, gli acquisti online di forniture mediche e persino i tag RFID sulle confezioni dei farmaci possono fornire a siti Web e rivenditori informazioni sulla salute di una persona.

Come Crawford e Jason Schultz , un professore della New York University Law School, ha scritto nel suo articolo: Quando questi set di dati vengono incrociati con le informazioni sanitarie tradizionali, come sono progettati per fare i big data, è possibile generare un quadro dettagliato sulla salute di una persona, incluso informazioni che una persona potrebbe non aver mai divulgato a un operatore sanitario.

E una recente Università di Cambridge studia , a cui Crawford ha alluso durante il suo discorso, ha scoperto che gli attributi personali altamente sensibili, tra cui l'orientamento sessuale, i tratti della personalità, l'uso di sostanze che creano dipendenza e persino la separazione dei genitori, sono altamente prevedibili analizzando ciò su cui le persone fanno clic per indicare che preferiscono su Facebook. Lo studio ha analizzato i like di 58.000 utenti di Facebook.

Allo stesso modo, la cronologia degli acquisti, i tweet e le informazioni demografiche, la posizione e altre informazioni raccolte sui singoli utenti Web, se combinate con dati provenienti da altre fonti, possono generare nuovi tipi di profili che un datore di lavoro o un proprietario potrebbe utilizzare per negare a qualcuno un lavoro o un appartamento.

In risposta a tali rischi, gli autori del documento propongono un quadro giuridico che chiamano due processi per i big data. In base a questo concetto, una persona che è stata soggetta a una certa determinazione, che si tratti di negazione dell'assicurazione sanitaria, rifiuto di un lavoro o di una domanda di alloggio o arresto, avrebbe il diritto di apprendere come sono state utilizzate le analisi dei big data.

Ciò comporterebbe i tipi di diritti di divulgazione e controesame che sono già sanciti nei sistemi legali degli Stati Uniti e di molte altre nazioni. Prima che ci possa essere una maggiore accettazione sociale del ruolo dei big data nel processo decisionale, specialmente all'interno del governo, deve anche apparire equo e avere un grado accettabile di prevedibilità, trasparenza e razionalità, scrivono gli autori.

L'analisi dei dati può anche sbagliare profondamente, osserva Crawford. Anche l'uso precedentemente riuscito dei termini di ricerca di Google per identificare i focolai di influenza è fallito l'anno scorso, quando i casi reali sono stati molto al di sotto delle previsioni. L'aumento della copertura mediatica legata all'influenza e le chiacchiere sull'influenza nei social media sono state scambiate per segni di persone che si lamentavano di essere malate, portando a sopravvalutazioni. È qui che i dati dei social media possono complicarsi, ha detto Crawford.

E ci possono essere più difetti di base in ciò che i dati ci dicono. Ad esempio, dopo l'uragano Sandy, ci sono stati pochi tweet dalle aree più colpite lontano da Manhattan. Se iniziamo a utilizzare i set di dati dei social media per prendere il polso di una nazione o comprendere una crisi, o effettivamente utilizzarli per distribuire risorse, otteniamo un'immagine distorta di ciò che sta accadendo, ha avvertito Crawford nel suo discorso.

nascondere