È tempo di una Carta dei diritti sui dati

La signora Tech

È l'estate del 2023 e Rachel è al verde. Seduta in un bar una sera, sfogliando annunci di lavoro sul suo telefono, riceve un messaggio di testo. I ricercatori che stanno conducendo uno studio sulla funzionalità epatica hanno ottenuto il suo nome dal programma fedeltà del bar: si era iscritta per ottenere uno sconto per l'happy hour sui nachos. Offrono $ 50 a settimana per l'accesso al flusso di dati sanitari del suo telefono e alla scheda della sua barra per i prossimi tre mesi.

All'inizio, Rachel è infastidita dall'intrusione. Ma lei ha bisogno di soldi. Quindi fa un cenno al telefono - un gesto di assenso sottile ma distinto che è legalmente vincolante come una firma - e torna ai suoi nachos e alla sua ricerca di lavoro.

Ma con l'avanzare dell'estate, Rachel non può fare a meno di notare che sta ricevendo un rifiuto dopo l'altro dai datori di lavoro, mentre le sue amiche, una dopo l'altra, preparano i lavori. A sua insaputa, perché non ha letto la stampa fine, alcuni dati dello studio di ricerca, insieme alla sua storia di acquisto di liquori, sono arrivati ​​​​a una delle due agenzie di collocamento che sono arrivate a dominare il mercato. Ogni datore di lavoro che esamina la sua domanda con l'agenzia ora vede che è stata descritta come una depressa inaffidabile. Non c'è da stupirsi che non riesca a trovare lavoro. Ma anche se potesse scoprire di essere stata profilata in questo modo, che ricorso ha?

Un giorno nella vita

Se stai leggendo questo, è probabile che, come Rachel, tu abbia creato un'enorme quantità di dati oggi, leggendo o facendo acquisti online, monitorando il tuo allenamento o semplicemente andando da qualche parte con il telefono in tasca. Alcuni di questi dati sono stati creati apposta, ma gran parte di essi è stata creata dalle tue azioni a tua insaputa, per non parlare del consenso.

La proliferazione dei dati negli ultimi decenni ha portato alcuni riformatori a un grido di battaglia: possiedi i tuoi dati! Eric Posner dell'Università di Chicago, Eric Weyl di Microsoft Research e il guru della realtà virtuale Jaron Lanier, tra gli altri, sostengono che i dati dovrebbero essere trattati come un possesso. Lo dice anche Mark Zuckerberg, fondatore e capo di Facebook. Facebook ora dice che possiedi tutti i contatti e le informazioni che pubblichi su Facebook e puoi controllare come vengono condivisi. Il Financial Times lo sostiene una parte fondamentale della risposta sta nel dare ai consumatori la proprietà dei propri dati personali. In un discorso recente , Tim Cook, CEO di Apple, è d'accordo, affermando che le aziende dovrebbero riconoscere che i dati appartengono agli utenti.

La proprietà dei dati non solo non risolve i problemi esistenti; ne crea di nuovi.

Questo saggio sostiene che la proprietà dei dati è un modo imperfetto e controproducente di pensare ai dati. Non solo non risolve i problemi esistenti; ne crea di nuovi. Invece, abbiamo bisogno di un quadro che dia alle persone diritti a stabilire come vengono utilizzati i loro dati senza richiedere loro di assumerne la proprietà. La legge sulla cura dei dati, a conto introdotto il 12 dicembre dal senatore americano Brian Schatz, un democratico delle Hawaii, è un buon primo passo in questa direzione (a seconda di come si evolve la stampa fine). Come ha affermato Doug Jones, un senatore democratico dell'Alabama che è uno dei cosponsor del progetto di legge, il diritto alla privacy e alla sicurezza online dovrebbe essere fondamentale.

La nozione di proprietà è allettante perché suggerisce di darti potere e controllo sui tuoi dati. Ma possedere e affittare dati è una pessima analogia. Il controllo su come vengono utilizzati particolari bit di dati è solo un problema tra i tanti. Le vere domande sono domande su come i dati modellano la società e gli individui. La storia di Rachel ci mostrerà perché i diritti sui dati sono importanti e come potrebbero funzionare per proteggere non solo Rachel come individuo, ma la società nel suo insieme.

Domani chi lo sa

Per capire perché la proprietà dei dati è un concetto imperfetto, pensa prima a questo articolo che stai leggendo. L'atto stesso di aprirlo su un dispositivo elettronico ha creato dati: una voce nella cronologia del tuo browser, i cookie che il sito Web ha inviato al tuo browser, una voce nel registro del server del sito Web per registrare una visita dal tuo indirizzo IP. È praticamente impossibile fare qualsiasi cosa online, leggere, fare acquisti o anche solo andare da qualche parte con un telefono connesso a Internet in tasca, senza lasciare un'ombra digitale dietro. Queste ombre non possono essere possedute - nel modo in cui possiedi, diciamo, una bicicletta - né le effimere macchie d'ombra che ti seguono nei giorni di sole.

I tuoi dati da soli non sono molto utili per un marketer o un assicuratore. Analizzato insieme a dati simili di migliaia di altre persone, tuttavia, alimenta gli algoritmi e ti rende secchio (ad esempio, un forte fumatore con un'abitudine al bere o un corridore sano, sempre puntuale). Se un algoritmo è ingiusto, se, ad esempio, ti classifica erroneamente come rischio per la salute perché è stato addestrato su un set di dati distorto o semplicemente perché sei un valore anomalo, allora lasciarti possedere i tuoi dati non lo renderà equo. L'unico modo per evitare di essere influenzato dall'algoritmo sarebbe quello di non consentire mai a nessuno l'accesso ai tuoi dati. Ma anche se provassi ad accumulare dati che ti riguardano, le aziende e i governi con accesso a grandi quantità di dati su altre persone potrebbero utilizzare quei dati per fare inferenze su di te. I dati non sono un'impressione neutra della realtà. La creazione e il consumo di dati riflette il modo in cui il potere è distribuito nella società.

Ovviamente potresti scegliere di mantenere privati ​​tutti i tuoi dati per evitare che vengano utilizzati contro di te. Ma se segui questa strategia, potresti finire per perdere i vantaggi di rendere talvolta disponibili i tuoi dati. Ad esempio, quando guidi, navigando tramite l'app per smartphone, condividi informazioni anonime in tempo reale che poi si traducono in precise condizioni del traffico (ad esempio, stamattina ci vorranno 26 minuti per andare al lavoro in macchina se parti alle 8: 16:00). Quei dati sono individualmente privati ​​- gli estranei non possono vedere dove ti trovi - ma cumulativamente, è un bene collettivo.

La creazione e il consumo di dati riflette il modo in cui il potere è distribuito nella società.

Questo esempio mostra come i dati nell'aggregato possono avere un carattere fondamentalmente diverso dai singoli bit e byte che li compongono. Anche le argomentazioni ben intenzionate sulla proprietà dei dati presuppongono che se si regolano bene i dati personali, si otterranno buoni risultati per la società. E questo non è vero.

Ecco perché molti dei problemi relativi agli usi sleali dei dati non possono essere risolti controllando chi vi ha accesso. Ad esempio, in alcune giurisdizioni statunitensi, i giudici utilizzano un punteggio di rischio generato algoritmicamente per prendere decisioni su cauzione e condanna. Queste programmi software prevedere la probabilità che una persona commetta crimini futuri. Immagina che un tale algoritmo dica che hai una probabilità del 99% di commettere un altro crimine o di saltare un appuntamento futuro per la cauzione perché le persone demograficamente simili a te sono spesso criminali o saltatori di cauzione. Potrebbe essere ingiusto nel tuo caso, ma non puoi possedere il tuo profilo demografico o la tua fedina penale e rifiutarti di farlo vedere al sistema legale. Anche se neghi il consenso all'utilizzo dei tuoi dati, un'organizzazione può utilizzare i dati su altre persone per effettuare estrapolazioni statistiche che ti riguardano. Questo esempio sottolinea il punto che i dati riguardano il potere: le persone accusate o condannate per crimini generalmente hanno meno potere di quelle che prendono decisioni su cauzione e condanna.

Allo stesso modo, le soluzioni esistenti per gli usi sleali dei dati spesso implicano il controllo non di chi ha accesso ai dati, ma di come i dati vengono utilizzati. Ai sensi dell'Affordable Care Act degli Stati Uniti, ad esempio, le compagnie di assicurazione sanitaria non possono negare o addebitare di più per la copertura solo perché qualcuno ha una condizione preesistente. Il governo non dice alle aziende che non possono conservare quei dati sui pazienti; dice solo che devono ignorarlo. Una persona non possiede il fatto di avere il diabete, ma può avere il diritto di non essere discriminata a causa di ciò.

Il consenso è spesso citato come un principio di base che dovrebbe essere rispettato per quanto riguarda l'uso dei dati. Ma in assenza di una regolamentazione governativa per impedire alle compagnie di assicurazione sanitaria di utilizzare i dati su condizioni preesistenti, i singoli consumatori non hanno la capacità di negare il consenso. Il motivo per cui non hanno questa capacità è che le compagnie di assicurazione hanno più potere di loro. Il consenso, per dirla senza mezzi termini, non funziona.

I diritti sui dati dovrebbero proteggere la privacy e dovrebbero tenere conto del fatto che la privacy non è un diritto reattivo a proteggersi dalla società. Riguarda la libertà di sviluppare il sé lontano dal commercio e dal controllo del governo. Ma i diritti sui dati non riguardano solo la privacy. Come altri diritti, ad esempio alla libertà di parola, i diritti sui dati riguardano fondamentalmente la protezione di uno spazio per la libertà e l'azione individuale mentre si partecipa alla società moderna. I dettagli dovrebbero seguire i principi di base, come con la Carta dei diritti americana esistente. Troppo spesso, tenta di enunciare tali principi impantanarsi nelle erbacce di cose come i modelli di consenso opt-in, che potrebbero diventare rapidamente obsoleti.

Sono necessari principi chiari e ampi in tutto il mondo, in modi che si adattino ai sistemi legali dei singoli paesi. Negli Stati Uniti, le disposizioni costituzionali esistenti, come la parità di protezione ai sensi della legge e il divieto di perquisizioni e sequestri irragionevoli, sono insufficienti. Ad esempio, è difficile sostenere che il monitoraggio continuo e persistente dei movimenti di una persona in pubblico sia una ricerca. Eppure tale sorveglianza è paragonabile nei suoi effetti invadenti a una ricerca irragionevole. Non basta sperare che i tribunali forniscano interpretazioni favorevoli del linguaggio del 18° secolo applicato alle tecnologie del 21° secolo.

Un Bill of Data Rights dovrebbe includere diritti come questi:

• Il diritto del popolo ad essere protetto contro una sorveglianza irragionevole non deve essere violato.
• Nessuno deve avere il proprio comportamento manipolato di nascosto.
• Nessuno può essere ingiustamente discriminato sulla base dei dati.

Queste non sono affatto tutte le disposizioni di cui avrebbe bisogno una fattura durevole ed efficace. Vogliono essere un inizio ed esempi del tipo di chiarezza e generalità di cui un documento ha bisogno.

Per fare la differenza per persone come Rachel, un Bill of Data Rights avrà bisogno di un nuovo insieme di istituzioni e strumenti legali per salvaguardare i diritti che stabilisce. Lo stato deve proteggere e delimitare tali diritti, come ha iniziato a fare il Regolamento generale europeo sulla protezione dei dati (GDPR) del 2018. La nuova infrastruttura per i diritti dei dati dovrebbe andare oltre e includere comitati, cooperative di dati (che consentirebbero azioni collettive e difendono per conto degli utenti), schemi etici di certificazione dei dati, contenziosi e revisori dei dati specializzati e rappresentanti dei dati che agiscono come fiduciari per il pubblico in generale, in grado di analizzare i complessi impatti che i dati possono avere sulla vita.

Con un piccolo aiuto dai miei amici

Storia correlata

Storia correlata

Come sarà il futuro senza la protezione dei diritti dei dati? Torniamo alla ricerca di lavoro infruttuosa di Rachel. La sua caratterizzazione come depressa inaffidabile può essere corretta o meno. Forse l'algoritmo ha appena commesso un errore: Rachel è perfettamente sana e in forma per il lavoro. Ma man mano che gli algoritmi migliorano e attingono a set di dati più grandi, diventa sempre meno probabile che siano imprecisi. Tuttavia, ciò li renderebbe più equi?

E se Rachel era un po' depresso? Un buon lavoro avrebbe potuto aiutarla a superare un attacco di depressione. Ma invece, il suo profilo diventa rapidamente una profezia che si autoavvera. Incapace di trovare un lavoro, diventa davvero depressa e inaffidabile.

Consideriamo ora il dilemma di Rachel in un mondo con protezioni dei diritti dei dati più forti. Accetta lo studio sulla funzionalità epatica, ma mentre ne esamina i termini e le condizioni, un rappresentante dei dati algoritmici segnala il problema, un po' come i guardiani algoritmici proteggono dai virus informatici e dallo spam. Dopo che il problema è stato segnalato, viene indirizzato a un team di revisori dei conti che riferiscono al consiglio locale per i diritti dei dati (in questo ipotetico futuro). Il team esamina l'algoritmo utilizzato dallo studio e scopre il collegamento alla profilazione dell'occupazione. Il consiglio determina che Rachel è stata profilata e che, grazie a una nuova interpretazione dell'Employment Equalities Act e del Data Protection Bill (approvato nel 2022), tale profilazione è chiaramente illegale. Rachel non deve agire da sola: il consiglio sanziona i ricercatori per pratiche abusive sui dati.

Vieni insieme

Un'erosione incrementale della privacy è difficile da notare e non danneggia nessuno, proprio come tracce di anidride carbonica sono appena rilevabili e non causano danni ambientali di cui parlare.

Come ho affermato, la proprietà dei dati è un errore di categoria con conseguenze dannose: non puoi davvero possedere la maggior parte dei tuoi dati e, anche se potessi, spesso non ti proteggerebbe da pratiche sleali. Perché, allora, l'idea della proprietà dei dati è una soluzione così popolare?

La risposta è che gli esperti di politica ei tecnologi troppo spesso accettano tacitamente il concetto di capitalismo dei dati. Vedono i dati come una fonte di capitale (ad esempio, Facebook utilizza i dati su di me per indirizzare gli annunci pubblicitari) o come un prodotto del lavoro (ad esempio, dovrei essere pagato per i dati che vengono prodotti su di me). Non è nessuna di queste cose. Pensare ai dati come pensiamo a una bicicletta, al petrolio o al denaro non riesce a cogliere quanto profondamente siano cambiate le relazioni tra i cittadini, lo stato e il settore privato nell'era dei dati. Un nuovo paradigma per capire cosa sono i dati e quali diritti ad essi appartengono è urgente se vogliamo forgiare una politica equa del 21° secolo.

Questo paradigma potrebbe utilmente attingere ad analogie ambientali: pensare ai dati come simili ai gas serra o ad altre esternalità, dove piccoli frammenti di inquinamento, individualmente innocui, hanno conseguenze collettive disastrose. La maggior parte delle persone apprezza la propria privacy, così come apprezza la capacità di respirare aria pulita. Un'erosione incrementale della privacy è difficile da notare e non danneggia nessuno, proprio come tracce di anidride carbonica sono appena rilevabili e non causano danni ambientali di cui parlare. Ma nel complesso, così come grandi quantità di gas serra provocano danni fondamentali all'ambiente, un massiccio cambiamento nella natura della privacy provoca danni fondamentali al tessuto sociale.

Per capire questo danno, abbiamo bisogno di un nuovo paradigma. Questo paradigma deve catturare i modi in cui una coperta ambientale di dati cambia le nostre relazioni reciproche: come famiglia, come amici, come colleghi, come consumatori e come cittadini. Per fare ciò, questo paradigma deve essere fondato su una comprensione fondamentale che le persone hanno i diritti sui dati e che i governi devono salvaguardare tali diritti.

Ci saranno sfide lungo la strada. Né le infrastrutture tecniche né legali relative ai diritti sui dati sono semplici. Sarà difficile raggiungere un consenso su quali diritti esistono. Sarà ancora più difficile attuare nuove leggi e regolamenti per proteggere tali diritti. Come nell'attuale dibattito al Congresso degli Stati Uniti, gruppi di interesse e lobbisti del settore litigherà per dettagli importanti. Gli equilibri raggiunti nei diversi paesi saranno diversi. Ma senza un'infrastruttura per i diritti dei dati forte e vigorosa, una società democratica aperta non può sopravvivere.

nascondere