Come avvelenare i dati che Big Tech usa per sorvegliarti

Eric Risberg/AP

Ogni giorno, la tua vita lascia una scia di briciole di pane digitali che i giganti della tecnologia usano per rintracciarti. Invii un'e-mail, ordini del cibo, trasmetti uno spettacolo in streaming. Restituiscono preziosi pacchetti di dati per aumentare la comprensione delle tue preferenze. Tali dati vengono inseriti in algoritmi di apprendimento automatico per indirizzarti con annunci e consigli. Google incassa i tuoi dati per oltre $ 120 miliardi all'anno di entrate pubblicitarie.

Sempre più spesso, non possiamo più rinunciare a questo accordo. Nel 2019 Kashmir Hill, allora giornalista di Gizmodo, ci ha provato ha tagliato fuori cinque grandi giganti della tecnologia dalla sua vita . Ha trascorso sei settimane infelice, lottando per svolgere le funzioni digitali di base. I giganti della tecnologia, nel frattempo, non hanno nemmeno sentito prurito.

Ora i ricercatori della Northwestern University stanno suggerendo nuovi modi per correggere questo squilibrio di potere curando il nostro collettivo dati come merce di scambio. I giganti della tecnologia possono avere a loro disposizione algoritmi fantasiosi, ma sono privi di significato senza abbastanza dati giusti su cui allenarsi.

In una nuova carta presentato all'Association for Computing Machinery's Conferenza sull'equità, la responsabilità e la trasparenza la prossima settimana, i ricercatori, inclusi i dottorandi Nicholas Vincent e Hanlin Li, propongono tre modi in cui il pubblico può sfruttarlo a proprio vantaggio:

• Colpi di dati , ispirato dall'idea degli scioperi sindacali, che implicano la trattenuta o l'eliminazione dei tuoi dati in modo che un'azienda tecnologica non possa utilizzarli, ad esempio abbandonando una piattaforma o installando strumenti per la privacy.
• Avvelenamento dei dati , che implica il conferimento di dati privi di significato o dannosi. Fino alla nausea , ad esempio, è un'estensione del browser che fa clic su ogni singolo annuncio che ti viene offerto, confondendo così gli algoritmi di targeting degli annunci di Google.
• Contributo consapevole dei dati , che implica dare significato pieno dati al concorrente di una piattaforma per cui vuoi protestare, ad esempio caricando invece le tue foto di Facebook su Tumblr.

Le persone usano già molte di queste tattiche per proteggere la propria privacy. Se hai mai utilizzato un blocco degli annunci o un'altra estensione del browser che modifica i risultati di ricerca per escludere determinati siti Web, ti sei impegnato in una raccolta di dati e hai rivendicato un'agenzia per l'utilizzo dei tuoi dati. Ma come ha scoperto Hill, azioni individuali sporadiche come queste non fanno molto per far cambiare i giganti della tecnologia i loro comportamenti.

E se milioni di persone si coordinassero per avvelenare bene i dati di un gigante tecnologico, però? Ciò potrebbe solo dare loro un po' di leva per affermare le loro richieste.

Potrebbero esserci già stati alcuni esempi di questo. A gennaio, milioni di utenti hanno cancellato i loro account WhatsApp e sono passati a concorrenti come Signal e Telegram dopo che Facebook ha annunciato che avrebbe iniziato a condividere i dati di WhatsApp con il resto dell'azienda. L'esodo ha causato Facebook ritardo la sua politica cambia.

Proprio questa settimana, Google anche annunciato che smetterebbe di tracciare le persone sul Web e indirizzare loro annunci pubblicitari. Sebbene non sia chiaro se si tratti di un vero cambiamento o solo di un rebranding, afferma Vincent, è possibile che il maggiore utilizzo di strumenti come AdNauseam abbia contribuito a tale decisione degradando l'efficacia degli algoritmi dell'azienda. (Ovviamente, alla fine è difficile da dire. L'unica persona che sa davvero quanto efficacemente un movimento di leva dei dati abbia avuto un impatto su un sistema è l'azienda tecnologica, dice.)

Vincent e Li pensano che queste campagne possano integrare strategie come la difesa delle politiche e l'organizzazione dei lavoratori nel movimento per resistere alla Big Tech.

È emozionante vedere questo tipo di lavoro, afferma Ali Alkhatib, ricercatore presso il Center for Applied Data Ethics dell'Università di San Francisco, che non è stato coinvolto nella ricerca. È stato davvero interessante vederli pensare alla visione collettiva o olistica: possiamo pasticciare con il pozzo e fare richieste con quella minaccia, perché sono i nostri dati e tutto va bene insieme.

Storia correlata

È così che abbiamo perso il controllo dei nostri volti

Il più grande studio mai condotto sui dati del riconoscimento facciale mostra quanto l'aumento del deep learning abbia alimentato una perdita di privacy.

C'è ancora del lavoro da fare per rendere queste campagne più diffuse. Gli informatici potrebbero svolgere un ruolo importante nella creazione di più strumenti come AdNauseam, ad esempio, che aiuterebbero ad abbassare la barriera alla partecipazione a tali tattiche. Anche i politici potrebbero aiutare. Gli scioperi dei dati sono più efficaci se rafforzati da leggi sulla privacy dei dati rigorose, come il Regolamento generale sulla protezione dei dati dell'Unione Europea (GDPR), che dà ai consumatori il diritto di richiedere la cancellazione dei propri dati. Senza tale regolamentazione, è più difficile garantire che un'azienda tecnologica ti dia la possibilità di cancellare i tuoi record digitali, anche se rimuovi il tuo account.

E alcune domande restano senza risposta. Di quante persone ha bisogno un data strike per danneggiare l'algoritmo di un'azienda? E quale tipo di dati sarebbe più efficace per avvelenare un particolare sistema? In una simulazione che coinvolge un algoritmo di raccomandazione di film, ad esempio, i ricercatori hanno scoperto che se il 30% degli utenti entrasse in sciopero, la precisione del sistema potrebbe ridursi del 50%. Ma ogni sistema di apprendimento automatico è diverso e le aziende li aggiornano costantemente. I ricercatori sperano che più persone nella comunità di apprendimento automatico possano eseguire simulazioni simili di sistemi di diverse aziende e identificare le loro vulnerabilità.

Alkhatib suggerisce che gli studiosi dovrebbero fare più ricerche anche su come ispirare l'azione collettiva sui dati. L'azione collettiva è davvero difficile, dice. Convincere le persone a seguire l'azione in corso è una sfida. E poi c'è la sfida di come mantenere un gruppo di persone molto transitorie, in questo caso potrebbero essere persone che utilizzano un motore di ricerca per cinque secondi, a vedersi come parte di una comunità che ha effettivamente longevità?

Queste tattiche potrebbero anche avere conseguenze a valle che richiedono un attento esame, aggiunge. L'avvelenamento dei dati potrebbe finire per aggiungere più lavoro ai moderatori dei contenuti e ad altre persone incaricate di pulire ed etichettare i dati di formazione delle aziende?

Ma nel complesso, Vincent, Li e Alkhatib sono ottimisti sul fatto che la leva dei dati potrebbe trasformarsi in uno strumento persuasivo per modellare il modo in cui i giganti della tecnologia trattano i nostri dati e la nostra privacy. I sistemi di intelligenza artificiale dipendono dai dati. È solo un dato di fatto su come funzionano, dice Vincent. In definitiva, questo è un modo in cui il pubblico può acquisire potere.

nascondere