Distopia dei dati

Le distopie nel 20 ° secolo sono state principalmente di due tipi: l'imponente stato di sorveglianza, come illustrato nel libro di Orwell 1984 , e la stupefacente cupola del piacere, come in Huxley's Nuovo mondo . E se questi non fossero incubi separati? La vera minaccia potrebbe essere la sorveglianza al servizio della seduzione piuttosto che la punizione.

Facebook ha così tanto successo perché ci aiuta a soddisfare la voglia di rimanere in contatto gli uni con gli altri. Questa spinta ha portato circa un miliardo di noi a fornire a una singola azienda le impronte di una parte considerevole della nostra vita sociale (vedi cosa sa Facebook) .

Questa storia faceva parte del nostro numero di luglio 2012

• Vedi il resto del problema
• sottoscrivi

In qualità di sociologo, sono terribilmente eccitato da questa raccolta di dati, perché è una grande risorsa per studiare l'animale umano. Le fonti di big data emergenti (Facebook è una delle migliori) hanno il potenziale per contribuire alla nostra comprensione della società. Ma queste informazioni hanno usi che vanno oltre il targeting degli annunci. Sebbene la prospettiva non sembri finora turbare gli utenti di Facebook, potrebbe essere utilizzata per indirizzare messaggi civici, politici e sociali in modi non salutari per la democrazia.

Le campagne politiche, ad esempio, ora incoraggiano gli elettori a connettersi con le loro app o pagine di Facebook, che possono accedere a dati approfonditi non solo su una persona, ma anche sui suoi social network e interazioni. Ciò crea opportunità per la profilatura con una precisione e una scala senza precedenti. Sto aspettando la prima ondata di feroci campagne politiche negative su Facebook. (La maggior parte di noi potrebbe anche non notarlo, dal momento che potrebbe essere mirato in modo ristretto a una nicchia ricettiva, o anche a individui.)

Il modo in cui Facebook utilizza i dati raccolti può influenzare le nostre interazioni sociali. Il feed delle notizie di Facebook non mostra tutti gli aggiornamenti, o anche i più recenti, ma piuttosto ciò che Facebook pensa ti farà fare clic o commentare. Gli algoritmi dei feed di notizie creano spirali di rinforzo per determinati comportamenti. I dettagli sono segreti, ma il reverse engineering mostra che Facebook pensa che le foto generino più coinvolgimento del testo; gli aggiornamenti con loro sono in primo piano, portando a un coinvolgimento ancora maggiore. Anche senza istruzioni esplicite, le persone senza dubbio coglieranno questi segnali e inizieranno a pubblicare sempre più foto. Anche in altri modi, Facebook potrebbe guidare il modo in cui socializziamo. Forse i post allegri ottengono più risalto. Forse un giorno apprenderemo di un suicidio a seguito di un breve e criptico aggiornamento di stato a cui nessuno ha risposto perché Facebook lo ha declassato nel feed delle notizie delle persone giudicandolo non il tipo di post che genera clic.

Non pretendo che ci siano risposte facili alle domande che Facebook solleva. Qualsiasi algoritmo per il feed di notizie avrebbe il suo rovescio della medaglia. Ma le domande sono importanti perché Facebook occupa un'importante nicchia civica. Le decisioni su come utilizza la sua scorta di dati, cosa rende pubblico e quanto accesso offre alle campagne politiche e aziendali influenzeranno tutti noi. Dobbiamo parlare non solo del potenziale di questo fantastico archivio di dati, ma del potere che ha l'azienda e dell'etica che sostiene.

Zeynep Tufekci è assistente professore presso l'Università della Carolina del Nord e ricercatore presso il Berkman Center for Internet and Society di Harvard.

nascondere