211service.com
I limiti dell'ingegneria sociale
Attingendo ai big data, ricercatori e pianificatori stanno costruendo modelli matematici di comportamento personale e civico. Ma i modelli possono nascondere, piuttosto che rivelare, le fonti più profonde dei mali sociali. 16 aprile 2014
Nel 1969, Playboy pubblicato un lungo, a ruota libera intervista con Marshall McLuhan in cui il teorico dei media e icona degli anni Sessanta ha abbozzato un ritratto del futuro che era allo stesso tempo seducente e repellente. Notando la capacità dei computer digitali di analizzare dati e comunicare messaggi, predisse che alla fine le macchine sarebbero state impiegate per mettere a punto il funzionamento della società. Il computer può essere utilizzato per dirigere una rete di termostati globali per modellare la vita in modi che ottimizzino la consapevolezza umana, ha detto. È già tecnologicamente possibile utilizzare il computer per programmare le società in modo vantaggioso. Ha riconosciuto che tale controllo centralizzato ha sollevato lo spettro del lavaggio del cervello, o molto peggio, ma ha sottolineato che la programmazione delle società potrebbe effettivamente essere condotta in modo abbastanza costruttivo e umanistico.
L'intervista è apparsa quando i computer sono stati utilizzati principalmente per arcani calcoli scientifici e industriali. Per la maggior parte dei lettori dell'epoca, le parole di McLuhan dovevano sembrare inverosimili, se non folli. Adesso sembrano profetici. Con gli smartphone onnipresenti, Facebook inevitabile e computer indossabili come i Google Glass emergenti, la società sta guadagnando un sistema di rilevamento digitale. La posizione e il comportamento delle persone vengono monitorati durante le loro giornate e le informazioni risultanti vengono trasmesse istantaneamente a vaste server farm. Una volta scritti gli algoritmi necessari per analizzare tutti quei big data, molti sociologi e statistici credono, saremo ricompensati con una comprensione molto più profonda di ciò che fa funzionare la società.
Questa storia faceva parte del nostro numero di maggio 2014
- Vedi il resto del problema
- sottoscrivi
Uno dei più accaniti sostenitori dei big data è Alex Sandy Pentland, uno scienziato dei dati che, in qualità di direttore dello Human Dynamics Laboratory del MIT, ha utilizzato a lungo i computer per studiare il comportamento delle aziende e di altre organizzazioni. Nel suo breve ma ambizioso nuovo libro, Fisica Sociale, Pentland sostiene che la nostra capacità notevolmente ampliata di raccogliere dati comportamentali consentirà agli scienziati di sviluppare una teoria causale della struttura sociale e, in definitiva, stabilire una spiegazione matematica del motivo per cui la società reagisce come fa in ogni tipo di circostanza. Come chiarisce il titolo del libro, Pentland pensa che il mondo sociale, non meno del mondo materiale, operi secondo regole. Ci sono regolarità statistiche all'interno del movimento e della comunicazione umana, scrive, e una volta comprese appieno queste regolarità, scopriremo i meccanismi di base delle interazioni sociali.
L'idea di Pentland di una società basata sui dati è problematica. Ci incoraggerebbe a ottimizzare lo status quo piuttosto che sfidarlo.
Cose recensite
Fisica sociale: come si diffondono le buone idee: le lezioni di una nuova scienza
di Alex Pentland
Penguin Press, 2014
Ciò che finora ci ha impedito di decifrare le basi matematiche della società, secondo Pentland, è la mancanza di rigore empirico nelle scienze sociali. A differenza dei fisici, che possono misurare i movimenti degli oggetti con grande precisione, i sociologi hanno dovuto accontentarsi di osservazioni sfocate. Hanno dovuto lavorare con set di dati approssimativi e incompleti tratti da piccoli campioni della popolazione e hanno dovuto fare affidamento sui ricordi notoriamente errati delle persone di ciò che hanno fatto, quando lo hanno fatto e con chi lo hanno fatto. Le reti di computer promettono di rimediare a queste carenze. Attingendo ai flussi di dati che fluiscono attraverso gadget, motori di ricerca, social media e sistemi di pagamento con carta di credito, gli scienziati saranno in grado di raccogliere informazioni precise e in tempo reale sul comportamento di milioni, se non miliardi, di individui. E poiché i computer non dimenticano né inventano, le informazioni saranno affidabili.
Per illustrare cosa c'è in serbo, Pentland descrive una serie di esperimenti che lui ei suoi collaboratori hanno condotto nel settore privato. Entrano in un'azienda e consegnano a ciascun dipendente una carta d'identità elettronica, chiamata badge sociometrico, che pende dal collo e comunica con i badge indossati dai colleghi. Incorporando microfoni, sensori di posizione e accelerometri, i badge monitorano dove vanno le persone e con chi parlano, prendendo nota del loro tono di voce e persino del loro linguaggio del corpo. I dispositivi sono in grado di misurare non solo le catene di comunicazione e influenza all'interno di un'organizzazione, ma anche i livelli di energia personale e tratti come l'estroversione e l'empatia. In uno di questi studi sul call center di una banca, i ricercatori hanno scoperto che la produttività potrebbe essere aumentata semplicemente modificando il programma della pausa caffè.
Pentland chiama questa tecnica di elaborazione dei dati mining di realtà e suggerisce che tipi simili di informazioni possono essere raccolti su una scala molto più ampia da smartphone dotati di sensori e app specializzati. Alimentati a programmi di modellazione statistica, i dati potrebbero rivelare come cose come idee, decisioni, umore o influenza stagionale si diffondono nella comunità.
La modellizzazione matematica della società è resa possibile, secondo Pentland, dalla trattabilità innata degli esseri umani. Possiamo pensare a noi stessi come attori razionali, nel controllo cosciente delle nostre scelte, ma la maggior parte di ciò che facciamo è riflessiva. Il nostro comportamento è determinato dalle nostre reazioni subliminali all'influenza di altre persone, in particolare quelle dei vari gruppi di pari a cui apparteniamo. Il potere della fisica sociale, scrive, deriva dal fatto che quasi tutte le nostre azioni quotidiane sono abituali, basate principalmente su ciò che abbiamo imparato osservando il comportamento degli altri. Dopo aver mappato e misurato tutte le influenze sociali di una persona, puoi sviluppare un modello statistico che predice il comportamento di quella persona, proprio come puoi modellare il percorso che farà una palla da biliardo dopo aver colpito altre palle.
Decifrare il comportamento delle persone è solo il primo passo. Ciò che entusiasma davvero Pentland è la prospettiva di utilizzare i media digitali e i relativi strumenti per cambiare il comportamento delle persone, per motivare gruppi e individui ad agire in modo più produttivo e responsabile. Se le persone reagiscono in modo prevedibile alle influenze sociali, i governi e le aziende possono utilizzare i computer per sviluppare e fornire incentivi accuratamente personalizzati, come messaggi di lode o piccoli pagamenti in contanti, per sintonizzare i flussi di influenza in un gruppo e quindi modificare le abitudini dei suoi membri . Oltre a migliorare l'efficienza dei sistemi di trasporto e di assistenza sanitaria, suggerisce Pentland, i programmi di incentivazione basati su gruppi possono rendere le comunità più armoniose e creative. La nostra intuizione principale, riferisce, è che prendendo di mira i pari di [un] individuo, la pressione dei pari può amplificare l'effetto desiderato di una ricompensa sull'individuo target. I computer diventano, come immaginava McLuhan, dei termostati civici. Non solo registrano lo stato della società, ma lo allineano a qualche ideale prescritto. Sia il tracciamento che il mantenimento dell'ordine sociale sono automatizzati.
In definitiva, sostiene Pentland, guardare le interazioni delle persone attraverso una lente matematica ci libererà dalle nozioni logore sul tempo sulla classe e sulla lotta di classe. Le classi politiche ed economiche, sostiene, sono stereotipi troppo semplificati di una matrice fluida e sovrapposta di gruppi di pari. I gruppi di pari, a differenza delle classi, sono definiti da norme condivise piuttosto che solo da caratteristiche standard come il reddito o il loro rapporto con i mezzi di produzione. Armati di informazioni esaurienti sulle abitudini e le associazioni degli individui, i pianificatori civici saranno in grado di tracciare l'intero flusso di influenze che modellano il comportamento personale. Abbandonando categorie generali come ricchi e poveri o ricchi e non abbienti, saremo in grado di comprendere le persone come individui, anche se quegli individui non sono altro che la somma di tutte le pressioni dei pari e di altre influenze sociali che li influenzano.
Sostituire la politica con la programmazione potrebbe sembrare allettante, soprattutto vista la paralisi di Washington. Ma ci sono buone ragioni per essere nervosi per questo tipo di ingegneria sociale. I più ovvi sono i problemi di privacy sollevati dalla raccolta di informazioni personali sempre più intime. Pentland anticipa tali critiche sostenendo un New Deal on Data che dia alle persone il controllo diretto sulle informazioni raccolte su di loro. È difficile, tuttavia, immaginare che le società Internet accettino di rinunciare alla proprietà delle informazioni comportamentali che sono cruciali per il loro vantaggio competitivo.
Anche supponendo che i problemi di privacy possano essere risolti, l'idea di quella che Pentland chiama una società basata sui dati rimane problematica. La fisica sociale è una variazione della teoria del comportamentismo che ha trovato il favore ai tempi di McLuhan e soffre delle stesse limitazioni che hanno condannato il suo predecessore. Definire le relazioni sociali come un modello di stimolo e risposta rende la matematica più facile, ma ignora le profonde fonti strutturali dei mali sociali. Pentland potrebbe avere ragione sul fatto che il nostro comportamento è determinato in gran parte dalle norme sociali e dalle influenze dei nostri pari, ma ciò che non riesce a vedere è che quelle norme e influenze sono esse stesse modellate dalla storia, dalla politica e dall'economia, per non parlare del potere e del pregiudizio. Le persone non hanno completa libertà nella scelta dei loro gruppi di pari. Le loro scelte sono vincolate da dove vivono, da dove vengono, quanti soldi hanno e che aspetto hanno. Un modello statistico della società che ignori le questioni di classe, che prenda i modelli di influenza come dati piuttosto che come contingenze storiche, tenderà a perpetuare le strutture e le dinamiche sociali esistenti. Ci incoraggerà a ottimizzare lo status quo piuttosto che sfidarlo.
La politica è disordinata perché la società è disordinata, non il contrario. Pentland fa un lavoro encomiabile nel descrivere come dati migliori possono migliorare la pianificazione sociale. Ma come altri aspiranti ingegneri sociali, si spinge oltre. Lasciando che il suo entusiasmo abbia la meglio su di lui, inizia a prendere alla lettera la metafora della fisica sociale, anche se riconosce che i modelli matematici saranno sempre riduttivi. Poiché non cerca di catturare i processi cognitivi interni, scrive a un certo punto, la fisica sociale è intrinsecamente probabilistica, con un nucleo irriducibile di incertezza causato dall'evitare la natura generativa del pensiero umano cosciente. Ciò di cui i big data non possono tenere conto è ciò che è più imprevedibile e più interessante di noi.
Nicholas Carr scrive di tecnologia e cultura. Il suo nuovo libro , La gabbia di vetro: l'automazione e noi, sarà pubblicato a settembre.