211service.com
La dittatura dei dati
I big data sono destinati a trasformare la società, dal modo in cui diagnostichiamo le malattie al modo in cui educhiamo i bambini, rendendo possibile anche che un'auto si guidi da sola. L'informazione sta emergendo come un nuovo input economico, una risorsa vitale. Le aziende, i governi e persino gli individui misureranno e ottimizzeranno tutto il possibile.
Conta delle vittime: Il segretario alla Difesa degli Stati Uniti Robert McNamara ha informato la stampa sul Vietnam al Pentagono nel 1965.
Ma c'è un lato oscuro. I big data erodono la privacy. E quando viene utilizzato per fare previsioni su ciò che probabilmente faremo ma non abbiamo ancora fatto, minaccia anche la libertà. Eppure i big data aggravano anche un problema molto vecchio: fare affidamento sui numeri quando sono molto più fallibili di quanto pensiamo. Niente sottolinea le conseguenze dell'analisi dei dati andata storta più della storia di Robert McNamara.
McNamara era un tipo da numeri. Nominato segretario alla difesa degli Stati Uniti quando le tensioni in Vietnam aumentarono nei primi anni '60, insistette per ottenere dati su tutto ciò che poteva. Solo applicando il rigore statistico, riteneva, i decisori potevano comprendere una situazione complessa e fare le scelte giuste. Il mondo, secondo lui, era una massa di informazioni indisciplinate che, se delineate, denotate, delimitate e quantificate, potevano essere addomesticate dalla mano umana e cadere sotto la volontà umana. McNamara ha cercato la verità, e quella verità potrebbe essere trovata nei dati. Tra i numeri che gli tornarono in mente c'era il conteggio dei cadaveri.
McNamara ha sviluppato il suo amore per i numeri come studente alla Harvard Business School e poi come assistente professore più giovane all'età di 24 anni. Ha applicato questo rigore durante la seconda guerra mondiale come parte di un team d'élite del Pentagono chiamato Statistical Control, che ha portato decisioni basate sui dati facendo a una delle più grandi burocrazie del mondo. Prima di questo, i militari erano ciechi. Non conosceva, ad esempio, il tipo, la quantità o l'ubicazione dei pezzi di ricambio degli aeroplani. I dati sono venuti in soccorso. Solo rendere più efficiente l'approvvigionamento di armamenti ha consentito di risparmiare 3,6 miliardi di dollari nel 1943. La guerra moderna richiedeva l'allocazione efficiente delle risorse; il lavoro della squadra è stato un successo straordinario.
Alla fine della guerra, i membri di questo gruppo hanno offerto le loro capacità all'America corporativa. La Ford Motor Company era in difficoltà e un disperato Henry Ford II consegnò loro le redini. Proprio come non sapevano nulla dei militari quando aiutarono a vincere la guerra, così erano all'oscuro di fare automobili. Tuttavia, i cosiddetti Whiz Kids hanno dato una svolta all'azienda.
McNamara ha scalato rapidamente i ranghi, tirando fuori un punto dati per ogni situazione. I direttori di fabbrica di Harried hanno prodotto le cifre richieste, indipendentemente dal fatto che fossero corrette o meno. Quando è stato emanato un editto secondo cui tutto l'inventario di un modello di auto doveva essere utilizzato prima che un nuovo modello potesse iniziare la produzione, i manager di linea esasperati hanno semplicemente scaricato le parti in eccesso in un fiume vicino. Lo scherzo in fabbrica era che un tizio poteva camminare sull'acqua, sopra pezzi arrugginiti di auto del 1950 e del 1951.
McNamara incarnava l'esecutivo iper-razionale che faceva affidamento sui numeri piuttosto che sui sentimenti e che poteva applicare le sue capacità quantitative a qualsiasi settore a cui si rivolgeva. Nel 1960 è stato nominato presidente della Ford, posizione che ha ricoperto solo poche settimane prima di essere scelto per entrare a far parte del gabinetto del presidente Kennedy come segretario alla difesa.
Man mano che il conflitto in Vietnam si intensificava e gli Stati Uniti inviavano più truppe, divenne chiaro che si trattava di una guerra di volontà, non di territorio. La strategia dell'America era quella di battere i Viet Cong sul tavolo dei negoziati. Il modo per misurare i progressi, quindi, era dal numero di nemici uccisi. Il conteggio delle vittime è stato pubblicato quotidianamente sui giornali. Per i sostenitori della guerra era una prova di progresso; ai critici, prova della sua immoralità. Il conteggio dei cadaveri era il punto dati che ha definito un'era.
McNamara si affidava alle figure, le feticizzava. Con i suoi capelli perfettamente pettinati all'indietro e la sua cravatta annodata in modo impeccabile, McNamara sentiva di poter comprendere ciò che stava accadendo a terra solo fissando un foglio di calcolo, tutte quelle righe e colonne ordinate, calcoli e grafici, la cui maestria sembrava portargli uno deviazione standard più vicino a Dio.
Nel 1977, due anni dopo che l'ultimo elicottero era decollato dal tetto dell'ambasciata degli Stati Uniti a Saigon, un generale dell'esercito in pensione, Douglas Kinnard, pubblicò un importante sondaggio chiamato I direttori di guerra che ha rivelato il pantano della quantificazione. Solo il 2% dei generali americani considerava il conteggio dei cadaveri un modo valido per misurare i progressi. Un falso, totalmente inutile, ha scritto un generale nei suoi commenti. Bugie spesso sfacciate, ne scrisse un'altra. Sono stati grossolanamente esagerati da molte unità principalmente a causa dell'incredibile interesse mostrato da persone come McNamara, ha detto un terzo.
L'uso, l'abuso e l'abuso dei dati da parte delle forze armate statunitensi durante la guerra del Vietnam è una lezione preoccupante sui limiti delle informazioni mentre il mondo si lancia verso l'era dei big data. I dati sottostanti possono essere di scarsa qualità. Può essere di parte. Può essere analizzato male o usato in modo fuorviante. E ancora più schiacciante, i dati possono non riuscire a catturare ciò che pretendono di quantificare.
Siamo più suscettibili di quanto possiamo pensare alla dittatura dei dati, ovvero lasciare che i dati ci governino in modi che possono fare tanto male quanto bene. La minaccia è che ci lasceremo insensatamente vincolati dall'output delle nostre analisi anche quando abbiamo ragionevoli motivi per sospettare che qualcosa non va. L'istruzione sembra in bilico? Spingere test standardizzati per misurare le prestazioni e penalizzare insegnanti o scuole. Vuoi prevenire il terrorismo? Crea strati di liste di controllo e liste di non volo per sorvegliare i cieli. Vuoi perdere peso? Acquista un'app per contare ogni caloria ma evita l'esercizio vero e proprio.
La dittatura dei dati irretisce anche i migliori. Google gestisce tutto in base ai dati. Quella strategia ha portato a gran parte del suo successo. Ma di tanto in tanto fa anche inciampare l'azienda. I suoi cofondatori, Larry Page e Sergey Brin, hanno insistito a lungo per conoscere i punteggi SAT di tutti i candidati al lavoro e la media dei voti quando si sono laureati. Nel loro pensiero, il primo numero misurava il potenziale e il secondo misurava i risultati. I manager affermati sulla quarantina sono stati perseguitati per i punteggi, con loro totale sconcerto. La società ha persino continuato a richiedere i numeri molto tempo dopo che i suoi studi interni non hanno mostrato alcuna correlazione tra i punteggi e le prestazioni lavorative.
Google dovrebbe saperlo meglio, resistere alla seduzione del falso fascino dei dati. La misura lascia poco spazio al cambiamento nella vita di una persona. Conta l'intelligenza dei libri a scapito della conoscenza. E potrebbe non riflettere le qualifiche delle persone delle discipline umanistiche, dove il know-how potrebbe essere meno quantificabile rispetto alle scienze e all'ingegneria. L'ossessione di Google per tali dati per scopi delle risorse umane è particolarmente strana considerando che i fondatori dell'azienda sono prodotti delle scuole Montessori, che enfatizzano l'apprendimento, non i voti. Per gli standard di Google, né Bill Gates, né Mark Zuckerberg né Steve Jobs sarebbero stati assunti, poiché mancano di titoli universitari.
La deferenza di Google nei confronti dei dati è stata portata agli estremi. Per determinare il miglior colore di una barra degli strumenti sul sito Web, Marissa Mayer, quando era uno dei massimi dirigenti di Google prima di passare a Yahoo, una volta ha ordinato allo staff di testare 41 gradazioni di blu per vedere quali le persone usavano di più. Nel 2009, il miglior designer di Google, Douglas Bowman, si è dimesso stizzito perché non sopportava la quantificazione costante di tutto. Ho avuto un recente dibattito sull'opportunità di un bordo di 3, 4 o 5 pixel di larghezza e mi è stato chiesto di dimostrare il mio caso. Non posso operare in un ambiente del genere, ha scritto su un blog annunciando le sue dimissioni. Quando un'azienda è piena di ingegneri, si rivolge all'ingegneria per risolvere i problemi. Riduci ogni decisione a un semplice problema di logica. Quei dati alla fine diventano una stampella per ogni decisione, paralizzando l'azienda.
Questa è la dittatura dei dati. E ricorda il pensiero che ha portato gli Stati Uniti a intensificare la guerra del Vietnam in parte sulla base del conteggio delle vittime, piuttosto che basare le decisioni su metriche più significative. È abbastanza vero che non tutte le situazioni umane complesse concepibili possono essere completamente ridotte alle linee di un grafico, o ai punti percentuali su un grafico, o alle cifre di un bilancio, disse McNamara in un discorso nel 1967, poiché le proteste interne erano in crescita. Ma tutta la realtà può essere ragionata. E non quantificare ciò che può essere quantificato significa solo accontentarsi di qualcosa di meno dell'intera gamma della ragione. Se solo i dati giusti fossero usati nel modo giusto, non rispettati per il bene dei dati.
Robert Strange McNamara ha continuato a dirigere la Banca Mondiale negli anni '70, per poi dipingere se stesso come una colomba negli anni '80. Divenne un esplicito critico delle armi nucleari e un sostenitore della protezione ambientale. Più tardi nella vita ha prodotto un libro di memorie, Ripensandoci , che ha criticato il pensiero dietro la guerra e le sue stesse decisioni come segretario della difesa. Avevamo torto, terribilmente torto, scrisse notoriamente. Ma McNamara, morto nel 2009 all'età di 93 anni, si riferiva all'ampia strategia della guerra. Sulla questione dei dati, e del conteggio delle vittime in particolare, è rimasto impenitente. Ha ammesso che molte delle statistiche erano fuorvianti o errate. Ma le cose che puoi contare, dovresti contare. La perdita della vita è una.
I big data saranno una base per migliorare i farmaci che assumiamo, il modo in cui apprendiamo e le azioni degli individui. Tuttavia, il rischio è che i suoi poteri straordinari possano indurci a commettere il peccato di McNamara: diventare così fissati sui dati, e così ossessionati dal potere e dalle promesse che offre, da non apprezzare la sua intrinseca capacità di fuorviare.
Kenneth Cukier è l'editor di dati di L'economista . Viktor Mayer-Schönberger è professore di governance e regolamentazione di Internet presso l'Oxford Internet Institute nel Regno Unito. Sono gli autori di Big Data: una rivoluzione che trasformerà il modo in cui viviamo, lavoriamo e pensiamo (Houghton Mifflin Harcourt, 2013), da cui è stato tratto questo articolo.