Le insidie ​​emergenti del Nowcasting con i Big Data

All'inizio di quest'anno, la Banca centrale europea ha tenuto un seminario di due giorni sui big data e su come utilizzarli per le previsioni. L'oratore principale era Hal Varian, capo economista di Google e un numero cruncher dello status di rock star.

Varian ha delineato la potenza di Google Trends e Google Correlate, gli strumenti per big data dell'azienda. Con Google Trends, digiti una query e ottieni una serie di dati di attività. Con Google Correlate, inserisci una serie di dati e ottieni un elenco di query le cui serie di dati seguono uno schema simile, afferma Google sul suo sito Web Correlate. In altre parole, Google Correlate è come Google Trends al contrario.

Varian ha mostrato tutti i tipi di tendenze e correlazioni interessanti. Ad esempio, le ricerche per la parola sbornia aumentano notevolmente di sabato, raggiungono il picco di domenica e diminuiscono notevolmente di lunedì. E lo schema è simile allo schema di ricerca della parola vodka, anche se in ritardo di un giorno (o più probabilmente, una notte e un mattino dopo).

In un altro esempio, ha mostrato come l'inserimento dei dati sulle richieste iniziali di sussidi di disoccupazione negli Stati Uniti restituisse un elenco di 100 query che seguivano uno schema simile, inclusa la frase Iscriviti alla disoccupazione.

Ci sono dei limiti ovviamente. Ha mostrato una correlazione spuria tra le vendite di auto negli Stati Uniti e la query di ricerca sui ristoranti indiani tra il 2004 e il 2012. Il motivo per cui questi due set di dati seguano tendenze simili non è chiaro ma, come ti dirà qualsiasi statistico, la correlazione non significa causalità.

Il messaggio era chiaro. I dati delle query di ricerca sono estremamente potenti, ma devono essere trattati con una certa attenzione e cautela.

Oggi, Paul Ormerod dell'University College London e un paio di amici affermano che ci sono altri motivi per essere prudenti. Questi ragazzi hanno studiato i dati di Google Flu Trends in cui Google utilizza il numero di ricerche relative all'influenza per trasmettere l'incidenza dell'influenza in diverse parti del mondo in un determinato momento.

Ormerod e co affermano che ci sono diversi esempi impressionanti in cui Google ha stimato con precisione il numero di casi di influenza, ad esempio negli Stati Uniti nel 2011/12, Svizzera 2007/8, Germania 2005/6 e Belgio 2007/8. Questa capacità di monitorare l'influenza ha ricevuto un'ampia attenzione da parte dei media.

Meno noti sono i casi in cui Google Trends ha sovrastimato significativamente il numero effettivo di casi di influenza. Ciò è avvenuto negli Stati Uniti durante l'inverno 2012/13, in Svizzera nel 2008/9, in Germania nel 2008/9 e in Belgio nel 2008/9.

Perché la differenza? Ormerod e co ipotizzano che le persone che effettuano ricerche relative all'influenza rientrino in due categorie. I primi sono coloro che soffrono dei sintomi dell'influenza e il secondo gruppo sta cercando semplicemente perché anche altre persone stanno cercando, forse a causa del forte interesse dei media per l'influenza, ad esempio.

Naturalmente, i dati utili provengono dal primo gruppo che soffre di influenza. La loro ragione per la ricerca è generata internamente e indipendente dal mondo esterno: si sentono male. Quindi il loro modello di ricerca dovrebbe essere diverso da quello delle persone che effettuano ricerche a causa di influenze esterne come i resoconti dei giornali. Questo processo di ricerca sociale serve semplicemente a gonfiare i numeri.

Quindi, come distinguere questi due gruppi? Ormerod e co ipotizzano che il modello delle ricerche indipendenti nel tempo differirà sostanzialmente dalle ricerche sociali. In particolare, affermano che le ricerche indipendenti dovrebbero aumentare rapidamente man mano che l'influenza si diffonde tra la popolazione e diminuire lentamente quando la malattia si estingue. Al contrario, le ricerche sui social sono più simmetriche.

Quindi la simmetria nei dati è una misura del livello di ricerca sociale. In effetti, mostrano che questa simmetria è chiaramente più evidente negli anni in cui Google Flu Trends ha sovrastimato sostanzialmente i casi rispetto agli anni in cui era più accurato.

Questo è un esempio interessante del tipo di insidie ​​che gli statistici devono affrontare quando analizzano i big data. Google Trends è solo un esempio: il mondo è sempre più inondato di grandi set di dati e di statistici che si leccano le labbra.

Non c'è dubbio che informazioni importanti relative all'economia, alla salute e ad altre cose possano essere estratte dai big data con gli strumenti giusti. Ma esattamente come questo dovrebbe essere fatto in modo accurato e affidabile è ancora oggetto di un dibattito significativo.

Non è del tutto diversa dalla situazione esistente con i dati economici attuali, che generalmente sono in ritardo rispetto all'economia reale di almeno un mese e spesso vengono rivisti in seguito quando le cifre sono più chiare. L'inaffidabilità di queste cifre è fonte di notevole preoccupazione per i responsabili politici.

Sembra chiaro che le agenzie governative, le aziende e quasi chiunque sia disposto a giocare con i numeri saranno in grado di estrarre un valore significativo dai dati delle query di ricerca in futuro.

Ma attenzione, è necessaria una notevole attenzione. Non è solo la vodka a lasciare un sapore sgradevole in bocca la mattina seguente. Molti postumi di una sbornia economica sono stati causati dall'eccessiva indulgenza nei dati inaffidabili.

Rif: arxiv.org/abs/1408.0699 : Nowcasting di dati economici e sociali: quando e perché i dati dei motori di ricerca non funzionano, un'illustrazione che utilizza Google Flu Trends

nascondere