Come la DARPA ha preso la minaccia del bot di Twitter con una mano dietro la schiena

Uno dei fenomeni più inquietanti su Twitter è la proliferazione di bot che generano automaticamente tweet nel tentativo di diffondere spam, guadagnare illecitamente tramite click fraud e, cosa più preoccupante, influenzare la discussione su temi come terrorismo e politica.

Il numero di account Twitter coinvolti in questo tipo di attività non è piccolo. Nel 2014, Twitter ha ammesso che oltre l'8% dei suoi account erano automatizzati, ovvero circa 23 milioni di utenti Twitter attivi.

La società ha sottolineato che molti di questi erano perfettamente legittimi: molti di questi account ripubblicano apertamente o mostrano tweet di altri utenti. Tuttavia, un numero significativo chiaramente non va bene e i robot di influenza sono una preoccupazione particolare.

Ad esempio, il gruppo che si fa chiamare Stato Islamico utilizza i social media online per persuadere i giovani ad abbracciare la loro causa. Alcuni osservatori ritengono che la Russia abbia intrapreso un'importante campagna di disinformazione sui social media sull'annessione della Crimea. Altri affermano che i robot hanno svolto un ruolo significativo nell'influenzare l'esito delle elezioni in India nel 2014.

Quindi un modo per individuare in modo affidabile i robot di influenza su Twitter sarebbe estremamente utile. L'anno scorso, la Defense Advanced Research Projects Agency (DARPA) ha deciso di trovare un tale metodo organizzando una competizione di quattro settimane in cui ai team è stato chiesto di individuare i robot in un flusso di post sul tema delle vaccinazioni. Un team è emerso come un chiaro vincitore e i risultati hanno dimostrato alcune nuove strategie significative per identificare i bot nel mondo reale.

Oggi abbiamo una visione unica di questa competizione e delle strategie impiegate dai team grazie a un documento di V.S. Subrahmanian all'Università del Maryland a College Park e Sentimetrix e alcuni amici.

La competizione era realistica quanto la DARPA poteva renderla. I tweet erano messaggi raccolti dallo stream di Twitter durante un dibattito del 2014 sulle vaccinazioni. In questo dibattito, sono stati creati numerosi bot nell'ambito di una competizione per vedere come potrebbero influenzare le discussioni. Quindi la DARPA aveva una conoscenza della verità fondamentale di quali resoconti fossero artificiali e quali fossero reali.

In totale, il set di dati conteneva oltre quattro milioni di messaggi provenienti da più di 7.000 account, di cui 39 erano bot nelle lobby pro o contro la vaccinazione. Ogni messaggio conteneva un ID univoco, un profilo utente che includeva un'immagine, un URL e un'immagine, dove erano inclusi. I dati includevano anche un timbro di data e ora, nonché informazioni sui follower e quando un account non ne seguiva un altro. Tutto questo è stato giocato ai concorrenti in un ambiente Twitter sintetico per quattro settimane a febbraio e marzo.

I team hanno quindi dovuto analizzare questo flusso di Twitter e indovinare quali utenti erano bot. Ogni ipotesi corretta ha portato loro un singolo punto, ma una squadra ha perso 0,25 punti per ogni ipotesi errata. Una squadra che ha indovinato tutti i bot D arrivarono anche giorni prima della fine della sfida D punti, dal momento che DARPA è particolarmente interessata al rilevamento precoce dei robot di influenza.

Il team vincitore proveniva dalla società di analisi dei social media Sentimetrix, che ha indovinato tutti i robot 12 giorni prima della scadenza, effettuando solo un'ipotesi errata. Questo ha dato loro un punteggio di 50,75 punti. (La squadra al secondo posto, della University of Southern California, ha segnato 45 punti, trovando tutti i robot sei giorni prima della scadenza senza ipotesi errate.)

Le strategie vincenti sono rivelatrici. I team hanno iniziato tentando di identificare una serie iniziale di bot nei dati. È interessante notare che nessuno dei team è stato in grado di automatizzare questo passaggio e la maggior parte ha utilizzato un input umano significativo.

Sentimetrix ha utilizzato un algoritmo pre-addestrato per cercare un comportamento simile a un bot. Il team aveva addestrato questo algoritmo sui dati di Twitter delle elezioni indiane del 2014 che presentavano molti robot. Ha cercato una grammatica insolita, la somiglianza della linguistica con i chatbot in linguaggio naturale come Eliza e comportamenti insoliti come lunghi periodi di tweet senza interruzioni che un essere umano non potrebbe eseguire facilmente.

Ciò ha rivelato quattro account che erano chiaramente bot e Sentimetrix li ha quindi utilizzati per trovarne altri. Un presupposto era che i produttori di bot tendono a produrre molti bot simili e a collegarli tra loro per aumentare la loro popolarità. Quindi il team è stato in grado di utilizzare l'analisi di rete e cluster per trovare altri probabili bot, che hanno poi confrontato con bot noti.

Il team ha anche utilizzato funzionalità come l'attività temporale degli account partendo dal presupposto che un account automatizzato avrebbe mostrato regolarità insolite. Sentimetrix ha anche cercato gli utenti che hanno cambiato fedeltà durante il dibattito da pro a anti-vaccinazione (o viceversa). Questa pensavano potesse essere una strategia bot per infiltrarsi in un lato dell'argomento e quindi pubblicare argomenti opposti.

Una caratteristica chiave del successo di Sentimetrix è stata il modo in cui ha visualizzato i risultati del suo lavoro su una dashboard online in modo che un utente umano potesse vedere facilmente lo stato dell'analisi per ciascun utente.

In questa seconda fase, Sentimetrix ha identificato altri 25 bot. Ciò ha fornito loro dati sufficienti per addestrare un algoritmo di apprendimento automatico per cercare i dati per altri robot. E questo approccio li ha portati ai restanti 10 bot.

I team non sapevano quanti bot fossero al lavoro, quindi un grosso problema era sapere quando interrompere la ricerca. Sentimetrix, ad esempio, si è interrotto quando non riusciva più a trovare account che sembravano bot.

È un lavoro impressionante che potrebbe avere un'influenza importante sugli sforzi per trovare bot che stanno tentando di influenzare le discussioni online in modi inappropriati. La pubblicazione di strategie come questa dovrebbe aiutare anche altri giocatori a sviluppare tattiche anti-bot.

Ma potrebbe anche avere un impatto negativo. La battaglia tra bot e cacciatori di bot è in continua evoluzione. Con documenti come questo, i cacciatori di bot stanno rivelando la loro mano in un modo che consente ai produttori di bot di progettare strategie per sconfiggere in modo specifico questi algoritmi. In un certo senso, è come combattere con una mano legata dietro la schiena.

Tuttavia, la tentazione di mantenere segrete le strategie di caccia ai bot sarebbe pericolosa da promuovere. Questo tipo di apertura fa parte della nostra società libera e sicuramente uno dei motivi principali per cui vale la pena lottare per preservare.

Ad ogni modo, questa battaglia del gatto e del topo è destinata a continuare.

Rif: La sfida dei bot Twitter DARPA: arxiv.org/abs/1601.05140

nascondere