Come i socialbot avanzati si sono infiltrati su Twitter

Se hai un account Twitter, è probabile che tu abbia meno di 50 follower e che tu stesso segua meno di 50 persone. Probabilmente conosci bene molte di queste persone, ma nella tua lista potrebbero essercene anche alcune che non hai mai incontrato.

Quindi ecco una domanda interessante: come fai a sapere che questi utenti di Twitter sono persone reali e non account automatizzati, noti come bot, che ti forniscono link e messaggi progettati per influenzare le tue opinioni?

Si potrebbe dire che i bot non sono molto sofisticati e quindi facili da individuare. E che Twitter monitora la Twittersphere cercando e rimuovendo tutti gli account automatizzati che trova. Di conseguenza, è improbabile che tu stia seguendo inconsapevolmente account automatizzati, dannosi o meno.

Se hai questa opinione, è quella che potresti voler rivedere seguendo il lavoro di Carlos Freitas presso l'Università Federale di Minas Gerais in Brasile e alcuni amici, che hanno studiato quanto sia facile per i socialbot infiltrarsi in Twitter.

Le loro scoperte sorprenderanno. Dicono che una parte significativa dei socialbot che hanno creato non solo si è infiltrata nei gruppi sociali su Twitter, ma è diventata anche influente tra di loro. Inoltre, Freitas e co hanno identificato le caratteristiche che rendono più probabile il successo dei socialbot.

Questi ragazzi hanno iniziato creando 120 socialbot e rilasciandoli su Twitter. Ai bot è stato dato un profilo, reso maschio o femmina e sono stati dati alcuni follower con cui iniziare, alcuni dei quali erano altri bot.

I bot generano tweet ripubblicando messaggi che altri hanno postato o creando i propri tweet sintetici utilizzando una serie di regole per scegliere parole comuni su un determinato argomento e metterle insieme in una frase.

Ai bot è stato anche assegnato un livello di attività. Un'attività elevata equivale a postare almeno una volta all'ora e un'attività bassa equivale a farlo una volta ogni due ore (sebbene entrambi i gruppi siano piuttosto attivi rispetto alla maggior parte degli umani). I robot hanno anche dormito tra le 22:00. e le 9:00 ora del Pacifico per simulare i tempi di inattività degli utenti umani.

Infine, sono stati istituiti per seguire uno dei tre diversi gruppi di umani. Il primo consisteva di 200 persone selezionate casualmente dal flusso di Twitter, il secondo era di 200 persone che pubblicavano regolarmente tweet su un argomento specifico in questo caso lo sviluppo di software e l'ultimo gruppo era composto da 200 sviluppatori di software che erano tutti socialmente collegati tra loro su Twitter.

Dopo aver lasciato liberi i socialbot, la prima domanda a cui Freitas e co volevano rispondere era se le loro accuse potessero eludere le difese istituite da Twitter per impedire la pubblicazione automatica. Nei 30 giorni in cui è stato condotto l'esperimento, 38 dei 120 socialbot sono stati sospesi, dicono. In altre parole, il 69 percento dei social bot è sfuggito al rilevamento.

La domanda più interessante, tuttavia, era se i social bot potessero infiltrarsi con successo nei gruppi sociali che erano stati creati per seguire. E su questo punto i risultati sono sorprendenti. Durante la durata dell'esperimento, i 120 socialbot hanno ricevuto un totale di 4.999 follower da 1.952 utenti diversi. E oltre il 20 percento di loro ha raccolto oltre 100 follower, ovvero più follower del 46 percento degli umani su Twitter.

Freitas e co hanno anche monitorato il punteggio Klout di ciascuno dei loro social bot per vedere come se la sono cavata. (Klout è un servizio online che misura l'influenza degli account Twitter, assegnando loro un punteggio compreso tra 0 e 100). Scopriamo che i socialbot hanno ottenuto punteggi Klout dello stesso ordine di (o, a volte, anche superiori a) diversi noti accademici e ricercatori di social network, dicono.

Il team ha anche analizzato i dati per scoprire quali fattori hanno contribuito al successo dei robot. Non sorprende che il livello di attività sia importante e che i bot più attivi abbiano raggiunto una maggiore popolarità nei loro social network. Ciò è previsto poiché è più probabile che i bot più attivi vengano visti da altri (sebbene sia anche più probabile che vengano rilevati dai meccanismi di difesa di Twitter).

Più sorprendentemente, anche i socialbot che hanno generato tweet sintetici (piuttosto che semplici ripubblicazioni) hanno funzionato meglio. Ciò suggerisce che gli utenti di Twitter non sono in grado di distinguere tra i post generati dagli umani e dai bot. Ciò è probabilmente dovuto al fatto che gran parte dei tweet su Twitter sono scritti in uno stile informale e grammaticalmente incoerente, in modo che anche semplici modelli statistici possano produrre tweet di qualità simile a quelli pubblicati dagli umani su Twitter, suggeriscono Freitas e co.

Anche i gruppi che i socialbot sono stati creati per seguire hanno avuto un effetto importante. Il gruppo di sviluppatori di software socialmente connessi ha prodotto il minor numero di follower mentre il gruppo di sviluppatori di software scelti a caso ne ha generato il maggior numero.

Anche il genere ha avuto un ruolo. Mentre i robot maschili e femminili erano ugualmente efficaci se considerati nel complesso, i social bot femminili erano molto più efficaci nel generare follower nel gruppo di sviluppatori di software socialmente connessi. Ciò suggerisce che il genere dei socialbot può fare la differenza se gli utenti target sono di parte, dicono Freitas e amici.

È un lavoro interessante. Suggerisce che Twittersphere potrebbe essere più vulnerabile agli attacchi automatici di quanto si pensasse in precedenza.

È una scoperta che potrebbe avere implicazioni significative per alcuni tipi di gruppi su Twitter. Negli ultimi anni sono sorti numerosi servizi per misurare l'interesse e l'opinione degli utenti di Twitter su un'ampia varietà di argomenti, come l'intenzione di voto, il sentimento del prodotto, le epidemie, i disastri naturali e così via.

La preoccupazione è che i bot automatizzati possano essere progettati per influenzare in modo significativo l'opinione in una o più di queste aree. Ad esempio, sarebbe relativamente semplice creare un bot che diffonda false voci su un candidato politico in modo tale da influenzare un'elezione.

Quindi il lavoro di Freitas e co è un campanello d'allarme per Twitter. Se vuole prevenire con successo questo tipo di attacchi, dovrà migliorare significativamente i suoi meccanismi di difesa. E poiché questo lavoro rivela ciò che rende i bot di successo, il team di ricerca di Twitter ha un vantaggio.

Il trucco sarà individuare i social bot ed escluderli senza escludere erroneamente gli utenti umani nel processo. Non sarà un compito facile.

Ma con una stima di 20 milioni di account Twitter falsi già impostati, i ricercatori di Twitter hanno molti dati con cui lavorare.

Rif: arxiv.org/abs/1405.4927 : Strategie di infiltrazione dei socialbot di reverse engineering su Twitter

nascondere