211service.com
Come un algoritmo per avvistare i troll ha appreso il suo commercio antisociale
I troll sono il flagello di molti siti Internet. Queste sono persone che si impegnano deliberatamente in comportamenti antisociali pubblicando messaggi infiammatori o fuori tema. Nella migliore delle ipotesi, sono un fastidio frustrante; nel peggiore dei casi possono rendere la vita delle persone una miseria.
Quindi un modo per individuare i troll all'inizio della loro carriera online e prevenire i loro peggiori eccessi sarebbe uno strumento prezioso.
Oggi, Justin Cheng della Stanford University in California e alcuni amici affermano di aver creato proprio uno strumento del genere analizzando il comportamento dei troll su diversi siti Web noti e creando un algoritmo in grado di individuarli con precisione dopo appena 10 post. Dicono che la loro tecnica dovrebbe essere di grande importanza pratica per le persone che mantengono comunità online.
Cheng e colleghi studiano tre comunità di notizie online: il sito di notizie generali CNN.com, il sito di notizie politiche Breitbart.com e il sito di giochi per computer IGN.com.
Su ciascuno di questi siti hanno un elenco di utenti che sono stati bannati per comportamento antisociale, oltre 10.000 in totale. Hanno anche tutti i messaggi pubblicati da questi utenti durante il loro periodo di attività online. Tali individui sono chiari esempi di utenti antisociali e costituiscono la 'verità di base' nelle nostre analisi, affermano Cheng e co.
Questi ragazzi hanno deciso di rispondere a tre diverse domande sugli utenti antisociali. Primo, se sono antisociali durante tutta la loro vita comunitaria o solo verso la fine. In secondo luogo, se la reazione della comunità peggiora il loro comportamento. E infine, se gli utenti antisociali possono essere identificati con precisione all'inizio.
Confrontando i messaggi postati da utenti che alla fine sono stati bannati con i messaggi postati da utenti che non sono mai stati bannati, Cheng e compagni scoprono alcune chiare differenze. Una misura che usano è la leggibilità dei post, come giudicato da una metrica chiamata Indice di leggibilità automatizzata.
Questo mostra chiaramente che gli utenti che vengono successivamente bannati tendono a scrivere post di qualità inferiore per cominciare. E non solo, la qualità dei loro post diminuisce con il tempo.
E mentre le comunità inizialmente sembrano indulgenti e quindi sono lente a bandire gli utenti antisociali, nel tempo diventano meno tolleranti. Ciò si traduce in un aumento della velocità con cui [i post di utenti antisociali] vengono eliminati, dicono.
È interessante notare che Cheng e colleghi affermano che le differenze tra i messaggi pubblicati da persone che vengono successivamente bandite e quelle che non lo sono sono così chiare che è relativamente semplice individuarli utilizzando un algoritmo di apprendimento automatico. In effetti, abbiamo solo bisogno di osservare da cinque a 10 post degli utenti prima che un classificatore sia in grado di fare una previsione affidabile, si vantano.
Potrebbe rivelarsi utile. Il comportamento antisociale è un problema sempre più grave che richiede un contributo umano significativo per essere individuato e affrontato. Questo processo spesso significa che gli utenti antisociali possono operare per molto più tempo del necessario. I nostri metodi possono identificare efficacemente gli utenti antisociali all'inizio della loro vita comunitaria e alleviare parte di questo onere, affermano Cheng e co.
Naturalmente, è necessario prestare attenzione con qualsiasi approccio automatizzato. Un potenziale pericolo è quello di vietare inutilmente gli utenti che non sono asociali ma sono stati identificati come tali dall'algoritmo. Questo tasso di falsi positivi deve essere studiato più attentamente.
Tuttavia, il lavoro dei moderatori sui siti che consentono messaggi potrebbe presto essere notevolmente semplificato grazie all'approccio di Cheng e co.
Rif: arxiv.org/abs/1504.00680 : Comportamento antisociale nelle comunità di discussione online