Ecco come le aziende di social media dovrebbero affrontare l'odio online, secondo la fisica

All'interno della stanza della guerra di Facebook, dove monitora i contenuti AP

La polizia dei gruppi di odio online è come un gioco senza fine di whack-a-mole: i moderatori rimuovono una pagina neonazista su Facebook, solo per un altro apparire ore dopo . È un approccio che non funziona, ma un team di fisici ha utilizzato uno studio sulle reti per suggerire diverse strategie alternative che potrebbero.

La scala del problema: Il team della George Washington University ha esaminato le dinamiche delle comunità di odio, gruppi che organizzano individui con opinioni simili, sulle piattaforme di social media Facebook e VKontakte (l'equivalente in Russia) nell'arco di pochi mesi. Hanno scoperto che queste reti sono notevolmente interconnesse a livello globale e resilienti a livello micro quando vengono attaccate, attraversano piattaforme e saltano tra paesi, continenti e lingue. La prova del mondo reale di questa interconnessione può essere vista nel modo in cui gli aggressori estremisti bianchi in Norvegia, Nuova Zelanda e Stati Uniti hanno esplicitamente ispirati l'uno dall'altro .

L'approccio attuale è rotto: Il modello matematico dei ricercatori prevede che la polizia all'interno di un'unica piattaforma, come Facebook, può effettivamente peggiorare la diffusione dell'incitamento all'odio e alla fine potrebbe spingerla sottoterra, dove è ancora più difficile da studiare e combattere. Il team ha spiegato le loro scoperte in un documento in Natura questa settimana.

Cosa si può fare? I ricercatori suggeriscono politiche che potrebbero essere implementate dalle società di social media:

— Bandire i cluster di odio relativamente piccoli, piuttosto che i più grandi. Questi sono più facili da individuare ed eliminarli può aiutare a impedire la formazione di ammassi più grandi in primo luogo.

— Banna un numero limitato di utenti scelti a caso dai cluster di odio online. Ciò evita di vietare interi gruppi di utenti, il che si traduce in indignazione e accuse di soppressione del linguaggio.

— Incoraggiare la formazione di gruppi di utenti anti-odio; possono contrastare i cluster di odio.

— Poiché molti gruppi di odio online hanno opinioni opposte, gli amministratori della piattaforma dovrebbero introdurre un gruppo artificiale di utenti per seminare divisione tra questi gruppi. I ricercatori hanno scoperto che questo tipo di battaglie potrebbe far cadere grandi gruppi di odio che hanno opinioni opposte.

Quanto è probabile? Alcune delle politiche, specialmente le ultime due, sono piuttosto radicali. Ma poiché gli approcci attuali sono così profondamente inefficaci, vale sicuramente la pena per le società di social media provarli. Passa a te, Mark Zuckerberg.

Iscriviti qui alla nostra newsletter quotidiana The Download per ottenere la tua dose delle ultime notizie da leggere dal mondo della tecnologia emergente.

nascondere