La sparatoria di massa in Nuova Zelanda mostra quanto siano distrutti i social media

Categoria: Silicon Valley Inserito 15 marzo

Un uomo armato ha trasmesso in live streaming l'omicidio di dozzine di innocenti in due moschee a Christchurch, in Nuova Zelanda, venerdì, e il mondo ha ricevuto un terribile promemoria di quanto siano imperfette le politiche e gli algoritmi dei social media esistenti per controllare i contenuti violenti e offensivi.

Nei giorni precedenti la sparatoria, l'autore apparentemente si vantava dei suoi piani e aveva pubblicato un manifesto online. Ha poi trasmesso l'orribile atto in diretta su Facebook. L'attacco ha provocato 49 morti e decine di feriti.

Trasmissione in diretta: Negli ultimi 18 mesi, a seguito di molestie e scandali di fake news, le società di social media lo hanno fatto ha investito molto nei moderatori dei contenuti . Ma questo ha fatto ben poco per impedire la diffusione del video delle riprese. Secondo quanto riferito, non solo il live streaming è durato 20 minuti, ma il video risultante è stato poi ripubblicato su YouTube, con alcune clip che sono rimaste attive per oltre un'ora.

Diversi fattori hanno contribuito a far scivolare il filmato attraverso i filtri, secondo gli esperti.

Sfida in tempo reale: È fondamentale catturare rapidamente un video, in modo che non si diffonda su altre piattaforme. Ma la moderazione dei social media semplicemente non è orientata alla cattura dei contenuti in tempo reale. È impossibile automatizzare il processo in modo efficace e identificare i flussi live che devono essere chiusi manualmente è come trovare un ago nel pagliaio di dati che fluiscono continuamente sulla rete, afferma Sapone Carlo , professore alla School of Journalism della NYU. Aggiunge che Facebook potrebbe richiedere agli utenti di costruirsi una reputazione prima di consentire loro di trasmettere contenuti in live streaming, per ridurre i rischi.

Colpisci una talpa: I moderatori sono sopraffatti nel migliore dei casi. Il video delle riprese ospitato su YouTube molto probabilmente si è diffuso così rapidamente che gli umani impiegati per verificare la presenza di contenuti inappropriati non hanno avuto il tempo di catturare tutto. Questi lavoratori in genere hanno alcuni secondi per effettuare una chiamata. Il processo può essere in parte automatizzato, ma coloro che hanno ripubblicato il filmato apparentemente lo hanno ritagliato e introdotto distorsioni per evitare questi algoritmi.

Fallimento algoritmico: Le società di social media utilizzano anche modifiche algoritmiche per de-priorità ai contenuti sospetti. Ma Mike Ananny , professore associato presso la University of Southern California, afferma che questi algoritmi sono stati probabilmente lanciati dalla popolarità dei video offensivi.

Non è un nostro problema: Questi fattori riflettono il problema sistemico chiave: Facebook, YouTube e altre grandi piattaforme social non si considerano in primo luogo gli arbitri dei contenuti. La ricerca ha dimostrato che le fonti di informazione di estrema destra possono essere controllate in modo più proattivo per prevenire la diffusione di materiale violento o odioso. Hanno questo atteggiamento di essere post hoc, dice Ananny. È una cosa culturale profonda.