Perché i social media non possono continuare a moderare i contenuti nell'ombra

Pexel

Nel 2016, potevo contare su un lato il tipo di interventi che le aziende tecnologiche erano disposte a utilizzare per liberare le loro piattaforme da disinformazione, incitamento all'odio e molestie. Nel corso degli anni, meccanismi grezzi come il blocco dei contenuti e l'esclusione degli account si sono trasformati in un insieme più complesso di strumenti, tra cui la messa in quarantena di argomenti, la rimozione dei post dalla ricerca, il blocco dei consigli e il downgrade dei post in via prioritaria.

Eppure, anche con più opzioni a loro disposizione, la disinformazione rimane un problema serio. C'è stata molta copertura sulla disinformazione nel giorno delle elezioni: la mia collega Emily Drefyuss ha scoperto, ad esempio, che quando Twitter ha cercato di gestire i contenuti utilizzando l'hashtag #BidenCrimeFamily, con tattiche che includevano la de-indicizzazione bloccando i risultati di ricerca, gli utenti tra cui Donald briscola adattato utilizzando varianti dello stesso tag . Ma non sappiamo ancora molto su come Twitter abbia deciso di fare queste cose in primo luogo, o su come pesa e impara dai modi in cui gli utenti reagiscono alla moderazione.

Quali azioni hanno intrapreso queste aziende? Come funzionano i loro team di moderazione? Qual è il processo per prendere decisioni?

Poiché le società di social media hanno sospeso gli account, etichettato ed eliminato i post, molti ricercatori, organizzazioni della società civile e giornalisti si sono affrettati a comprendere le loro decisioni. La mancanza di trasparenza su tali decisioni e processi significa che, per molti, i risultati elettorali finiscono con un asterisco quest'anno, proprio come nel 2016.

Quali azioni hanno intrapreso queste aziende? Come funzionano i loro team di moderazione? Qual è il processo per prendere decisioni? Negli ultimi anni, le società di piattaforme hanno messo insieme grandi task force dedicate alla rimozione della disinformazione elettorale e all'etichettatura delle prime dichiarazioni di vittoria. Sara Roberts , professore all'UCLA, ha scritto del lavoro invisibile dei moderatori dei contenuti della piattaforma come un'industria ombra, un labirinto di appaltatori e regole complesse di cui il pubblico sa poco. Perché non ne sappiamo di più?

Nella nebbia post-elettorale, i social media sono diventati il ​​terreno per una guerra di basso grado alla nostra sicurezza cognitiva, con la proliferazione di campagne di disinformazione e teorie del complotto. Quando il settore del telegiornale svolgeva il ruolo di guardiano delle informazioni, lo era gravato da obblighi di interesse pubblico come la condivisione di informazioni tempestive, locali e pertinenti. Le società di social media hanno ereditato una posizione simile nella società, ma non si sono assunte le stesse responsabilità. Questa situazione ha caricato i cannoni per affermazioni di parzialità e censura nel modo in cui hanno moderato i contenuti relativi alle elezioni.

Sostenendo le spese

In ottobre, I aderito a una giuria di esperti su disinformazione, cospirazione e infodemia per il comitato ristretto permanente della Camera sull'intelligence. Ero affiancato da Cindy Otis, un'ex analista della CIA; Nina Jankowicz, ricercatrice della disinformazione al Wilson Center; e Melanie Smith, responsabile dell'analisi di Graphika.

Mentre preparavo la mia testimonianza, Facebook stava lottando per far fronte a QAnon, un movimento sociale militarizzato monitorato dal dipartimento delle organizzazioni pericolose e condannato da alla Camera con un disegno di legge bipartisan . La mia squadra lo è stata indagando su QAnon per anni . Questa teoria del complotto è diventata un argomento privilegiato tra i ricercatori della disinformazione a causa di tutti i modi in cui è rimasta estensibile, adattabile e resiliente di fronte agli sforzi delle società di piattaforme per metterla in quarantena e rimuoverla.

QAnon è diventato anche un problema per il Congresso, perché non si tratta più di persone che partecipano a a strano gioco online: è atterrato come un tornado nella vita dei politici, che ora sono il bersaglio di campagne di molestie che attraversano il la febbre sogna i cospirazionisti alla violenza . Inoltre, è successo rapidamente e in modi nuovi. Le teorie del complotto di solito impiegano anni per diffondersi nella società, con la promozione di figure politiche, mediatiche e religiose chiave. I social media hanno accelerato questo processo attraverso forme sempre crescenti di fornitura di contenuti. I follower di QAnon non si limitano a commentare le ultime notizie; lo piegano alla loro offerta .

Ho concentrato la mia testimonianza sui molti danni senza nome causati dall'incapacità delle società di social media di impedire che la disinformazione satura i loro servizi. Giornalisti, professionisti della salute pubblica e medici, leader della società civile e amministratori cittadini, come le forze dell'ordine e i funzionari elettorali, stanno sopportando il costo della disinformazione su larga scala e l'onere di affrontarne gli effetti. Molte persone affrontano le questioni politiche in punta di piedi quando chiacchierano con amici e familiari, ma quando la disinformazione sulle proteste ha iniziato a mobilitare i vigilantes bianchi e la disinformazione medica ha portato le persone a minimizzare la pandemia, diversi settori professionali hanno assunto nuovi importanti ruoli come sostenitori della verità .

Prendi la salute pubblica e i professionisti medici, che hanno dovuto sviluppare risorse per mitigare la disinformazione medica sul covid-19. I medici stanno tentando di diventare influencer online per correggere consigli fasulli e false affermazioni di cure miracolose, sottraendo tempo alla fornitura di cure o allo sviluppo di trattamenti. Molte redazioni, nel frattempo, si sono adattate alla normalizzazione della disinformazione sui social media sviluppando un ritmo di disinformazione, sfatando le teorie del complotto o le affermazioni di notizie false che potrebbero influenzare i loro lettori. Ma queste risorse sarebbero spese molto meglio per sostenere il giornalismo piuttosto che agire essenzialmente come moderatori di contenuti di terze parti.

Storia correlata

Grazie per aver pubblicato: Lezioni sul fumo per la regolamentazione dei social media Gli ex dirigenti di Facebook ammettono di aver utilizzato il playbook dell'industria del tabacco per prodotti che creano dipendenza. Forse può anche essere usato per riparare il danno.

Anche le organizzazioni della società civile sono state costrette a spendere risorse per monitorare la disinformazione e proteggere la propria base da campagne mirate. Disinformazione razzista è una tattica condita di operazioni di influenza interna ed estera: le campagne o impersonano comunità di colore o usano il razzismo per aumentare la polarizzazione sulle questioni del cuneo. Brandi Collins-Dexter ha testimoniato su questi problemi in un'audizione del Congresso a giugno, evidenziando come le aziende tecnologiche si nascondano dietro le chiamate per proteggere la libertà di parola a tutti i costi senza fare abbastanza per proteggere le comunità nere prese di mira quotidianamente sui social media con disinformazione medica, incitamento all'odio, incitamento e molestie.

Funzionari elettorali , il personale delle forze dell'ordine e i primi soccorritori sono in grave svantaggio nel tentativo di svolgere il proprio lavoro mentre voci e teorie del complotto si diffondono online. Proprio adesso, le forze dell'ordine si preparano alla violenza nei seggi elettorali.

Un percorso per migliorare

Quando la disinformazione si diffonde dal mondo digitale a quello fisico, può reindirizzare le risorse pubbliche e minacciare la sicurezza delle persone. Questo è il motivo per cui le società di social media devono prendere la questione tanto seriamente quanto prendono il loro desiderio di trarre profitto.

Ma hanno bisogno di un percorso per migliorare. Sezione 230 della legge sulle comunicazioni e la decenza consente alle società di social media di migliorare la moderazione dei contenuti, ma i politici hanno minacciato di rimuovere queste protezioni così possono continuare con le proprie campagne di propaganda. Per tutta l'udienza di ottobre, si è profilato lo spettro di una nuova agenzia in grado di controllare in modo indipendente le violazioni dei diritti civili, esaminare le questioni della privacy dei dati e valutare le esternalità di mercato di questo settore su altri settori.

Come ho sostenuto durante l'audizione, l'enorme portata dei social media in tutto il mondo significa che è importante che la regolamentazione non inizi con lo smantellamento della Sezione 230 fino a quando non sarà in vigore una nuova politica.

Fino ad allora, abbiamo bisogno di maggiore trasparenza. La disinformazione non riguarda solo i fatti; si tratta di chi può dire quali sono i fatti. Le giuste decisioni di moderazione dei contenuti sono fondamentali per la responsabilità pubblica.

Piuttosto che aggrapparsi alla tecnostalgia per un periodo in cui non è stato così male, a volte vale la pena chiedersi cosa ci vorrebbe per non inventare i social media, in modo da poter tracciare un percorso per il web che vogliamo: un web che promuova la democrazia, conoscenza, cura ed equità. Altrimenti, ogni decisione inspiegabile delle società tecnologiche sull'accesso alle informazioni diventa potenzialmente foraggio per i cospirazionisti e, peggio ancora, la base per il superamento della politica governativa.

nascondere