Ovviamente avresti potuto vederlo arrivare

Chris Kleponis/Sipa USA, tramite AP Images

Forse l'hai visto arrivare quasi un decennio fa, quando #YourSlipIsShowing ha messo a nudo il modo in cui gli utenti razzisti di Twitter stavano impersonando le donne nere su Internet. Forse, per te, è stato durante Gamergate, la campagna di abusi online rivolta alle donne del settore. O forse è stata la sparatoria di massa a Christchurch, in Nuova Zelanda, quando un uomo armato si è immerso nella cultura di 8chan si è trasmesso in live streaming uccidendo dozzine di persone.

Forse è stato quando tu, il tuo amico o la tua comunità siete diventati il ​​bersaglio di una mafia estremista online e avete visto la rabbia online diventare un pericolo e un danno nel mondo reale.

O forse quello che è successo mercoledì, quando una marmaglia di sostenitori di Trump alimentati da Internet ha invaso il Campidoglio, è stata una sorpresa.

Per settimane hanno pianificato la loro azione in bella vista su Internet, ma per anni ti hanno mostrato chi sono. Il livello di shock che provi in ​​questo momento riguardo al potere e al pericolo dell'estremismo online dipende dal fatto che tu stia prestando attenzione.

Le conseguenze dell'inerzia

La folla che ha cercato di impedire al Congresso di confermare la vittoria presidenziale di Joe Biden ha mostrato come la stupidità e il pericolo di Internet di estrema destra potrebbero tornare nel mondo reale, ma questa volta ha colpito al centro del governo degli Stati Uniti. Gli streamer neonazisti non erano solo all'interno del Campidoglio; stavano organizzando uno spettacolo per un pubblico di decine di migliaia di persone che li incitava nelle chat. La mafia si stava divertendo a fare meme nei corridoi della democrazia americana nei panni di una donna... una sostenitrice di Trump la cui storia sui social media mostra la sua devozione a QAnon —è stato ucciso mentre cercava di entrare negli uffici del Congresso.

Storia correlata

Come una bugia di Internet sull'invasione del Campidoglio si è trasformata in una teoria del complotto istantanea False affermazioni secondo cui l'invasione del Congresso è stata organizzata a un ritmo vertiginoso, grazie ad attivisti, media e politici repubblicani.

L'anno scorso, soprattutto dopo la pandemia, è stata una gigantesca dimostrazione delle conseguenze dell'inazione: le conseguenze dell'ignorare le molte, molte persone che hanno implorato le società di social media di prendere gli estremisti che creano meme e i teorici della cospirazione che hanno prosperato seriamente le loro piattaforme.

Facebook e Twitter hanno agito per rallentare l'ascesa di QAnon durante l'estate , ma solo dopo che la teoria del complotto pro-Trump è stata in grado di farlo crescere relativamente senza restrizioni lì per tre anni . I divieti di account e le modifiche agli algoritmi sono stati a lungo troppo piccoli, troppo tardi per affrontare razzisti, estremisti e teorici della cospirazione, e raramente hanno affrontato il fatto che questi potenti sistemi funzionavano esattamente come previsto.

Ho parlato con una piccola manciata di persone che avrebbero potuto dirti che sarebbe arrivata una storia in ottobre. Ricercatori, tecnologi e attivisti mi hanno detto che le principali società di social media hanno, per l'intera vita della loro storia, scelto di non fare nulla o di agire solo dopo le loro piattaforme causano abusi e danni.

Ariel Waldman ha cercato di convincere Twitter ad affrontare in modo significativo gli abusi lì nel 2008. Ricercatori come Shafiqah Hudson, I'Nasah Crockett e Shireen Mitchell hanno monitorato esattamente come funzionano le molestie e trovano un pubblico su queste piattaforme per anni. Whitney Phillips ha parlato di come sia perseguitata dalle risate, non solo delle altre persone, ma anche della sua, nei primi giorni della sua ricerca sulla cultura online e sul trolling, quando ricercatori e personalità prevalentemente bianche trattavano gli estremisti tra loro come curiosità taglienti.

Molte, molte persone hanno implorato le società di social media di prendere sul serio gli estremisti che creano meme e i teorici della cospirazione.

Ellen Pao, che ha servito brevemente come CEO di Reddit nel 2014 e si è dimessa dopo aver introdotto la prima politica anti-molestie della piattaforma, è rimasta sbalordita dal fatto che Reddit avesse bandito r/The_Donald solo nel giugno 2020, dopo che le prove erano state costruite per anni per dimostrare che il popolare La bacheca pro-Trump fungeva da spazio organizzativo per gli estremisti e da canale per gli abusi della mafia. Ovviamente, quando è stato bandito, molti dei suoi utenti erano già migrati da Reddit a TheDonald.win, un forum indipendente creato dalle stesse persone che gestivano la versione precedente. Le sue pagine erano piene di decine di appelli alla violenza prima della manifestazione di mercoledì si è trasformato in tentativo di colpo di stato.

Bandire Trump non risolve il problema

Ovviamente Facebook, Twitter e YouTube non hanno creato idee complottiste o ideologie estremiste. Né hanno inventato l'idea di pericolosi culti della personalità. Ma queste piattaforme, in base alla progettazione, hanno consegnato a quei gruppi i meccanismi per raggiungere un pubblico molto più ampio molto più velocemente e per reclutare e radicalizzare nuovi convertiti, anche a spese delle persone e delle comunità che quelle ideologie prendono di mira per gli abusi. E soprattutto, anche quando era chiaro cosa stava succedendo, hanno scelto la quantità minima di cambiamento o hanno deciso di non intervenire affatto.

Sulla scia del tentato colpo di stato al Campidoglio, le persone stanno nuovamente guardando le principali società di social media per vedere come rispondono. Il focus è sui conti personali di Trump , che usava per incoraggiare i sostenitori a scendere in DC e poi per elogiarli quando lo facevano. Sarà bandito da Twitter? Ci sono argomenti convincenti sul perché dovrebbe esserlo.

Ma per quanto pesante e consequenziale sarebbe, lo è anche, in altri modi... no. Abusi, molestie, idee complottiste e razzismo potranno ancora trarre vantaggio dalle società di social media che rimangono interessate ad agire solo quando è troppo tardi, anche senza che Trump le ritwitti e le istighi.

Facebook ha bandito Trump a tempo indeterminato e ha anche aumentato la moderazione dei gruppi, dove vivono molte attività alimentate dalla cospirazione. Questi cambiamenti sono positivi, ma, ripeto, non nuovi: le persone ne parlano da anni a Facebook; Facebook dipendenti ne hanno parlato a Facebook per anni. I gruppi sono stati determinanti nell'organizzazione delle proteste Stop the Steal nei giorni successivi alle elezioni, e prima ancora nelle proteste contro le maschere, e prima ancora nella diffusione di notizie false, e prima ancora come spazio centrale per la disinformazione contro i vaccini. Niente di tutto questo è nuovo.

Ci sono solo tanti modi per dire che più persone avrebbero dovuto ascoltare. Se stai prestando attenzione ora, forse inizierai finalmente a sentire quello che dicono.

nascondere