L'automoderatore di Reddit è il futuro di Internet e profondamente imperfetto

immagine di un uomo che guarda il codice del computer tre monitor automoderator automod moderazione reddit Jefferson Santos tramite Unsplash

Negli ultimi quattro anni, Shagun Jhaver ha moderato diversi subreddit, scorrendo diligentemente le pagine e bloccando i post che violano le regole della community o sono addirittura offensivi.

Studente di dottorato alla Georgia Tech la cui ricerca si concentra sulla moderazione dei contenuti, Jhaver si è chiesto se un moderatore automatico potesse aiutarlo a risparmiare non solo tempo, ma anche il costo mentale di vagliare contenuti psicologicamente drenanti. Quindi, insieme a tre colleghi, ha deciso di capire se un moderatore automatico, in questo caso, AutoMod — funzionava davvero.

Il team ha moderato personalmente diverse pagine su Reddit e poi ha condotto interviste con altri 16 moderatori di alcuni dei subreddit più popolari del sito, inclusi r/photoshopbattles, r/space, r/explainlikeimfive, r/oddlysatisfying e r/politics, ciascuno di cui ha milioni di abbonati. Tutti si affidano ad AutoMod per aiutarli a moderare. Jhaver presenterà il opera la prossima settimana al Conferenza ACM sul lavoro cooperativo supportato dal computer e sul social computing .

Le piattaforme di social media come Facebook , Instagram e YouTube si affidano da tempo a moderatori umani per setacciare manualmente i contenuti e rimuovere materiale violento e offensivo che spazia dall'incitamento all'odio razzista e sessista al video grafico di sparatorie di massa. Spesso lavorando a contratto, al salario minimo con pochi benefici, i moderatori possono ritrovarsi a fare lunghe ore mentre vengono presi a pugni con contenuti che mette a dura prova la loro salute mentale .

Gli automoderatori sono un tentativo di mitigare la noia e gli effetti negativi di tale lavoro. Sviluppato dal Redditor Chad Birch come un modo per aumentare la sua capacità di moderare il canale r/gaming, AutoMod è uno strumento basato su regole per identificare le parole che violano le politiche di pubblicazione di una determinata pagina. Da allora è diventato ampiamente utilizzato: Reddit lo ha adottato in tutto il sito nel 2015 e le popolarissime piattaforme di streaming di giochi Twitch e Discord hanno seguito l'esempio subito dopo.

Tuttavia, è discutibile se AutoMod sia effettivamente un risparmio di tempo. Da un lato, gli automoderatori sono molto bravi in ​​quello che fanno: se sono programmati per trovare parolacce, troveranno e bloccheranno i post che le contengono immancabilmente. Può inviare notifiche ai poster su contenuti problematici, che secondo Jhaver sono educativi, in quanto gli autori possono scoprire cosa c'era di sbagliato in qualsiasi cosa abbiano pubblicato.

Non è un'impresa da poco. Come notano Jhaver e i suoi colleghi, circa il 22% di tutti gli invii su Reddit tra marzo e ottobre 2018 sono stati rimossi. Ciò arriva a circa 17,4 milioni di post in quel periodo di tempo.

Ma diciamo che la parola è importante per il contesto nel post, una discussione nel 2016 sul famigerato futuro presidente Donald Trump commento sull'afferrare i genitali di una donna , Per esempio. Tali post verrebbero segnalati a causa del linguaggio offensivo, anche se discutere di tale linguaggio è in primo luogo il punto del post. Jhaver dice che questo frustra gli utenti, che poi devono tornare indietro e chiedere ai moderatori di ripristinare il post.

E in un mondo di social media in cui i contenuti preoccupanti sono sempre più costituiti da meme offensivi, streaming live di sparatorie o altri contenuti visivi senza testo, la dipendenza di AutoMod dalla ricerca di parole chiave è una grande responsabilità.

Robert Peck, un moderatore per i grandi subreddits r/pics e r/aww, lo sa fin troppo bene. Ognuna di queste pagine è guidata dall'immagine e ognuna ha milioni di follower che pubblicano molti più contenuti di quanto si possa ragionevolmente chiedere a chiunque di vagliare.

Tuttavia, afferma che anche se non è in grado di analizzare le immagini, AutoMod ha semplificato il suo lavoro. Gli utenti aggiungono descrittori alle immagini direttamente e noi possiamo controllare quei titoli, dice. Cerchiamo account fating o spam con account che automatizzano i post. Usano spesso le parentesi. Possiamo dire ad AutoMod di cercare quei modelli.

Piaccia o no, AutoMod e simili sono il futuro della moderazione delle piattaforme social. Probabilmente sarà sempre imperfetto, perché le macchine sono ancora lontane dal comprendere veramente il linguaggio umano. Ma questo è ciò che dovrebbe essere l'automazione: risparmiare tempo alle persone in compiti noiosi o discutibili. Essere in grado di concentrarsi sui post che richiedono un tocco umano rende il lavoro di un moderatore molto più prezioso e consente sia ai moderatori che ai poster di concentrarsi sull'avere conversazioni migliori.

Non risolverà il problema delle persone che pubblicano contenuti sgradevoli, dannosi o comunque deleteri, che sarà ancora uno dei problemi più spinosi che affliggono Internet moderno. Ma sta facendo la differenza. Peck dice di essere grato per la capacità di AutoMod di aiutarlo a elaborare i post in batch. È un potente pezzo di tecnologia e abbastanza facile da usare, niente vicino alla difficoltà di programmare un bot equivalente, dice. [AutoMod] è il mio strumento più potente e senza di esso sarei perso.

nascondere