Facebook ha bisogno di 30.000 dei propri moderatori di contenuti, afferma un nuovo rapporto

Associated Press Associated Press

Immagina se Facebook smettesse di moderare il suo sito in questo momento. Chiunque può postare tutto ciò che vuole. L'esperienza sembra suggerire che diventerebbe abbastanza rapidamente a ambiente infernale invaso da spam, bullismo, criminalità, decapitazioni terroristiche, testi neonazisti e immagini di abusi sessuali su minori. In quello scenario, vaste fasce della sua base di utenti probabilmente se ne andrebbero, seguite dagli inserzionisti redditizi.

Ma se la moderazione è così importante, non viene trattata come tale. La stragrande maggioranza delle 15.000 persone che passano tutto il giorno a decidere cosa può e non può essere su Facebook non lavora nemmeno per Facebook. L'intera funzione di moderazione dei contenuti è affidata a fornitori di terze parti, che impiegano lavoratori temporanei sui contratti precari in oltre 20 siti in tutto il mondo. Devono rivedere centinaia di post al giorno, molti dei quali lo sono profondamente traumatizzante . Gli errori sono abbondante , nonostante l'adozione da parte della società di Strumenti di intelligenza artificiale per triage post in base ai quali richiedono attenzione. Facebook stesso ha ammesso un tasso di errore del 10%, sia che si tratti di segnalare in modo errato i post da rimuovere che dovrebbero essere mantenuti o viceversa. Dato che i revisori devono leggere tre milioni di post al giorno, ciò equivale a 300.000 errori al giorno. Alcuni errori possono avere effetti mortali. Ad esempio, i membri delle forze armate del Myanmar hanno utilizzato Facebook per incitare al genocidio contro la minoranza Rohingya, per lo più musulmana, nel 2016 e nel 2017. La compagnia lo ha successivamente ammesso non è riuscito a far rispettare le proprie politiche vietare l'incitamento all'odio e l'incitamento alla violenza.

Se vogliamo migliorare il modo in cui viene eseguita la moderazione, Facebook deve portare internamente i moderatori dei contenuti, renderli dipendenti a pieno titolo e raddoppiare il loro numero, sostiene un nuovo rapporto dello Stern Center for Business and Human Rights della New York University.

La moderazione dei contenuti non è come altre funzioni esternalizzate, come cucinare o pulire, afferma l'autore del report Paul M. Barrett, vicedirettore del centro. È una funzione centrale del business dei social media e questo rende alquanto strano che venga trattato come se fosse un problema periferico o di qualcun altro.

Perché la moderazione dei contenuti viene trattata in questo modo dai leader di Facebook? Almeno in parte dipende dai costi, dice Barrett. I suoi consigli sarebbero Molto costoso per l'azienda da attuare, molto probabilmente in decine di milioni di dollari (anche se per mettere questo in prospettiva, rende miliardi di dollari di profitto ogni anno). Ma c'è una seconda ragione, più complessa. L'attività di moderazione dei contenuti semplicemente non si adatta all'immagine di sé della Silicon Valley. Alcuni tipi di attività sono molto apprezzati e affascinanti: innovazione di prodotto, marketing intelligente, ingegneria... il mondo nocciolo della moderazione dei contenuti non si adatta a questo, dice.

Pensa che sia giunto il momento per Facebook di trattare la moderazione come una parte centrale della sua attività. Dice che elevare il suo status in questo modo aiuterebbe a evitare il tipo di errori catastrofici commessi in Myanmar, aumenterebbe la responsabilità e proteggerebbe meglio i dipendenti dai danni alla loro salute mentale.

Sembra una realtà inevitabile che la moderazione dei contenuti comporterà sempre l'esposizione a materiale orribile, anche se il lavoro viene portato all'interno dell'azienda. Tuttavia, c'è molto di più che l'azienda potrebbe fare per renderlo più semplice: selezionare meglio i moderatori per assicurarsi che siano veramente consapevoli dei rischi del lavoro, ad esempio, e assicurarsi che abbiano a disposizione cure e consulenza di prim'ordine. Barrett pensa che la moderazione dei contenuti potrebbe essere qualcosa che tutti i dipendenti di Facebook sono tenuti a fare per almeno un anno come una sorta di turno di servizio per aiutarli a comprendere l'impatto delle loro decisioni.

Il rapporto formula otto raccomandazioni per Facebook:

• Interrompere l'esternalizzazione della moderazione dei contenuti e aumentare la postazione dei moderatori sul posto di lavoro.
• Raddoppia il numero di moderatori per migliorare la qualità della revisione dei contenuti.
• Assumi qualcuno per supervisionare i contenuti e verificare i fatti che riporti direttamente al CEO o COO.
• Espandere ulteriormente la moderazione nei paesi a rischio in Asia, Africa e altrove.
• Fornire a tutti i moderatori cure mediche in loco di alta qualità, incluso l'accesso agli psichiatri.
• Sponsorizzare la ricerca sui rischi per la salute della moderazione dei contenuti, in particolare PTSD.
• Esplora la regolamentazione governativa su misura per i contenuti dannosi.
• Espandi significativamente il controllo dei fatti per sfatare le informazioni false.

Le proposte sono a dir poco ambiziose. Quando è stato contattato per un commento, Facebook non ha discusso se avrebbe preso in considerazione la possibilità di metterli in atto. Tuttavia, un portavoce ha affermato che il suo approccio attuale significa che possiamo regolare rapidamente l'attenzione della nostra forza lavoro secondo necessità, aggiungendo che ci dà la possibilità di assicurarci di avere la giusta competenza linguistica e di poter assumere rapidamente in diversi fusi orari, in base alle nuove esigenze si verificano o quando una situazione nel mondo lo giustifica.

Ma Barrett pensa che un recente esperimento condotto in risposta alla crisi del coronavirus mostri che il cambiamento è possibile. Facebook ha annunciato che, poiché molti dei suoi moderatori di contenuti non erano in grado di entrare negli uffici dell'azienda, lo avrebbe fatto trasferire la responsabilità ai dipendenti interni per il controllo di determinate categorie di contenuti sensibili.

Trovo molto significativo che in un momento di crisi, Zuckerberg abbia fatto affidamento sulle persone di cui si fida: i suoi dipendenti a tempo pieno, dice. Forse questo potrebbe essere visto come la base per una conversazione all'interno di Facebook sull'adeguamento del modo in cui visualizza la moderazione dei contenuti.

nascondere