Le regole di moderazione trapelate da Facebook mostrano perché Big Tech non può controllare l'incitamento all'odio

Categoria: Silicon Valley Inserito 28 dic

La società ha chiesto a Big Tech di chiudere l'incitamento all'odio online. Abbiamo esattamente quello che abbiamo chiesto.

Le notizie: Max Fisher del New York Times estratti pubblicati da oltre 1.400 pagine di documenti interni di Facebook, contenenti regole per l'esercito globale dell'azienda composto da oltre 7.500 moderatori di contenuti. (La scheda madre aveva precedentemente pubblicato parte dello stesso materiale.)

Cosa c'è dentro? Un miscuglio tentacolare di linee guida, restrizioni e classificazioni. Le regole sull'incitamento all'odio da sole vanno a 200 pagine piene di gergo e da capogiro. Includono dettagli su come interpretare le emoji (l'uso di ? può essere sia bullismo che elogia, a quanto pare) ed elenchi di persone o partiti politici da monitorare per possibili incitamenti all'odio. I documenti mostrano che Facebook è un arbitro del discorso globale molto più potente di quanto abbia ammesso, scrive Fisher.

Il problema: Le linee guida non sono solo bizantine; alcuni non sono aggiornati o contengono errori. Variano anche ampiamente a seconda della pressione che subisce l'azienda: Facebook blocca dozzine di gruppi di estrema destra in Germania, dove le autorità controllano il social network, ma solo uno nella vicina Austria. I moderatori, la maggior parte dei quali lavorano per società di outsourcing e ricevono una formazione minima, dovrebbero esprimere giudizi complessi in pochi secondi, elaborazione di mille post al giorno , con regole che cambiano frequentemente in risposta a eventi politici e spesso utilizzando Google Translate.

L'asporto: Questo elimina qualsiasi rimanendo pretesa che Facebook è solo una piattaforma di pubblicazione neutrale. I giudizi politici permeano ogni pagina di queste linee guida.

Ma cosa ti aspettavi? Come mi ha detto in ottobre l'ex capo della sicurezza di Facebook, Alex Stamos, abbiamo chiesto alle piattaforme tecnologiche di incitare all'odio e questo dà loro solo più potere. È un percorso pericoloso, avvertì Stamos. Tra cinque o dieci anni potrebbero esserci sistemi di apprendimento automatico in grado di comprendere le lingue umane oltre che quelle umane. Potremmo finire con la velocità della macchina, la moderazione in tempo reale di tutto ciò che diciamo online.