Come WeChat censura le conversazioni private, automaticamente in tempo reale

Illustrazione concettuale della censura delle immagini di WeChat La signora Tech

WeChat è una finestra sul futuro di Internet in molti modi diversi.

Con sede in Cina e con oltre 1,1 miliardi di utenti globali, è una delle app più avanzate e popolari al mondo. Ciò che è straordinario è il modo in cui raggiunge così tanti angoli della vita di un cinese: è il modo in cui gran parte del paese chatta, paga, gioca, si muove e molto altro. Mentre Mark Zuckerberg contempla il futuro di Facebook, è sempre più WeChat che sta cercando di farlo emulare .

C'è di più in questa cosiddetta super app oltre a messaggistica, cibo, automobili e pagamenti. L'ambizione onnicomprensiva di WeChat include alcune delle tecnologie di censura più all'avanguardia, ad azione rapida e di vasta portata sulla terra.

Nuova ricerca del CitizenLab dell'Università di Toronto, apre il sipario su come la censura automatica e in tempo reale di testi e immagini di WeChat viene utilizzata per esercitare il controllo sulla discussione politica su argomenti che vanno da questioni internazionali come la guerra commerciale con gli Stati Uniti a scandali interni come la scomparsa di atti giudiziari in una controversia del 2018 tra due società minerarie cinesi multimiliardarie. Tutte le discussioni sono in definitiva soggette all'approvazione del governo cinese.

I censori di WeChat devono affrontare due tipi di sfide. I grandi post pubblici su WeChat Moments, una funzione pubblica simile alla Timeline di Facebook, vengono esaminati e filtrati da algoritmi che a volte possono richiedere più di 10 secondi per essere eseguiti, un ritmo glaciale sui social media. Ma i messaggi individuali e di gruppo sono un problema completamente diverso, perché spesso sono conversazioni intime e istantanee. Ciò richiede una censura in tempo reale.

Il testo è relativamente facile da cercare e censurare. Il filtraggio delle immagini è più difficile, soprattutto quando stai cercando di esaminare e censurare le immagini quasi istantaneamente. Per svolgere questo compito, WeChat mantiene un indice enorme e in continua crescita di hash MD5, piccole firme di dati crittografici che sono univoche per ogni file. Quando viene inviata un'immagine censurata, verrà catturata dall'indice hash ed eliminata. È probabile che né il mittente né il destinatario sappiano mai che qualcosa è stato censurato.

Se l'immagine non viene censurata all'istante, viene inviata per l'analisi automatica. Usando il riconoscimento ottico dei caratteri, l'immagine viene esaminata per il testo (l'invio di schermate di articoli di giornale una volta era un modo semplice per superare la censura). L'immagine viene quindi controllata per la somiglianza visiva con altre immagini censurate. I cosiddetti contenuti dannosi, incluso qualsiasi cosa sulla politica internazionale o interna ritenuta indesiderabile dal Partito Comunista Cinese, verranno annusati, rimossi dalla conversazione e quindi aggiunti a quell'indice hash originale, che da quel momento in poi lo segnala per la censura istantanea . È un sistema auto-rinforzante che cresce con ogni immagine inviata. Questi ultimi sistemi vengono utilizzati anche su WeChat's Moments per controllare e creare la blacklist dinamica dell'azienda.

Il gigante tecnologico cinese Tencent, proprietario di WeChat, è sottoposto a forti pressioni da Pechino per implementare una tecnologia di censura efficace, afferma Adam Segal, direttore del programma di politica digitale e cyberspazio presso il Council on Foreign Relations. Le aziende cinesi sono tutte responsabili dei contenuti e, sebbene abbiano fatto affidamento su decine di migliaia di censori umani, hanno anche sviluppato nuovi approcci [di apprendimento automatico] per la rimozione dei contenuti. All'interno della Cina, fa parte della tendenza più ampia sotto Xi Jinping di inasprire i controlli su Internet e sulla società cinese in generale.

WeChat è così pervasivo in Cina che la prospettiva di essere sospeso o bandito può sconvolgere la vita. L'app combina le funzionalità di Facebook, Uber, GrubHub e altro ancora. Puoi prenotare visite mediche, pagare bollette, parlare con contatti professionali o impegnarti nei servizi governativi.

Questa è davvero diventata una mega-app, afferma Sarah Cook, analista di ricerca senior per l'Asia orientale presso il gruppo di ricerca pro-democrazia Freedom House. È davvero difficile funzionare nella società cinese moderna senza usare WeChat, quindi l'effetto agghiacciante è reale.

Sotto la direzione di Pechino, i censori di Tencent rispondono abilmente all'attualità. Oltre a eventi storici mortali come le proteste di Piazza Tienanmen e la Rivoluzione Culturale, vengono rapidamente aggiunti nuovi eventi.

I ricercatori hanno scoperto che eventi degni di nota come l'arresto di un dirigente Huawei con l'accusa di frode e lo scandalo CRISPR-baby in cui uno scienziato cinese ha annunciato la nascita di ragazze con genomi modificati hanno innescato ondate di censura. Così ha fatto una miriade di altre questioni, come il conflitto con gli Stati Uniti e la corruzione interna o altri problemi.

Un evento ha innescato immagini ancora più censurate: nel dicembre 2018 è scoppiato uno scandalo quando la Corte Suprema cinese ha ammesso la scomparsa di documenti in una controversia miliardaria tra compagnie minerarie. I ricercatori hanno scoperto che decine di immagini relative al presunto furto dei documenti sono state censurate.

Negli ultimi anni, hai avuto la combinazione di inasprire le restrizioni della censura e inasprire i controlli, dice Cook. C'è meno tolleranza ufficiale per la conversazione, l'espressione e il networking che erano stati tollerati in precedenza. Hai visto Tencent e WeChat, in particolare, essere colpiti da multe. Quindi ora stanno cercando di utilizzare nuovi metodi per catturare i cosiddetti 'contenuti dannosi' che il Partito Comunista Cinese vuole fermare. È qui che entra in gioco la censura automatizzata in tempo reale.

nascondere