Le persone terribili hanno imparato a sfruttare Internet. Yasmin Green sta combattendo.

Il team di Jigsaw di Alphabet riporta le persone radicalizzate online dall'orlo del baratro, un video alla volta. Di

• Martin Giles pagina di archivio

19 febbraio 2018

Landon Speers

Incitamento all'odio, radicalizzazione online, tutorial sulla fabbricazione di bombe, notizie false sponsorizzate dallo stato, censura web: Internet è un posto terribile.

Una parte lo è, comunque. Contribuire a mantenere quella parte il più piccola possibile è il lavoro di Yasmin Green, direttore della ricerca e sviluppo di Jigsaw, un braccio della società madre di Google, Alphabet. Affronta terroristi e troll allo stesso modo con un gruppo multinazionale di circa 60 specialisti, tra cui ingegneri del software, ricercatori e product manager. Possono anche attingere alle enormi risorse di Google. Ma Green e i suoi colleghi non passano tutto il loro tempo a programmare e costruire; molti di loro si recano anche in punti caldi geopolitici per studiare da vicino la radicalizzazione. Ha parlato con Revisione della tecnologia del MIT su alcuni dei metodi del gruppo.

Questa storia faceva parte del nostro numero di marzo 2018

• Vedi il resto del problema
• sottoscrivi

Cosa ti ha portato al ruolo in Jigsaw?

Ho lasciato l'Iran, dove sono nato, in tenera età e sono cresciuto nel Regno Unito. Ricordo di essere tornato all'età di 19 anni e di essermi sentito sbalordito dal livello di censura che c'era nel paese, sia offline che online. Termini come World Wide Web tendono a suonare ironici per le persone che non vivono in paesi in cui le informazioni sono gratuite. Quindi sono stato attratto dal lavoro in un'azienda che cerca di rendere le informazioni disponibili a tutti.

Landon Speers

Jigsaw si occupa delle minacce online, ma i membri del team visitano anche le zone di conflitto come parte del loro lavoro. Qual è l'obiettivo di questi viaggi?

Vogliamo assicurarci di progettare una tecnologia basata sulla comprensione delle esperienze umane. Gran parte della nostra metodologia consiste nell'inviare i membri del team sul campo per intervistare le persone che sono in prima linea nelle sfide che cerchiamo di affrontare, che si tratti di repressione o conflitto. Una delle nostre gite sul campo è stata in Iraq, dove ci siamo seduti faccia a faccia con persone che si erano unite e poi hanno lasciato il gruppo terroristico noto come ISIS. Volevamo capire il processo di radicalizzazione, sia gli elementi umani ma anche il ruolo svolto dalla tecnologia. Abbiamo sentito di come le persone hanno scoperto l'ISIS, di come le persone sono state reclutate e di come la tecnologia è stata utile alla logistica del loro viaggio [per unirsi al gruppo].

Qual è la lezione più importante che abbiamo imparato sulla capacità dell'ISIS di sfruttare Internet per il reclutamento?

L'ISIS domina praticamente molti media, dalla radio ai volantini. Quando si tratta di Internet, hanno davvero compreso il potere del microtargeting. Creano contenuti in un lungo elenco di lingue, inclusi arabo e inglese, ma vanno avanti all'infinito e arrivano persino al cinese e all'ebraico. La lingua che mi ha davvero sbalordito nel vedere un video è stata la lingua dei segni. Quindi stanno creando materiali di reclutamento molto locali e utilizzando gli algoritmi disponibili attraverso i social media per distribuire questo materiale e raggiungere le persone in tutti gli angoli del mondo.

Alcuni dei contenuti che le reti terroristiche pubblicano online devono chiaramente essere rimossi. Ma come affrontiamo le forme più sottili di propaganda?

Ci sono sicuramente categorie di contenuti che vuoi assicurarti che non vedano la luce del giorno, come le decapitazioni e i tutorial sulla fabbricazione di bombe. Poi c'è tutta una serie di altri contenuti che in realtà non sostengono la violenza, ma potrebbero aiutare a far avanzare le persone lungo il percorso verso di essa. La nostra ricerca mirava a capire quali fossero i temi di reclutamento che hanno spinto le persone a iscriversi all'ISIS. Si scopre che generalmente non erano attratti dalle decapitazioni; erano invece convinti che questo gruppo fosse religiosamente legittimo e che la causa del jihad fosse il loro dovere religioso. L'ISIS stava plasmando la conversazione, ponendo domande a cui [esso] aveva risposte apparentemente convincenti.

Non credo che nessuno immaginasse che avremmo avuto il livello di intimidazione e incitamento all'odio online che abbiamo attualmente, e dobbiamo impegnarci davvero per assicurarci di anticiparlo.

Come hai cercato di contrastare questa radicalizzazione online?

Uno degli aspetti positivi per noi è stato che il tempismo è fondamentale. Quando le potenziali reclute vengono vendute sull'ideologia, è troppo tardi per influenzarle; devi raggiungerli quando sono comprensivi ma non ancora venduti. Quindi ci siamo rivolti alla pubblicità online mirata. Abbiamo progettato qualcosa chiamato metodo di reindirizzamento, che utilizza annunci mirati per raggiungere le persone che simpatizzano per l'ISIS ma non ancora impegnate in esso e le reindirizza a video online di religiosi moderati, disertori e giornalisti cittadini che potrebbero scongiurare la loro radicalizzazione.

Quali risultati ha prodotto questo metodo?

Il pilota, che è durato otto settimane e ha funzionato in arabo e inglese, ha raggiunto 320.000 persone. Ha avuto una percentuale di clic eccezionalmente alta sugli annunci e ha generato mezzo milione di minuti di tempo di visualizzazione dei video. Dato che le persone non trascorrono più di qualche secondo su un video a cui non sono interessate, questo è incoraggiante. Dopo il nostro pilota, YouTube ha integrato il metodo nei suoi risultati di ricerca. La metodologia open source è stata replicata anche da altri come la Gen Next Foundation e continuiamo a supportare alcune nuove implementazioni.

Jigsaw cerca anche di affrontare la censura online. Quanto è grave questo problema?

Se guardi l'indice di Freedom House su questo, dicono che ogni anno la situazione peggiora. È davvero scoraggiante, perché è antitetico a ciò che le persone che stanno sviluppando Internet vogliono per questo. La situazione è così instabile. Quando si verificano disordini civili, come di recente in Iran, si vede il dilemma dei governi repressivi se chiudere o meno Internet perché [censurare] infiamma la popolazione e attira l'attenzione pubblica e l'indignazione. Ma se coloro che sono al potere si sentono minacciati, censureranno.

Cosa possono fare aziende come Alphabet per contrastare questo?

Sentiamo una grande responsabilità nell'aiutare le persone ad accedere alle informazioni, specialmente quando c'è conflitto e repressione. Uno dei nostri prodotti si concentra sulla protezione dei media indipendenti in tutto il mondo da un tipo di attacco di censura chiamato DDoS (Distributed Denial of Service), che mette offline i siti Web inondandoli di traffico. Si chiama Project Shield. L'idea è venuta dal nostro lavoro sul campo. Il nostro team ha parlato con il gruppo di monitoraggio elettorale del Kenya e il loro sito è stato interrotto il giorno di un'elezione chiave. Google ha un'enorme infrastruttura e capacità di mitigazione DDoS di livello mondiale, di cui Project Shield si avvale. Senza che i siti Web debbano ospitare con Google o Jigsaw, offre di controllare il traffico prima che arrivi a un server in modo da poter individuare il traffico dannoso e filtrarlo.

Passiamo al problema delle fake news. Come possiamo identificare meglio gli sforzi di disinformazione sponsorizzati dallo stato?

Storia correlata

Storia correlata Yasmin Green, capo della ricerca e sviluppo di Alphabet's Jigsaw, sta usando la tecnologia nella speranza di rendere il mondo un posto migliore. Non è facile.

L'obiettivo di queste campagne è quello di piantare idee e narrazioni tramite personaggi falsi e siti di notizie, e quindi far fertilizzare questi semi dalle masse in modo che le conversazioni sembrino organiche. La domanda di ricerca che ci siamo posti è se ci sono indicatori tecnici di attività coordinata e nascosta rispetto all'attività più organica che ci aspettiamo di vedere online. Se ci sono, potremmo usarli nel rilevamento automatico.

Stiamo esaminando diverse dimensioni qui. Le campagne coordinate tendono a sopravvivere a quelle organiche e le persone coinvolte tendono ad aspettare per ricevere istruzioni dai loro padroni, quindi a volte c'è un leggero ritardo prima che agiscano improvvisamente insieme. Questi attori tendono anche a essere collegati in reti o cluster estremamente stretti che sembrano anomali. C'è anche una dimensione semantica. Queste campagne utilizzano spesso parole e frasi simili che possono essere un segnale di controllo centralizzato.

Le società web sono state criticate per non aver fatto abbastanza per affrontare l'incitamento all'odio online e le molestie. È una critica giusta?

Non credo che nessuno immaginasse che avremmo avuto il livello di intimidazione e incitamento all'odio online che abbiamo attualmente, e dobbiamo impegnarci davvero per assicurarci di anticiparlo.

Cosa sta facendo Jigsaw per frustrare i troll online?

Abbiamo un team dedicato a vedere come l'elaborazione del linguaggio naturale e l'apprendimento automatico possono essere utilizzati per identificare la tossicità online e aiutare i moderatori e le comunità ad affrontarla. C'è un modello che abbiamo sviluppato che è disponibile pubblicamente, chiamato Prospettiva, e puoi trovarlo all'indirizzo www.prospettivapi.com . Questo ti aiuta a valutare i commenti per il loro livello di tossicità. Il team di ricerca sta cercando modi per raggiungere un altro livello di granularità per aiutarci a identificare meglio cosa sta succedendo e in che modo i moderatori possono controllarlo.

C'è stata molta preoccupazione che i pregiudizi negli algoritmi potessero danneggiare determinati gruppi nella società. È qualcosa su cui ti concentri anche tu?

Sì. Passiamo molto tempo a pensare a come possiamo assicurarci di non avere pregiudizi nella nostra IA in Prospettiva che potrebbero essere dannosi per gli obiettivi di quel progetto, ovvero creare conversazioni inclusive ed empatiche.

Trascorri gran parte della tua vita concentrandoti sul lato oscuro di Internet. Sei ancora ottimista sul suo potenziale?

Lo sono, ma dobbiamo continuare a sviluppare tecnologie innovative che possano aiutare ad affrontare queste sfide davvero difficili.

nascondere