L'ex capo della sicurezza di Facebook: chiedere a Big Tech di controllare l'incitamento all'odio è una strada pericolosa

Josh Edelson | Per gentile concessione della Stanford University

Fino a poche settimane fa, Alex Stamos era il chief security officer di Facebook. Ha guidato la caccia alla disinformazione politica russa sulla piattaforma dopo le elezioni americane del 2016. Ora alla Stanford University, ha recentemente annunciato la creazione dello Stanford Internet Observatory, un progetto per combattere l'incitamento all'odio, la propaganda e la manipolazione riunendo ricercatori accademici, scienziati sociali, politici e gli stessi giganti della tecnologia.

Come molte persone, Stamos pensa che le piattaforme tecnologiche come Facebook e Google abbiano troppo potere. Ma non è d'accordo con le chiamate per separarli. E sostiene che le stesse persone che dicono che Facebook e Google sono troppo potenti glielo stanno dando Di più potere insistendo sul fatto che facciano di più per controllare l'incitamento all'odio e la propaganda.

È un percorso pericoloso, avverte. Se i paesi democratici obbligano le aziende tecnologiche a imporre limiti alla libertà di parola, lo faranno anche quelli autocratici. In poco tempo, la tecnologia consentirà la velocità della macchina, la moderazione in tempo reale di tutto ciò che diciamo online. Nel tentativo di tenere a freno la Big Tech, rischiamo di creare il Grande Fratello. Allora qual è la soluzione? Ho parlato con Stamos nel suo ufficio di Stanford per scoprirlo. (L'intervista è stata condensata e modificata per chiarezza.)

Hai detto di recente che è già troppo tardi per salvare il midterm del 2018 dall'interferenza straniera. Di chi è la colpa per aver permesso che ciò accadesse, dato tutto ciò che abbiamo imparato nel 2016?

Nel 2016 sono successe tre cose. C'è stata una campagna di disinformazione e propaganda da parte dell'Agenzia di ricerca Internet [russa] e di gruppi correlati. C'è stata una campagna di fughe di notizie in cui il GRU [intelligence militare russa] ha fatto irruzione nell'e-mail del DNC [Comitato nazionale democratico] e poi ha diffuso storie [nei media]. E c'è stata una penetrazione esplorativa dei sistemi elettorali di 21 stati.

Il primo problema ha avuto più lavoro [su di esso] perché rientra completamente nella responsabilità delle piattaforme. Hanno definito cos'è un annuncio politico e cosa è un problema, hanno creato la trasparenza degli annunci, definito cosa è un coordinamento inappropriato e hanno iniziato a far rispettare tali regole.

'I russi sono stati in grado di inviare la loro squadra B per hackerare il DNC. Non sono sicuro che le persone siano pronte per la squadra A.'

Sulla campagna di hack and leak del GRU, è successo ben poco. Ci sono stati aggiornamenti nella sicurezza al DNC. Mi aspetto che la maggior parte delle campagne sia più attenta. Ma non sembra esserci un miglioramento globale della sicurezza tra campagne e candidati. I russi sono stati in grado di inviare la loro squadra B per hackerare il DNC. Non sono sicuro che le persone siano pronte per la squadra A.

Sul terzo non abbiamo fatto quasi nulla. Hai ancora 10.000 autorità elettorali [negli Stati Uniti] che conducono le elezioni. Abbiamo un certo numero di stati senza supporto cartaceo [per le schede elettorali]. Ci sono troppe autorità responsabili della propria sicurezza per poter garantire [le elezioni] senza che il governo federale fornisca un'enorme quantità di risorse. È qui che penso che abbiamo alcune delle maggiori vulnerabilità.

Quindi il problema della disinformazione/propaganda è per lo più risolto?

In una società libera, non eliminerai mai quel problema. Penso che la cosa più importante [negli Stati Uniti] sia la trasparenza pubblicitaria. Con o senza alcuna interferenza straniera, i partiti, le campagne, i PAC [comitati di azione politica] qui negli Stati Uniti stanno dividendo l'elettorato in piccoli secchielli, e questa è una brutta cosa. La trasparenza è un buon inizio.

Il prossimo passo di cui abbiamo bisogno è la legislazione federale per porre un limite al targeting degli annunci. Ci sono migliaia di aziende nell'ecosistema della pubblicità su Internet. Facebook, Google e Twitter sono gli unici che hanno fatto qualcosa, perché hanno ottenuto la maggior copertura della stampa e la maggiore pressione dai politici. Quindi, senza una legislazione, spingeremo tutti gli aggressori nella lunga coda della pubblicità, verso le aziende che non hanno squadre dedicate alla ricerca di gruppi di disinformazione russi.

Facebook è stato criticato per l'interferenza politica russa sia negli Stati Uniti che in altri paesi, il genocidio in Birmania , e molte altre cose. Credi che Facebook abbia colto appieno la portata della sua influenza e delle sue responsabilità?

Penso che l'azienda ne comprenda certamente l'impatto. La parte difficile è risolverlo. Il 90% degli utenti di Facebook vive al di fuori degli Stati Uniti. Ben più della metà vive in paesi non liberi o in democrazie senza protezione della parola. Uno dei problemi è trovare soluzioni in questi paesi che non vanno immediatamente in un luogo molto oscuro [cioè la censura].

'Penso che [Facebook] ne comprenda sicuramente l'impatto. La parte difficile è risolverlo.'

Un altro è capire quali problemi mettere dietro le risorse di ingegneria. Non importa quanto sia grande un'azienda, ci sono solo un certo numero di problemi che puoi [affrontare]. Uno dei problemi che le aziende hanno avuto è che si trovano in una modalità antincendio in cui saltano dall'emergenza all'emergenza.

Quindi, man mano che il personale aumenta, le cose migliorano, ma abbiamo anche bisogno di una discussione esterna più informata sulle cose su cui vogliamo che le aziende si concentrino: quali sono i problemi che devono assolutamente essere risolti e quali no. Hai menzionato un sacco di problemi che in realtà sono molto diversi, ma le persone li confondono tutti insieme.

Pensi che le aziende tecnologiche abbiano troppo potere? Facebook dovrebbe essere costretto a spogliarsi di Instagram e WhatsApp, per esempio?

Se le persone dell'antitrust pensano che sia appropriato forzare il disinvestimento delle singole piattaforme, dipende da loro. Non credo che risolva questi problemi o li peggiori. Ciò che peggiorerebbe le cose è la rottura di prodotti specifici. Dieci WhatsApp sono peggio di un WhatsApp e dieci Facebook sono peggio di un Facebook, perché perdi le economie di scala [e] la capacità di avere team ben preparati ed esperti in questo tipo di abusi [incitamento all'odio, propaganda, ecc. .].

La verità è che le grandi aziende sono state quelle reattive. Tutti ignorano le piccole aziende perché non fanno bene ai titoli dei giornali. Facebook ha fatto più della stragrande maggioranza delle altre aziende.

Come si fa a regolamentare in un mondo in cui la tecnologia sta avanzando così velocemente mentre la regolamentazione si muove così lentamente? In che modo una società dovrebbe stabilire limiti ragionevoli su ciò che fanno le aziende tecnologiche?

Ma in questo momento, la società non chiede limiti a ciò che fa. Sta chiedendo che lo facciano le aziende tecnologiche Di più . E penso che sia un percorso pericoloso. In tutti i problemi che hai menzionato - disinformazione russa, Myanmar - quello che stai dicendo a queste aziende è che vogliamo che tu abbia più potere per controllare ciò che le altre persone dicono e fanno.

'Tra cinque o dieci anni potrebbero esserci... velocità della macchina, moderazione in tempo reale di tutto ciò che diciamo online.'

È molto pericoloso, soprattutto con l'ascesa dell'apprendimento automatico. Tra cinque o dieci anni potrebbero esserci sistemi di apprendimento automatico in grado di comprendere le lingue umane oltre che quelle umane. Potremmo finire con la velocità della macchina, la moderazione in tempo reale di tutto ciò che diciamo online. Quindi i poteri che concediamo alle aziende tecnologiche in questo momento sono i poteri che quelle macchine avranno tra cinque anni.

Qual è il problema di base che lo Stanford Internet Observatory sta cercando di risolvere?

Non esiste un campo accademico specifico che studi l'uso improprio della tecnologia, al di fuori dei difetti altamente tecnici. I dipartimenti di informatica fanno ricerche su nuovi tipi di exploit, nuovi tipi di bug, soluzioni crittografiche esoteriche, ma non puoi ottenere un dottorato di ricerca che studi il bullismo e le molestie e le soluzioni tecniche a loro. Potresti avere scienziati politici che studiano l'impatto dei social network sulla democrazia e persone nel dipartimento di psicologia che studiano l'impatto dell'uso di Instagram sugli adolescenti che tendono al suicidio, ma non hanno le capacità tecniche e le infrastrutture.

Quindi lo Stanford Internet Observatory sarà un programma permanente, composto da data scientist, ingegneri del software, investigatori e analisti che capiscono come interagire con le piattaforme tecnologiche e come eseguire analisi dei dati su scala molto ampia. Quel gruppo può quindi fornire servizi a gruppi accademici ovunque e fare le proprie ricerche. Quindi possiamo catalizzare un lavoro che probabilmente non accadrebbe perché non rientra in modo netto in nessuna sfera accademica.

Quali sono alcune delle soluzioni su cui stai lavorando?

Se guardi al 2016, quello che vedi sono i fallimenti dell'intelligence tra il governo degli Stati Uniti [e] i governi alleati e tra quei governi e le piattaforme tecnologiche. Dobbiamo pensare alle responsabilità di questi diversi gruppi e come allineare il fatto che le società tecnologiche agiscono in modo quasi governativo. Che tipo di controlli dovrebbero avere in atto e in quale momento inizia e finisce la loro responsabilità? Stiamo lavorando su raccomandazioni per il Congresso per il prossimo anno.

Stiamo anche sviluppando la capacità di monitorare l'uso della disinformazione in varie elezioni. Il nostro obiettivo è di farlo funzionare per le elezioni indiane ed europee del prossimo anno.

I democratici saranno inevitabilmente più ricettivi dei repubblicani a questo tipo di soluzioni. Come si fa a renderlo imparziale?

L'idea che l'interferenza elettorale aiuti solo i repubblicani è folle. Il playbook russo è là fuori. Le debolezze del nostro sistema sono state dimostrate. Abbiamo segnalato ai nostri avversari che possono interferire nella nostra elezione e non faremo nulla per punirlo davvero.

'Il mio messaggio ai repubblicani è: 'Risolviamo questo problema prima che voi ragazzi abbiate il vostro 2016.''

Quindi mi aspetto che altri avversari vengano coinvolti nelle elezioni future. Cina, Iran, Corea del Nord: l'idea che tutti questi paesi sosterranno i repubblicani è ridicola. Quindi il mio messaggio ai repubblicani è: risolviamo questo problema prima che voi ragazzi abbiate il vostro 2016.

Questa discussione deve superare Trump. I repubblicani finiscono con il congelamento del cervello se si sottintende che Trump non è stato eletto in modo giusto e corretto. Quindi dobbiamo solo parlare delle vulnerabilità e del possibile impatto che avrà nel 2020. Quando parlo in privato con i repubblicani, sono molto più ricettivi a questo.

Una questione correlata è la mancanza di alfabetizzazione tecnologica tra i politici. Come lo risolvi?

Queste persone generalmente hanno personale piuttosto intelligente, ma la maggior parte del personale non ha lavorato nel settore tecnologico. Quindi dobbiamo incentivare le persone che hanno lavorato nel settore tecnologico ad andare a lavorare a Washington. Ci sono esempi come Chris Soghoian [un attivista tecnologico, che ora lavora per il senatore Ron Wyden] dove i tecnici vanno al Congresso e hanno un enorme impatto individualmente.

E va in entrambe le direzioni. Dobbiamo insegnare agli informatici la storia e l'etica, e dobbiamo insegnare ai laureati in arti liberali i fondamenti della tecnologia in modo che abbiano la capacità di essere influenti. La capacità di parlare con i nerd in un modo che rispettano è estremamente potente, ed è qualcosa che manca al Congresso in questo momento.

nascondere