EmTech Stage: CTO di Facebook sulla disinformazione

Disinformazione e social media sono diventati inseparabili l'uno dall'altro; poiché piattaforme come Twitter e Facebook sono cresciute fino a raggiungere dimensioni globali, così è cresciuta anche la minaccia rappresentata dalla diffusione di contenuti falsi. Nel bel mezzo di una stagione elettorale instabile negli Stati Uniti e di una furiosa pandemia globale, il potere dell'informazione di alterare le opinioni e salvare vite (o metterle in pericolo) è in piena mostra. Nella prima di due interviste esclusive con due delle persone più potenti del mondo tecnologico, il caporedattore di Technology Review, Gideon Lichfield, incontra il CTO di Facebook Mike Schroepfer per parlare delle sfide legate alla lotta contro i contenuti falsi e dannosi su una piattaforma online utilizzata da miliardi in tutto il mondo. Questa conversazione proviene dalla conferenza virtuale EmTech MIT ed è stata modificata per lunghezza e chiarezza.

Per ulteriori approfondimenti su questo argomento, dai un'occhiata puntata di questa settimana di Deep Tech e la nostra copertura della polizza tecnica.

Crediti:

Questo episodio di EmTech è stato prodotto da Jennifer Strong ed Emma Cillekens, con un ringraziamento speciale a Brian Bryson e Benji Rosen. Siamo a cura di Michael Reilly e Gideon Lichfield.

Trascrizione:

Forte: Ciao a tutti, sono Jennifer Strong. La scorsa settimana ho promesso di scegliere qualcosa da suonare per te da EmTech, la grande conferenza annuale della nostra redazione. Quindi eccolo qui. Con le elezioni negli Stati Uniti a pochi giorni di distanza, ci addentreremo direttamente in uno degli argomenti più controversi nel mondo della tecnologia e non solo: la disinformazione.

Ora molto di questo inizia sui siti Web di cospirazione, ma è sui social media che viene amplificato e diffuso. Queste aziende stanno adottando misure sempre più audaci per vietare determinati tipi di notizie false e gruppi estremisti e stanno utilizzando la tecnologia per filtrare la disinformazione prima che gli esseri umani possano vederla. Affermano di migliorare sempre di più e un giorno affermano che saranno in grado di rendere di nuovo Internet sicuro per tutti. Ma possono davvero farlo?

Nei prossimi due episodi incontreremo i Chief Technology Officer di Facebook e Twitter. Entrambi hanno adottato approcci MOLTO diversi quando si tratta di disinformazione, in parte perché molto di ciò che accade su Facebook avviene nei gruppi privati, il che rende un problema più difficile da affrontare. Mentre su Twitter, quasi tutto accade in pubblico. Quindi, per prima cosa: Facebook. Ecco Gideon Lichfield, il redattore capo di Tech Review. È sul palco principale virtuale di EmTech per una sessione che chiede: 'L'IA può ripulire Internet'? Questa conversazione è stata modificata per maggiore lunghezza e chiarezza.

Lichfield: Mi rivolgo al nostro primo oratore, che è Mike Schroepfer. Conosciuto generalmente da tutti i suoi colleghi come Schrep. È il CTO di Facebook. Lavora in Facebook dal 2008 e quando era molto più piccolo ed è diventato CTO nel 2013. L'anno scorso il New York Times ha scritto un suo grande profilo, che è una lettura molto interessante. Era intitolato 'Il mago dell'intelligenza artificiale di Facebook ora sta affrontando il compito di ripulirlo'. A volte questo lo porta a piangere. Schrep, benvenuto. Grazie per esserti unito a noi in EmTech.

Schroepfer: Ciao Gideon, grazie. Felice di essere qui.

Lichfield: Facebook ha fatto alcune mosse piuttosto aggressive in particolare negli ultimi mesi. Hai preso provvedimenti contro QAnon, hai bandito la negazione dell'Olocausto e gli annunci contro le vaccinazioni. Ma da anni le persone avvertono di QAnon, da anni le persone avvertono della disinformazione anti-vaccinazione. Allora, perché ci hai messo così tanto? Cosa, cosa, è cambiato nel tuo modo di pensare per farti intraprendere questa azione?

Schroepfer: Sì, voglio dire, il mondo cambia continuamente. Ci sono molti dati recenti che conosci, sull'aumento di convinzioni antisemite o sulla mancanza di comprensione dell'Olocausto. QAnon sai si è spostato verso una minaccia di violenza negli ultimi anni. E l'idea che ci sarebbero minacce di violenza intorno alle elezioni americane è una cosa nuova. E quindi, in particolare nei luoghi in cui la società e le cose che sono eventi critici, come le elezioni, stiamo facendo tutto il possibile per assicurarci che le persone si sentano al sicuro e informate per prendere la decisione che devono prendere per eleggere chi è al governo. E quindi stiamo adottando misure più aggressive.

Lichfield: Hai detto qualcosa proprio ora, hai detto che c'erano molti dati. E questo mi risuona con qualcosa che avevo Alex Stamos, l'ex chief security officer di Facebook, ha detto di recente in un podcast, che su Facebook le decisioni vengono davvero prese sulla base dei dati. Quindi è necessario che tu abbia una schiacciante evidenza di dati, ma, sai, la negazione dell'Olocausto sta causando danni o il QAnon sta causando danni prima di agire contro di essa.

Schroepfer: Quello che direi è questo. Gestiamo un servizio che viene utilizzato da miliardi di persone in tutto il mondo e quindi un errore che non voglio fare è presumere che io comprenda di cosa hanno bisogno gli altri, cosa vogliono gli altri o cosa sta succedendo. E quindi, un modo per evitarlo è affidarsi all'esperienza dove ce l'abbiamo. Quindi, sai, ad esempio, per le organizzazioni pericolose, abbiamo molte persone con un background nell'antiterrorismo, siamo andati a West Point, abbiamo molte persone con un background nelle forze dell'ordine in cui parli di interferenze elettorali, abbiamo esperti con background e voti e diritti.

E così tu, ascolti esperti, uh, guardi i dati e tu, e cerchi di capire quell'argomento piuttosto che, sai, non vuoi che io prenda queste decisioni. Tu, vuoi una specie di esperti e vuoi che i dati lo facciano. E poiché non è solo, sai, questo problema qui, sono problemi di privacy, problemi e locali, e, quindi direi che cerchiamo di essere rigorosi nell'usare una sorta di esperienza e dati dove possiamo, quindi non facciamo supposizioni su ciò che sta accadendo nel mondo o, o su ciò di cui pensiamo che le persone abbiano bisogno.

Lichfield: Bene, parliamo un po' di più di QAnon in particolare perché l'approccio che adotti, ovviamente, per gestire queste informazioni, mentre cerchi di addestrare le tue IA a riconoscere le cose dannose. E la difficoltà con questo approccio è che la natura della disinformazione continua a cambiare il suo contesto specifico, giusto? E la disinformazione sui musulmani in Myanmar, che ha scatenato rivolte lì. Non sai che questa è una disinformazione finché non inizia ad apparire. Il problema che mi sembra con Q Anon è che non è come l'ISIS o qualcosa del genere. le sue convinzioni continuano a cambiare i conti, continuano a cambiare. Quindi, come affronti qualcosa che è così mal definito come una minaccia del genere?

Schroepfer: Bene, sai, parlerò di questo e, e penso che sia una delle, dal punto di vista tecnico, una delle sfide più difficili su cui mi sono concentrato molto negli ultimi anni, a causa di problemi simili in termini di sottigliezza, linguaggio codificato e comportamento contraddittorio, che è incitamento all'odio. C'è un incitamento all'odio palese, che è molto ovvio e puoi usare una sorta di frasi che hai salvato o, o, o parole chiave. Ma le persone si adattano e usano un linguaggio codificato e lo fanno, sai, su base giornaliera, settimanale. E puoi farlo anche con i meme in cui hai un'immagine e poi ci sovrapponi alcune parole e cambia completamente il significato. Hai un buon profumo oggi. E le foto della puzzola sono una cosa molto diversa da, sai, un fiore, e devi mettere tutto insieme.

E così, ehm, e allo stesso modo, come dici tu, con QAnon e ci possono essere sottigliezze e cose del genere. Questo è il motivo per cui sono stato così concentrato, sai, su un paio di tecnologie chiave di intelligenza artificiale. Uno è che abbiamo aumentato notevolmente il potere di questi classificatori di comprendere e gestire informazioni sfumate. Sai, cinque o dieci anni fa, una specie di parole chiave era probabilmente il meglio che potessimo fare. Ora siamo al punto in cui i nostri classificatori rilevano errori nei dati di etichettatura o rilevano errori che a volte fanno i revisori umani. Perché sono abbastanza potenti da cogliere sottigliezze in argomenti come, questo è un post che incita alla violenza contro un elettore? O stanno solo esprimendo dispiacere per il voto o per questa popolazione? Quelli sono due molto... sfortunatamente è una linea sottile quando si guarda a quanto le persone cercano di essere attente nel codificare il linguaggio per aggirarlo in qualche modo.

E così vedi cose simili con QAnon e altri. E quindi ora abbiamo dei classificatori che, sai, il nostro lavoro all'avanguardia in più lingue e sono davvero impressionanti in quello che hanno fatto attraverso tecniche in cui possiamo entrare come l'auto-supervisione, um, da guardare, sai, miliardi di dati, da addestrare. E poi l'altra cosa che abbiamo è che usiamo una tecnica simile come questa, che ci permette di fare, sai, il modo migliore per descriverlo come una sorta di abbinamento sfocato. Che è come un recensore umano, passa il tempo e dice, sai una cosa, penso che questi pezzi di disinformazione, o questo sia un gruppo QAnon, anche se è codificato in lingue diverse, quello che possiamo fare è una sorta di fan out e trovare cose che sono semanticamente simili, non le parole esatte, non le parole chiave, non le espressioni regolari, ehm, ma cose che sono molto vicine in a, in uno spazio di incorporamento che sono semanticamente simili. E poi possiamo agire su di loro.

E questo permette quella che io chiamo reazione rapida. Quindi, anche se non avessi idea di cosa fosse ieri, oggi, se un gruppo di revisori umani lo trova, possiamo quindi ampliare il loro lavoro in un certo senso attraverso la rete e implementare in modo proattivo nuove informazioni in qualsiasi momento. Solo per contestualizzare, sai, nel secondo trimestre abbiamo eliminato 7 milioni di disinformazione COVID. Ovviamente nel quarto trimestre dello scorso anno non c'era niente come la disinformazione COVID. Quindi abbiamo dovuto costruire una nuova tecnica di classificazione per farlo. E la cosa che ho sfidato il team è come ridurre il tempo di costruzione del nostro classificatore da quelli che erano molti, molti mesi a, sai, cosa, a volte settimane, giorni, minuti. La prima volta che vedo un esempio, o la prima volta che leggo una nuova policy, voglio essere in grado di creare un classificatore che sia funzionale, sai, su una scala di miliardi di utenti. E, sai, non ci siamo ancora, ma stiamo facendo rapidi progressi

Lichfield: Bene. Quindi penso che questa sia la domanda, quanto è rapido il progresso, giusto? Quella, quella statistica di 7 milioni di pezzi di disinformazione. L'ho visto citato da un portavoce di Facebook in risposta a uno studio uscito da Avaaz ad agosto. E ha esaminato la disinformazione COVID che ha scoperto che i primi 10 siti Web che stavano diffondendo disinformazione avevano quattro volte più visualizzazioni stimate su Facebook rispetto ai contenuti equivalenti dai siti Web di 10 importanti istituzioni sanitarie, come l'OMS, hanno scoperto che solo il 16% di tutta la disinformazione sulla salute, hanno analizzato aveva un'etichetta di avvertimento da Facebook. Quindi, in altre parole, stai ovviamente facendo molto, stai facendo molto di più di quello che eri e sei ancora, a quel punto, dietro la curva. Come, e questa è una crisi che sta uccidendo le persone. Quindi quanto tempo ci vorrà per arrivarci, pensi?

Schroepfer: Sì, voglio dire, penso che, sai, è qui che, sai, vorrei che pubblicassimo più dati su questo. Perché davvero ciò di cui avevi bisogno per confrontare le mele con le mele è la portata complessiva di queste informazioni e una sorta di informazione, tipo di dieta di esposizione dell'utente medio di Facebook. E penso che ci siano un paio di pezzi che le persone non capiscono. Il primo è che il feed delle notizie della maggior parte delle persone è pieno di contenuti dei loro amici. Come, i collegamenti alle notizie, questi sono una specie di minoranza delle visualizzazioni all-in e dei feed di notizie delle persone e di Facebook. Voglio dire, il punto di Facebook è connetterti con i tuoi amici e probabilmente l'hai sperimentato tu stesso. Sono, sai, post, foto e cose del genere.

In secondo luogo, su cose come la disinformazione COVID, ad esempio, ciò con cui devi confrontarla è confrontarla, ad esempio, con le visualizzazioni del nostro centro informazioni COVID, che abbiamo letteralmente spinto in cima al feed delle notizie in modo che tutti potessero ottenere informazioni su quello. Stiamo facendo cose simili, um, per votare. Abbiamo aiutato a registrare quasi due milioni e mezzo di elettori, negli Stati Uniti. Informazioni simili, sai, per questioni di giustizia razziale visti tutti gli eventi orribili accaduti quest'anno. Quindi quello che non ho è lo studio completo di, sai, quante volte qualcuno ha visto l'hub di informazioni COVID rispetto a queste altre cose? Uhm, lo sai, ma suppongo che stiano ricevendo molte più di quelle buone informazioni da noi.

Ma ascolta, sai, ogni volta che una di queste cose sfugge, non ho ancora finito. Questo è il motivo per cui sono ancora qui a fare il mio lavoro, vogliamo migliorare le cose. E, e, e sì, vorrei fosse 0%. Vorrei che i nostri classificatori fossero accurati al 99,999%. Loro non sono. Sai, il mio lavoro è portarli lì il più velocemente umanamente possibile. E quando chiudiamo questa chiamata, è su questo che lavorerò. Quello che posso fare è guardare come la storia recente e l'avanzamento del progetto. Perché non posso aggiustare il passato, ma posso aggiustare oggi e domani. Quando guardo a cose come, sai, incitamento all'odio in cui, sai, nel 2017, solo circa un quarto degli incitamenti all'odio sono stati trovati dai nostri sistemi, in primo luogo. Quasi tre quarti sono stati trovati prima da qualcuno su Facebook. Il che è terribile, il che significa che ci sono stati esposti e hanno dovuto segnalarcelo. E ora il numero è salito a 99, 94,5%. Anche nell'ultimo, sai, tra il secondo trimestre di quest'anno e lo stesso periodo dell'anno scorso, abbiamo 5Xed, la quantità di contenuti che stiamo eliminando per incitamento all'odio. E posso rintracciare tutto questo. Ora, quel numero dovrebbe essere 99,99 e non dovremmo nemmeno avere questa conversazione perché dovresti dire che non ho mai visto niente di tutto questo e non ne ho mai sentito parlare, perché non c'è più.

Questo è il mio obiettivo, ma non posso ancora arrivarci. Ma se guardi solo all'ultimo, sai, ogni volta che dico qualcosa di 5X in un anno, o passa dal 24% al 94% in due anni, tipo, e dico, abbiamo un, non lo siamo , Non sono a corto di idee, stiamo ancora implementando cose all'avanguardia come questa settimana, la prossima settimana, la scorsa settimana, quindi è per questo che nel complesso sono ottimista sul fatto che lo sposteremo problema in un posto dove non è la prima cosa di cui vuoi parlarmi ma non ci sono ancora.

Lichfield: È un problema tecnico. Ovviamente è anche un problema di forza lavoro. Ovviamente avrai familiarità con, uh, il promemoria che Sophie Zhang, che era un'ex scienziata di dati di Facebook, ha scritto quando se n'è andata. E ha scritto di come stava lavorando in uno dei team, ci sono più team che lavorano per cercare di identificare informazioni dannose in tutto il mondo. E la sua principale lamentela, sembra che si sentisse come se quelle squadre fossero a corto di personale e doveva dare la priorità alle decisioni sull'opportunità di trattare, sai, la disinformazione su un'elezione in un paese, ad esempio, come pericolosa. E quando ciò, con quelle decisioni prioritarie, a volte potrebbero essere necessari mesi prima che un problema venga affrontato e ciò potrebbe avere conseguenze reali. Uhm, hai, penso che 15.000 moderatori umani in questo momento, pensi di avere abbastanza persone?

Schroepfer: Non penso mai che abbiamo abbastanza persone su niente. Quindi io, sai, devo ancora essere su un progetto in cui stavamo cercando cose su cui lavorare e lo dico davvero sul serio. E noi, sai, con 35.000 persone che lavorano su questo dal lato, sai, recensione e contenuto e sicurezza e protezione. L'altra cosa di cui penso non parliamo molto è, se vai a parlare con i capi del mio team di intelligenza artificiale e chiedi loro cosa ci ha chiesto di fare Schrep negli ultimi tre anni, è integrità, è moderazione dei contenuti . Non è cool wizzy, cose nuove. È come, come combattiamo questo problema? E sono anni che ci lavoriamo.

Quindi ho preso una specie di migliori e più brillanti che abbiamo in azienda e ho detto, sai, e non è che devo ordinargli di farlo perché vogliono lavorarci. Io dico, abbiamo questo grosso problema, possiamo aiutare, andiamo a fare questo. Abbiamo già finito? No. Sono impaziente? Assolutamente. Vorrei che ci lavorassero più persone? Tutto il tempo. Sai, dobbiamo fare i nostri compromessi su queste cose, e quindi, sai, um, ma il mio lavoro, sai, e quello che possiamo fare con la tecnologia è in qualche modo rimuovere alcuni di quei compromessi. Sai, ogni volta che distribuiamo un nuovo classificatore più potente, um, che rimuove un sacco di lavoro dai nostri moderatori umani, che possono quindi lavorare su problemi di livello superiore. Sai, invece di te, sai, le decisioni davvero facili, passano alla disinformazione e alle cose davvero vaghe e alla valutazione di gruppi pericolosi e quel tipo di spostare le persone su per la curva di difficoltà è anche migliorare le cose. Ed è quello che stiamo cercando di fare.

Forte: Faremo una breve pausa, ma prima voglio suggerire un altro spettacolo che penso ti piacerà. Brave New Planet valuta i pro ei contro di un'ampia gamma di potenti innovazioni nel campo della scienza e della tecnologia. Il dottor Eric Lander, che dirige il Broad Institute del MIT e di Harvard, esplora questioni difficili come;

Lander: Dovremmo alterare l'atmosfera terrestre per prevenire il cambiamento climatico? E la verità e la democrazia possono sopravvivere all'impatto dei deepfake?

Forte: Brave New Planet è di Pushkin Industries. Puoi trovarlo ovunque trovi i tuoi podcast. Torneremo subito dopo.

[Annuncio pubblicitario]

Forte: Bentornati a un episodio speciale di In Machines We Trust. Questa è una conversazione tra Mike Schroepfer di Facebook e Gideon Lichfield, caporedattore di Tech Review. È successo dal vivo sul palco virtuale della nostra conferenza EmTech ed è stato modificato per lunghezza e chiarezza. Se desideri ulteriori informazioni su questo argomento, inclusa la nostra analisi, consulta le note dello spettacolo o visitaci su Technology Review dot com.

Lichfield: Un paio di domande che lancerò dal pubblico, in che modo la disinformazione influisce sul flusso di entrate di Facebook? E un altro riguarda, ehm, come influisce sulla fiducia in Facebook? Bene, sembra esserci una sottostante mancanza di fiducia in Facebook e come misuri la fiducia? E il gloss che vogliamo mettere su queste domande è, chiaramente ti interessa la disinformazione, chiaramente molte persone che lavorano in Facebook se ne preoccupano o ne sono preoccupate, ma c'è, penso che una domanda di fondo che le persone hanno sia Facebook come azienda se ne preoccupa, ne ha avuto un impatto abbastanza negativo da poter affrontare davvero il problema sul serio?

Schroepfer: Sì. Voglio dire, senti, anch'io sono una persona nella società. Mi preoccupo molto della democrazia e del futuro e di far progredire la vita delle persone in modo positivo. E ti sfido a trovare, sai, qualcuno che si senta diversamente all'interno dei nostri uffici. E quindi noi, sì, lavoriamo in Facebook, ma siamo persone nel mondo e tengo molto al futuro dei miei figli. E bene, bene, stai chiedendo, ci importa? E la risposta è si. Ehm, sai, abbiamo gli incentivi? Ad esempio, di cosa abbiamo passato molto tempo a parlare oggi? Abbiamo parlato di disinformazione e altre cose, sai, onestamente, di cosa preferirei parlare? Preferirei parlare della realtà virtuale e degli usi positivi dell'AR e di tutta la nuova fantastica tecnologia che stiamo costruendo, perché, sai, è normalmente di questo che parlerebbe un CTO.

Quindi è ovviamente qualcosa che mette in discussione la fiducia nell'azienda, la fiducia nei nostri prodotti, questo è un grosso problema per noi, ehm, dal punto di vista dell'interesse personale. Quindi, anche se pensi che io ne sia pieno, tu, da un punto di vista egoistico pratico, come un marchio, come un prodotto di consumo che le persone usano volontariamente ogni singolo giorno, quando provo a vendere un nuovo prodotto come Portal , che è una fotocamera per la tua casa, come se le persone si fidano dell'azienda che c'è dietro questo prodotto e pensano che abbiamo, sai, le loro migliori intenzioni a cuore. Se non lo fanno, sarà una grande sfida per tutto quello che faccio. Quindi, penso che gli interessi qui siano abbastanza allineati. Non credo che ci siano molti buoni esempi di prodotti di consumo gratuiti, che sopravvivono se alla gente non piacciono, non piacciono le aziende o pensano che siano cattive. Quindi questo è da un punto di vista egoistico, una questione critica per noi.

[Crediti]

Forte: Questa conversazione con il CTO di Facebook è il primo di due episodi sulla disinformazione e sui social media. Nella parte successiva parliamo con il CTO di Twitter. Se desideri ascoltare l'analisi della nostra redazione su questo argomento e sulle elezioni, ho inserito un link nelle note del nostro programma. Spero che lo verificherai. Questo episodio di EmTech è stato prodotto da me e da Emma Cillekens, con un ringraziamento speciale a Brian Bryson e Benji Rosen. Siamo a cura di Michael Reilly e Gideon Lichfield. Come sempre, grazie per l'ascolto. Sono Jennifer Strong.

[ID TR]

nascondere