EmTech Stage: il CTO di Twitter sulla disinformazione

Nella seconda di due interviste esclusive, Gideon Lichfield, caporedattore di Technology Review, ha incontrato Parag Agrawal, Chief Technology officer di Twitter, per discutere dell'aumento della disinformazione sulla piattaforma dei social media. Agrawal discute alcune delle misure che l'azienda ha adottato per reagire, mentre ammette che Twitter sta cercando di infilare un ago per mitigare i danni causati da contenuti falsi senza diventare un arbitro della verità. Questa conversazione proviene dalla conferenza virtuale EmTech MIT ed è stata modificata per chiarezza.

Per ulteriori approfondimenti su questo argomento, dai un'occhiata puntata di questa settimana di Deep Tech e la nostra copertura della polizza tecnica.

Crediti:

Questo episodio di EmTech MIT è stato prodotto da Jennifer Strong ed Emma Cillekens, con un ringraziamento speciale a Brian Bryson e Benji Rosen. Siamo a cura di Michael Reilly e Gideon Lichfield.

Trascrizione:

Forte: Ciao a tutti, è Jennifer Strong che torna con la seconda parte della nostra conversazione sulla disinformazione e sui social media. Se Facebook è un luogo di incontro dove vai a trovare la tua comunità, YouTube una sala da concerto o un backstage per qualcosa di cui sei un fan, allora Twitter è un po' come la piazza pubblica dove vai a scoprire cosa si dice di qualcosa. Ma quale responsabilità hanno queste piattaforme mentre si svolgono queste conversazioni? Twitter ha affermato che una delle sue responsabilità è garantire che la conversazione pubblica sia sana. Cosa significa e come lo misuri?

È una domanda che abbiamo rivolto a Parag Agrawal, Chief Technology Officer di Twitter. Eccolo, in conversazione con Gideon Lichfield, caporedattore di Tech Review. È stato registrato alla nostra conferenza EmTech ed è stato modificato per lunghezza e chiarezza.

Lichfield: Un paio di anni fa, c'è stato un progetto in cui hai iniziato a parlare di metriche che avrebbero misurato cos'è una sana conversazione pubblica. Non ne ho visto molto da allora. Allora cosa sta succedendo? Come lo misuri?

Grawal: Due anni fa, lavorando con alcune persone al laboratorio multimediale del MIT e ispirati dal pensiero, abbiamo avviato un progetto per lavorare con accademici al di fuori dell'azienda, per vedere se potevamo definire alcune semplici metriche o misurazioni per indicare il salute della conversazione pubblica. Quello che ci siamo resi conto lavorando con esperti provenienti da molti luoghi è che è molto, molto difficile ridurre le sfumature e le complessità di ciò che consideriamo una sana conversazione pubblica in poche metriche semplici da capire e facili da misurare in cui puoi riporre la tua fiducia E questa conversazione ha informato un cambiamento nel nostro approccio.

Ciò che è cambiato è se siamo prescrittivi o meno nel tentativo di ridurre le cose a pochi numeri. Ma ciò che è rimasto è che ci rendiamo conto che dobbiamo lavorare con ricercatori accademici al di fuori di Twitter, condividere più dati in un ambiente aperto, dove siano in grado di usarli per fare ricerca, per avanzare in vari campi. E ci sono un sacco di prodotti relativi alle API che spediremo nei prossimi mesi. E una delle cose che ha portato direttamente a quella conversazione è stata ad aprile, poiché abbiamo visto, uh, COVID, uh, abbiamo creato un punto finale per la conversazione relativa al COVID a cui i ricercatori accademici potrebbero avere accesso. Uh, abbiamo visto ricerche in quattro 20 paesi, accedi.

Quindi, in un certo senso, sono contento che abbiamo intrapreso quel viaggio. E continuo a sperare che con questo approccio aperto, ci saranno accademici e la nostra collaborazione con loro, che alla fine ci porterà a comprendere la conversazione pubblica e una sana conversazione pubblica abbastanza da essere in grado di ridurre la misurazione a poche metriche . Ma sono anche entusiasta di tutte le altre strade di ricerca che questo approccio ci apre.

Lichfield: Hai un'idea di come sarebbe un esempio di tale metrica?

Grawal: Quindi, quando abbiamo deciso di parlare di questo, abbiamo ipotizzato che c'erano alcune metriche in giro, le persone condividono il senso della realtà? Le persone hanno prospettive diverse e possono essere esposte a prospettive diverse? Abbiamo pensato che la conversazione sia civile, giusto? Quindi, concettualmente queste sono tutte proprietà che desideriamo in una sana conversazione pubblica. La sfida sta nel riuscire a misurarli in un modo che sia in grado di evolversi con l'evolversi della conversazione, in un modo affidabile e in grado di resistere alla prova del tempo, poiché la conversazione di due anni fa era molto diversa dalla conversazione di oggi. Le sfide di due anni fa, come le abbiamo comprese oggi, sono molto diverse. Uh, ed è qui che alcune delle sfide e la nostra comprensione di cosa significhi una sana organizzazione pubblica sono ancora emergenti per poterle ridurre in queste semplici metriche.

Lichfield: Parliamo un po' di alcune delle cose che hai fatto negli ultimi due anni. Voglio dire, c'è stata molta attenzione, ovviamente, sulla decisione di segnalare alcuni dei tweet di Donald Trump. Penso che il lavoro più sistematico che hai svolto negli ultimi due anni contro la disinformazione, puoi riassumere i punti principali di quello che hai fatto?

Grawal: Il nostro approccio non è cercare di identificare o segnalare tutte le potenziali informazioni errate. Ma il nostro approccio è radicato nel tentativo di evitare danni specifici che possono causare informazioni fuorvianti. Ci siamo concentrati nel nostro approccio e ci siamo concentrati sui danni che possono essere fatti con la disinformazione sul COVID-19, che ha a che fare con la salute pubblica, dove poche persone che vengono informate male possono avere implicazioni per tutti. Allo stesso modo, ci siamo concentrati sulla disinformazione su ciò che chiamiamo integrità civica, che riguarda le persone che hanno la capacità di sapere come partecipare alle elezioni.

Quindi un esempio, solo per chiarire, riguarda l'integrità civica, a cui teniamo e agiamo sui contenuti che potrebbero disinformare le persone che dicono che dovresti votare il 5 novembre, quando il giorno delle elezioni è il 3 novembre. E non cerchiamo di determinare cosa sia vero o falso quando qualcuno prende una posizione politica o quando qualcuno dice che il cielo è viola o blu, o rosso per quella materia. Il nostro approccio alla disinformazione non è nemmeno incentrato sull'eliminazione dei contenuti come unica misura, che è il regime in cui tutti abbiamo operato per molti anni. Ma è un approccio sempre più sfumato con una serie di interventi, in cui pensiamo se alcuni contenuti debbano essere amplificati o meno senza contesto, o se è nostra responsabilità fornire un contesto in modo che le persone possano vedere un mucchio di informazioni, ma anche avere il capacità e facilità di scoprire tutta la conversazione e il contesto che la circonda, di informarsi su ciò in cui scelgono di credere.

Lichfield: Come si fa a valutare se qualcosa è dannoso senza cercare anche di capire se è vero, in altre parole, ad esempio il COVID nello specifico?

Grawal: Questa è un'ottima domanda e penso che in alcuni casi ti affidi a fonti credibili per fornire quel contesto. Quindi non devi sempre determinare se qualcosa è vero o falso, ma se c'è un potenziale danno, scegliamo di non contrassegnare qualcosa come vero o falso, ma scegliamo di aggiungere un collegamento a fonti credibili o a ulteriori conversazioni in giro quell'argomento, per fornire alle persone un contesto attorno al contenuto in modo che possano essere meglio informati, anche se questi dati per la comprensione e la conoscenza si stanno evolvendo. E la conversazione pubblica è fondamentale per tale evoluzione. Abbiamo visto persone imparare attraverso Twitter, grazie al modo in cui sono state informate. E gli esperti hanno conversazioni tramite Twitter per far avanzare anche lo stato della nostra comprensione su questa malattia.

Lichfield: Le persone hanno messo in guardia su QAnon per anni. Hai iniziato a rimuovere gli account QAnon a luglio. Cosa ti ha fatto perdere così tanto tempo? Perché hai... cosa è cambiato nel tuo modo di pensare?

Grawal: Il modo in cui pensiamo a QAnon o abbiamo pensato a QAnon, è che abbiamo una politica di manipolazione coordinata che abbiamo avuto per un po', e il modo in cui funziona è che lavoriamo con i servizi civili e i gruppi per i diritti umani in tutto il mondo nel tentativo di capire quale gruppi, o quali organizzazioni, o quale tipo di attività sale a un livello di danno in cui richiede un'azione da parte nostra. Con il senno di poi, vorrei che avessimo agito prima, ma poiché abbiamo compreso bene la minaccia, lavorando con questi gruppi abbiamo agito e le nostre azioni hanno comportato una sorta di riduzione dell'amplificazione di questo contenuto e la segnalazione di questo contenuto in un modo che ha portato a diminuzione molto rapida della quantità di copertura che QAnon e i relativi contenuti hanno ottenuto sulla piattaforma di oltre il 50%. E da allora, abbiamo assistito a diminuzioni sostenute a seguito di questa mossa.

Lichfield: Ricevo un bel po' di domande dal pubblico, che in un certo senso chiedono tutte la stessa cosa. E in pratica stanno chiedendo, beh, li leggerò. Chi può decidere cos'è la disinformazione? Puoi dare una chiara definizione clinica di disinformazione? Qualcosa deve avere intenzioni dannose per essere una disinformazione? Come fai a sapere se le tue fonti credibili sono veritiere, cosa misura la credibilità di quelle fonti e qualcuno addirittura dice che ho visto disinformazione nelle cosiddette fonti credibili. Allora come si definisce quella frase?

Grawal: Penso che sia la, la questione esistenziale dei nostri tempi. Definire la disinformazione è davvero, davvero difficile. Man mano che impariamo nel tempo, anche la nostra comprensione della verità si evolve. Cerchiamo di non giudicare la verità, ci concentriamo sul potenziale danno. E quando diciamo che ci basiamo su fonti credibili, ci basiamo anche su tutta la conversazione sulla piattaforma che arriva anche a parlare di queste fonti credibili e indica potenziali lacune a seguito delle quali anche le fonti credibili evolvono il loro pensiero o ciò che dicono di.

Quindi, ci siamo concentrati molto meno su ciò che è vero e ciò che è falso. Ci concentriamo molto di più sul potenziale danno dovuto all'amplificazione di determinati contenuti sulla piattaforma senza un contesto appropriato. E il contesto spesso è solo una conversazione aggiuntiva che fornisce un punto di vista diverso su un argomento in modo che le persone possano vedere l'ampiezza della conversazione sulla nostra piattaforma e all'esterno e prendere le proprie determinazioni in un mondo in cui stiamo tutti imparando insieme.

Lichfield: Applichi uno standard diverso alle cose che provengono dai leader mondiali?

Grawal: Abbiamo una politica sui contenuti pubblici nell'interesse pubblico, è nel nostro quadro politico. Quindi, sì, applichiamo standard diversi. E questo si basa sulla comprensione e sulla consapevolezza che ci sono alcuni contenuti da parte di funzionari eletti che sono importanti per il pubblico da vedere e ascoltare. E che tutti i contenuti su Twitter non sono solo su Twitter. È nelle redazioni, nelle conferenze stampa, ma spesso il contenuto della fonte è su Twitter. La politica di interesse pubblico esiste per garantire che il contenuto di origine sia accessibile. Tuttavia, segnaliamo molto chiaramente per tutti coloro che ci circondano quando tali contenuti violano una delle nostre norme. Prendiamo la mossa audace di segnalarlo, etichettarlo in modo che le persone abbiano il contesto appropriato affinché questo sia davvero un esempio di violazione, in modo che le persone possano guardare quel contenuto alla luce di tale comprensione.

Lichfield: Se prendi il presidente Trump, c'era uno studio della Cornell che lo dimostra: hanno misurato che il 38% della disinformazione COVID lo menziona. Li hanno definiti il ​​più grande fattore di disinformazione sul COVID. Hai segnalato alcuni dei suoi tweet, ma ci sono molte cose che pubblica che non soddisfano la definizione rigorosa di disinformazione, eppure fuorviano le persone sulla natura della pandemia. Quindi questa, questa eccezione per i funzionari pubblici, non mina l'intera strategia?

Grawal: Ogni funzionario pubblico ha accesso a molteplici modi per raggiungere le persone. Twitter è uno di questi. Esistiamo in un grande ecosistema. Il nostro approccio nell'etichettare i contenuti ci consente in realtà, alla fonte, di contrassegnare i contenuti che potrebbero potenzialmente danneggiare le persone e anche di fornire alle persone un contesto aggiuntivo e ulteriori conversazioni su di esso. Quindi molti di questi studi e non ho familiarità con quello che hai citato, sono in realtà più ampi di Twitter. E se si tratta di Twitter, parlano di portata e impressioni, senza parlare di persone esposte anche ad altre informazioni sull'argomento. Ora, non possiamo decidere in cosa le persone scelgono di credere, ma possiamo mostrare contenuti e una varietà di punti di vista su qualsiasi argomento, in modo che le persone possano prendere le proprie determinazioni.

Lichfield: Sembra un po' come se tu stia cercando di dire, beh, non è solo colpa nostra. È colpa di tutti. E quindi non c'è molto che possiamo fare al riguardo.

Grawal: Non credo di dirlo. Quello di cui sto parlando, i temi della disinformazione sono sempre esistiti nella società. Ora siamo una parte fondamentale del tessuto della conversazione pubblica, e questo è il nostro ruolo nel mondo. Questi non sono argomenti da cui possiamo districarci. Questi sono argomenti che rimarranno attuali oggi e rimarranno attuali tra cinque anni. Non vivo nell'illusione che possiamo fare qualcosa che magicamente fa sparire il problema dell'informazione ingannevole. Non abbiamo quel tipo di potere o controllo. E onestamente vorrei non volere quel potere o quel controllo. Ma abbiamo il privilegio di ascoltare le persone, di avere un insieme diversificato di persone sulla nostra piattaforma, che esprimono un insieme diversificato di punti di vista, le cose che contano davvero per tutti e per noi essere in grado di mostrarle con il giusto contesto in modo che la società possa imparare gli uni dagli altri e andare avanti.

Lichfield: Quando parli di consentire alle persone di vedere i contenuti e trarre le proprie conclusioni o di arrivare alle proprie opinioni, questo è il tipo di linguaggio a cui è associato, penso al modo in cui le piattaforme dei social media si presentavano tradizionalmente. 'Siamo solo uno spazio neutrale, le persone vengono e ci usano, non proviamo a giudicare'. E sembra un po' in contrasto con quello che stavi dicendo prima sul voler promuovere una sana conversazione pubblica, che chiaramente implica molti giudizi di valore su ciò che è sano. Allora come stai conciliando quei due?

Grawal: Oh, non sto dicendo che siamo una parte neutrale in tutta questa conversazione. Come ho detto, siamo una parte fondamentale del tessuto della conversazione pubblica. E non vorresti che giudicassimo ciò che è vero o ciò che è falso nel mondo. E onestamente, non possiamo farlo a livello globale in tutti i paesi in cui lavoriamo attraverso tutte le culture e tutte le sfumature che esistono. Tuttavia, abbiamo il privilegio di avere tutti sulla piattaforma in grado di cambiare le cose, di dare alle persone un maggiore controllo e di dover guidare la conversazione in un modo che sia più ricettivo e permetta di ascoltare più voci e per tutti di noi per essere meglio informati.

Lichfield: Una delle cose che alcuni osservatori dicono che potresti fare per fare una grande differenza sarebbe quella di abolire la funzione degli argomenti di tendenza, perché è qui che un sacco di disinformazione finisce per essere emersa. Cose come l'hashtag QAnon salvano i bambini, o c'era una teoria del complotto sui membri dello staff di Hillary Clinton che truccavano il caucus dell'Iowa. A volte cose del genere si fanno strada negli argomenti di tendenza e quindi hanno una grande influenza. Cosa ne pensi di questo?

Grawal: Non so se l'hai visto, ma proprio questa settimana abbiamo apportato una modifica al modo in cui le tendenze e gli argomenti di tendenza funzionano sulla piattaforma. E una delle cose che abbiamo fatto è stata mostrare il contesto su tutto ciò che fa tendenza, in modo che le persone siano meglio informate mentre vedono di cosa parlano le persone.

Forte: Faremo una breve pausa, ma prima... voglio suggerire un altro spettacolo che penso ti piacerà. Brave New Planet valuta i pro ei contro di un'ampia gamma di potenti innovazioni nel campo della scienza e della tecnologia. Il dottor Eric Lander, che dirige il Broad Institute del MIT e di Harvard, esplora questioni difficili come

Lander: Dovremmo alterare l'atmosfera terrestre per prevenire il cambiamento climatico? E la verità e la democrazia possono sopravvivere all'impatto dei deepfake?

Forte: Brave New Planet è di Pushkin Industries. Puoi trovarlo ovunque trovi i tuoi podcast. Torneremo subito dopo.

[Annuncio pubblicitario]

Forte: Bentornati a un episodio speciale di In Machines We Trust. Questa è una conversazione tra Parag Agrawal, Chief Technology Officer di Twitter, e Gideon Lichfield, caporedattore di Tech Review. Se desideri ulteriori informazioni su questo argomento, inclusa la nostra analisi, consulta le note dello spettacolo o visitaci su Technology Review dot com.

Lichfield: Le elezioni ovviamente sono molto vicine. E penso che molte persone si stiano chiedendo cosa accadrà in particolare il giorno delle elezioni, quando iniziano ad arrivare notizie dalle urne, c'è la preoccupazione che alcuni politici diffondano voci di violenze o brogli elettorali o altro, altri problemi , che a sua volta potrebbe innescare manifestazioni e violenze. E quindi è qualcosa a cui tutte le piattaforme social dovranno reagire molto rapidamente in tempo reale. Cosa starai facendo?

Grawal: Abbiamo lavorato alle elezioni in molti paesi negli ultimi quattro anni. L'India, il Brasile, le grandi democrazie hanno imparato da ognuna di esse e negli anni abbiamo lavorato per essere meglio preparati per ciò che verrà. L'anno scorso abbiamo apportato una modifica alla politica per vietare tutta la pubblicità politica su Twitter, in previsione del suo potenziale danno. E volevamo che la nostra attenzione fosse focalizzata, non sulla pubblicità, ma sulla conversazione pubblica che sta avvenendo organicamente per poterla proteggere e migliorarla, soprattutto per quanto riguarda le conversazioni sulle elezioni.

Abbiamo fatto un sacco di lavoro sulla tecnologia per migliorare nel rilevamento e nella comprensione dei cattivi attori statali e dei loro tentativi di manipolare le elezioni, e siamo stati molto trasparenti su questo. Abbiamo reso pubbliche centinaia di operazioni di questo tipo da oltre 10 nazioni, con decine di migliaia di account ciascuno e terabyte di dati che consentono a persone esterne all'azienda di analizzarle e comprendere i modelli di manipolazione in atto. E siamo andati avanti con le modifiche ai prodotti per aumentare la considerazione e la ponderatezza nel modo in cui le persone condividono i contenuti e come le persone amplificano i contenuti.

Quindi, abbiamo svolto un sacco di questo lavoro in preparazione e attraverso l'apprendimento lungo il percorso. Per arrivare a una risposta sulla notte delle elezioni. Abbiamo anche rafforzato le politiche sulla nostra integrità civica per non consentire a nessuno, a nessun candidato oa chiunque in tutte le razze di poter rivendicare un'elezione quando non è stato dichiarato un vincitore. Disponiamo inoltre di misure rigorose per evitare l'incitamento alla violenza. E abbiamo una squadra pronta, che lavorerà 24 ore su 24, 7 giorni su 7 per metterci in uno stato agile.

Detto questo, abbiamo fatto un sacco di lavoro per anticipare ciò che potrebbe accadere, ma una cosa che sappiamo per certo è che ciò che è probabile che accada non è qualcosa che abbiamo esattamente previsto. Quindi, cosa sarà importante per noi quella notte e oltre, e anche prima di quel momento per essere preparati, essere agili, rispondere al feedback che stavamo ricevendo sulla piattaforma, per rispondere alla conversazione che vedi su e fuori dalla piattaforma, uh, e cerchiamo di fare del nostro meglio per servire la conversazione pubblica in questo momento importante in questo paese.

Lichfield: Qualcuno tra il pubblico ha chiesto qualcosa su cui non credo saresti d'accordo, ovvero, hanno detto, Facebook e Twitter dovrebbero essere chiusi per tre giorni prima delle elezioni? Ma forse una versione più modesta di ciò sarebbe, c'è qualche tipo di contenuto che secondo te dovrebbe essere chiuso subito prima delle elezioni?

Grawal: Proprio questa settimana uno dei cambiamenti importanti di cui vale la pena parlare in dettaglio è che abbiamo fatto in modo che le persone abbiano più considerazione e più pensiero quando ritwittano. Quindi, invece di essere in grado di ritwittare facilmente i contenuti senza commenti aggiuntivi, ora per impostazione predefinita le persone aggiungono un commento quando ritwittano. E questo per due motivi, uno per aggiungere ulteriori considerazioni quando ritwitti e amplifichi determinati contenuti e due, per condividere il contenuto con più contesto su ciò che ne pensi in modo che le persone capiscano perché lo stai condividendo e cosa contesto intorno all'insieme della conversazione è. Abbiamo anche modificato le tendenze che ho descritto in precedenza. Questi sono cambiamenti che hanno lo scopo di rendere più ponderata la conversazione su Twitter.

Detto questo, Twitter sarà uno strumento molto, molto potente durante il periodo delle elezioni affinché le persone capiscano cosa sta succedendo, affinché le persone ottengano informazioni davvero importanti. Abbiamo etichette su tutti i candidati. Abbiamo informazioni sulla piattaforma su come possono votare. Abbiamo feedback in tempo reale provenienti da persone in tutto il paese, che raccontano alle persone cosa sta succedendo sul campo. E tutto questo è un'informazione importante di cui tutti in questo paese devono essere a conoscenza in quel momento. È un momento in cui ognuno di noi è alla ricerca di informazioni e la nostra piattaforma svolge un ruolo particolarmente importante in quel giorno.

Lichfield: Ti trovi in ​​una situazione un po' difficile, come sta sottolineando anche qualcuno tra il pubblico, che stai cercando di combattere la disinformazione, vuoi anche proteggere la libertà di parola come valore fondamentale, e anche negli Stati Uniti come primo emendamento. Come fai a bilanciare quei due?

Grawal: Il nostro ruolo non è quello di essere vincolati dal Primo Emendamento, ma il nostro ruolo è quello di servire una sana conversazione pubblica e le nostre mosse riflettono cose che riteniamo portino a una conversazione pubblica più sana. Il tipo di cose che facciamo al riguardo è concentrarsi meno sul pensare alla libertà di parola, ma pensare a come sono cambiati i tempi. Uno dei cambiamenti che vediamo oggi è che il linguaggio è facile su Internet. La maggior parte delle persone può parlare. Dove il nostro ruolo è particolarmente enfatizzato è chi può essere ascoltato. La merce scarsa oggi è l'attenzione. Ci sono molti contenuti là fuori. Molti tweet là fuori, non tutti attirano l'attenzione, alcuni sottoinsiemi attirano l'attenzione. E così sempre più il nostro ruolo si sta muovendo verso il modo in cui consigliamo i contenuti e questo tipo di, è, è, una lotta su cui stiamo lavorando in termini di come ci assicuriamo che questi sistemi di raccomandazione che stiamo costruendo, come dirigiamo l'attenzione delle persone sta portando a una sana conversazione pubblica che è più partecipativa.

Lichfield: Bene, siamo fuori tempo, ma grazie per una visione davvero interessante su come pensi a questi problemi molto complicati.

Grawal: Grazie Gideon per avermi ospitato.

[Musica]

Forte: Se desideri ascoltare l'analisi della nostra redazione su questo argomento e le elezioni... ho inserito un link nelle note del nostro programma. Spero che lo verificherai. Questo episodio di EmTech è stato prodotto da me e da Emma Cillekens, con un ringraziamento speciale a Brian Bryson e Benji Rosen. Siamo a cura di Michael Reilly e Gideon Lichfield. Come sempre, grazie per l'ascolto. Sono Jennifer Strong.

[ID TR]

nascondere