Ha rischiato tutto per smascherare Facebook. Ora sta raccontando la sua storia.

Sophie Zhang, ex scienziata di dati di Facebook, ha rivelato che consente la manipolazione politica globale e ha fatto ben poco per fermarla.

Christie There Klok

di

• Karen Hao pagina di archivio

29 luglio 2021

Il mondo ha appreso per la prima volta di Sophie Zhang nel settembre 2020, quando Notizie BuzzFeed ottenuto e pubblicato i punti salienti di una versione ridotta del suo memo di uscita di quasi 8.000 parole da Facebook.

Prima di essere licenziata, Zhang è stata ufficialmente assunta come data scientist di basso livello presso l'azienda. Ma era stata consumata da un compito che riteneva più importante: trovare e rimuovere account falsi e Mi piace che venivano usati per influenzare le elezioni a livello globale.

Il suo promemoria ha rivelato di aver identificato dozzine di paesi, tra cui India, Messico, Afghanistan e Corea del Sud, in cui questo tipo di abuso stava consentendo ai politici di fuorviare il pubblico e acquisire potere. Ha anche rivelato quanto poco l'azienda avesse fatto per mitigare il problema, nonostante i ripetuti sforzi di Zhang per portarlo all'attenzione della leadership.

ASCOLTA LA STORIA QUI

So di avere le mani insanguinate ormai, ha scritto.

Alla vigilia della sua partenza, Zhang stava ancora discutendo se scrivere il promemoria. Era forse la sua ultima possibilità di creare una pressione interna sufficiente sulla leadership per iniziare a prendere sul serio i problemi. In attesa di scriverlo, aveva rifiutato un pacchetto di fine rapporto di quasi $ 64.000 che avrebbe comportato la firma di un accordo di non denigrazione. Voleva mantenere la libertà di parlare in modo critico dell'azienda.

Ma erano passati solo due mesi dalle elezioni americane del 2020 ed era turbata dall'idea che il memorandum avrebbe potuto erodere la fiducia del pubblico nel processo elettorale se rilasciato prematuramente alla stampa. Ero terrorizzata all'idea di diventare in qualche modo la James Comey del 2020, dice, riferendosi all'ex direttore dell'FBI che, giorni prima delle elezioni del 2016, aveva detto al Congresso che l'agenzia aveva riaperto un'indagine sull'uso di un server di posta elettronica privato da parte di Hillary Clinton. Clinton ha continuato ad incolpare Comey per la sua perdita.

Con grande sollievo di Zhang, ciò non è accaduto. E dopo che le elezioni sono passate, ha proseguito con il suo piano originale. Ad aprile si è fatta avanti in due Custode articoli con la sua faccia, il suo nome e una documentazione ancora più dettagliata della manipolazione politica che aveva scoperto e della negligenza di Facebook nell'affrontarla.

Il suo account ha fornito prove concrete a sostegno di ciò che i critici hanno affermato da tempo all'esterno: che Facebook rende facile l'interferenza elettorale e che, a meno che tale attività non danneggi gli interessi commerciali dell'azienda, non può essere preso la briga di risolvere il problema.

In una dichiarazione, Joe Osborne, un portavoce di Facebook, ha negato con veemenza queste affermazioni. Per le innumerevoli interviste alla stampa che ha fatto da quando ha lasciato Facebook, siamo fondamentalmente in disaccordo con la caratterizzazione da parte della signora Zhang delle nostre priorità e degli sforzi per sradicare gli abusi sulla nostra piattaforma, ha affermato. Perseguiamo aggressivamente gli abusi in tutto il mondo e abbiamo team specializzati concentrati su questo lavoro. Di conseguenza, abbiamo già eliminato più di 150 reti di comportamenti non autentici coordinati... Combattere i comportamenti non autentici coordinati è la nostra priorità.

Diventando pubblica ed evitando l'anonimato, Zhang ha rischiato un'azione legale da parte dell'azienda, danneggiando le sue prospettive di carriera futura e forse anche rappresaglie da parte dei politici che ha esposto nel processo. Quello che ha fatto è molto coraggioso, dice Julia Carrie Wong, la giornalista del Guardian che ha pubblicato le sue rivelazioni.

Dopo quasi un anno passato a evitare domande personali, Zhang è ora pronta a raccontare la sua storia. Vuole che il mondo capisca come è stata così coinvolta nel tentativo di proteggere la democrazia in tutto il mondo e perché ci teneva così profondamente. È anche stanca di stare nell'armadio come donna transgender, un aspetto fondamentale della sua identità che ha informato le sue azioni su Facebook e dopo che se ne è andata.

La sua storia rivela che è davvero pura fortuna che ora sappiamo così tanto su come Facebook consente l'interferenza elettorale a livello globale. Zhang non era solo l'unica persona a combattere questa forma di manipolazione politica; non era nemmeno il suo lavoro. Aveva scoperto il problema per una singolare confluenza di competenze e passione, e poi se l'era presa su di sé, spinta da uno straordinario senso di responsabilità morale.

Per le autorità di regolamentazione di tutto il mondo che stanno valutando come tenere a freno l'azienda, questo dovrebbe essere un campanello d'allarme.

Zhang non ha mai pianificato essere in questa posizione. È profondamente introversa e odia essere sotto i riflettori. Si era unita a Facebook nel 2018 dopo che la tensione finanziaria di vivere con un contratto part-time nella Bay Area l'aveva logorata. Quando ha ricevuto l'offerta di Facebook, è stata sincera con il suo reclutatore: non pensava che l'azienda stesse migliorando il mondo, ma si sarebbe unita per aiutare a risolverlo.

Mi hanno detto: 'Sareste sorpresi di quante persone su Facebook lo dicono', ricorda.

Era più facile a dirsi che a farsi. Come molti nuovi assunti, si era unita senza essere assegnata a un team specifico. Voleva lavorare sull'integrità elettorale, che cerca modi per mitigare gli abusi della piattaforma legati alle elezioni, ma le sue capacità non corrispondevano alle loro aperture. Si è invece accontentata di una nuova squadra che affrontasse il finto fidanzamento.

Il coinvolgimento falso si riferisce a cose come Mi piace, condivisioni e commenti che sono stati acquistati o altrimenti generati in modo non autentico sulla piattaforma. Il nuovo team si è concentrato in modo più ristretto sulla cosiddetta attività non autentica con script: Mi piace e condivisioni falsi prodotti da robot automatizzati e utilizzati per aumentare la popolarità di qualcuno.

Nella stragrande maggioranza di questi casi, le persone stavano semplicemente ottenendo Mi piace per la vanità. Ma dopo sei mesi, Zhang ha intuito che i politici avrebbero potuto fare le stesse cose per aumentare la loro influenza e raggiungere la piattaforma. Non ci è voluto molto per trovare esempi in Brasile e in India, che si stavano entrambi preparando per le elezioni generali.

Nel processo di ricerca dell'attività programmata, ha anche trovato qualcosa di molto più preoccupante. L'amministratore della pagina Facebook del presidente dell'Honduras, Juan Orlando Hernández, aveva creato centinaia di pagine con nomi falsi e immagini del profilo per assomigliare agli utenti e le stava usando per inondare i post del presidente con Mi piace, commenti e condivisioni. (Facebook impedisce agli utenti di creare più profili ma non applica la stessa restrizione alle pagine, che di solito sono destinate ad aziende e personaggi pubblici.)

L'attività non contava come programmata, ma l'effetto era lo stesso. Non solo poteva indurre in errore l'osservatore casuale facendogli credere che Hernández fosse più apprezzato e popolare di lui, ma stava anche aumentando i suoi post più in alto nei feed di notizie delle persone. Per un politico la cui vittoria alla rielezione del 2017 era ampiamente ritenuta fraudolenta, la sfacciataggine e le implicazioni erano allarmanti.

Tutti erano d'accordo sul fatto che fosse terribile. Nessuno potrebbe concordare chi dovrebbe essere responsabile, o anche cosa dovrebbe essere fatto.

Ma quando Zhang ha sollevato la questione, dice, ha ricevuto un'accoglienza tiepida. Il team per l'integrità delle pagine, che gestisce l'abuso di e sulle pagine di Facebook, non bloccherebbe la produzione di massa delle pagine per assomigliare agli utenti. Il team per l'integrità del newsfeed, che cerca di migliorare la qualità di ciò che appare nei newsfeed degli utenti, non rimuoverebbe i falsi Mi piace e commenti dalla considerazione dell'algoritmo di ranking. Tutti erano d'accordo sul fatto che fosse terribile, dice Zhang. Nessuno potrebbe concordare chi dovrebbe essere responsabile, o anche cosa dovrebbe essere fatto.

Dopo che Zhang ha esercitato pressioni per un anno, la rete di pagine false è stata finalmente rimossa. Alcuni mesi dopo, Facebook ha creato una nuova politica di comportamento non autentico per vietare le pagine false mascherate da utenti. Ma questo cambiamento di politica non ha affrontato un problema più fondamentale: a nessuno è stato chiesto di applicarlo.

Quindi Zhang ha preso l'iniziativa lei stessa. Quando non stava lavorando per eliminare i Mi piace vanitosi, ha setacciato diligentemente flussi di dati, cercando l'uso di pagine false, account falsi e altre forme di attività false coordinate sulle pagine dei politici. Ha trovato casi in dozzine di paesi, il più eclatante in Azerbaigian, dove la tecnica delle pagine veniva usata per molestare l'opposizione.

Ma trovare e segnalare nuovi casi non era abbastanza. Zhang ha scoperto che per rimuovere qualsiasi rete di pagine o account falsi, doveva fare pressioni insistenti sui team competenti. Nei paesi in cui tale attività poneva pochi rischi di PR per l'azienda, l'esecuzione potrebbe essere ripetuta . (Facebook contesta questa caratterizzazione.) La responsabilità le gravava pesantemente. Era più importante promuovere un caso in Bolivia, con una popolazione di 11,6 milioni, o in Rajasthan, in India, con una popolazione vicina ai 70 milioni?

Poi, nell'autunno del 2019, settimane di mortale protesta civile sono scoppiate in Bolivia dopo che il pubblico ha contestato i risultati delle sue elezioni presidenziali. Solo poche settimane prima, Zhang aveva effettivamente svincolato la priorità del Paese per occuparsi di quelli che sembravano casi più urgenti. La notizia l'ha consumata dal senso di colpa. Intellettualmente, sapeva che non c'era modo di tracciare un collegamento diretto tra la sua decisione e gli eventi. Il finto fidanzamento era stato così lieve che l'effetto era probabilmente trascurabile. Ma psicologicamente ed emotivamente, non importava. È stato allora che ho iniziato a perdere il sonno, dice.

Mentre qualcun altro avrebbe potuto scegliere di lasciare un lavoro così faticoso o forse assolversi dalle responsabilità come mezzo per far fronte, Zhang si è appoggiata, a grandi spese personali, nel tentativo di riparare da sola un torto.

Nel corso dell'anno tra gli eventi in Bolivia e il suo licenziamento, lo sforzo ha peggiorato notevolmente la sua salute. Soffriva già di ansia e depressione, ma è cresciuta in modo significativo, e pericolosamente, peggio. Da sempre vorace lettrice di cronaca mondiale, non poteva più prendere le distanze dalle turbolenze politiche di altri paesi. La pressione l'ha allontanata da amici e persone care. È cresciuta sempre più isolata e ha rotto con la sua ragazza. Ha aumentato la sua ansia e i farmaci antidepressivi fino a quando la sua dose non è aumentata di sei volte.

Storia correlata

Come Facebook è diventato dipendente dalla diffusione di disinformazione

Gli algoritmi di intelligenza artificiale dell'azienda le hanno dato un'abitudine insaziabile di bugie e incitamento all'odio. Ora l'uomo che li ha costruiti non può risolvere il problema.

Per Zhang, la spiegazione del perché le importava così tanto è legata alla sua identità. È cresciuta ad Ann Arbor, nel Michigan, figlia di genitori immigrati dalla Cina continentale. Fin dalla tenera età, è stata tenuta a standard accademici elevati e si è rivelata una studiosa precoce. A sei o sette anni lesse un libro introduttivo di fisica e rimase affascinata dai mattoni dell'universo. La sua passione l'ha portata a studiare cosmologia all'Università del Michigan, dove ha pubblicato due articoli di ricerca, uno come unico autore.

Era incredibilmente intelligente. Potrebbe essere la studentessa universitaria più intelligente con cui abbia mai lavorato, ricorda Dragan Huterer, il suo consulente universitario. Direi che era più avanzata di una studentessa laureata.

Ma anche la sua infanzia è stata segnata da un grave trauma. Già all'età di cinque anni, iniziò a rendersi conto di essere diversa. Ha letto un libro per bambini su un ragazzo i cui amici gli hanno detto che se gli avesse baciato il gomito si sarebbe trasformato in una ragazza. Ho passato molto tempo dopo a cercare di baciarmi il gomito, dice.

Ha fatto del suo meglio per nasconderlo, capendo che i suoi genitori avrebbero trovato intollerabile la sua identità transgender. Ma ricorda vividamente il momento in cui suo padre lo ha scoperto. Era la primavera della terza media. Aveva appena piovuto. E lei era rannicchiata in bagno, meditando se saltare fuori dalla finestra, mentre lui abbatteva la porta.

Alla fine, ha scelto di non saltare e si è lasciata colpire fino a quando non era sanguinante, dice: Alla fine, ho deciso che ero la persona che è rimasta in situazioni imperfette per cercare di risolverle. Il giorno successivo, ha indossato una maglietta a maniche lunghe per coprire i lividi e ha preparato una scusa nel caso un insegnante se ne fosse accorto. Nessuno l'ha fatto, dice.

(Quando è stato contattato via e-mail, suo padre ha negato le accuse. Sono triste che lei affermi che l'ho picchiata da bambina dopo aver scoperto la sua identità transgender, il che è completamente falso, ha scritto. Ma più persone che conoscevano Zhang dal liceo al i giorni nostri hanno corroborato il suo resoconto del comportamento abusivo di suo padre.)

Rinunciare a loro e abbandonarli sarebbe un tradimento del nucleo stesso della mia identità.

Al college, ha deciso di passare, dopodiché suo padre l'ha rinnegata. Ma presto scoprì che finalmente essere percepita correttamente come donna aveva le sue stesse conseguenze. Sapevo esattamente come mi trattavano le persone quando pensavano che fossi un tipo. Era molto diverso, dice.

Dopo essere stata ammessa a tutti i migliori dottorati di ricerca in fisica, ha scelto di frequentare la Princeton University. Durante l'orientamento, la persona che faceva un giro dell'officina meccanica l'ha individuata ripetutamente davanti al gruppo con false supposizioni che fosse meno che competente. È stata la mia presentazione ufficiale a Princeton, e molto appropriata, dice.

CHRISTIE C'È UN OROLOGIO

Da lì, il sessismo è solo peggiorato. Quasi immediatamente, uno studente di sesso maschile ha iniziato a perseguitarla e molestarla sessualmente. Per far fronte, ha scelto un relatore di tesi nel dipartimento di biofisica, che le ha permesso di sfuggire al suo molestatore conducendo ricerche in un altro edificio. Il problema era che in realtà non era interessata alla biofisica. E per questo o per altri motivi, il suo interesse per la fisica si è lentamente dissolto.

Tre anni dopo, profondamente infelice, decise di lasciare il programma, anche se non senza aver finalmente denunciato le molestie all'università. Dicevano: 'È la tua parola contro la sua'. Probabilmente ora puoi indovinare perché ho documentato ampiamente tutto ciò che ho dato a Julia, dice, riferendosi a Julia Carrie Wong al Guardian. Non volevo trovarmi in un'altra situazione 'Ha detto/ha detto'.

(Un portavoce di Princeton ha affermato di non essere in grado di commentare le situazioni individuali, ma ha dichiarato l'impegno dell'università a fornire un ambiente educativo e lavorativo inclusivo e accogliente. Princeton cerca di sostenere qualsiasi membro della comunità del campus che abbia subito una cattiva condotta sessuale, comprese le molestie sessuali, ha disse.)

Ciò che queste esperienze hanno in comune è il fatto che ho sperimentato ripetutamente cadere nelle crepe della responsabilità, ha scritto Zhang nel suo promemoria. Non ho mai ricevuto il supporto delle figure autoritarie di cui avevo bisogno... In ogni caso, hanno completato la lettera del loro dovere ma hanno mancato allo spirito e ho pagato il prezzo delle loro decisioni.

Forse allora puoi capire perché questo è stato così personale per me fin dall'inizio, perché ho combattuto così duramente per impedire al popolo dell'Honduras e dell'Azerbaigian di scivolare attraverso quelle crepe, ha scritto. Rinunciare a loro e abbandonarli sarebbe un tradimento del nucleo stesso della mia identità.

Era durante l'inizio del suo declino fisico e mentale nell'autunno del 2019 che Zhang ha iniziato a pensare se farsi avanti. Voleva dare una possibilità ai sistemi ufficiali di Facebook di funzionare. Ma era preoccupata di essere un singolo punto di fallimento. E se venissi investito da un autobus il giorno dopo? lei dice. Aveva bisogno che qualcun altro avesse accesso alle stesse informazioni.

Per coincidenza, ha ricevuto un'e-mail da un giornalista nella sua casella di posta. Wong, allora giornalista tecnico senior del Guardian, aveva inviato messaggi ai dipendenti di Facebook che cercavano di coltivare nuove fonti. Zhang ha colto l'occasione e ha accettato di incontrarsi per una conversazione off-the-record. Quel giorno, per precauzione, ha lasciato il telefono e il computer forniti dall'azienda a casa di un ex coinquilino, sapendo che Facebook aveva la possibilità di rintracciare la sua posizione. Quando è tornata, sembrava un po' sollevata, l'ex coinquilina, Ness Io Kain, ricorda: Si potrebbe dire che si sentiva come se avesse realizzato qualcosa. È abbastanza silenzioso, ma è decisamente palpabile.

Per un momento le cose su Facebook sembravano fare progressi. Ha visto il cambiamento nella politica e la rimozione della falsa rete del presidente honduregno come uno slancio in avanti. È stata chiamata ripetutamente per aiutare a gestire le emergenze ed è stata elogiata per il suo lavoro, che le è stato detto essere apprezzato e importante.

Ma nonostante i suoi ripetuti tentativi di spingere per maggiori risorse, la leadership ha citato priorità diverse. Hanno anche respinto i suggerimenti di Zhang per una soluzione più sostenibile, come la sospensione o la penalizzazione in altro modo dei politici recidivi. L'ha lasciata di fronte a una manichetta antincendio senza fine: le reti di manipolazione che ha abbattuto sono tornate rapidamente, spesso solo ore o giorni dopo. Sembrava sempre più come se stessi cercando di svuotare l'oceano con uno scolapasta, dice.

Non ho mai odiato il mio autismo più di quando mi sono iscritto a Facebook.

Poi, a gennaio del 2020, la marea è cambiata. Sia il suo manager che il manager del manager le hanno detto di interrompere il suo lavoro politico e di attenersi al lavoro assegnato. In caso contrario, i suoi servizi in azienda non sarebbero più necessari, ricorda quest'ultima dire. Ma senza una squadra assegnata a continuare il suo lavoro, Zhang ha continuato a farne alcune in segreto.

Mentre la pressione aumentava e la sua salute peggiorava, Zhang si rese conto che alla fine avrebbe dovuto andarsene. Ha fatto un piano per partire dopo le elezioni americane, considerandolo l'ultimo e più importante evento che doveva affrontare. Ma la leadership aveva altri piani. Ad agosto, è stata informata che sarebbe stata licenziata per scarso rendimento.

Il suo ultimo giorno, poche ore dopo aver pubblicato il suo memo internamente, Facebook lo ha cancellato (anche se in seguito hanno ripristinato una versione modificata dopo la diffusa rabbia dei dipendenti). Poche ore dopo, una persona delle risorse umane l'ha chiamata, chiedendole di rimuovere anche una copia protetta da password che aveva pubblicato sul suo sito web personale. Cercò di contrattare: lo avrebbe fatto se avessero ripristinato la versione interna. Il giorno successivo, invece, ha ricevuto un avviso dal suo server di hosting che aveva rimosso l'intero sito Web dopo un reclamo da parte di Facebook. Pochi giorni dopo, ha preso anche il suo dominio.

Anche dopo tutto quello che Facebook le ha fatto passare, Zhang non si autoaccusa. Nel suo promemoria, si è scusata con i colleghi per i problemi che avrebbe potuto causare loro e per averli lasciati senza ottenere di più. In su Reddit AMA mesi dopo, si è scusata con i cittadini di diversi paesi per non aver agito abbastanza velocemente e per non essere riusciti a raggiungere una soluzione a lungo termine.

Per me, Zhang, che è autistica, si chiede ad alta voce cosa avrebbe potuto ottenere se non lo fosse stato. Non ho talento per la persuasione e il convincere, dice. Se fossi nato con la lingua d'argento, forse avrei potuto apportare dei cambiamenti.

Non ho mai odiato il mio autismo più di quando mi sono iscritto a Facebook.

In preparazione per la quotazione in borsa, Zhang ha fatto un ultimo sacrificio: nascondere la sua identità trans, non per paura delle molestie, ma per paura che potesse distrarre dal suo messaggio. Negli Stati Uniti, dove i diritti dei transgender sono altamente politicizzati, non voleva che la protezione della democrazia diventasse una questione di parte. All'estero, dove alcuni paesi considerano l'essere transgender un crimine punibile con il carcere o addirittura con la morte, non voleva che le persone smettessero di ascoltare.

Era in linea con un sacrificio che aveva ripetutamente fatto quando si occupava dell'interferenza elettorale della polizia a livello globale. Ha trattato tutti i politici allo stesso modo, anche quando la rimozione della falsa attività di uno in Azerbaigian ha inevitabilmente potenziato un avversario che omofobia sposata . Ho fatto del mio meglio per proteggere la democrazia e lo stato di diritto a livello globale per le persone, indipendentemente dal fatto che mi credessero umana, dice con un profondo sospiro. Ma penso che nessuno dovrebbe dover fare questa scelta.

Storia correlata

Recensione: perché Facebook non può mai aggiustarsi da solo

In An Ugly Truth, le reporter Sheera Frenkel e Cecilia Kang rivelano i difetti fondamentali di Facebook attraverso un resoconto dettagliato degli anni trascorsi tra due elezioni americane.

La notte in cui sono stati pubblicati gli articoli del Guardian, ha atteso con ansia la reazione del pubblico, preoccupata di essere in grado di gestire l'attenzione dei media. Penso che si sia davvero sorpresa di quanto fosse brava nelle interviste, dice la sua ragazza, Lisa Danz, con cui Zhang si è riunito dopo aver lasciato Facebook. Ha scoperto che quando c'è del materiale che conosce molto bene e le vengono solo poste domande al riguardo, può rispondere.

L'impatto alla fine non è stato all'altezza di ciò che Zhang aveva immaginato. S sempre metà uscita ts negli Stati Uniti hanno fatto follow-up, così come i punti vendita esteri dei paesi interessati dall'attività di manipolazione. Ma per quanto ne sa, non ha ottenuto ciò che sperava: uno scandalo di pubbliche relazioni abbastanza grande da indurre Facebook a dare finalmente la priorità al lavoro che si è lasciata alle spalle.

Facebook contesta ancora una volta questa caratterizzazione, affermando che il team del falso impegno ha continuato il lavoro di Zhang. Ma Zhang indica altre prove: la rete delle pagine false in Azerbaigian è ancora lì. È chiaro che non hanno avuto successo, dice.

Tuttavia, Zhang non si rammarica della sua decisione di farsi avanti. Sono stata l'unica in questa posizione di responsabilità fin dall'inizio, dice, e qualcuno doveva assumersi la responsabilità e fare il massimo per proteggere le persone.

Senza perdere un colpo, poi snocciola le conseguenze che altri hanno dovuto affrontare per essersi scontrati contro i potenti nei paesi più ostili: giornalisti uccisi per aver indagato sulla corruzione del governo, manifestanti uccisi a colpi di arma da fuoco per aver registrato il loro dissenso.

In confronto a loro, sono patate piccole, dice.

Correzione: Una versione precedente dell'articolo ha perso una 'e' su Joe Osborne. Scusa, Gio.