I lavoratori di Deepfake Amazon stanno seminando confusione su Twitter. Non è questo il problema.

Uno striscione che incoraggia i lavoratori a votare nelle votazioni sindacali viene mostrato in un magazzino Amazon a Bessemer, in Alabama. AP

Le notizie: In vista di una votazione storica che potrebbe portare alla formazione del primo sindacato in assoluto in un magazzino Amazon con sede negli Stati Uniti, sono iniziati ad apparire nuovi account Twitter che pretendono di essere dipendenti Amazon. I profili utilizzavano foto deepfake come immagini del profilo e stavano twittando alcune difese piuttosto ridicole e esagerate delle pratiche di lavoro di Amazon. Non sembravano reali, ma hanno comunque creato confusione nel pubblico. Amazon era davvero dietro di loro? Era questa una nuova terribile strategia sui social media anti-sindacali? La risposta è quasi certamente no, ma l'uso di deepfake in questo contesto indica una tendenza generale più preoccupante.

Il retroscena: C'è una ragione per cui questi nuovi profili deepfake sembravano familiari. Nel 2018 è iniziata Amazon un programma molto reale per convincere il pubblico che stava trattando bene i suoi magazzinieri. Ha installato postazioni informatiche in quei magazzini e ha creato account Twitter per un piccolo gruppo di dipendenti, noti come Amazon FC Ambassador, che potevano twittare durante le ore retribuite su quanto amavano il proprio lavoro. Il piano fallì e portò alla creazione di numerosi resoconti dell'ambasciatore parodia su Twitter. Amazon ha ridimensionato il programma poco dopo e molti degli account reali originali sono stati sospesi o chiusi, afferma Aric Toler, capo degli sforzi di formazione e ricerca per il sito di giornalismo investigativo Bellingcat.

L'ultimo: Lunedì è spuntata la nuova serie di account di ambasciatori, o almeno così sembrava. Ma quando le persone hanno iniziato a indagare, molti appuntito fuori che alcuni avevano immagini del profilo con i segni rivelatori di volti falsi, come orecchini deformati e sfondi sfocati. È allora che le cose sono diventate confuse.

Le persone si sono subito aggrappate all'idea che Amazon stessa fosse dietro i nuovi account deepfake come parte di una campagna sui social media anti-sindacato. La società in seguito ha detto La giornalista del New York Times Karen Wise che non lo era. Toler, che ha rintracciato gli account originali, crede che Amazon stia dicendo la verità. Gli account Ambassador originali sono stati tutti registrati con indirizzi e-mail Amazon e pubblicati utilizzando Sprinklr. I nuovi account deepfake, che da allora sono stati sospesi, lo erano registrati utilizzando Gmail e pubblicato tramite l'app Web di Twitter. Inoltre, il contenuto dei tweet era chiaramente inteso come umoristico. Questi account erano probabilmente solo altre parodie create per deridere Amazon.

Questo importa? In questo caso particolare, probabilmente no. Ovviamente è piuttosto innocuo, dice Toler. È Amazon. Stanno bene. Ma rivela un problema più preoccupante: che gli account deepfake possono essere distribuiti in modo coordinato sui social media o altrove per scopi molto più sinistri. La versione più dannosa di questo sarebbe attori statali, avverte Toler.

Storia correlata

La lotta di due anni per impedire ad Amazon di vendere il riconoscimento facciale alla polizia Le mosse di questa settimana da Amazon, Microsoft e IBM segnano un'importante pietra miliare per i ricercatori e i difensori dei diritti civili in una lunga e continua lotta per il riconoscimento facciale nelle forze dell'ordine.

In effetti, ci sono già stati diversi casi di alto profilo in cui le foto deepfake sono state utilizzate in dannose campagne di disinformazione. Nel dicembre 2019, Facebook ha identificato e rimosso una rete di oltre 900 pagine, gruppi e account , inclusi alcuni con immagini del profilo falsificate, associate all'outlet di estrema destra Epoch Times, noto per impegnarsi in tattiche di disinformazione. Nell'ottobre 2020, un falso analista della sicurezza ha scritto anche un falso documento di intelligence distribuito tra i circoli del presidente Trump, che è diventato la base di numerose teorie del complotto su Hunter Biden. con un'immagine del profilo in deepfake .

Toler afferma che i volti falsi sono diventati una tendenza nella sua linea di lavoro come investigatore open source in attività online sospette, soprattutto dal lancio di ThisPersonDoesNotExist.com, un sito Web che offre un nuovo volto generato dall'intelligenza artificiale ad ogni aggiornamento. C'è sempre una lista di controllo mentale che esamini ogni volta che trovi qualcosa, dice. La prima domanda è 'Questa persona è reale o no?', una domanda che non ci eravamo posti cinque anni fa.

Quanto è grande questa minaccia? Al momento, dice Toler, l'uso di facce deepfake non ha avuto un grande impatto sul suo lavoro. È ancora relativamente facile per lui identificare quando un'immagine del profilo è un deepfake, proprio come quando la foto è un'immagine stock. Lo scenario più difficile è quando l'immagine è di una persona reale estratta da un account di social media privato che non è indicizzato sui motori di ricerca di immagini.

Una crescente consapevolezza dei deepfake ha anche indotto le persone a esaminare più attentamente i media che vedono, afferma Toler, come dimostra la rapidità con cui le persone si sono rese conto della falsificazione degli account Amazon.

Ma Sam Gregory, il direttore del programma dell'organizzazione no profit Witness per i diritti umani, afferma che questo non dovrebbe indurci in un falso senso di sicurezza. I deepfake migliorano costantemente, dice: Penso che le persone abbiano un po' troppa fiducia nel fatto che sarà sempre possibile rilevarli.

Anche un'iperconsapevolezza dei deepfake potrebbe portare le persone a farlo smettere di credere nei media reali , che potrebbero avere conseguenze altrettanto gravi, come minare la documentazione delle violazioni dei diritti umani.

Cosa dovremmo fare? Gregory incoraggia gli utenti dei social media a evitare di fissarsi sul fatto che un'immagine sia un deepfake o meno. Spesso, questa è solo una piccola parte del puzzle, dice. Il regalo non è che hai in qualche modo interrogato l'immagine. È che guardi l'account ed è stato creato una settimana fa, oppure è un giornalista che afferma di essere un giornalista, ma non ha mai scritto nient'altro che potresti trovare su una ricerca su Google.

Queste tattiche investigative sono molto più solide rispetto ai progressi della tecnologia deepfake. Il consiglio suona vero anche per il caso Amazon. È stato controllando le e-mail degli account e i dettagli dei tweet che Toler alla fine ha stabilito che erano falsi, non esaminando le immagini del profilo.

nascondere