Falsa America di nuovo alla grande

All'interno della corsa per catturare i falsi preoccupanti reali che possono essere realizzati utilizzando l'intelligenza artificiale. Di

• Will Cavaliere pagina di archivio

17 agosto 2018

Bruce Peterson

Indovina un po? Ho appena ricevuto alcune riprese video imbarazzanti del senatore del Texas Ted Cruz che canta e gira con Tina Turner. I suoi nemici politici si divertiranno moltissimo a mostrarlo a metà mandato. Donald Trump lo chiamerà Dancin' Ted.

Ok, lo ammetto: ho creato il video da solo. Ma ecco la cosa preoccupante: realizzarlo richiedeva pochissime abilità di editing video. Ho scaricato e configurato un software che utilizza l'apprendimento automatico per eseguire un convincente scambio di volti digitali. Il video risultante, noto come deepfake, mostra gli occhi tipicamente cadenti di Cruz cuciti sui lineamenti dell'attore Paul Rudd che esegue il karaoke con sincronizzazione labiale. Non è perfetto, c'è qualcosa che non va, ma potrebbe ingannare alcune persone.

Questa storia faceva parte del nostro numero di settembre 2018

• Vedi il resto del problema
• sottoscrivi

La falsificazione delle foto è tutt'altro che nuova, ma l'intelligenza artificiale cambierà completamente il gioco. Fino a poco tempo solo uno studio cinematografico con un budget elevato poteva effettuare uno scambio di volti video e probabilmente sarebbe costato milioni di dollari. L'intelligenza artificiale ora consente a chiunque disponga di un computer decente e di alcune ore libere di fare la stessa cosa. Ulteriori progressi nell'apprendimento automatico renderanno possibili inganni ancora più complessi e renderanno più difficile individuare i falsi.

Questi progressi minacciano di offuscare ulteriormente il confine tra verità e finzione in politica. Già Internet accelera e rafforza la diffusione della disinformazione attraverso falsi account di social media. Fatti alternativi e teorie del complotto sono comuni e ampiamente creduti. Le notizie false, a parte la loro possibile influenza sulle ultime elezioni presidenziali statunitensi, hanno scatenato violenze etniche in Myanmar e Sri Lanka nell'ultimo anno. Ora immagina di inserire nuovi tipi di video falsi dall'aspetto reale nel mix: politici che dicono sciocchezze o insulti etnici, o essere scoperti a comportarsi in modo inappropriato in video, tranne che non è mai successo davvero.

I deepfake hanno il potenziale per far deragliare il discorso politico, afferma Charles Seife, professore alla New York University e autore di Irrealtà virtuale: solo perché Internet te l'ha detto, come fai a sapere che è vero? Seife confessa di essere stupito dalla rapidità con cui le cose sono progredite da quando è stato pubblicato il suo libro, nel 2014. La tecnologia sta alterando la nostra percezione della realtà a un ritmo allarmante, dice.

Stiamo per entrare in un'era in cui non possiamo fidarci di nulla, nemmeno di video dall'aspetto autentico che sembrano catturare notizie reali? Come decidiamo cosa è credibile? Di chi ci fidiamo?

Queste immagini fisse di Ted Cruz e Paul Rudd sono state tratte dal filmato che è stato inviato a un programma di scambio di volti.

Vero falso

Diverse tecnologie si sono unite per rendere più semplice la falsificazione e sono facilmente accessibili: gli smartphone consentono a chiunque di acquisire filmati e i potenti strumenti di computer grafica sono diventati molto più economici. Aggiungi un software di intelligenza artificiale, che consente alle cose di essere distorte, remixate e sintetizzate in modi nuovi e strabilianti. L'IA non è solo una versione migliore di Photoshop o iMovie. Consente a un computer di imparare come appare e suona il mondo in modo da poter evocare simulacri convincenti.

Ho creato la clip di Cruz utilizzando OpenFaceSwap, uno dei numerosi programmi di cambio faccia che puoi scaricare gratuitamente. Hai bisogno di un computer con un chip grafico avanzato e questo può farti guadagnare qualche migliaio di dollari. Ma puoi anche affittare l'accesso a una macchina virtuale per pochi centesimi al minuto utilizzando una piattaforma di machine learning cloud come Paperspace. Quindi inserisci semplicemente due video clip e ti siedi per alcune ore mentre un algoritmo calcola come appare e si muove ogni viso in modo che possa mappare l'uno sull'altro. Far funzionare le cose è un po' un'arte: se scegli clip troppo diverse, il risultato può essere un miscuglio da incubo di naso, orecchie e mento.

Ma il processo è abbastanza facile.

Far funzionare le cose è un po' un'arte: se scegli clip troppo diverse, i risultati possono essere un miscuglio di nasi, orecchie e mento.

Lo scambio di volti è stato, prevedibilmente, adottato per la prima volta per fare porno. Nel 2017, un utente anonimo di Reddit noto come Deepfakes ha utilizzato l'apprendimento automatico per scambiare i volti di attrici famose in scene con star di film per adulti, quindi ha pubblicato i risultati su un subreddit dedicato al porno di celebrità trapelato. Un altro utente di Reddit ha quindi rilasciato un'interfaccia facile da usare, che ha portato a una proliferazione di porno deepfake e, per qualche strana ragione, a infinite clip dell'attore Nicolas Cage nei film in cui non era realmente coinvolto. Anche Reddit, un notoriamente un ritrovo a ruota libera, bandito tale pornografia non consensuale. Ma il fenomeno persiste negli angoli più bui di Internet.

OpenFaceSwap utilizza una rete neurale artificiale, ormai lo strumento di riferimento nell'IA. Reti neurali molto grandi o profonde alimentate da enormi quantità di dati di addestramento possono fare ogni sorta di cose utili, incluso trovare il volto di una persona tra milioni di immagini. Possono anche essere usati per manipolare e sintetizzare immagini.

OpenFaceSwap addestra una rete profonda per codificare una faccia (un processo simile alla compressione dei dati), creando così una rappresentazione che può essere decodificata per ricostruire la faccia intera. Il trucco è inserire i dati codificati per una faccia nel decodificatore per l'altra. La rete neurale evocherà quindi, spesso con sorprendente precisione, una faccia che imita le espressioni e i movimenti dell'altra. Il video risultante può sembrare traballante, ma OpenFaceSwap sfocerà automaticamente i bordi e regolerà la colorazione della faccia appena trapiantata per rendere le cose più autentiche.

A sinistra: OpenFaceSwap visualizza in anteprima i tentativi di scambio di volti durante l'allenamento. I primi tentativi possono spesso essere un po' strani e grotteschi.

A destra: il software impiega diverse ore per produrre un buon scambio di volti. Maggiore è il numero di dati di allenamento, migliore sarà il risultato finale.

Una tecnologia simile può essere utilizzata anche per ricreare la voce di qualcuno. Una startup chiamata Lyrebird ha pubblicato demo convincenti di Barack Obama e Donald Trump che dicono cose completamente inventate. Lyrebird dice che in futuro limiterà le sue duplicazioni vocali alle persone che hanno dato il loro permesso, ma sicuramente non tutti saranno così scrupolosi.

Una startup ha pubblicato demo convincenti di Barack Obama e Donald Trump che dicono cose completamente inventate.

Esistono metodi consolidati per identificare immagini e video modificati. Un'opzione è cercare sul Web le immagini che potrebbero essere state schiacciate insieme. Una soluzione più tecnica consiste nel cercare modifiche rivelatrici a un file digitale o ai pixel di un'immagine o di un fotogramma video. Un esperto può cercare incongruenze visive: un'ombra che non dovrebbe esserci o un oggetto della dimensione sbagliata.

Hany Farid della Dartmouth University, uno dei massimi esperti al mondo, ha mostrato come una scena può essere ricostruita in 3-D per scoprire stranezze fisiche. Ha anche dimostrato che sottili cambiamenti nell'intensità dei pixel in un video, che indicano la frequenza cardiaca di una persona, possono essere utilizzati per individuare la differenza tra una persona reale e una generata dal computer. Recentemente uno degli ex studenti di Farid, ora professore alla State University di New York ad Albany, ha dimostrato che un battito di ciglia irregolare può rivelare un volto che è stato manipolato dall'intelligenza artificiale.

Tuttavia, la maggior parte delle persone non può svolgere questo tipo di lavoro investigativo e non ha tempo per studiare ogni immagine o clip che compare su Facebook. Quindi, poiché la falsificazione visiva è diventata più comune, c'è stata una spinta per automatizzare l'analisi. E si scopre che non solo il deep learning eccelle nel inventare cose, è l'ideale per esaminare immagini e video alla ricerca di segni di falsità. Questo sforzo è appena iniziato, tuttavia, e alla fine potrebbe essere ostacolato da quanto realistici potrebbero diventare i falsi automatizzati.

Reti di inganno

Una delle ultime idee nella ricerca sull'IA consiste nel trasformare le reti neurali contro se stesse per produrre falsi ancora più realistici. Una rete contraddittoria generativa, o GAN, utilizza due reti neurali profonde: una che è stata addestrata per identificare immagini o video reali e un'altra che impara nel tempo come superare in astuzia la sua controparte. I GAN possono essere addestrati per produrre immagini false sorprendentemente realistiche.

Oltre a copiare e scambiare volti, i GAN possono consentire di sintetizzare intere scene e persone che sembrano abbastanza reali, trasformando una scena diurna in una notturna e inventando celebrità immaginarie. I GAN non funzionano perfettamente, ma migliorano continuamente e questa è un'area di ricerca calda ( Revisione della tecnologia del MIT denominata GAN una delle sue 10 tecnologie innovative per il 2018).

I GAN possono trasformare scene diurne in scene notturne e sognare volti immaginari di celebrità.

La cosa più preoccupante è che la tecnica potrebbe essere utilizzata anche per eludere la scientifica digitale. Quest'estate la Defense Advanced Research Projects Agency degli Stati Uniti ha invitato i ricercatori a partecipare a un concorso in cui alcuni hanno sviluppato video falsi utilizzando GAN e altri hanno cercato di rilevarli. I GAN rappresentano una sfida particolare per noi nella comunità forense perché possono essere rivolti contro le nostre tecniche forensi, afferma Farid. Resta da vedere quale parte prevarrà.

Questa è la fine

Se non stiamo attenti, questo potrebbe portare alla fine del mondo, o almeno a quello che sembra.

Ad aprile, un presunto notiziario della BBC ha annunciato l'inizio di un conflitto nucleare tra Russia e NATO. La clip, che ha iniziato a circolare sulla piattaforma di messaggistica WhatsApp, mostrava filmati di missili che esplodevano mentre un giornalista diceva ai telespettatori che la città tedesca di Magonza era stata distrutta insieme a parti di Francoforte.

Ovviamente era del tutto falso e la BBC si è affrettata a denunciarlo. Il video non è stato generato utilizzando l'IA, ma ha mostrato la potenza del video falso e come può diffondere voci a velocità di curvatura. La proliferazione di programmi di intelligenza artificiale renderà questi video molto più facili da realizzare e ancora più convincenti.

Anche se non veniamo ingannati dalle notizie false, potrebbero avere conseguenze disastrose per il dibattito politico. Proprio come ora siamo abituati a chiederci se una fotografia possa essere stata photoshoppata, i falsi generati dall'intelligenza artificiale potrebbero renderci più sospettosi sugli eventi che vediamo condivisi online. E questo potrebbe contribuire all'ulteriore erosione del dibattito politico razionale.

In La morte della verità , pubblicato quest'anno, il critico letterario Michiko Kakutani sostiene che fatti alternativi, notizie false e la follia generale della politica moderna rappresentano il culmine di correnti culturali che risalgono a decenni fa. Kakutani vede i falsi dell'IA iperreale solo come l'ultimo duro colpo al concetto di realtà oggettiva.

Prima ancora che la tecnologia diventi valida, il fatto che esista e sia un modo per erodere la fiducia nel materiale legittimo è profondamente problematico, afferma Renee DiResta, ricercatrice di Data for Democracy e una delle prime persone a identificare il fenomeno di Twitter politicamente motivato campagne di disinformazione

Forse il rischio più grande con questa nuova tecnologia, quindi, non è che venga utilizzata in modo improprio da hacker statali, sabotatori politici o Anonymous, ma che minerà ulteriormente la verità e l'obiettività stessa. Se non riesci a distinguere un falso dalla realtà, diventa facile mettere in discussione l'autenticità di qualsiasi cosa. Questo serve già come un modo per i politici di eludere la responsabilità.

Forse il rischio più grande è che la tecnologia indebolisca ulteriormente la verità e l'obiettività.

Il presidente Trump ha capovolto l'idea di fake news usando il termine per attaccare qualsiasi notiziario dei media che critichi la sua amministrazione. Ha anche suggerito che una clip incriminante di lui che denigra le donne, rilasciata durante la campagna del 2016, potrebbe essere stata contraffatta digitalmente. Ad aprile, il governo russo ha accusato la Gran Bretagna di aver falsificato le prove video di un attacco chimico in Siria per giustificare un'azione militare proposta. Nessuna delle due accuse era vera, ma la possibilità di falsi sofisticati sta sempre più diminuendo la credibilità di informazioni reali. In Myanmar e in Russia la nuova legislazione cerca di vietare le fake news, ma in entrambi i casi le leggi possono semplicemente servire come un modo per reprimere le critiche al governo.

Man mano che i potenti diventano sempre più consapevoli della falsità dell'IA, diventerà facile liquidare anche prove video chiare di illeciti come nient'altro che un inganno digitale creato dal GAN.

La verità sarà ancora là fuori. Ma lo saprai quando lo vedrai?

Will Knight è un redattore senior di Revisione della tecnologia del MIT chi si occupa di intelligenza artificiale.

nascondere