Un nuovo strumento di rilevamento dei deepfake dovrebbe proteggere i leader mondiali, per ora

Un'immagine di esempi deepfake e impersonanti di Barak Obama Università della California, Berkeley

Un video prodotto dall'IA potrebbe mostrare Donald Trump che dice o fa qualcosa di estremamente oltraggioso e provocatorio. Sarebbe fin troppo credibile e, nel peggiore dei casi, potrebbe influenzare le elezioni, scatenare violenze nelle strade o innescare un conflitto armato internazionale.

Fortunatamente, un nuovo tecnica forense digitale promette di proteggere il presidente Trump, altri leader mondiali e celebrità da tali deepfake, almeno per il momento. Il nuovo metodo utilizza l'apprendimento automatico per analizzare lo stile di parola e movimento di un individuo specifico, ciò che i ricercatori chiamano una firma softbiometrica.

I ricercatori, della UC Berkeley e della University of Southern California, hanno utilizzato uno strumento esistente per estrarre i movimenti del viso e della testa degli individui. Hanno anche creato i propri deepfake per Donald Trump, Barack Obama, Bernie Sanders, Elizabeth Warren e Hillary Clinton utilizzando reti di contraddittorio generativo.

Il team ha quindi utilizzato l'apprendimento automatico per distinguere i movimenti della testa e del viso che caratterizzano la persona reale. Questi segnali sottili - il modo in cui Bernie Sanders annuisce mentre dice una parola particolare, forse, o il modo in cui Trump sorride dopo una rimonta - non sono attualmente modellati da algoritmi deepfake.

Negli esperimenti la tecnica era accurata almeno al 92% nell'individuare diverse varianti di deepfake, inclusi scambi di volti e quelli in cui un imitatore utilizza un burattino digitale. È stato anche in grado di gestire gli artefatti nei file derivanti dalla ricompressione di un video, che possono confondere altre tecniche di rilevamento. I ricercatori hanno in programma di migliorare la tecnica tenendo conto anche delle caratteristiche del discorso di una persona. La ricerca, presentata in a conferenza sulla visione artificiale in California questa settimana, è stato finanziato da Google e DARPA, un'ala di ricerca del Pentagono. DARPA sta finanziando un programma per ideare migliori tecniche di rilevamento.

Il problema che devono affrontare i leader mondiali (e tutti gli altri) è che è diventato ridicolmente semplice generare falsi video con l'intelligenza artificiale. False notizie, falsi account sui social media e video falsi hanno già minato la copertura e il discorso delle notizie politiche. I politici sono particolarmente preoccupati che i media falsi possano essere utilizzati per seminare disinformazione durante le elezioni presidenziali del 2020.

Alcuni strumenti per catturare video deepfake sono già stati prodotti, ma i falsari si sono rapidamente adattati. Ad esempio, per un po' è stato possibile individuare un deepfake monitorando i movimenti oculari dell'oratore, che tendevano a essere innaturali nei deepfake. Poco dopo l'identificazione di questo metodo, tuttavia, gli algoritmi deepfake sono stati ottimizzati per includere un lampeggiamento migliore.

Stiamo assistendo a una corsa agli armamenti tra le manipolazioni digitali e la capacità di rilevarle, e i progressi degli algoritmi basati sull'intelligenza artificiale stanno catalizzando entrambe le parti, afferma Hao Li, professore all'Università della California meridionale e CEO di Pinschermo che ha contribuito a sviluppare la nuova tecnica. Per questo motivo, il suo team non ha ancora rilasciato il codice alla base del metodo.

Li dice che sarà particolarmente difficile per i creatori di deepfake adattarsi alla nuova tecnica, ma ammette che probabilmente alla fine lo faranno. Il prossimo passo per aggirare questa forma di rilevamento sarebbe sintetizzare movimenti e comportamenti basati su osservazioni precedenti di questa particolare persona, dice.

Li dice anche che man mano che i deepfake diventano più facili da usare e più potenti, potrebbe diventare necessario per tutti considerare di proteggersi. Celebrità e personaggi politici sono stati finora gli obiettivi principali, dice. Ma non sarei sorpreso se in un anno o due, esseri umani artificiali che sembrano indistinguibili da quelli reali possano essere sintetizzati da qualsiasi utente finale.

nascondere