Il Dipartimento della Difesa ha prodotto i primi strumenti per catturare i deepfake

SUNY SUNY

I primi strumenti forensi per catturare il revenge porn e le fake news create con l'IA sono stati sviluppati attraverso un programma gestito dal Dipartimento della Difesa degli Stati Uniti.

Gli esperti di medicina legale si sono affrettati a trovare modi per rilevare i video sintetizzati e manipolati utilizzando l'apprendimento automatico perché la tecnologia rende molto più facile creare video falsi convincenti che potrebbero essere utilizzati per seminare disinformazione o molestare le persone.

La tecnica più comune per generare video falsi prevede l'utilizzo dell'apprendimento automatico per scambiare la faccia di una persona con quella di un'altra. I video risultanti, noti come deepfake, sono semplici da realizzare e possono esserlo sorprendentemente realistico . Ulteriori modifiche, apportate da un abile editor video, possono farle sembrare ancora più reale .

L'inganno video prevede l'utilizzo di una tecnica di apprendimento automatico nota come modellazione generativa, che consente a un computer di apprendere da dati reali prima di produrre falsi esempi statisticamente simili. Una svolta recente su questo prevede che due reti neurali, note come reti generative contraddittorie, lavorino insieme per produrre falsi sempre più convincenti (vedi The GANfather: The man who's give machine the gift of immaginazione).

Gli strumenti per catturare i deepfake sono stati sviluppati attraverso un programma, gestito dalla US Defense Advanced Research Projects Agency (DARPA), chiamato Media forense . Il programma è stato creato per automatizzare gli strumenti forensi esistenti, ma di recente ha rivolto la sua attenzione alla contraffazione prodotta dall'intelligenza artificiale.

'Abbiamo scoperto sottili indizi nelle attuali immagini e video manipolati dal GAN ​​che ci consentono di rilevare la presenza di alterazioni', afferma Matthew Turek, che gestisce il programma Media Forensics.

Tucker Carlson si rinnova Nicolas Cage. Università di Albany, SUNY

Una tecnica straordinariamente semplice è stata sviluppata da un team guidato da Siwei Lyu , professore alla State University di New York ad Albany, e uno dei suoi studenti. Abbiamo generato circa 50 video falsi e provato una serie di metodi forensi tradizionali. Hanno lavorato a intermittenza, ma non molto bene, dice Lyu.

Poi, un pomeriggio, mentre studiava diversi deepfake, Lyu si rese conto che i volti realizzati usando i deepfake raramente, se non mai, sbattono le palpebre. E quando sbattono le palpebre, il movimento degli occhi è innaturale. Questo perché i deepfake sono addestrati su immagini fisse, che tendono a mostrare una persona con gli occhi aperti.

Altri coinvolti nella sfida DARPA stanno esplorando trucchi simili per catturare automaticamente i deepfake: strani movimenti della testa, colore degli occhi strano e così via. Stiamo lavorando per sfruttare questi tipi di segnali fisiologici che, almeno per ora, sono difficili da imitare per i deepfake, afferma Hany Farid , uno dei principali esperti di digital forensics presso il Dartmouth College.

Turek della DARPA afferma che l'agenzia organizzerà più concorsi per garantire che le tecnologie in fase di sviluppo siano in grado di rilevare le tecniche più recenti.'

L'arrivo di questi strumenti forensi potrebbe semplicemente segnalare l'inizio di una corsa agli armamenti basata sull'intelligenza artificiale tra falsari di video e investigatori digitali. Un problema chiave, afferma Farid, è che i sistemi di apprendimento automatico possono essere addestrati per superare in astuzia gli strumenti forensi.

Lyu dice che un abile falsario potrebbe aggirare il suo strumento che sbatte le palpebre semplicemente raccogliendo immagini che mostrano una persona che sbatte le palpebre. Ma aggiunge che la sua squadra ha sviluppato una tecnica ancora più efficace, ma dice di tenerla segreta per il momento. Preferirei resistere almeno per un po', dice Lyu. Abbiamo un piccolo vantaggio sui falsari in questo momento e vogliamo mantenere quel vantaggio.

nascondere