Le app che rompono i deepfake possono individuare anche un singolo pixel fuori posto

Per gentile concessione di Serelay





Falsificare foto e video richiedeva molto lavoro. O hai utilizzato la CGI per generare immagini fotorealistiche da zero (sia impegnative che costose) o hai avuto bisogno di una certa padronanza di Photoshop e di molto tempo per modificare in modo convincente le immagini esistenti.

Ora l'avvento delle immagini generate dall'intelligenza artificiale ha reso più facile per chiunque modificare un'immagine o un video con risultati realistici e confusi. All'inizio di quest'anno, Revisione della tecnologia del MIT Il redattore senior dell'intelligenza artificiale Will Knight ha utilizzato un software standard per falsificare il suo video falso del senatore degli Stati Uniti Ted Cruz. Il video è un po' glitch, ma non durerà a lungo.

Quella stessa tecnologia sta creando una classe crescente di filmati e foto, chiamati deepfake, che hanno il potenziale per minare la verità, confondere gli spettatori e seminare discordia su una scala molto più ampia di quella che abbiamo già visto con le notizie false basate su testo.



Queste sono le possibilità che disturbano Hany Farid, un professore di informatica al Dartmouth College che da 20 anni sfata le immagini false. Non credo che siamo ancora pronti, avverte. Ma spera che la crescente consapevolezza del problema e i nuovi sviluppi tecnologici possano preparare meglio le persone a discernere le vere immagini dalle creazioni manipolate.

Un'immagine originale del Brasenose College dell'Università di Oxford. Cortesia di Serelay

Un esempio di come l'immagine originale potrebbe essere modificata per rimuovere la bandiera arcobaleno LGBTQ sul tetto. Per gentile concessione di Serelay



Ci sono due modi principali per affrontare la sfida della verifica delle immagini, spiega Farid. Il primo è cercare le modifiche in un'immagine. Gli esperti di image forensics utilizzano tecniche di calcolo per determinare se i pixel oi metadati sembrano alterati. Possono cercare ombre o riflessi che non seguono le leggi della fisica, ad esempio, o controllare quante volte un file immagine è stato compresso per determinare se è stato salvato più volte.

Il secondo e più recente metodo consiste nel verificare l'integrità di un'immagine nel momento in cui viene scattata. Ciò comporta l'esecuzione di dozzine di controlli per assicurarsi che il fotografo non stia tentando di falsificare i dati sulla posizione e l'ora del dispositivo. Le coordinate, il fuso orario e l'altitudine della fotocamera e le reti Wi-Fi vicine si confermano a vicenda? La luce nell'immagine si rifrange come per una scena tridimensionale? O qualcuno sta fotografando un'altra foto bidimensionale?

Farid ritiene che questo secondo approccio sia particolarmente promettente. Considerando i due miliardi di foto che vengono caricate quotidianamente sul web, pensa che potrebbero aiutare a verificare le immagini su larga scala.



Serelay consente agli utenti di caricare foto sospette per verificare se sono state modificate. Il sistema esegue una serie di controlli per determinare dove sono state apportate eventuali modifiche. Per gentile concessione di Serelay

Due startup, Truepic con sede negli Stati Uniti (per la quale Farid consulta) e Serelay con sede nel Regno Unito, stanno ora lavorando per commercializzare questa idea. Hanno adottato approcci simili: ognuno ha app per fotocamere iOS e Android gratuite che utilizzano algoritmi proprietari per verificare automaticamente le foto quando vengono scattate. Se un'immagine diventa virale, può essere confrontata con l'originale per verificare se ha mantenuto la sua integrità.

Mentre Truepic carica le immagini dei suoi utenti e le archivia nei suoi server, Serelay memorizza una sorta di impronta digitale calcolando circa un centinaio di valori matematici da ciascuna immagine. (La società afferma che questi valori sono sufficienti per rilevare anche una modifica di un singolo pixel e determinare approssimativamente quale sezione dell'immagine è stata modificata.) Truepic afferma di scegliere di archiviare le immagini complete nel caso in cui gli utenti desiderino eliminare le foto sensibili per motivi di sicurezza. (In alcuni casi, gli utenti Truepic che operano in scenari ad alto rischio, come una zona di guerra, devono rimuovere l'app subito dopo aver documentato le scene.) Serelay, al contrario, ritiene che non archiviare le foto offra agli utenti una maggiore privacy.



Serelay è in grado di catturare ed evidenziare la bandiera mancante nella foto. Per gentile concessione di Serelay

Come ulteriore livello di fiducia e protezione, Truepic archivia anche tutte le foto e i metadati utilizzando una blockchain, la tecnologia alla base di Bitcoin che combina crittografia e rete distribuita per archiviare e tenere traccia delle informazioni in modo sicuro.

Non è a prova di proiettile, ammette Farid, e dice che ci sono alcuni aspetti negativi. Ad esempio, gli utenti devono utilizzare il software di verifica anziché l'app della fotocamera nel telefono. Osserva inoltre che le aziende che tentano di commercializzare questo tipo di tecnologia possono dare la priorità alla monetizzazione rispetto alla sicurezza. C'è una certa fiducia che riponiamo nelle aziende che creano queste app, dice.

Ma ci sono anche strategie di mitigazione. Truepic e Serelay offrono entrambi kit di sviluppo software per rendere la loro tecnologia accessibile a piattaforme di terze parti. La loro idea è quella di rendere un giorno la loro tecnologia di verifica uno standard del settore per le fotocamere digitali, tra cui Facebook, Snapchat o persino l'app fotocamera nativa di Apple. In tale scenario, un'immagine inalterata pubblicata sui social media potrebbe ricevere automaticamente un segno di spunta, come un badge di verifica di Twitter, che indica che corrisponde a un'immagine nel loro database, un segno che Serelay spera possa stabilire l'affidabilità.

La stragrande maggioranza dei contenuti che vediamo online viene presa con dispositivi mobili, afferma Farid. Ci sono fondamentalmente una manciata di telecamere là fuori che possono incorporare questo tipo di tecnologia nel loro sistema e penso che avresti una soluzione abbastanza buona.

Ogni startup è ora in trattative preliminari con le società di social media per esplorare la possibilità di una partnership e Serelay fa anche parte di un nuovo programma di accelerazione di Facebook chiamato LDN_LAB.

Sebbene la tecnologia non sia ancora prevalente, Farid incoraggia le persone a usarla per impostazione predefinita quando si documentano scenari ad alto rischio, che si tratti di discorsi di campagne politiche, violazioni dei diritti umani o prove sulla scena del crimine. Truepic ha già visto i cittadini utilizzare la sua app per documentare le crisi in Siria. Al Jazeera ha quindi utilizzato il filmato verificato per produrre parecchi video . Entrambe le società hanno anche commercializzato la loro tecnologia nel settore assicurativo come metodo verificato per documentare i danni.

Farid afferma che è importante che le aziende che svolgono questo lavoro siano trasparenti sui propri processi e lavorino con partner di fiducia. Ciò può aiutare a mantenere la fiducia degli utenti e tenere lontani i malintenzionati.

Abbiamo ancora molta strada da fare per essere completamente preparati alla proliferazione dei deepfake, dice. Ma è fiducioso. La tecnologia di tipo Truepic e la tecnologia di tipo Serelay sono in buone condizioni, afferma. Penso che ci stiamo preparando.

nascondere