211service.com
Facebook ha appena rilasciato un database di 100.000 deepfake per insegnare all'IA come individuarli
I deepfakes hanno colpito allo stesso modo il pubblico e i ricercatori. C'è qualcosa di inquietante in queste immagini generate dall'intelligenza artificiale di persone che sembrano dire o fare qualcosa che non hanno fatto.
Con strumenti per fare deepfake ora ampiamente disponibili e relativamente facili da usare, molti temono anche che verranno utilizzati per diffondere una pericolosa disinformazione. I politici possono farsi mettere in bocca le parole di altre persone o farli partecipare a situazioni a cui non hanno preso parte, per esempio.
Questa è la paura, almeno. Per un occhio umano, la verità è che i deepfake sono ancora relativamente facili da individuare. E secondo un rapporto della società di sicurezza informatica DeepTrace Labs nell'ottobre 2019, ancora il più completo fino ad oggi, non sono stati utilizzati in nessuna campagna di disinformazione. Tuttavia, lo stesso rapporto ha anche rilevato che il numero di deepfake pubblicati online stava crescendo rapidamente, con circa 15.000 apparsi nei sette mesi precedenti. Quel numero sarà molto più grande ora.
Le società di social media temono che i deepfake possano presto inondare i loro siti. Ma rilevarli automaticamente è difficile. Per affrontare il problema, Facebook vuole utilizzare l'IA per combattere i falsi generati dall'IA. Per addestrare le IA a individuare video manipolati, sta rilasciando il più grande set di dati mai realizzato di deepfake: più di 100.000 clip prodotte utilizzando 3.426 attori e una gamma di tecniche di scambio di volti esistenti.
I deepfake al momento non sono un grosso problema, afferma Mike Schroepfer, CTO di Facebook. Ma la lezione che ho imparato a mie spese negli ultimi due anni è di non essere colto alla sprovvista. Voglio essere davvero preparato per un sacco di cose brutte che non accadono mai piuttosto che il contrario.
Facebook ha anche annunciato il vincitore del suo Sfida di rilevamento deepfake , in cui 2.114 partecipanti hanno presentato circa 35.000 modelli formati sul suo set di dati. Il miglior modello, sviluppato da Selim Seferbekov, un ingegnere di apprendimento automatico presso la società di mappatura Mapbox, è stato in grado di rilevare se un video era un deepfake con una precisione del 65% quando è stato testato su un set di 10.000 clip inedite, incluso un mix di nuovi video generati da Facebook e quelli esistenti presi da Internet.
Per rendere le cose più difficili, il set di allenamento e il set di test includono video con cui un sistema di rilevamento potrebbe essere confuso, come persone che danno tutorial sul trucco, e video che sono stati modificati incollando testo e forme sui volti degli oratori, cambiando la risoluzione o orientamento e rallentandoli.
Piuttosto che imparare tecniche forensi, come cercare le impronte digitali nei pixel di un video lasciati dal processo di generazione del deepfake, le prime cinque voci sembrano aver imparato a individuare quando qualcosa sembrava fuori posto, come potrebbe fare un essere umano.
Per fare ciò, tutti i vincitori hanno utilizzato un nuovo tipo di rete neurale convoluzionale (CNN) sviluppata dai ricercatori di Google l'anno scorso, chiamata EfficientNets. Le CNN sono comunemente usate per analizzare le immagini e sono brave a rilevare volti o riconoscere oggetti. Tuttavia, il miglioramento della loro precisione oltre un certo punto può richiedere una messa a punto ad hoc. EfficientNets fornisce un modo più strutturato per ottimizzare, semplificando lo sviluppo di modelli più accurati. Ma esattamente cosa li renda migliori delle altre reti neurali in questo compito non è chiaro, afferma Seferbekov.
Facebook non prevede di utilizzare nessuno dei modelli vincitori sul proprio sito. Per prima cosa, la precisione del 65% non è ancora abbastanza buona per essere utile. Alcuni modelli hanno raggiunto una precisione superiore all'80% con i dati di addestramento, ma questo è diminuito quando sono stati confrontati con clip invisibili. La generalizzazione a nuovi video, che possono includere volti diversi scambiati utilizzando tecniche diverse, è la parte più difficile della sfida, afferma Seferbekov.
Pensa che un modo per migliorare il rilevamento sarebbe concentrarsi sulle transizioni tra i fotogrammi video, monitorandoli nel tempo. Anche i deepfake di altissima qualità presentano uno sfarfallio tra i fotogrammi, afferma Seferbekov. Gli esseri umani sono bravi a individuare queste incongruenze, specialmente nei filmati dei volti. Ma rilevare automaticamente questi difetti rivelatori richiederà dati di addestramento più grandi e vari e molta più potenza di calcolo. Seferbekov ha provato a tracciare queste transizioni di frame ma non ci è riuscito. La CPU era un vero collo di bottiglia lì, dice.
Facebook suggerisce che il rilevamento di deepfake può anche essere migliorato utilizzando tecniche che vanno oltre l'analisi di un'immagine o di un video stesso, come valutarne il contesto o la provenienza.
Sam Gregory, che dirige Witness, un progetto che supporta gli attivisti per i diritti umani nell'uso delle tecnologie video, accoglie con favore l'investimento delle piattaforme di social media nel rilevamento dei deepfake. Witness è un membro di Partnership on AI, che ha consigliato a Facebook il suo set di dati. Gregory è d'accordo con Schroepfer sul fatto che vale la pena prepararsi al peggio. Non abbiamo avuto le apocalisse deepfake,e ma questi strumenti sono un'aggiunta molto sgradevole alla violenza di genere e alla disinformazione, dice. Ad esempio, il rapporto DeepTrace Labs ha rilevato che il 96% dei deepfake erano pornografia non consensuale, in cui i volti di altre persone sono incollati su quelli di artisti nei clip porno.
Quando milioni di persone sono in grado di creare e condividere video, fidarsi di ciò che vediamo è più importante che mai. Le fake news si diffondono su Facebook a macchia d'olio e la semplice possibilità di deepfake semina dubbi, rendendoci più propensi a mettere in discussione filmati genuini oltre che falso.
Inoltre, il rilevamento automatico potrebbe presto diventare la nostra unica opzione. In futuro vedremo deepfake che non possono essere distinti dagli umani, afferma Seferbekov.