Google ha rilasciato un gigantesco database di deepfake per aiutare a combattere i deepfake

Categoria: Intelligenza artificiale Inserito 25 settembre

Include 3.000 video generati dall'intelligenza artificiale che sono stati realizzati utilizzando vari algoritmi disponibili pubblicamente.

Il contesto: Nell'ultimo anno, gli algoritmi generativi sono diventati così bravi a sintetizzare i media che ciò che producono potrebbe presto diventare indistinguibile dalla realtà. Gli esperti stanno ora correndo per trovare metodi migliori per rilevare questi cosiddetti deepfake, soprattutto con l'avvicinarsi delle elezioni presidenziali statunitensi del 2020.

Drop falso: Martedì, Google rilasciato un database open source contenente 3.000 video originali manipolati come parte del suo sforzo per accelerare lo sviluppo di strumenti di rilevamento dei deepfake. Ha lavorato con 28 attori per registrare video di loro mentre parlavano, facevano espressioni comuni e svolgevano compiti banali. Ha quindi utilizzato algoritmi deepfake pubblicamente disponibili per alterare i loro volti.

All'avanguardia: All'inizio di questo mese, Facebook ha annunciato che avrebbe rilasciato un database simile verso la fine dell'anno. A gennaio, un gruppo accademico guidato da un ricercatore dell'Università tecnica di Monaco ne ha creato uno chiamato FaceForensics++ eseguendo quattro metodi comuni di manipolazione del viso su quasi 1.000 video YouTube compilati. Con ciascuno di questi set di dati, l'idea è la stessa: creare un ampio corpus di esempi che possano aiutare a formare e testare strumenti di rilevamento automatizzato.

Gioco del gatto e del topo: Ma una volta sviluppato un metodo di rilevamento per sfruttare un difetto in un particolare algoritmo di generazione, l'algoritmo può essere facilmente aggiornato per correggerlo. Di conseguenza, alcuni esperti stanno ora cercando di capire metodi di rilevamento che presuppongono la perfezione delle immagini sintetiche. Altri litigare che il contenimento dei deepfake non sarà ottenuto solo con mezzi tecnici: richiederà invece anche soluzioni sociali, politiche e legali per cambiare gli incentivi che incoraggiano la loro creazione.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.