Facebook sta creando i suoi deepfake di intelligenza artificiale per scongiurare un disastro di disinformazione

Immagini affiancate di video originali e deepfake. Facebook

Facebook teme che i video deepfake generati dall'intelligenza artificiale possano essere la prossima grande fonte di disinformazione virale, che si diffonde tra i suoi utenti con conseguenze potenzialmente catastrofiche per le prossime elezioni presidenziali statunitensi.

La sua soluzione? Realizzare molti deepfake propri, per aiutare i ricercatori a costruire e perfezionare strumenti di rilevamento.

Facebook ha diretto il suo team di ricercatori sull'intelligenza artificiale a produrre una serie di video falsi altamente realistici con attori che fanno e dicono cose di routine. Queste clip serviranno come set di dati per testare e confrontare gli strumenti di rilevamento dei deepfake. I deepfake di Facebook verranno rilasciati in un'importante conferenza sull'intelligenza artificiale alla fine dell'anno.

L'ascesa dei deepfake è stata guidata dai recenti progressi nell'apprendimento automatico. È stato a lungo possibile per gli studi cinematografici manipolare immagini e video con software e computer e algoritmi in grado di catturare e ricreare la somiglianza di una persona sono già stati utilizzati per creare strumenti punta e clicca per incollare il viso di una persona su qualcun altro .

Esistono metodi per individuare i media contraffatti, ma spesso implicano un'analisi meticolosa di esperti. Gli strumenti per catturare automaticamente i deepfake stanno appena emergendo.

Il CTO di Facebook, Mike Schroepfer, afferma che i deepfake stanno avanzando rapidamente, quindi è fondamentale escogitare modi molto migliori per segnalare o bloccare potenziali falsi.

Non abbiamo ancora visto questo come un grosso problema sulle nostre piattaforme, ma la mia ipotesi è che se aumenti l'accesso, rendi più economico, più facile, più veloce costruire queste cose, aumenta chiaramente il rischio che le persone lo utilizzino in modo dannoso, Schroepfer , che sta guidando l'iniziativa, ha detto ieri sera. Non voglio trovarmi in una situazione in cui questo è un problema enorme e non abbiamo investito enormi somme in ricerca e sviluppo.

Confrontando lo sforzo con la lotta contro le e-mail di spam, Schroepfer ha affermato che Facebook potrebbe non essere in grado di catturare i falsi più sofisticati. Prenderemo quelli ovvi, ha detto. Ma ha detto che Facebook non sta ancora utilizzando alcun metodo perché i falsi stanno migliorando così rapidamente.

Il social network dedicherà 10 milioni di dollari al finanziamento della tecnologia di rilevamento attraverso sovvenzioni e premi di sfida. Insieme a Microsoft, il Partnership sull'IA e accademici di istituzioni tra cui MIT, UC Berkeley e Oxford University, la società sta lanciando il Sfida di rilevamento deepfake , che offrirà premi in denaro non specificati per i migliori metodi di rilevamento.

Fare un deepfake in genere richiede due video clip. Gli algoritmi imparano l'aspetto di ciascuna faccia per incollare l'una sull'altra mantenendo ogni sorriso, battito di ciglia e cenno del capo. Diverse tecniche di intelligenza artificiale possono anche essere utilizzate per ricreare la voce di una persona specifica. Il termine deepfake è preso da un utente di Reddit che ha rilasciato uno strumento del genere nel 2017. Si riferisce al deep learning, la tecnica di intelligenza artificiale utilizzata.

Una delle grandi preoccupazioni è che i deepfake possano essere utilizzati per diffondere disinformazione altamente contagiosa durante le elezioni americane del prossimo anno, forse anche influenzando il risultato. Diversi senatori statunitensi hanno lanciato l'allarme sulla minaccia e Ben Sasse (R–Nebraska) ha presentato un disegno di legge per rendere illegale la creazione o la distribuzione di deepfake con intenti dannosi. Un recente relazione sulla disinformazione elettorale della NYU identifica i deepfake come una delle numerose sfide chiave per le elezioni del 2020.

I video manipolati si stanno già diffondendo sulle piattaforme social, infatti. All'inizio di quest'anno, una clip che sembrava mostrare Nancy Pelosi che biascicava il suo discorso (fatto semplicemente rallentando il filmato) si è diffusa rapidamente su Facebook. La società ha rifiutato di rimuovere quel post o un deepfake di Mark Zuckerberg, scegliendo invece di contrassegnare le clip come false con le organizzazioni di verifica dei fatti.

Ha senso che Facebook cerchi di anticipare la questione, soprattutto dopo le ricadute delle ultime elezioni presidenziali. Quando sono emersi i dettagli delle campagne di disinformazione politica, Facebook ha dovuto affrontare intense critiche per aver consentito la diffusione di tale propaganda.

Tuttavia, la promozione della sfida del deepfake potrebbe avere conseguenze indesiderate. Henry Ajder, un analista di Deeptrace, una società olandese che sta lavorando su strumenti per individuare clip contraffatte, osserva che la narrativa sui deepfake può offrire ai politici un modo per evitare la responsabilità, affermando che le informazioni reali sono state falsificate (vedi Fake America great again ). La semplice idea di deepfake sta già creando molti problemi, dice Ajder. È un virus nella sfera politica che ha infettato le menti di politici e cittadini.

Inoltre, nonostante l'allarme, Ajder, che segue i deepfake in natura, dubita che la tecnologia sarà usata come arma per fini politici per qualche tempo. Crede che diventerà più immediatamente un potente strumento di cyber-stalking e bullismo.

Esistono già alcuni metodi per rilevare i deepfake. Tecniche semplici implicano l'analisi dei dati in un file video o la ricerca di movimenti della bocca e ammiccamenti rivelatori, che è più difficile da acquisire e ricreare per un algoritmo.

Un metodo sviluppato di recente da un gruppo di esperti di spicco prevede l'addestramento di un algoritmo di deep learning per riconoscere il modo specifico in cui si muove la testa di una persona, poiché questo non è qualcosa che gli algoritmi in genere imparano.

Questo approccio è nato attraverso un altro sforzo per sviluppare strumenti di rilevamento, finanziato dalla Defense Advanced Research Projects Agency (DARPA).

Molti esperti sono rimasti sorpresi e allarmati dalla velocità con cui stanno procedendo i falsi di IA. Proprio questa settimana, un'app cinese chiamata Zao ha acceso il dibattito pubblicando video deepfake presumibilmente creati da un'immagine fissa. Hao Li , un artista degli effetti visivi e professore associato presso la University of Southern California, ha avvertito che potrebbe essere possibile produrre in serie deepfake non rilevabili in breve tempo (vedi Il miglior artista di deepfake al mondo sta lottando con il mostro che ha creato).

nascondere