Facebook, Google, Twitter non sono preparati per i deepfake presidenziali

Categoria: Intelligenza artificiale Inserito ago 06

Secondo il presidente della House Intelligence Committee, nessuna delle tre grandi sirene da nebbia di Internet - Facebook, Google o Twitter - sembra avere un piano chiaro per affrontare i video falsi generati dall'intelligenza artificiale, o deepfake, prima delle elezioni presidenziali del prossimo anno.

Aggiornamento di stato: Adam Schiff, un democratico della California, ha affermato venerdì che le tre società hanno iniziato a pensare seriamente alle sfide poste dai media manipolati dalle macchine, o deepfake, ma che c'è molto più lavoro da fare se vogliono essere preparate per il dirompente effetto di questa tecnologia nelle prossime elezioni.

Niente panico: Non c'è bisogno di impazzire. Esistono, infatti, alcune tecniche emergenti per individuare i video che sono stati fabbricati utilizzando l'IA.

Faccia a faccia: I video deepfake utilizzano i recenti progressi dell'apprendimento automatico per scambiare automaticamente i volti in un video o eseguire altri trucchi per sfocare la realtà. Semplici strumenti di deepfake possono essere scaricati dal Web e puoi trovare molti esempi surreali dei risultati attraverso Internet .

La preoccupazione: La manipolazione delle immagini è in circolazione da molto tempo, ma l'intelligenza artificiale sta rendendo più accessibile la falsificazione sofisticata. Durante un'elezione, un deepfake potrebbe forse essere utilizzato per influenzare gli elettori all'ultimo momento. A maggio, un video di Nancy Pelosi che era stato modificato per far sembrare che stesse biascicando il suo discorso è circolato rapidamente sui social media.

Gatto e topo: Al momento, ci sono alcuni modi per individuare i deepfake. Un lampeggiamento irregolare è un segno rivelatore con cui un video è stato pasticciato, ad esempio. Ma il rilevamento è una specie di corsa agli armamenti, perché di solito un algoritmo di intelligenza artificiale può essere addestrato per affrontare un determinato difetto.

Capito: Questo giugno, una nuova carta da diversi esperti di digital forensics ha delineato un approccio più infallibile. Si basa sull'addestramento di un algoritmo di rilevamento per riconoscere i movimenti del viso e della testa di una determinata persona, mostrando così quando il viso di quella persona è stato incollato sulla testa e sul corpo di qualcun altro. L'approccio funziona solo quando il sistema è stato addestrato a riconoscere qualcuno, ma potrebbe almeno mantenere i candidati presidenziali al sicuro da attacchi.

Stai zitto? Google ha effettivamente fornito alcuni finanziamenti per questa nuova ricerca. Quindi forse queste aziende stanno tenendo le loro carte a portata di mano quando si tratta di rilevamento di deepfake. Se vuoi stare un passo avanti ai falsari, sarebbe sicuramente una mossa intelligente.