Ecco cinque modi in cui la tecnologia di eliminazione dei deepfake potrebbe ritorcersi contro

Categoria: Elezioni 2020 Inserito 16 dic

I deepfake sono diventati un simbolo per la fine della verità e, per alcuni, un potenziale strumento per far oscillare le elezioni. (Non importa se la maggior parte dei deepfake sono ancora fake porn.) Tutti, dal governo degli Stati Uniti ai giganti della tecnologia alle startup, stanno cercando di sviluppare una tecnologia contro i deepfake. Ma un nuovo rapporto uscito oggi da Witness , un'organizzazione no profit che studia i media sintetici, sottolinea come questi strumenti potrebbero andare storti.

Le tecniche: Il video manipolato non è un problema nuovo e ci sono molti problemi sociali che nemmeno il miglior rilevatore di deepfake può risolvere. (Ad esempio, sapere che un video è stato modificato non risponde automaticamente alla domanda se dovrebbe essere rimosso. E se fosse satira?) Ciò non ha impedito ad aziende come Amber Video, Truepic ed eWitness di sviluppare verificati- tecnologie di cattura o di cattura controllata. Questi utilizzano una varietà di tecniche per firmare, geotaggare e contrassegnare un'immagine o un video quando viene creato. In teoria, questo rende più facile dire se i media sono stati manomessi.

Qual è il problema? Il rapporto Witness espone 14 diversi modi in cui queste tecnologie potrebbero effettivamente finire per essere dannose. Alcuni di quelli chiave:

—Gli strumenti in costruzione potrebbero essere usati per sorvegliare le persone
—Le restrizioni tecniche potrebbero impedire a questi strumenti di funzionare nei punti in cui sono più necessari (e quelli che utilizzano hardware vecchio potrebbero essere lasciati indietro)
—I dispositivi jailbroken non saranno in grado di acquisire materiale verificabile
—Le aziende potrebbero cancellare i dati o non consentire alle persone di controllarli
—Richiedere maggiori verifiche per i media in tribunale potrebbe rendere il procedimento legale più lungo e più costoso

Quindi cosa si può fare? Non esiste una soluzione facile a questi problemi, afferma il direttore del programma Witness Sam Gregory. Le aziende che costruiscono queste tecnologie devono rispondere a queste domande e pensare alle persone che hanno maggiori probabilità di essere danneggiate, aggiunge. È anche possibile costruire da soli strumenti multimediali sintetici in modo più etico. L'esperto di tecnologia Aviv Ovadya, ad esempio, ha idee su come realizzare strumenti di deepfake responsabili. Le aziende possono fare del loro meglio per verificare quali clienti sono autorizzati a utilizzare i loro strumenti e penalizzare esplicitamente coloro che violano le loro norme. I media sintetici di ogni tipo diventeranno più comuni. Ci vorranno molte tattiche diverse per tenerci tutti al sicuro.