La più grande minaccia dei deepfake non sono i deepfake stessi

Un'immagine di Hitler che pronuncia un discorso con la faccia sostituita da un punto interrogativo. La signora Tech

Era la fine del 2018 e la gente del Gabon non vedeva il loro presidente, Ali Bongo, in pubblico da mesi. Alcuni iniziarono a sospettare che fosse malato, o addirittura morto, e il governo lo stava nascondendo. Per fermare la speculazione, il governo ha annunciato che Bongo aveva avuto un ictus ma era rimasto in buona salute. Subito dopo, esso ha pubblicato un video di lui che pronuncia il suo consueto indirizzo di Capodanno.

Invece di alleviare le tensioni, tuttavia, il video ha fatto esattamente l'opposto. Come scoperto dall'organizzazione per i diritti digitali Internet senza frontiere, molte persone stanno pensando Bongo distolse lo sguardo nel filmato , sospettarono immediatamente che si trattasse di un deepfake, un pezzo di supporto contraffatto o alterato con l'aiuto dell'IA. La convinzione ha alimentato i loro sospetti che il governo stesse nascondendo qualcosa. Una settimana dopo, i militari hanno lanciato un colpo di stato senza successo, citando il video come parte della motivazione.

Le successive analisi forensi non hanno mai trovato nulla di alterato o manipolato nel video. Non importava. La sola idea dei deepfake era stata sufficiente per accelerare il disfacimento di una situazione già precaria.

In vista delle elezioni presidenziali statunitensi del 2020, la tecnologia deepfake sempre più convincente ha portato a timori su come tali media falsi possano influenzare l'opinione politica. Ma un nuovo rapporto di Deeptrace Labs, una società di sicurezza informatica focalizzata sul rilevamento di questo inganno, non ha trovato casi noti in cui i deepfake siano stati effettivamente utilizzati in campagne di disinformazione. Ciò che ha avuto l'effetto più potente è la consapevolezza che loro Potevo essere usato in questo modo.

I deepfake rappresentano un rischio per la politica in termini di falsi media che sembrano reali, ma in questo momento la minaccia più tangibile è come l'idea dei deepfake possa essere invocata per far sembrare falso il reale, afferma Henry Ajder, uno degli autori del rapporto. Il clamore e la copertura piuttosto sensazionale che specula sull'impatto politico dei deepfake ha oscurato i casi reali in cui i deepfake hanno avuto un impatto.

La documentazione non è più una prova

Attivisti per i diritti umani ed esperti di disinformazione hanno lanciato l'allarme su queste minacce separate ma intrecciate da quando sono comparsi sulla scena i deepfake. Negli ultimi due anni, le aziende tecnologiche e i responsabili politici statunitensi si sono concentrati quasi esclusivamente sul primo problema menzionato da Ajder: la facilità con cui la tecnologia può far sembrare reali le cose false. Ma è il secondo che preoccupa di più gli esperti. Mentre le barriere alla creazione di deepfake potrebbero cadere rapidamente, mettere in discussione la veridicità di qualcosa non richiede alcuna tecnologia.

Dà un'altra arma ai potenti: dire 'È un deepfake' su tutto ciò che le persone senza potere stanno cercando di usare per mostrare la corruzione.

Fin dall'inizio, è stata la mia più grande preoccupazione in questo settore, afferma Aviv Ovadya, un esperto di disinformazione che ora gestisce il progetto no-profit Thoughtful Technology Project.

Minare la fiducia nei media può avere profonde ripercussioni, in particolare in ambienti politici fragili. Sam Gregory, il direttore del programma di Witness, un'organizzazione no-profit che aiuta le persone a documentare le violazioni dei diritti umani, offre un esempio. In Brasile, che ha subito una storia di violenze da parte della polizia, cittadini e attivisti ora temono che qualsiasi video che filmano di un agente che uccide un civile non sarà più motivo sufficiente per le indagini. Questa paura che prove reali possano essere plausibilmente liquidate come false, afferma Gregory, è diventata un tema ricorrente nei seminari che ospita in tutto il mondo.

È un'evoluzione dell'affermazione che qualcosa è 'notizia falsa', dice. Dà un'altra arma ai potenti: dire 'È un deepfake' su tutto ciò che le persone senza potere stanno cercando di usare per mostrare la corruzione, per mostrare violazioni dei diritti umani.

Dimostrare che il vero è reale e il falso è falso

La risoluzione di questi problemi richiederà la comprensione di entrambi i tipi di minaccia. Ad alto livello, vuoi rendere il più semplice possibile dimostrare che una cosa reale è reale e che una cosa falsa è falsa, dice Ovadya.

Negli ultimi mesi molti gruppi di ricerca, e aziende tecnologiche come Facebook e Google, si sono concentrati su strumenti per smascherare i falsi, come database per la formazione di algoritmi di rilevamento e filigrane che possono essere integrati nei file di foto digitali per rivelare se sono stati manomessi. Diverse startup hanno anche lavorato su modi per creare fiducia attraverso applicazioni consumer che verificano foto e video quando vengono scattati, per formare una base per il confronto se le versioni dei contenuti vengono fatte circolare in un secondo momento. Gregory afferma che i giganti della tecnologia dovrebbero integrare entrambi i tipi di controlli direttamente nelle loro piattaforme per renderli ampiamente disponibili.

Ma le aziende tecnologiche devono anche assumere moderatori di contenuti umani e le organizzazioni dei media devono formare giornalisti e verificatori di fatti anche sul rilevamento e sulla verifica. I rapporti sul campo possono confermare se un video riflette o meno la realtà e aggiungere un importante livello di sfumature. I modelli tecnici non possono interpretare il contenuto del video falso in contesti culturali o immaginare come potrebbe essere ulteriormente ricontestualizzato, afferma Britt Paris, un'esperta di studi sull'informazione che ha recentemente pubblicato un rapporto sui deepfake.

Ciò che [gli attori della disinformazione] vogliono davvero non è che tu metta in discussione di più, ma che tu metta in discussione tutto.

Ad esempio, Paris indica video alterati di Nancy Pelosi e Jim Acosta che sono diventati virali nell'ultimo anno. Entrambi erano cosiddetti fakefake piuttosto che deepfake: la loro velocità era stata semplicemente alterata per fuorviare gli spettatori. Non ci sarebbe modo di catturare questi falsi con metodi tecnici per catturare i deepfake, dice Paris. Invece, i giornalisti hanno dovuto sfatarli, il che significava che le persone dovevano fidarsi dei giornalisti.

Infine, tutti gli esperti concordano sul fatto che il pubblico ha bisogno di una maggiore alfabetizzazione mediatica. C'è una differenza tra dimostrare che una cosa reale è reale e far credere al pubblico in generale che la cosa reale è reale, dice Ovadya. Dice che le persone devono essere consapevoli che falsificare i contenuti e mettere in dubbio la veridicità dei contenuti sono entrambe tattiche che possono essere utilizzate per seminare intenzionalmente confusione.

Gregory mette in guardia dal porre un onere troppo grande per i consumatori di notizie, tuttavia. Ricercatori, piattaforme e giornalisti dovrebbero fare quanto più lavoro possibile per aiutare a chiarire cosa è reale e cosa è falso prima che le notizie raggiungano il pubblico.

L'obiettivo finale, afferma Ovadya, non è quello di instillare scetticismo generale, ma di costruire infrastrutture sociali, educative e di vaccinazione per neutralizzare l'impatto dei deepfake. Cosa dovremmo cercare di evitare? lui chiede. È prezioso mettere in discussione le prove. Ma ciò che [gli attori della disinformazione] vogliono davvero non è che tu metta in discussione di più, ma che tu metta in discussione tutto.

Aggiunge: Questa è l'antitesi di ciò che stiamo cercando.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.

nascondere