I deepfake hanno messo il Congresso nel panico. Questo è ciò che deve fare.

Un'illustrazione fotografica del presidente Trump, una metà in bianco e nero e l'altra metà molto satura la signora Tech; Foto originale di WIN MCNAMEE; IMMAGINI GETTY

La recente rapida diffusione di un video falsificato di Nancy Pelosi ha spaventato i legislatori di Washington. Il video, modificato per farla sembrare ubriaca, è solo uno dei numerosi esempi dell'ultimo anno di media manipolati che sono entrati nel discorso pubblico mainstream. A gennaio un altro video falsificato prendendo di mira il presidente Donald Trump è andato in onda sulla televisione di Seattle. Questa settimana, un video di Mark Zuckerberg generato dall'intelligenza artificiale è stato caricato su Instagram. (Facebook ha promesso di non rimuoverlo.)

Con l'imminenza delle elezioni statunitensi del 2020, il Congresso degli Stati Uniti è diventato sempre più preoccupato che la capacità rapida e semplice di falsificare i media potrebbe rendere le campagne elettorali vulnerabili al bersaglio di agenti stranieri e compromettere la fiducia degli elettori.

In risposta, la Camera dei Rappresentanti terrà domani la sua prima audizione dedicata sui deepfakes, la classe dei media sintetici generati dall'IA. Parallelamente, il rappresentante Yvette Clarke introdurrà un disegno di legge sullo stesso argomento. Un nuovo rapporto di ricerca pubblicato da un'organizzazione no profit questa settimana evidenzia anche una strategia per far fronte alla proliferazione di deepfake e altri media falsi.

Non è la prima volta che i politici statunitensi cercano di agire su questo tema. Nel dicembre del 2018, il senatore Ben Sasse ha introdotto a fattura diversa tentando di vietare deepfake dannosi. Il senatore Marco Rubio ha anche più volte ha suonato l'allarme sulla tecnologia nel corso degli anni. Ma è la prima volta che vediamo uno sforzo così concertato da parte dei legislatori statunitensi.

Il conto deepfake

Il progetto di legge, prodotto di diversi mesi di discussioni con informatici, esperti di disinformazione e difensori dei diritti umani, includerà tre disposizioni. Il primo richiederebbe alle aziende e ai ricercatori che creano strumenti che possono essere utilizzati per creare deepfake l'aggiunta automatica di filigrane alle creazioni contraffatte.

Il secondo richiederebbe alle società di social media di creare un migliore rilevamento delle manipolazioni direttamente nelle loro piattaforme. Infine, la terza disposizione creerebbe sanzioni, come multe o persino il carcere, per punire i trasgressori per aver creato deepfake dannosi che danneggiano le persone o minacciano la sicurezza nazionale. In particolare, tenterebbe di introdurre un nuovo meccanismo di ricorso legale se la reputazione delle persone fosse danneggiata dai media sintetici.

Questo problema non riguarda solo i politici, afferma Mutale Nkonde, membro del Data & Society Research Institute e consulente del disegno di legge. È molto più probabile che i video deepfake vengano distribuiti contro donne, minoranze, persone della comunità LGBT e poveri. E quelle persone non avranno le risorse per combattere i rischi reputazionali.

L'obiettivo dell'introduzione del disegno di legge non è di farlo passare attraverso il Congresso così com'è, afferma Nkonde. Invece ha lo scopo di avviare una conversazione più sfumata su come affrontare la questione giuridica proponendo raccomandazioni specifiche che possono essere criticate e perfezionate. Quello che stiamo davvero cercando di fare è inserire nel registro del Congresso l'idea che la manipolazione audiovisiva sia inaccettabile, dice.

Lo stato attuale dei deepfake

Per coincidenza, l'organizzazione no profit Witness per i diritti umani ha rilasciato a nuovo rapporto di ricerca questa settimana per documentare lo stato attuale della tecnologia deepfake. I deepfake attualmente non sono mainstream: richiedono ancora competenze specializzate per la produzione e spesso lasciano artefatti all'interno del video, come glitch e pixel, che rendono evidente la contraffazione.

Ma la tecnologia è avanzata a un ritmo rapido e la quantità di dati necessari per falsificare un video è diminuita drasticamente. Due settimane fa, Samsung dimostrato che era possibile creare un intero video da una singola foto; questa settimana ricercatori universitari e del settore demoed un nuovo strumento che consente agli utenti di modificare le parole di qualcuno digitando ciò che vogliono che l'argomento dica.

È quindi solo questione di tempo prima che i deepfake proliferano, afferma Sam Gregory, il direttore del programma di Witness. Molti dei modi in cui le persone considererebbero l'utilizzo di deepfake - per attaccare i giornalisti, per implicare la corruzione dei politici, per manipolare le prove - sono chiaramente evoluzioni di problemi esistenti, quindi dovremmo aspettarci che le persone provino i modi più recenti per farlo in modo efficace, dice .

Il rapporto delinea una strategia su come prepararsi per un futuro così imminente. Molte delle raccomandazioni e gran parte delle prove a sostegno si allineano anche con le proposte che appariranno nel disegno di legge della Camera.

Il rapporto ha rilevato che gli attuali investimenti da parte di ricercatori e società tecnologiche nella generazione di deepfake superano di gran lunga quelli nel rilevamento di deepfake. Adobe, ad esempio, ha prodotto molti strumenti per rendere più semplici le alterazioni dei media, inclusa una recente funzionalità per la rimozione di oggetti nei video; non ha, tuttavia, fornito loro un contraccolpo.

Il risultato è una discrepanza tra la natura reale della manipolazione dei media e gli strumenti disponibili per combatterla. Se stai creando uno strumento per la sintesi o la contraffazione che sia perfetto per l'occhio umano o l'orecchio umano, dovresti creare strumenti specificamente progettati per rilevare tale contraffazione, afferma Gregory. La domanda è come convincere i produttori di utensili a correggere questo squilibrio.

Come il disegno di legge della Camera, il rapporto raccomanda anche che le società di social media e di ricerca facciano un lavoro migliore nell'integrare le capacità di rilevamento delle manipolazioni nelle loro piattaforme. Facebook potrebbe investire nel rilevamento della rimozione di oggetti, ad esempio, per contrastare la funzionalità di Adobe e altre tecniche di modifica canaglia.

Dovrebbe quindi etichettare chiaramente i video e le immagini nei feed di notizie degli utenti per segnalare quando sono stati modificati in modi invisibili all'occhio umano. Google, come altro esempio, dovrebbe investire nella ricerca video inversa per aiutare giornalisti e spettatori a individuare rapidamente la fonte originale di una clip.

Oltre il Congresso

Nonostante lo stretto allineamento del rapporto con il progetto di legge, Gregory avverte che il Congresso degli Stati Uniti dovrebbe pensarci due volte prima di approvare leggi sui deepfake in qualsiasi momento. È presto per regolamentare i deepfake e i media sintetici, dice, anche se fa eccezioni per applicazioni molto limitate, come il loro uso per produrre immagini sessuali non consensuali. Non credo che abbiamo un'idea abbastanza chiara di come le società e le piattaforme gestiranno i deepfake e i media sintetici per stabilire le normative, aggiunge.

Gregory teme che l'attuale discussione a Washington possa portare a decisioni che in seguito avranno ripercussioni negative. Le normative statunitensi potrebbero influenzare pesantemente ciò che fanno gli altri paesi, ad esempio. Ed è facile vedere come nei paesi con governi più autoritari, le normative a tutela dei politici potrebbero essere utilizzate per giustificare la rimozione di qualsiasi contenuto controverso o che critica i leader politici.

Nkonde concorda sul fatto che il Congresso dovrebbe adottare un approccio misurato e ponderato alla questione e considerare oltre al suo impatto sulla politica. Spero davvero che parleranno [durante l'audizione] di quante persone questa tecnologia ha un impatto, dice, e dell'impatto psicologico del non essere in grado di credere a ciò che puoi vedere e sentire.

nascondere