Tre minacce poste da deepfake che la tecnologia non risolverà

Screencapture dal video deepfake di Putin Revisione della tecnologia del MIT

Immagina questo: finalmente esiste un rilevatore di deepfake perfettamente accurato. Aggiunge istantaneamente una grande etichetta rossa DEEPFAKE a ogni video che è stato manipolato con l'intelligenza artificiale, non importa quanto possa sembrare perfettamente realistico il video.

Potrebbe sembrare proprio ciò di cui abbiamo bisogno per combattere i deepfake, che le persone si preoccupano potrebbero portare la fine della verità e il morte della democrazia . Video manipolati perfettamente reali potrebbero essere qui in appena sei mesi , che suggerisce che la campagna per le elezioni presidenziali americane del 2020 potrebbe diventare un campo di battaglia di falsi video: Donald Trump che ammette di aver corrotto accordi con la Russia, Elizabeth Warren che sostiene il divieto totale delle armi, Kamala Harris che denigra i bianchi.

I tecnologi hanno risposto con più tecnologia. Il Il governo degli Stati Uniti ha finanziato un progetto sulla scientifica mediatica. Facebook e Microsoft hanno recentemente annunciato a sfida di rilevamento deepfake, e Google ha rilasciato un gigantesco database di deepfake per combattere i deepfake. Ma mentre la tecnica per creare deepfake è nuova, gran parte del danno effettivo che rappresentano - disinformazione e molestie - non è, secondo Britt Paris, studiosa di informazioni alla Rutgers University e coautore di un recente rapporto Dati e società sui deepfake. Un rilevatore di deepfake perfettamente accurato non può affrontare questi danni. Ecco perché.

1) Problema: i rilevatori di deepfake non possono dirci cosa dovrebbe e non dovrebbe essere rimosso

Ricordi quel video rallentato di Nancy Pelosi? Non era un deepfake. Continuava a diffondere falsità e Facebook ha deciso di non rimuoverlo. Un rilevatore di deepfake non avrebbe aiutato con quella chiamata di giudizio. Più ti avvicini all'uso automatizzato, più è probabile che tu abbia imprecisioni o censure, afferma Kate Klonick, professoressa alla St. John's University ed esperta di governance delle piattaforme. Definire la satira, definire le notizie false, definire la finzione: queste sono tutte enormi domande filosofiche.

Idea: migliore moderazione

La società deve affrontare questi problemi. Fino ad allora, una soluzione potrebbe essere quella di dare più potere a coloro che sono in grado di esprimere giudizi: i moderatori di contenuti umani. A tal fine, i moderatori potrebbero essere pagati di più, formati meglio e valutati come una parte importante del mantenimento di un Internet sicuro, dice Sarah T. Roberts, studiosa di informazioni presso l'UCLA. Team specializzati di moderatori controllati potrebbero giudicare il contesto di un video, verificarlo e decidere se deve rimanere su una piattaforma. Potrebbero non avere la risposta perfetta per quel video di Pelosi, ma avrebbero comunque un'idea dell'impatto sociale e politico di una varietà di deepfake e dei loro obiettivi. Potrebbero dirlo parodia deepfake di Nicolas Cage stanno bene e porno falso non è.

Qualcun altro che potrebbe essere qualificato per giudicare un deepfake? La vittima di uno. Le aziende dovrebbero rendere più facile denunciare le molestie deepfake, afferma Danielle Citron, esperta di cyberlaw presso la Boston University. Tutti gli utenti dovrebbero essere educati sui loro diritti, e i passaggi per la segnalazione dovrebbero essere ovvi e accessibili, non sepolti in una politica sulla privacy.

2) Problema: la tecnologia Deepfake-busting potrebbe non aiutare le persone che hanno più bisogno di protezione

La storia ha dimostrato che la nuova tecnologia viene utilizzata contro gruppi emarginati, come donne, persone di colore, persone LGBT e attivisti, prima che diventi una minaccia tradizionale, afferma Paris. Negli anni '90, ad esempio, c'erano già rozze immagini photoshoppate di teste di donne sui corpi di attrici di film per adulti. Le persone al potere non si preoccupavano abbastanza di fare nulla al riguardo. Se avessimo prestato attenzione al problema dello sfruttamento sessuale delle donne senza il loro consenso allora, saremmo stati in una posizione molto migliore per affrontarlo socialmente, legalmente e culturalmente ora, afferma Mary Anne Franks, studiosa di diritto all'Università di Miami.

La storia si ripete. I ricercatori affermano che il rischio più grande dei deepfake non è quello di far oscillare le elezioni, ma quello sono abituati a fare il prepotente privati ​​cittadini.

Idea: non costruire nulla senza consultare le persone più colpite

Parla con le persone più vulnerabili ai deepfake, afferma Sam Gregory, direttore del programma di Witness, un'organizzazione no profit che studia i media sintetici. Anche se l'obiettivo è creare un rilevatore di deepfake, ci sono molte questioni sociali coinvolte. Sarà disponibile per le persone in altri paesi? Sarà addestrato per individuare falsi politici o violenza sessuale e di genere? Una volta che l'infrastruttura è stata impostata, sono davvero le persone e le popolazioni emarginate ad essere escluse, perché non hanno l'agenzia per cambiare quell'infrastruttura, dice Gregory.

3) Problema: il rilevamento di deepfake è troppo tardi per aiutare le vittime

Con i deepfake, c'è poco ricorso reale dopo che il video o l'audio sono stati pubblicati, afferma Franks, studioso dell'Università di Miami.

Le leggi esistenti sono inadeguate. Le leggi che puniscono la condivisione di informazioni private legittime come le cartelle cliniche non si applicano ai video falsi ma dannosi. Le leggi contro la rappresentazione sono stranamente limitate, dice Franks: si concentrano sul rendere illegale impersonare un medico o un funzionario governativo. Le leggi sulla diffamazione riguardano solo le false rappresentazioni che ritraggono il soggetto in modo negativo, ma Franks dice che dovremmo preoccuparci dei deepfake che ritraggono falsamente le persone anche in una luce positiva.

Idea: nuove leggi

Texas ha recentemente approvato un disegno di legge per vietare i deepfake . A Fattura deepfake della California approvato in entrambe le camere e ora attende la firma del governatore Gavin Newsom. Nel frattempo, la rappresentante Yvette Clarke, una deputata statunitense di New York, ha recentemente introdotto una legislazione federale chiamata Legge sulla responsabilità DEEPFAKES . Obbligherebbe le società di social media a creare strumenti di rilevamento migliori nelle loro piattaforme e consentirebbe di punire o incarcerare le persone che pubblicano deepfake dannosi.

Da parte loro, Franks e Citron stanno lavorando a un disegno di legge federale per criminalizzare i deepfake dannosi, che chiamano falsi digitali. Per loro, un falso digitale è qualcosa che una persona ragionevole penserebbe essere reale. Deve anche essere suscettibile di causare danni a una determinata persona o all'ordine pubblico, ad esempio se un video mostrava falsamente una persona musulmana che commetteva un crimine.

Affinché una legge del genere funzioni negli Stati Uniti, idealmente sarebbe a livello federale, non statale. A causa di una legge chiamata Sezione 230 , le società di piattaforme non sono legalmente responsabili dell'hosting di contenuti dannosi di terze parti a meno che non violi il diritto penale federale. Se pubblicare video dannosi diventasse un crimine, non solo dissuaderebbe le persone dal pubblicarli; piattaforme come Facebook dovrebbero lavorare di più per tenerle lontane. Queste società non sarebbero in grado di sollevare la Sezione 230 in difesa, afferma Franks. Avrebbero un numero qualsiasi di difese, ma quella particolare strada verso di loro sarebbe bloccata.

nascondere