Realizzare strumenti di deepfake non deve essere irresponsabile. Ecco come.

Un esempio diffuso da Facebook di due donne che preparano il caffè: una è una deepfake. Facebook

Le tecnologie dei media sintetici, comunemente note come deepfake, hanno un reale potenziale di impatto positivo. La sintesi vocale, ad esempio, ci consentirà di parlare in centinaia di lingue con la nostra stessa voce. La sintesi video può aiutarci a simulare incidenti con auto a guida autonoma per evitare errori in futuro. E la sintesi del testo può accelerare la nostra capacità di scrivere sia programmi che prosa.

Ma questi progressi possono avere un costo gigantesco se non stiamo attenti: le stesse tecnologie sottostanti possono anche consentire l'inganno con ramificazioni globali.

Per fortuna, possiamo sia abilitare la promessa della tecnologia sia mitigare il suo pericolo. Ci vorrà solo un po' di duro lavoro.

Quello che sto sostenendo qui vuole essere un invito all'azione per fare quel lavoro e una guida per supportare quelli di noi che creano tale tecnologia, sia che stiamo facendo ricerche rivoluzionarie, sviluppando nuovi prodotti o semplicemente aprendo- sistemi sorgente per divertimento. Questo è anche per coloro che investono o finanziano tali lavori, i giornalisti che potrebbero aiutare a garantire che i creatori di tecnologia prendano sul serio il loro impatto e gli amici o la famiglia di coloro che creano questa tecnologia.

Possiamo più astenerci dalla responsabilità dicendo che non c'è niente che possiamo fare se le persone abusano dei nostri strumenti. Perché ci sono cose che possiamo fare; è solo che spesso non ci preoccupiamo. Un altro argomento, questa tecnologia verrà comunque realizzata, non è del tutto falso, ma il come e il quando contano in modo significativo e possono cambiare come risultato delle nostre scelte. (Per ulteriori informazioni su questo, inclusi alcuni modelli di minacce, dai un'occhiata al nostro carta intera , in particolare la Sezione 2 su ciò che porta al danno.) Infine, non possiamo nasconderci dietro il banale riconoscimento che c'è sempre stato un inganno ignorando le differenze significative di grado e impatto.

I costi della tecnologia deepfake non sono solo teorici. Video sintetici di scambio facciale molestare i giornalisti fino a farli tacere ; le voci sintetiche vengono utilizzate per grandi transazioni fraudolente e le facce sintetiche hanno presumibilmente supportato lo spionaggio . Tutto ciò nonostante le attuali sfide legate all'utilizzo di software di qualità beta hackerati insieme. Gli ostacoli all'utilizzo dei media sintetici sono ancora troppo elevati perché la tecnologia possa essere avvincente per la maggior parte degli attori malintenzionati, ma mentre passa da beta buggy e passa nelle mani di miliardi di persone, abbiamo la responsabilità di evitare caso peggiore scenari rendendo il più difficile possibile l'uso dei deepfake per il male. Come?

Approccio 1: limitare chi può usare uno strumento... e come

Ci sono diverse cose che possiamo fare per rendere molto meno probabile un uso dannoso. Un approccio ovvio, semplice ed efficace è quello di controllare attentamente coloro che possono utilizzare uno strumento. Questo è ciò che piace alle aziende Sintesi stanno facendo, essenzialmente, lavorando solo con clienti aziendali controllati.

Un'alternativa è limitare l'utilizzo : per limitare ciò che gli utenti possono sintetizzare o manipolare. Ad esempio, è possibile creare strumenti per garantire che solo particolari voci o volti prescelti possano essere manipolati. Questo è ciò che Umano , ad esempio, sta facendo, fornendo un insieme limitato di movimenti che la persona in un video generato può fare.

Tuttavia, potrebbero non essere un'opzione per molti sistemi. Quindi cos'altro si può fare?

Approccio 2: scoraggiare l'uso dannoso

Per gli strumenti multimediali sintetici che sono generali e possono essere resi ampiamente disponibili, ci sono ancora molti modi possibili per ridurre l'uso dannoso. Ecco alcuni esempi.

• Chiara divulgazione: Richiedere che i media sintetizzati siano chiaramente indicati come tali, in particolare materiale che potrebbe essere utilizzato per fuorviare. Gli strumenti possono essere in grado di supportare questo includendo avvisi visivi o sonori chiari nei file di output, come avvisi visibili o divulgazioni vocali. Come minimo, i metadati dovrebbero indicare come i media sono stati sintetizzati o manipolati.
• Protezione del consenso: Richiedere il consenso di coloro che vengono impersonati. Lo strumento di clonazione vocale Lyrebird richiede agli utenti di pronunciare frasi particolari per modellare la propria voce. Ciò rende più difficile impersonare qualcuno senza consenso, il che sarebbe molto possibile se si limitasse a generare voci utilizzando qualsiasi set di dati fornito. Questo, ovviamente, è applicabile solo per gli strumenti che consentono la rappresentazione.
• Facilità di rilevamento: Garantire che i media sintetizzati non siano eccessivamente difficili da rilevare; mantenere aggiornati gli strumenti di rilevamento; collaborare con coloro che lavorano al rilevamento per tenerli aggiornati sui nuovi sviluppi.
• Filigrane nascoste: Incorpora il contesto sulla sintesi, o anche sui media originali, attraverso robuste filigrane, sia utilizzando metodi accessibili a chiunque disponga degli strumenti adeguati, sia attraverso approcci segreti e difficili da rimuovere. (Per esempio, Modulate.ai filigrana l'audio che genera, mentre i prodotti piacciono Imatag e i loro equivalenti open source consentono il watermark per le immagini.)
• Registri di utilizzo: Archivia le informazioni sull'utilizzo e sui risultati dei media in un modo a cui ricercatori e giornalisti possono accedere per identificare se, ad esempio, un video è stato probabilmente sintetizzato utilizzando uno strumento particolare. Ciò potrebbe includere l'archiviazione di timestamp di sintesi con un hash robusto o incorporamento multimediale.
• Restrizioni d'uso: Fornire e far rispettare termini contrattuali di utilizzo che vietano e penalizzano azioni indesiderate, come il tentativo di rimuovere divulgazioni o filigrane o violare il consenso di altre persone. Una versione più forte di questo approccio implica l'elaborazione esplicita degli usi consentiti della tecnologia o dei risultati risultanti.

Non tutte queste strategie sono applicabili a tutti i sistemi. Alcuni possono avere i loro rischi e nessuno è perfetto o sufficiente da solo. Fanno tutti parte di una difesa in profondità, dove più è di più. Anche se abbiamo controlli o vincoli, questi approcci rendono comunque un sistema più robusto contro gli avversari. E mentre seguire queste regole potrebbe funzionare meglio per i sistemi software as a service, che vengono forniti senza rivelare alcun codice sorgente, potrebbero comunque fornire un certo valore per strumenti e modelli open source: molti malintenzionati non avranno la capacità tecnica di ottenere intorno a queste misure di protezione. ( Il documento completo esplora quando pubblicare il codice sorgente in primo luogo).

Supportare gli strumenti etici di deepfake

Fare un lavoro extra per proteggere le persone dai danni può essere difficile da giustificare nell'ambiente aziendale competitivo di oggi, finché non si verifica una catastrofe irreversibile. Quindi, come possiamo garantire che questi approcci vengano implementati prima che sia troppo tardi? Ecco quattro cose che i finanziatori, i governi, i giornalisti e il pubblico possono fare ora per supportare coloro che realizzano strumenti multimediali sintetici etici.

Rendi facile fare la cosa giusta

Ciò significa che dobbiamo investire nella ricerca in tutte queste aree in modo da disporre di strumenti open source ampiamente disponibili, ben finanziati per implementare questi approcci. La storia della sicurezza delle informazioni mostra che quando è possibile utilizzare strumenti open source di facile utilizzo per mantenere le cose al sicuro, molte più cose finiscono per essere sicure. La stessa logica si applica qui: come minimo, abbiamo urgentemente bisogno di semplificare la fornitura di metadati di divulgazione, filigrane e registrazione standardizzati. Abbiamo anche bisogno di ricerche per esplorare se è fattibile incorporare la rilevabilità in modelli addestrati prima della distribuzione. Senza questo tipo di infrastruttura e ricerca, vedremo molti nuovi strumenti ben intenzionati utilizzati in modi orribili.

Promuovere le competenze nella mitigazione degli abusi

Proprio come in materia di privacy e sicurezza, dobbiamo supportare le comunità incentrate sul rafforzamento dei sistemi e sull'affrontare i malintenzionati e le aziende devono pagare le persone per svolgere questo lavoro, sia come consulenti che internamente.

Evita di finanziare, costruire e distribuire strumenti irresponsabili

Se un'azienda o uno strumento non tenta almeno di ridurre le possibilità di uso improprio, i finanziatori e gli sviluppatori non dovrebbero supportarlo. I produttori di strumenti che non implementano le migliori pratiche sopra elencate devono avere ottime ragioni e gli app store dovrebbero richiederle per impostazione predefinita.

Creare norme ritenendo le persone responsabili

Se sono negligenti, dovremmo denunciarli, anche se sono nostre partecipate, colleghi, amici o familiari. Possiamo creare norme etiche lodando coloro che fanno la cosa giusta e spingendo coloro che non lo fanno a fare di meglio.

Le organizzazioni che promuovono la tecnologia deepfake, come Nvidia, Adobe, Facebook e Google, dovrebbero investire molto in tutto quanto sopra. Anche i venture capitalist e le fondazioni dovrebbero fare la loro parte nel sostenere questo lavoro e fare attenzione a chi supportano.

Questa è solo una fetta di un insieme molto più ampio di sforzi che sono necessari e in molti casi potrebbero farci guadagnare solo un po' più di tempo. Ciò significa che è fondamentale garantire che le piattaforme e i responsabili politici utilizzino saggiamente questo tempo per rendere il nostro ecosistema informativo più resiliente.

Il nostro passato è disseminato di coloro che avrebbero voluto introdurre le loro invenzioni con maggiore attenzione, e abbiamo solo un futuro. Non incasiniamo.

—Aviv Ovadya è il fondatore del Progetto tecnologico premuroso e un membro non residente presso l'Alliance for Securing Democracy del German Marshall Fund. Vedi il documento completo sulla mitigazione degli impatti negativi della ricerca sui media sintetici, scritto in collaborazione con Jess Whittlestone, qui .

nascondere