L'anno in cui i deepfake sono diventati mainstream

La signora Tech

Nel 2018, Sam Cole, giornalista di Motherboard, scoperto un nuovo e inquietante angolo di Internet. Un utente di Reddit di nome deepfakes stava pubblicando video porno falsi non consensuali utilizzando un algoritmo di intelligenza artificiale per scambiare i volti delle celebrità in porno reale. Cole ha lanciato l'allarme sul fenomeno, proprio mentre la tecnologia stava per esplodere. Un anno dopo, il porno deepfake si era diffuso ben oltre Reddit, con facilità app accessibili che potrebbe spogliare qualsiasi donna fotografata.

Da allora i deepfake hanno avuto un brutto colpo, e giustamente. Il la stragrande maggioranza di loro viene ancora utilizzata per la pornografia falsa . Lo era una giornalista investigativa gravemente molestato e temporaneamente messo a tacere da tale attività e, più recentemente, una poetessa e scrittrice era spaventato e vergognoso. C'è anche il rischio che i deepfake politici generino notizie false convincenti che potrebbero devastare ambienti politici instabili.

Ma man mano che gli algoritmi per manipolare e sintetizzare i media sono diventati più potenti, hanno anche dato origine ad applicazioni positive, oltre ad alcune umoristiche o banali. Ecco una carrellata di alcuni dei nostri preferiti in un ordine cronologico approssimativo e perché pensiamo che siano un segno di ciò che verrà.

Schermatura degli informatori

I TUOI MEDIA

Nel mese di giugno, Benvenuti in Cecenia , un film investigativo sulla persecuzione delle persone LGBTQ nella repubblica russa, è diventato il primo documentario a utilizzare i deepfake per proteggere l'identità dei suoi soggetti. Gli attivisti che combattevano la persecuzione, protagonisti della storia, vivevano nascosti per evitare di essere torturati o uccisi. Dopo aver esplorato molti metodi per nascondere le loro identità, il regista David France ha deciso di fornire loro copertine deepfake. Ha chiesto ad altri attivisti LGBTQ di tutto il mondo di prestare i loro volti, che sono stati poi innestati sui volti delle persone nel suo film. La tecnica ha permesso alla Francia di preservare l'integrità delle espressioni facciali dei suoi soggetti e quindi il loro dolore, paura e umanità. In totale il film ha protetto 23 persone, aprendo la strada a una nuova forma di protezione degli informatori.

Storia revisionista

PANETTA E BORDEAUX

A luglio, due ricercatori del MIT, Francesca Panetta e Halsey Burgund, rilasciato un progetto per creare una storia alternativa dello sbarco sulla Luna dell'Apollo del 1969. Chiamato In caso di disastro lunare , utilizza il discorso che il presidente Richard Nixon avrebbe pronunciato se l'importante occasione non fosse andata secondo i piani. I ricercatori hanno collaborato con due società separate per audio e video deepfake e hanno assunto un attore per fornire la performance di base. Hanno quindi fatto scorrere la sua voce e la sua faccia attraverso i due tipi di software e li hanno cuciti insieme in un ultimo deepfake Nixon.

Mentre questo progetto dimostra come i deepfake potrebbero creare potenti storie alternative, un altro suggerisce come i deepfake potrebbero dare vita alla storia reale. A febbraio, rivista Time ricreato Marcia su Washington di Martin Luther King Jr. per la realtà virtuale per immergere gli spettatori nella scena. Il progetto non ha utilizzato la tecnologia deepfake, ma il gigante tecnologico cinese Tencent in seguito lo ha citato in un white paper sui suoi piani per l'IA, affermando che i deepfake potrebbero essere utilizzati per scopi simili in futuro.

meme

MS TECH | NEURIPS (SET DI ALLENAMENTO); HAO (PER CORTESIA)

Alla fine dell'estate, la memersphere ha messo le mani su deepfake semplici da realizzare e ha scatenato i risultati nell'universo digitale. Un meme virale in particolare, chiamato Baka Mitai (nella foto sopra), è cresciuto rapidamente quando le persone hanno imparato a utilizzare la tecnologia per creare le proprie versioni. L'algoritmo specifico che alimenta la follia è venuto da un documento di ricerca del 2019 che consente a un utente di animare una foto del viso di una persona con un video di qualcun altro. L'effetto non è di alta qualità per alcuno sforzo di immaginazione, ma sicuramente produce divertimento di qualità. Il fenomeno non è del tutto sorprendente; gioco e parodia sono stati una forza trainante nella divulgazione di deepfake e altri strumenti di manipolazione dei media. Ecco perché alcuni esperti sottolineano la necessità dei guardrail per evitare che la satira si trasformi in abuso .

Annunci sportivi

Gli impegni frenetici rendono difficile avere celebrità dello sport nella stessa stanza nel migliore dei casi. Nel bel mezzo di un lockdown, è impossibile. Quindi, quando devi girare uno spot pubblicitario a Los Angeles con persone in quarantena in tutto il paese, l'unica opzione è fingere. Ad agosto il sito di streaming Hulu ha pubblicato un annuncio per promuovere il ritorno dello sport al suo servizio, con il giocatore NBA Damian Lillard, il giocatore WNBA Skylar Diggins-Smith e il giocatore di hockey canadese Sidney Crosby. Vediamo queste star rinunciare alla cottura del lievito naturale e tornare ai loro sport, brandendo palloni da basket e mazze da hockey. Tranne che non lo facciamo: i volti di quelle stelle sono stati sovrapposti ai doppi del corpo usando la tecnologia deepfake. L'algoritmo è stato addestrato su filmati dei giocatori catturati su Zoom. I trucchi del computer sono stati usati per falsificare questo genere di cose per anni, ma i deepfake lo rendono più facile ed economico che mai, e quest'anno di telecomando tutto ha dato una spinta alla tecnologia. Hulu non era l'unico. Altri inserzionisti, tra cui ESPN , sperimentato anche con i deepfake.

Campagne politiche

A settembre, in vista delle elezioni presidenziali americane, il gruppo apartitico di difesa RepresentUs ha rilasciato un paio di annunci deepfake . Presentavano versioni false del presidente russo Vladimir Putin e del leader nordcoreano Kim Jong-un che trasmettevano lo stesso messaggio: che nessuno dei due doveva interferire con le elezioni statunitensi, perché l'America avrebbe rovinato la sua democrazia da sola. Questo non è stato il primo uso di deepfake durante una campagna politica. A febbraio, il politico indiano Manoj Tiwari utilizzato deepfake in un video della campagna per far sembrare che stesse parlando Haryanvi, il dialetto hindi parlato dai suoi elettori target. Ma RepresentUs ha in particolare ribaltato la sceneggiatura sulla tipica narrativa sui deepfake politici. Mentre gli esperti spesso si preoccupano della capacità della tecnologia di seminare confusione e interrompere le elezioni, il gruppo ha cercato di fare esattamente l'opposto: aumentare la consapevolezza della soppressione degli elettori per proteggere i diritti di voto e aumentare l'affluenza alle urne.

spettacoli televisivi

Se gli spot pubblicitari deepfake e le acrobazie una tantum iniziano a sembrare familiari, fidati dei creatori di Parco Sud per portarlo all'estremo. Ad ottobre, Trey Parker e Matt Stone hanno debuttato con la loro nuova creazione, Giustizia impertinente , il primo programma televisivo deepfake . Lo spettacolo satirico settimanale ruota attorno al personaggio Sassy Justice, un giornalista locale con una faccia da Trump completamente falsa. Sassy intervista personaggi falsi come Jared Kushner (con la faccia di Kushner sovrapposta a un bambino) e Al Gore. Con Giustizia impertinente , i deepfake sono andati oltre l'espediente di marketing o l'inganno dannoso per colpire il mainstream culturale. Non solo la tecnologia utilizzata per creare i personaggi, ma è l'argomento della satira stessa. Nel primo episodio, Sassy Trump Justice, nel ruolo di un difensore dei consumatori, indaga sulla verità dietro le notizie false.

nascondere