I memer stanno facendo deepfake e le cose stanno diventando strane

In basso a destra: sono io. Signora Tech | NeurIPS (set di allenamento); Hao (cortesia)

Grace Windheim aveva già sentito parlare di deepfake. Ma non aveva mai pensato a come crearne uno. Era un meme virale che utilizzava la tecnologia che l'ha portata a ricercare la possibilità e scoprire che era super facile e completamente gratuito.

In un giorno, aveva creato un tutorial passo passo su YouTube per guidare gli altri attraverso il processo. Fare uno di questi deepfake e sovrapporre l'audio non è così complicato come potresti pensare, dice nel video, pubblicato il 4 agosto. Da allora è stato visto oltre 360.000 volte.

Windheim fa parte di un nuovo gruppo di creatori online che stanno giocando con i deepfake mentre la tecnologia diventa sempre più accessibile e si infiltra nella cultura di Internet. Il fenomeno non è sorprendente; gli strumenti di manipolazione dei media hanno spesso guadagnato terreno gioco e parodia . Ma solleva anche nuove preoccupazioni sul suo potenziale abuso.

I deepfake sono già stati utilizzati per molestare le donne scambiando in modo non consensuale i loro volti in video porno. Gli studiosi si preoccupano anche della loro capacità di interrompere le elezioni. Sebbene i deepfake creati per i meme siano ancora ovviamente falsi e relativamente innocui, potrebbero non rimanere così a lungo.

C'è una linea sottile tra l'uso di deepfake per l'intrattenimento e i meme e il loro utilizzo per danni, afferma Windheim. In questo tutorial, sto dicendo: 'È così che crei questo particolare deepfake'. Ma la cosa spaventosa della sceneggiatura è che può essere applicata per creare qualsiasi tipo di deepfake tu voglia.

Sono stato un pazzo

Windheim, un neolaureato, lavora come creatore di contenuti presso la startup Kapwing con sede a San Francisco. L'azienda, che ha iniziato come produttore di meme, offre una suite gratuita di strumenti software di editing video basati su browser. Come parte del suo lavoro, Windheim gestisce il canale YouTube e produce video di content marketing per mostrare le capacità dei prodotti.

All'inizio di agosto, si è imbattuta in un termine di ricerca particolarmente virale su Google Trends. Tre delle cinque domande principali riguardavano un meme deepfake di Baka Mitai. Non vedo quasi mai una domanda così frequente, dice.

Il meme, a quanto pare, era basato su un video di una sincronizzazione labiale di YouTuber a una canzone di un videogioco giapponese chiamata Baka Mitai (traduzione: I've Been a Fool). Vari utenti di Internet avevano utilizzato il video per creare deepfake schifosi di tutti Barack Obama a Thanos cantando la canzone. Nonostante la sua popolarità, tuttavia, Windheim ha scoperto che poco era stato scritto su come realizzarlo effettivamente. Ha visto un'opportunità.

Il particolare algoritmo deepfake che le persone stavano usando proviene da a Documento di ricerca 2019 presentato al NeurIPS, la più grande conferenza annuale di ricerca sull'IA. A differenza di altri algoritmi più complessi, consente a un utente di riprendere qualsiasi video del viso di una persona e utilizzarlo per animare una foto del viso di qualcun altro con solo poche righe di codice.

Windheim ha trovato l'algoritmo open source in un tutorial di YouTube e lo ha portato in un notebook di Google Colab, un servizio gratuito per l'esecuzione di codice nel cloud. Dopo alcuni tentativi, aiutata dalle abilità che aveva acquisito durante le lezioni di programmazione occasionali al college, ha ottenuto la sceneggiatura per sputare un video deepfake. Ha quindi sincronizzato la canzone con il video con gli strumenti di Kapwing, creando una nuova versione del meme.

Da quando ha pubblicato il suo tutorial sul canale YouTube di Kapwing, anche un certo numero di altri YouTuber ha realizzato tutorial utilizzando lo stesso algoritmo di copia e incolla. La differenza: molti di loro stanno insegnando al loro pubblico come fare qualunque tipo di meme deepfake. Si insegna anche alle persone come realizzarli sul cellulare .

Questi meme ora stanno comparendo ovunque sui social media: su Twitter, Instagram e soprattutto TikTok. I brevi video della piattaforma, che spesso presentano coreografie scattanti su musica orecchiabile, sono particolarmente favorevoli a essere falsificati con effetti ipnotizzanti. L'hashtag #deepfake nell'app ha già accumulato oltre 120 milioni di visualizzazioni.

@limonjezus

@ Helltaker03

Nei video realizzati con questo algoritmo c'è uno strano inquietudine rivelatore, che rende il suo lavoro facile da riconoscere; questo fa parte dell'umorismo dei deepfakes. Queste imperfezioni e il qualità surrealista dei meme, impedirà loro di essere confusi con la realtà. Al momento, i deepfake più iperrealistici sono molto più impegnativi dal punto di vista tecnico e computazionalmente costosi da creare.

Ma alla velocità con cui la tecnologia sta avanzando, è probabile che siano dietro l'angolo deepfake facili da realizzare che sono quasi indistinguibili dalla realtà. Alcune aziende come il gigante tecnologico cinese Tencent, proprietario di WeChat, hanno annunciato pubblicamente la loro intenzione di investire più risorse per avanzare lo stato dell'arte per le applicazioni commerciali .

I deepfake non sono intrinsecamente cattivi. La tecnologia è già stata utilizzata da artisti, educatori e altri come un nuovo potente strumento per l'espressione creativa. A febbraio, ad esempio, la rivista Time ha utilizzato i deepfake per ricreare l'esperienza di Martin Luther King Jr. pronunciando il suo discorso I Have a Dream nella realtà virtuale. In definitiva, le autorità di regolamentazione devono definire quale sia l'uso appropriato e cosa potrebbe causare danni.

Per ora, Windheim fa affidamento sul proprio giudizio per fare quella chiamata. Prima di pubblicare il suo video, ha letto le implicazioni dei deepfake e ha avuto una conversazione con i suoi colleghi. Non intendiamo mai che i nostri prodotti aiutino gli utenti a diffondere disinformazione, dice, quindi volevamo solo controllarci noi stessi.

Alla fine, hanno deciso alcune regole di base: avrebbero concentrato i loro tutorial sulla creazione di meme specifici, mai sulla creazione di deepfake al di fuori di quel contesto. Finché si tratta di intrattenimento e all'interno della cultura dei meme, dice, siamo nella zona libera.

nascondere