Un'app di intelligenza artificiale che spoglia le donne mostra come i deepfake danneggiano i più vulnerabili

L'immagine di una donna con il suo corpo sfocato Sig.ra Tech/ Immagine originale: Getty

L'attenzione sui deepfake e sui media sintetici è cresciuta negli ultimi mesi. Ma mentre la conversazione si è concentrata principalmente sul suo potenziale impatto sulla politica, diversi esperti di diritti umani ed etica tecnologica hanno avvertito che un altro potenziale danno è stato trascurato: le possibili conseguenze devastanti per le donne e altre popolazioni vulnerabili che sono prese di mira con la tecnologia ma non possono proteggere loro stessi.

Ora l'ultimo esperimento di deepfake, un'app chiamata DeepNude che spogliava le foto di donne, sta riproducendo quegli incubi. Segnalato per la prima volta da Vice , ha utilizzato le reti contraddittorie generative, o GAN, per scambiare gli abiti delle donne con corpi nudi altamente realistici. L'articolo ha rapidamente ispirato un contraccolpo virale e il creatore dell'app l'ha spento.

L'app DeepNude dimostra le nostre peggiori paure riguardo al modo unico in cui gli strumenti audiovisivi possono essere usati come armi contro le donne, afferma Mutale Nkonde, un collega del Data & Society Research Institute, che ha consigliato un disegno di legge presentato al Congresso dalla rappresentante Yvette Clarke che creerebbe meccanismi per le vittime di tali deepfake dannosi per cercare un ricorso legale per danni reputazionali.

L'app si rivolgeva specificamente alle donne. Vice ha scoperto che il software generava solo immagini del corpo femminile, anche quando veniva data l'immagine di un uomo. Il creatore anonimo ha confermato di aver addestrato l'algoritmo GAN solo su foto di donne nude - in questo caso più di 10.000 - perché erano più facili da trovare online. Tuttavia, intendeva anche realizzare una versione maschile.

Sebbene i deepfake non descrivano i corpi reali delle donne - sono completamente sintetizzati dall'algoritmo - avevano comunque il potenziale per causare un danno emotivo e reputazionale significativo. Le immagini potrebbero essere facilmente scambiate per realtà e usate come revenge porn o un potente strumento per mettere a tacere le donne. In effetti, questo è già accaduto: a giornalista in India la sua faccia è stata innestata in un video porno dopo aver iniziato a scoprire la corruzione del governo. È diventato immediatamente virale, sottoponendola a intense molestie e minacce di stupro, e ha dovuto rimanere offline per diversi mesi.

I deepfake non sono una nuova minaccia; i media manipolati esistono da molto prima dell'IA. Ma la tecnologia ha accelerato e ampliato le tendenze esistenti, afferma Sam Gregory, direttore del programma dell'organizzazione no-profit Witness per i diritti umani. Gli algoritmi hanno reso molto più facile per molte più persone generare media falsi sempre più convincenti. Pertanto, tutto ciò che le persone hanno utilizzato media manipolati in passato, come attaccare giornalisti, implicare corruzione o offuscare prove, diventerà sempre più comune e pericolosamente difficile da rilevare.

L'app non è diversa, dice. L'abuso sessuale delle donne basato sull'immagine esisteva già come un problema. Ora i deepfake stanno aggiungendo benzina alle fiamme.

Per la stessa logica, Nkonde teme che le donne non saranno gli unici bersagli vulnerabili dei deepfake. Anche le minoranze, le persone LGBTQ e altri gruppi spesso soggetti alle più gravi molestie online diventeranno vittime, anche se forse in modi diversi. Durante la campagna presidenziale americana del 2016, ad esempio, gli agenti russi ha utilizzato falsi personaggi afroamericani e immagini correlate come parte di una campagna di disinformazione di Facebook per aumentare le tensioni razziali tra gli americani.

Questo era un nuovo modo per reprimere gli elettori, ed era attraverso l'appropriazione indebita delle identità delle persone online, dice Nkonde. La tecnologia Deepfake sarebbe un altro strumento naturale per gli attori malintenzionati che fingono di essere persone che non sono per interrompere le comunità e altrimenti causare danni.

Allora dove andiamo da qui? Sia Nkonde che Gregory hanno condiviso raccomandazioni simili con MIT Technology Review in passato: le aziende e i ricercatori che producono strumenti per i deepfake devono anche investire in contromisure e le società di social media e di ricerca dovrebbero integrare tali contromisure direttamente nelle loro piattaforme. Nkonde esorta anche le autorità di regolamentazione ad agire rapidamente. A meno che il governo non trovi un modo per proteggere i diritti dei consumatori, app come questa proliferano, dice.

La tecnologia non è neutrale, dice Gregory. Questa app [DeepNude] non è a duplice uso. È monouso per uno scopo dannoso e viene creato amoralmente.

Dobbiamo concentrarci davvero sull'etica della creazione e della condivisione di strumenti di media generativi, aggiunge. Dovremmo richiamarlo ripetutamente.

nascondere