211service.com
I deepfake sono risolvibili, ma non dimenticare che i deepfake sono già diffusi
Jeremy Portje
L'industria tecnologica ha un'opportunità unica per affrontare i deepfake, il problema dell'audio e dei video falsi creati utilizzando l'intelligenza artificiale, prima che diventino un problema diffuso, secondo l'attivista per i diritti umani Sam Gregory.
Ma, avverte, le grandi aziende sono ancora molto lontane dall'affrontare il problema pervasivo e più dannoso della disinformazione falsa e superficiale.
Gregory è un program manager presso Testimonianza , che si concentra sull'uso del video nei diritti umani, sia da parte di attivisti e vittime per denunciare abusi, sia da parte di regimi autoritari per reprimere il dissenso. Parlando lunedì a un pubblico all'EmTech Digital, un evento organizzato da MIT Technology Review, ha affermato che i deepfake che stiamo vedendo attualmente sono la calma prima della tempesta.
I media sintetici dannosi non sono ancora diffusi nell'uso, gli strumenti non sono ancora diventati mobili, non sono stati prodotti, ha affermato Gregory. Questo momento, ha suggerito, rappresenta un'insolita opportunità per i creatori dei deepfake di stabilire modi per combatterli prima che i cattivi attori siano in grado di distribuire ampiamente la tecnologia.
Possiamo essere proattivi e pragmatici nell'affrontare questa minaccia alla sfera pubblica e al nostro ecosistema dell'informazione, ha affermato. Possiamo prepararci, non farci prendere dal panico.
Sebbene i deepfake possano essere un po' più avanti rispetto al mainstream, tuttavia, esiste già una problematica ondata di disinformazione che non è stata ancora risolta. Le informazioni false oggi generalmente non utilizzano l'IA o la tecnologia complessa. Piuttosto, semplici trucchi come etichettare erroneamente i contenuti per screditare gli attivisti o diffondere false informazioni possono essere devastanti efficaci, a volte sfociando anche in violenze mortali, come è successo in Myanmar.
Con questi 'falsi superficiali' intendo le decine di migliaia di video circolati con intenti dannosi in tutto il mondo in questo momento, realizzati non con un'intelligenza artificiale sofisticata, ma spesso semplicemente rietichettati e ricaricati, sostenendo che un evento in un luogo è appena accaduto in un altro, ha detto Gregory .
Ad esempio, ha detto, un video di una persona bruciata viva è stato riutilizzato e riattribuito ad attori in Costa d'Avorio, Sud Sudan, Kenya e Birmania, ogni volta incitando alla violenza.
Un'altra minaccia era l'idea crescente che non possiamo fidarci di ciò che vediamo, il che nella maggior parte dei casi è semplicemente falso, ha detto Gregory. La diffusione di questa idea è un vantaggio per autoritari e totalitari in tutto il mondo.
Una narrativa allarmistica non fa che aumentare i reali pericoli che dobbiamo affrontare: la negazione plausibile e il crollo della fiducia, ha aggiunto.
Mark Latonero, responsabile diritti umani presso Dati e società , un istituto senza scopo di lucro dedicato alle applicazioni dei dati, ha convenuto che le aziende tecnologiche dovrebbero fare di più per affrontare tali problemi. Sebbene Microsoft, Google, Twitter e altri abbiano dipendenti incentrati sui diritti umani, ha affermato, c'era molto di più che avrebbero dovuto fare prima di distribuire le tecnologie, non dopo.
Ora è davvero il momento per aziende, ricercatori e altri di costruire questi legami molto forti con la società civile e i diversi uffici nazionali in cui potrebbero essere lanciati i tuoi prodotti, ha affermato. Impegnarsi con le persone più vicine ai problemi in questi paesi. Costruisci quelle alleanze ora. Quando qualcosa va storto, e succederà, possiamo iniziare ad avere le basi per la collaborazione e lo scambio di conoscenze.