Google ha rilasciato uno strumento per individuare immagini false e alterate

Categoria: Intelligenza artificiale Inserito 05 febbraio

Jigsaw, un incubatore tecnologico di Google, ha rilasciato una piattaforma sperimentale chiamata Assembler per aiutare i giornalisti e i fact-checker in prima linea a verificare rapidamente le immagini.

Come funziona: Assembler ne combina diversi tecniche esistenti nel mondo accademico per il rilevamento di tecniche di manipolazione comuni, inclusa la modifica della luminosità dell'immagine e l'incollaggio di pixel copiati altrove per coprire qualcosa pur mantenendo la stessa trama visiva. Include anche un rilevatore che individua i deepfake del tipo creato utilizzando StyleGAN, un algoritmo in grado di generare volti immaginari realistici. Queste tecniche di rilevamento alimentano un modello principale che indica agli utenti quanto è probabile che un'immagine sia stata manipolata.

Perchè importa: Le immagini false sono tra le cose più difficili da verificare, soprattutto con l'aumento della manipolazione da parte dell'intelligenza artificiale. Anche la finestra di opportunità di reazione per giornalisti e verificatori di fatti si sta rapidamente riducendo, poiché la disinformazione si diffonde a velocità e scala.

Non una panacea: Assembler è un buon passo avanti nella lotta ai media manipolati, ma non copre molte altre tecniche di manipolazione esistenti, comprese quelle utilizzate per i video, che il team dovrà aggiungere e aggiornare man mano che l'ecosistema continua a evolversi. Esiste anche ancora come piattaforma separata dai canali in cui vengono solitamente distribuite le immagini modificate. Gli esperti hanno raccomandato a giganti della tecnologia come Facebook e Google di incorporare questi tipi di funzionalità di rilevamento direttamente nelle loro piattaforme. In questo modo tali controlli possono essere eseguiti quasi in tempo reale mentre le foto e i video vengono caricati e condivisi.

Ci sono anche altri approcci da considerare. Alcune startup stanno perseguendo la tecnologia di verifica, ad esempio, che memorizza le posizioni dei pixel in una foto al momento della loro acquisizione, ma anche questo comporta delle sfide.

Oltre la tecnologia: In definitiva, le correzioni tecniche non saranno sufficienti. Uno degli aspetti più complicati della falsificazione digitale non sono le immagini false stesse. Piuttosto, è l'idea che esistano, che può essere facilmente invocata per dubitare della veridicità dei media reali. Questo è il tipo di sfida che richiederà anche soluzioni sociali e politiche.