211service.com
L'esercito americano sta finanziando uno sforzo per catturare deepfake e altri trucchi dell'IA
Pensi che l'IA aiuterà a porre fine alle notizie false? L'esercito americano non è così sicuro.
Il Dipartimento della Difesa sta finanziando un progetto che proverà a determinare se il video e l'audio falsi dall'aspetto sempre più reale generato dall'intelligenza artificiale potrebbero presto essere impossibili da distinguere dalla realtà, anche per un altro sistema di intelligenza artificiale.
Quest'estate, nell'ambito di un progetto finanziato dal Agenzia per i progetti di ricerca avanzata della difesa (DARPA) , i principali esperti mondiali di digital forensics si riuniranno per un concorso di falsità AI. Competeranno per generare i video, le immagini e l'audio falsi più convincenti generati dall'intelligenza artificiale e cercheranno anche di sviluppare strumenti in grado di rilevare automaticamente queste contraffazioni.
Il concorso includerà i cosiddetti deepfakes, video in cui il viso di una persona è cucito sul corpo di un'altra persona. Piuttosto prevedibilmente, la tecnologia è già stata utilizzata per generare una serie di video porno di celebrità contraffatti. Ma il metodo potrebbe anche essere utilizzato per creare una clip di un politico che dice o fa qualcosa di oltraggioso.
I tecnologi della DARPA sono particolarmente preoccupati per una tecnica di intelligenza artificiale relativamente nuova che potrebbe rendere quasi impossibile individuare automaticamente i falsi dell'IA. Utilizzando quelle che sono note come reti generative contraddittorio, o GAN, è possibile generare immagini artificiali straordinariamente realistiche.
In teoria, se fornissi a un GAN tutte le tecniche che conosciamo per rilevarlo, potrebbe superare tutte quelle tecniche, afferma David Gunning, il responsabile del programma DARPA responsabile del progetto. Non sappiamo se c'è un limite. Non è chiaro.
Un GAN è costituito da due componenti. Il primo, noto come l'attore, cerca di apprendere i modelli statistici in un set di dati, come un insieme di immagini o video, e quindi di generare dati sintetici convincenti. Il secondo, chiamato il critico, cerca di distinguere tra esempi veri e falsi. Il feedback del critico consente all'attore di produrre esempi sempre più realistici. E poiché i GAN sono già progettati per superare in astuzia un sistema di intelligenza artificiale, non è chiaro se un sistema automatizzato possa catturarli.
I GAN sono relativamente nuovi, ma hanno preso d'assalto la scena dell'apprendimento automatico (vedi The GANfather: L'uomo che ha dato alle macchine il dono dell'immaginazione). Possono già essere utilizzati per inventare celebrità immaginarie molto realistiche o per modificare in modo convincente le immagini trasformando un cipiglio in un sorriso o trasformare la notte in giorno.
Il rilevamento di un falso digitale di solito comporta tre passaggi. Il primo è esaminare il file digitale per i segni che due immagini o video sono stati uniti. Il secondo è guardare l'illuminazione e altre proprietà fisiche delle immagini per i segni che qualcosa non va. Il terzo, che è il più difficile da fare automaticamente e probabilmente il più difficile da sconfiggere, è considerare le incongruenze logiche, come il tempo sbagliato per la data presunta o lo sfondo errato per la posizione presunta.
Walter Scheirer , un esperto di scienze forensi digitali presso l'Università di Notre Dame che è coinvolto nel progetto DARPA, afferma che la tecnologia ha fatto una strada sorprendentemente lunga da quando l'iniziativa è stata lanciata un paio di anni fa. Siamo decisamente in una corsa agli armamenti, dice.
Sebbene sia stato a lungo possibile per un abile esperto di grafica produrre falsi dall'aspetto convincente, l'IA renderà la tecnologia molto più accessibile. È passato da attori sponsorizzati dallo stato e Hollywood a qualcuno su Reddit, dice Hany Farid , professore a Dartmouth specializzato in digital forensics. L'urgenza che sentiamo ora è proteggere la democrazia.
I deepfake utilizzano una popolare tecnica di apprendimento automatico nota come deep learning per incorporare automaticamente un nuovo volto in un video esistente. Quando grandi quantità di dati vengono immesse in una rete neurale simulata molto grande o profonda, un computer può imparare a eseguire tutti i tipi di attività utili, come il riconoscimento facciale molto accurato. Ma lo stesso approccio semplifica anche la manipolazione di video dannosi. Uno strumento rilasciato online consente a chiunque abbia una modesta esperienza tecnica di generare nuovi deepfake. E il creatore di quello strumento detto Scheda madre che una versione ancora più user-friendly è in lavorazione.
Il problema, ovviamente, va ben oltre lo scambio di volti. Gli esperti affermano sempre più che in breve tempo potrebbe essere molto più difficile sapere se una foto, un video o un clip audio è stato generato da una macchina. Google ha persino sviluppato uno strumento chiamato Duplex che utilizza l'intelligenza artificiale per simulare una telefonata.
aviv ovadya , capo tecnologo presso il Center for Social Media Responsibility dell'Università del Michigan, teme che le tecnologie di intelligenza artificiale ora sviluppate possano essere utilizzate per danneggiare la reputazione di qualcuno, influenzare un'elezione o peggio. Queste tecnologie possono essere utilizzate in modi meravigliosi per l'intrattenimento e anche in molti modi molto terrificanti, ha detto Ovadya il 15 maggio evento organizzato da Bloomberg . Hai già immagini modificate utilizzate per causare vera violenza nel mondo in via di sviluppo, ha detto. Questo è un pericolo reale e presente.
Se la tecnologia non può essere utilizzata per catturare falsi e disinformazione, potrebbe esserci una spinta a utilizzare invece la legge. In effetti, ad aprile la Malesia ha introdotto leggi contro le fake news. Tuttavia, Farid di Dartmouth afferma che questo potrebbe rivelarsi problematico perché la verità è, di per sé, un argomento scivoloso. Come si definiscono le fake news? Non è così facile come potresti pensare, dice. Posso ritagliare un'immagine e cambiare fondamentalmente un'immagine. E cosa fai con il Cipolla ?