Il GANfather: l'uomo che ha dato alle macchine il dono dell'immaginazione

Christie There Klok

Una notte del 2014, Ian Goodfellow andò a bere per festeggiare con un collega dottorando che si era appena laureato. A Les 3 Brasseurs (The Three Brewers), uno dei locali preferiti di Montreal, alcuni amici hanno chiesto il suo aiuto per un progetto spinoso su cui stavano lavorando: un computer in grado di creare foto da solo.

I ricercatori stavano già utilizzando le reti neurali, algoritmi modellati liberamente sulla rete dei neuroni nel cervello umano, come modelli generativi per creare nuovi dati plausibili. Ma i risultati spesso non erano molto buoni: le immagini di un viso generato dal computer tendevano a essere sfocate o ad avere errori come le orecchie mancanti. Il piano proposto dagli amici di Goodfellow era di utilizzare una complessa analisi statistica degli elementi che compongono una fotografia per aiutare le macchine a creare immagini da sole. Ciò avrebbe richiesto un'enorme quantità di elaborazione numerica e Goodfellow ha detto loro che semplicemente non avrebbe funzionato.

Questa storia faceva parte del nostro numero di marzo 2018

• Vedi il resto del problema
• sottoscrivi

Ma mentre rifletteva sul problema sulla sua birra, gli venne un'idea. E se mettessi due reti neurali l'una contro l'altra? I suoi amici erano scettici, quindi una volta tornato a casa, dove la sua ragazza dormiva già profondamente, ha deciso di provare. Goodfellow ha codificato nelle prime ore del mattino e poi ha testato il suo software. Ha funzionato la prima volta.

Quello che ha inventato quella notte è ora chiamato GAN, o rete contraddittoria generativa. La tecnica ha suscitato grande entusiasmo nel campo dell'apprendimento automatico e ha trasformato il suo creatore in una celebrità dell'IA.

Christie There Klok

Negli ultimi anni, i ricercatori dell'IA hanno compiuto progressi impressionanti utilizzando una tecnica chiamata deep learning. Fornisci un sistema di deep learning con un numero sufficiente di immagini e impara, ad esempio, a riconoscere un pedone che sta per attraversare una strada. Questo approccio ha reso possibili cose come le auto a guida autonoma e la tecnologia di conversazione che alimenta Alexa, Siri e altri assistenti virtuali.

Ma mentre le IA di deep learning possono imparare a riconoscere le cose, non sono state brave a crearle. L'obiettivo dei GAN è dare alle macchine qualcosa di simile a un'immaginazione.

In futuro, i computer diventeranno molto più bravi a banchettare con i dati grezzi e a capire cosa devono imparare da essi.

Ciò non consentirebbe loro semplicemente di disegnare belle immagini o comporre musica; li renderebbe meno dipendenti dagli umani per istruirli sul mondo e sul modo in cui funziona. Oggi, i programmatori di intelligenza artificiale hanno spesso bisogno di dire a una macchina esattamente quali dati di addestramento vengono alimentati: quali immagini su un milione contengono un pedone che attraversa una strada e quali no. Questo non è solo costoso e laborioso; limita il modo in cui il sistema gestisce anche lievi scostamenti da ciò su cui è stato addestrato. In futuro, i computer diventeranno molto più bravi a banchettare con i dati grezzi e ad elaborare ciò di cui hanno bisogno per imparare da essi senza che gli venga detto.

Ciò segnerà un grande balzo in avanti in ciò che è noto nell'IA come apprendimento non supervisionato. Un'auto a guida autonoma potrebbe imparare a conoscere molte condizioni stradali diverse senza uscire dal garage. Un robot potrebbe anticipare gli ostacoli che potrebbe incontrare in un magazzino affollato senza bisogno di essere preso in giro.

Ciò segnerà un grande balzo in avanti in ciò che è noto nell'IA come apprendimento non supervisionato.

La nostra capacità di immaginare e riflettere su molti scenari diversi fa parte di ciò che ci rende umani. E quando i futuri storici della tecnologia guarderanno indietro, probabilmente vedranno i GAN come un grande passo avanti verso la creazione di macchine con una coscienza simile a quella umana. Yann LeCun, il capo scienziato dell'IA di Facebook, ha definito i GAN l'idea più interessante nel deep learning degli ultimi 20 anni. Un altro luminare dell'intelligenza artificiale, Andrew Ng, l'ex capo scienziato della cinese Baidu, afferma che i GAN rappresentano un progresso significativo e fondamentale che ha ispirato una crescente comunità globale di ricercatori.

The GANfather, Parte II: Fight Club AI

Goodfellow è ora un ricercatore nel team di Google Brain, presso la sede dell'azienda a Mountain View, in California. Quando l'ho incontrato lì di recente, sembrava ancora sorpreso dal suo status di superstar, definendolo un po' surreale. Forse non meno sorprendente è che, dopo aver fatto la sua scoperta, ora trascorre gran parte del suo tempo lavorando contro coloro che desiderano usarlo per fini malvagi.

La magia dei GAN sta nella rivalità tra le due reti neurali. Imita l'andirivieni tra un falsario di immagini e un detective dell'arte che cercano ripetutamente di ingannarsi l'un l'altro. Entrambe le reti sono addestrate sullo stesso set di dati. Il primo, noto come generatore, ha il compito di produrre output artificiali, come foto o grafia, il più realistici possibile. Il secondo, noto come discriminatore, le confronta con le immagini autentiche del set di dati originale e cerca di determinare quali sono reali e quali false. Sulla base di questi risultati, il generatore regola i suoi parametri per creare nuove immagini. E così via, fino a quando il discriminatore non può più dire cosa è genuino e cosa è falso.

Un GAN addestrato su foto di vere celebrità ha creato il proprio set di stelle immaginarie. Nella maggior parte dei casi, i falsi sembravano piuttosto realistici. Nvidia

In un esempio ampiamente pubblicizzato lo scorso anno, i ricercatori di Nvidia, una società di chip che ha investito molto nell'IA, hanno addestrato un GAN a generare immagini di celebrità immaginarie studiando quelle reali. Non tutte le false star che ha prodotto erano perfette, ma alcune erano incredibilmente realistiche. A differenza di altri approcci di apprendimento automatico che richiedono decine di migliaia di immagini di addestramento, i GAN possono diventare esperti con poche centinaia.

Storia correlata

Storia correlata

Questo potere di immaginazione è ancora limitato. Una volta che è stato addestrato su molte foto di cani, un GAN può generare un'immagine falsa convincente di un cane che ha, ad esempio, un diverso schema di macchie; ma non può concepire un animale completamente nuovo. Anche la qualità dei dati di allenamento originali ha una grande influenza sui risultati. In un esempio significativo, un GAN ha iniziato a produrre immagini di gatti con lettere casuali integrate nelle immagini. Poiché i dati di addestramento contenevano meme sui gatti da Internet, la macchina aveva imparato da sola che le parole facevano parte di ciò che significava essere un gatto.

Far funzionare bene GANS può essere complicato. Se ci sono problemi, i risultati possono essere bizzarri. Alec Radford

I GAN sono anche capricciosi, afferma Pedro Domingos, un ricercatore di apprendimento automatico presso l'Università di Washington. Se il discriminatore è troppo facile da ingannare, l'output del generatore non sembrerà realistico. E calibrare le due reti neurali da duello può essere difficile, il che spiega perché i GAN a volte sputano cose bizzarre come animali con due teste.

Tuttavia, le sfide non hanno scoraggiato i ricercatori. Da quando Goodfellow e pochi altri hanno pubblicato il primo studio sulla sua scoperta, nel 2014 sono stati scritti centinaia di articoli relativi al GAN. Un fan della tecnologia ha persino creato una pagina web chiamata GAN zoo, dedicata a tenere traccia delle varie versioni della tecnica che sono state sviluppate.

Le applicazioni immediate più ovvie sono in aree che coinvolgono molte immagini, come i videogiochi e la moda: come potrebbe essere, ad esempio, un personaggio di un gioco che corre sotto la pioggia? Ma guardando al futuro, Goodfellow pensa che i GAN guideranno progressi più significativi. Ci sono molte aree della scienza e dell'ingegneria in cui è necessario ottimizzare qualcosa, afferma, citando esempi come farmaci che devono essere più efficaci o batterie che devono diventare più efficienti. Sarà la prossima grande ondata.

Nella fisica delle alte energie, gli scienziati utilizzano potenti computer per simulare le probabili interazioni di centinaia di particelle subatomiche in macchine come il Large Hadron Collider del CERN in Svizzera. Queste simulazioni sono lente e richiedono un'enorme potenza di calcolo. I ricercatori della Yale University e del Lawrence Berkeley National Laboratory hanno sviluppato un GAN che, dopo l'addestramento sui dati di simulazione esistenti, impara a generare previsioni abbastanza accurate su come si comporterà una particolare particella e lo fa molto più velocemente.

La creazione di Goodfellow può essere utilizzata per immaginare ogni sorta di cose, compresi i nuovi design degli interni. Ian Goodfellow

La ricerca medica è un altro campo promettente. I problemi di privacy significano che i ricercatori a volte non riescono a ottenere abbastanza dati reali sui pazienti per, ad esempio, analizzare il motivo per cui un farmaco non ha funzionato. I GAN possono aiutare a risolvere questo problema generando record falsi che sono buoni quasi quanto quelli reali, afferma Casey Greene dell'Università della Pennsylvania. Questi dati potrebbero essere condivisi più ampiamente, aiutando a far avanzare la ricerca, mentre i record reali sono strettamente protetti.

The GANfather, Parte III: I cattivi

C'è però un lato oscuro. Una macchina progettata per creare falsi realistici è un'arma perfetta per i fornitori di notizie false che vogliono influenzare qualsiasi cosa, dai prezzi delle azioni alle elezioni. Gli strumenti di intelligenza artificiale vengono già utilizzati per mettere le foto dei volti di altre persone sui corpi delle pornostar e mettere le parole in bocca ai politici. I GAN non hanno creato questo problema, ma lo peggioreranno.

Hany Farid, che studia forense digitale al Dartmouth College, sta lavorando a modi migliori per individuare video falsi, come rilevare lievi cambiamenti nel colore dei volti causati dall'inalazione e dall'espirazione che i GAN trovano difficile imitare con precisione. Ma avverte che i GAN si adatteranno a loro volta. Siamo fondamentalmente in una posizione debole, dice Farid.

Questo gioco del gatto e del topo funzionerà anche nella sicurezza informatica. I ricercatori stanno già evidenziando il rischio di attacchi black box, in cui i GAN vengono utilizzati per capire i modelli di apprendimento automatico con cui molti programmi di sicurezza individuano il malware. Avendo intuito come funziona l'algoritmo di un difensore, un attaccante può eluderlo e inserire codice canaglia. Lo stesso approccio potrebbe essere utilizzato anche per evitare filtri antispam e altre difese.

Ci sono molte aree della scienza e dell'ingegneria in cui dobbiamo ottimizzare qualcosa. Sarà la prossima grande ondata.

Goodfellow è ben consapevole dei pericoli. Ora a capo di un team di Google che si concentra sul rendere più sicuro l'apprendimento automatico, avverte che la comunità dell'IA deve imparare la lezione delle precedenti ondate di innovazione, in cui i tecnologi hanno trattato la sicurezza e la privacy come un ripensamento. Quando si sono resi conto dei rischi, i cattivi avevano un vantaggio significativo. Chiaramente, siamo già oltre l'inizio, dice, ma speriamo di poter fare progressi significativi nella sicurezza prima di essere troppo in là.

Tuttavia, non pensa che ci sarà una soluzione puramente tecnologica alla falsificazione. Invece, crede, dovremo fare affidamento su quelli sociali, come insegnare ai bambini il pensiero critico convincendoli a seguire cose come discorsi e dibattiti. Nel discorso e nel dibattito stai gareggiando contro un altro studente, dice, e stai pensando a come creare affermazioni fuorvianti o come creare affermazioni corrette che sono molto persuasive. Potrebbe anche avere ragione, ma la sua conclusione che la tecnologia non può curare il problema delle notizie false non è una che molti vorranno sentire.

nascondere