211service.com
AI Fight Club potrebbe aiutarci a salvarci da un futuro di attacchi informatici super intelligenti
Giovanni Malta
Una nuova competizione annuncia quello che probabilmente diventerà il futuro della sicurezza informatica e della guerra informatica, con algoritmi di intelligenza artificiale offensivi e difensivi che combattono.
Il concorso , che si svolgerà nei prossimi cinque mesi, è gestito da Kaggle , una piattaforma per concorsi di scienza dei dati. Metterà gli algoritmi dei ricercatori l'uno contro l'altro nel tentativo di confondersi e ingannarsi a vicenda, con la speranza che questo combattimento produca informazioni su come rafforzare i sistemi di apprendimento automatico contro futuri attacchi.
È un'idea brillante catalizzare la ricerca sia per ingannare le reti neurali profonde sia per progettare reti neurali profonde che non possono essere ingannate, afferma Jeff Clune , un assistente professore presso l'Università del Wyoming che studia i limiti dell'apprendimento automatico.
Il concorso avrà tre componenti. Una sfida riguarderà semplicemente il tentativo di confondere un sistema di apprendimento automatico in modo che non funzioni correttamente. Un altro riguarderà il tentativo di forzare un sistema a classificare qualcosa in modo errato. E un terzo riguarderà lo sviluppo delle difese più robuste. I risultati saranno presentati a un'importante conferenza sull'IA entro la fine dell'anno.
L'apprendimento automatico, e in particolare il deep learning, sta rapidamente diventando uno strumento indispensabile in molti settori. La tecnologia prevede l'immissione di dati in un tipo speciale di programma per computer, la specifica di un risultato particolare e la creazione di un algoritmo da parte di una macchina per ottenere il risultato. Il deep learning lo fa modificando i parametri di un'enorme rete interconnessa di neuroni simulati matematicamente.
È noto da tempo che i sistemi di apprendimento automatico possono essere ingannati. Gli spammer possono, ad esempio, eludere i moderni filtri antispam scoprendo quali modelli l'algoritmo del filtro è stato addestrato a identificare.
Negli ultimi anni, tuttavia, i ricercatori hanno dimostrato che anche gli algoritmi più intelligenti a volte possono essere fuorviati in modi sorprendenti. Ad esempio, algoritmi di deep learning con abilità quasi umane nel riconoscere gli oggetti nelle immagini può essere ingannato da immagini apparentemente astratte o casuali che sfruttano i modelli di basso livello che questi algoritmi cercano (vedi The Dark Secret at the Heart of AI).
L'apprendimento automatico contraddittorio è più difficile da studiare dell'apprendimento automatico convenzionale: è difficile dire se il tuo attacco è forte o se la tua difesa è effettivamente debole, afferma Ian Goodfellow, ricercatore presso Cervello di Google , una divisione di Google dedicata alla ricerca e all'applicazione dell'apprendimento automatico, che ha organizzato il concorso.
Man mano che l'apprendimento automatico diventa pervasivo, il timore è che tali attacchi possano essere utilizzati a scopo di lucro o puro danno. Potrebbe essere possibile per gli hacker eludere le misure di sicurezza per installare malware, ad esempio.
La sicurezza informatica si sta decisamente spostando verso l'apprendimento automatico, afferma Goodfellow. I cattivi useranno il machine learning per automatizzare i loro attacchi e noi useremo il machine learning per difenderci.
In teoria, i criminali potrebbero anche confondere i sistemi di riconoscimento vocale e facciale, o persino affiggere manifesti per ingannare i sistemi di visione delle auto a guida autonoma, facendole schiantare.
Kaggle è diventato un inestimabile terreno fertile per lo sviluppo di algoritmi e un focolaio per data scientist di talento. L'azienda è stata acquisita da Google a marzo e ora fa parte della piattaforma Google Cloud. Goodfellow e un altro ricercatore di Google Brain, Alexey Kurakin, hanno presentato l'idea per la sfida prima dell'acquisizione.
Benjamin Hamner, cofondatore e CTO di Kaggle, afferma di sperare che il concorso attiri l'attenzione su un problema incombente. Man mano che l'apprendimento automatico diventa più ampiamente utilizzato, la comprensione dei problemi e dei rischi dell'apprendimento contraddittorio diventa sempre più importante, afferma.
I vantaggi del concorso aperto superano qualsiasi rischio associato alla pubblicità di nuovi tipi di attacchi, aggiunge: Riteniamo che questa ricerca sia meglio creata e condivisa apertamente, invece che a porte chiuse.
Clune, nel frattempo, afferma di essere entusiasta del concorso per testare algoritmi che presumibilmente possono resistere agli attacchi. I miei soldi sono sulle reti che continuano a essere ingannati per il prossimo futuro, dice.