211service.com
Quanto tempo prima che i sistemi di intelligenza artificiale vengano violati in modi nuovi e creativi?
Le ultime tecniche di intelligenza artificiale vengono adottate dalle aziende a un ritmo vertiginoso. In poco tempo, anche gli hacker potrebbero iniziare a dare un'occhiata più da vicino e potrebbero causare ogni tipo di problema ingannando questi sistemi con dati illusori.
Parlando a una recente conferenza sull'intelligenza artificiale a Barcellona, in Spagna, Ian Goodfellow, un ricercatore di OpenAI che ha svolto un lavoro pionieristico sull'inganno dei sistemi di apprendimento automatico, ha affermato che attaccare i sistemi è facile. Quasi tutto ciò che si può pensare di fare a un modello di apprendimento automatico può essere fatto in questo momento, ha detto. E difenderlo è davvero, davvero difficile.
Negli ultimi anni, i ricercatori hanno dimostrato vari modi in cui i programmi di apprendimento automatico potrebbero essere manipolati sfruttando la loro propensione a individuare modelli nei dati. Sono vulnerabili, in parte, perché mancano di intelligenza reale. Ad esempio, è possibile utilizzare un cartellone pubblicitario per indurre i sistemi di visione delle auto a guida autonoma a vedere cose che non ci sono. Segnali impercettibili possono indurre gli assistenti vocali a compiere azioni indesiderate, come visitare un sito Web e scaricare un malware.
Goodfellow e altri stanno sviluppando contromisure. È possibile addestrare un sistema di apprendimento automatico a riconoscere e quindi ignorare esempi fuorvianti. Ma è difficile proteggersi da ogni possibile assalto.
Imbrogliare i sistemi di apprendimento automatico può diventare più di un esercizio accademico. Questo è molto reale, afferma Patrick McDaniel, un professore della Pennsylvania State University che ha esplorato la questione. I sistemi di apprendimento automatico stanno guidando tutti i tipi di funzioni che potrebbero essere monetizzate dagli avversari, quindi aggressori organizzati e sofisticati abbracceranno questi attacchi.
McDaniel sottolinea che gli hacker hanno ingannato i sistemi di apprendimento automatico per anni. Gli spammer, ad esempio, hanno alimentato gli algoritmi di apprendimento con e-mail false per consentire il passaggio dei messaggi di spam in un secondo momento. Dice che potrebbe non passare molto tempo prima che emergano attacchi più sofisticati.
I primi attacchi arriveranno molto presto contro i sistemi di classificazione online, afferma McDaniel. Ciò potrebbe includere moderni filtri antispam, sistemi progettati per rilevare materiale illecito o protetto da copyright e sistemi avanzati di sicurezza informatica basati sull'apprendimento automatico.
Un nuovo documento suggerisce che il problema potrebbe essere più diffuso di quanto precedentemente noto. Mostra che alcuni inganni possono essere riutilizzati contro diversi sistemi di apprendimento automatico, o anche contro un grande sistema di scatole nere di cui un utente malintenzionato non ha una conoscenza preliminare.
I bug in agguato in questi popolari strumenti di apprendimento automatico potrebbero fornire un altro modo per prenderli di mira. Nuovi strumenti di apprendimento automatico si stanno sviluppando a un ritmo rapido e spesso vengono rilasciati gratuitamente online prima di essere impiegati in servizi attivi come il riconoscimento delle immagini o gli strumenti di analisi del linguaggio naturale.
Intervenendo alla stessa conferenza in Spagna, Octavian Suciu, uno studente di dottorato presso l'Università del Maryland, ha evidenziato una serie di tali vulnerabilità in alcuni strumenti popolari. Suciu ha analizzato il codice sorgente di questi programmi e ha scoperto che poteva essere manipolato. Ha riscontrato problemi con il modo in cui alcuni strumenti memorizzano le informazioni in memoria, il che significa che l'inserimento di una quantità di dati molto grande potrebbe sovrascrivere parte del programma, modificandone il comportamento.
Suciu ipotizza che l'approccio potrebbe fornire un modo pratico per manipolare, ad esempio, uno strumento che offre previsioni sulle azioni, che potrebbero quindi essere utilizzate per shortare il mercato. Se [un modello] ti dice che il titolo aumenterà, potresti cambiare la previsione per dire che scenderà, dice.