L'intelligenza artificiale per la sicurezza informatica è una novità e una scommessa pericolosa

Immagine del codice sovrapposta a una foto delle mani sulla tastiera di un laptop Spruzza

Quando ho camminato per l'area espositiva della massiccia conferenza sulla sicurezza informatica Black Hat di questa settimana a Las Vegas, sono rimasto colpito dal numero di aziende che si vantano di come stanno utilizzando l'apprendimento automatico e l'intelligenza artificiale per contribuire a rendere il mondo un posto più sicuro.

Ma alcuni esperti temono che i fornitori non prestino abbastanza attenzione ai rischi associati all'affidarsi pesantemente a queste tecnologie. Quello che sta succedendo è un po' preoccupante, e in alcuni casi anche pericoloso, avverte Raffael Marty della società di sicurezza Forcepoint.

La fame di algoritmi del settore della sicurezza è comprensibile. Sta affrontando uno tsunami di attacchi informatici proprio mentre il numero di dispositivi collegati a Internet sta esplodendo. Allo stesso tempo, c'è un'enorme carenza di lavoratori informatici qualificati (vedi la nuova insidiosa minaccia della sicurezza informatica: lo stress della forza lavoro).

L'uso dell'apprendimento automatico e dell'intelligenza artificiale per automatizzare il rilevamento e la risposta alle minacce può alleggerire il carico sui dipendenti e potenzialmente aiutare a identificare le minacce in modo più efficiente rispetto ad altri approcci basati su software.

Pericoli dei dati

Ma Marty e alcuni altri che parlano a Black Hat affermano che molte aziende stanno ora lanciando prodotti basati sull'apprendimento automatico perché sentono di doverlo fare per ottenere un pubblico con i clienti che hanno accettato il ciclo di hype dell'IA. E c'è il pericolo che trascurino i modi in cui gli algoritmi di apprendimento automatico potrebbero creare un falso senso di sicurezza.

Molti prodotti in fase di implementazione implicano l'apprendimento supervisionato, che richiede alle aziende di scegliere ed etichettare i set di dati su cui gli algoritmi vengono addestrati, ad esempio contrassegnando il codice che è malware e il codice pulito.

Marty afferma che un rischio è che, affrettandosi a immettere i propri prodotti sul mercato, le aziende utilizzino informazioni sulla formazione che non sono state completamente ripulite da punti dati anomali. Ciò potrebbe portare l'algoritmo a perdere alcuni attacchi. Un altro è che gli hacker che accedono ai sistemi di un'azienda di sicurezza potrebbero corrompere i dati cambiando le etichette in modo che alcuni esempi di malware siano contrassegnati come codice pulito.

I cattivi non hanno nemmeno bisogno di manomettere i dati; invece, potrebbero elaborare le caratteristiche del codice che un modello sta utilizzando per contrassegnare il malware e quindi rimuoverle dal proprio codice dannoso in modo che l'algoritmo non lo catturi.

Uno contro molti

In una sessione della conferenza, Holly Stewart e Jugal Parikh di Microsoft hanno segnalato il rischio di fare eccessivo affidamento su un unico algoritmo master per guidare un sistema di sicurezza. Il pericolo è che se quell'algoritmo è compromesso, non ci sono altri segnali che segnalino un problema con esso.

Per proteggersi da questo, il servizio di protezione dalle minacce di Windows Defender di Microsoft utilizza un insieme diversificato di algoritmi con diversi set di dati di allenamento e funzionalità. Quindi, se un algoritmo viene violato, i risultati degli altri, supponendo che anche la loro integrità non sia stata compromessa, evidenzieranno l'anomalia nel primo modello.

Al di là di questi problemi. Marty di Forcepoint osserva che con alcuni algoritmi molto complessi può essere davvero difficile capire perché effettivamente sputano determinate risposte. Questo problema di spiegabilità può rendere difficile valutare cosa sta causando eventuali anomalie che emergono (vedi Il segreto oscuro nel cuore dell'IA).

Niente di tutto ciò significa che l'IA e l'apprendimento automatico non dovrebbero avere un ruolo importante in un arsenale difensivo. Il messaggio di Marty e altri è che è davvero importante per le società di sicurezza e i loro clienti monitorare e ridurre al minimo i rischi associati ai modelli algoritmici.

Non è una sfida da poco, dato che le persone con la combinazione ideale di una profonda esperienza nella sicurezza informatica e nella scienza dei dati sono ancora rare come una giornata fresca in un'estate a Las Vegas.

nascondere