L'IA consuma molta energia. Gli hacker potrebbero farne consumare di più.

Taylor Vick/Unsplash

Le notizie: Un nuovo tipo di attacco potrebbe aumentare il consumo di energia dei sistemi di IA. Allo stesso modo in cui un attacco denial-of-service su Internet cerca di intasare una rete e renderla inutilizzabile, il nuovo attacco costringe una rete neurale profonda a vincolare più risorse computazionali del necessario e rallentare il suo processo di pensiero.

Il bersaglio: Negli ultimi anni, la crescente preoccupazione per il costoso consumo energetico dei grandi modelli di intelligenza artificiale ha portato i ricercatori a progettare reti neurali più efficienti. Una categoria, nota come architetture multi-uscita adattive all'input, funziona suddividendo le attività in base alla loro difficoltà a risolverle. Quindi spende la quantità minima di risorse computazionali necessarie per risolverle.

Supponiamo di avere l'immagine di un leone che guarda dritto verso la telecamera con un'illuminazione perfetta e l'immagine di un leone accovacciato in un paesaggio complesso, parzialmente nascosto alla vista. Una rete neurale tradizionale passerebbe entrambe le foto attraverso tutti i suoi livelli e spenderebbe la stessa quantità di calcolo per etichettare ciascuna. Ma una rete neurale multi-uscita adattativa all'input potrebbe far passare la prima foto attraverso un solo livello prima di raggiungere la soglia di sicurezza necessaria per chiamarla così. Ciò riduce l'impronta di carbonio del modello, ma ne migliora anche la velocità e consente di implementarlo su piccoli dispositivi come smartphone e altoparlanti intelligenti.

L'attacco: Ma questo tipo di rete neurale significa che se modifichi l'input, come l'immagine che viene alimentata, puoi modificare la quantità di calcolo necessaria per risolverlo. Questo apre una vulnerabilità che gli hacker potrebbero sfruttare, come hanno sottolineato i ricercatori del Maryland Cybersecurity Center in un nuovo documento presentato al Conferenza internazionale sulle rappresentazioni dell'apprendimento questa settimana. Aggiungendo piccole quantità di rumore agli ingressi di una rete, hanno fatto percepire gli ingressi come più difficili e aumentare il suo calcolo.

Quando hanno ipotizzato che l'attaccante avesse informazioni complete sulla rete neurale, sono stati in grado di massimizzare il suo assorbimento di energia. Quando presumevano che l'attaccante non avesse limitato a nessuna informazione, erano comunque in grado di rallentare l'elaborazione della rete e aumentare il consumo di energia dal 20% all'80%. Il motivo, come hanno scoperto i ricercatori, è che gli attacchi si trasferiscono bene attraverso diversi tipi di reti neurali. Progettare un attacco per un sistema di classificazione delle immagini è sufficiente per sconvolgerne molti, afferma Yiğitcan Kaya, studente di dottorato e coautore del paper.

L'avvertenza: Questo tipo di attacco è ancora in qualche modo teorico. Le architetture adattive all'input non sono ancora comunemente utilizzate nelle applicazioni del mondo reale. Ma i ricercatori ritengono che questo cambierà rapidamente rispetto alle pressioni all'interno del settore per implementare reti neurali più leggere, come per la casa intelligente e altri dispositivi IoT. Tudor Dumitraş, il professore che ha consigliato la ricerca, afferma che è necessario più lavoro per capire fino a che punto questo tipo di minaccia potrebbe creare danni. Ma, aggiunge, questo documento è un primo passo per aumentare la consapevolezza: ciò che è importante per me è portare all'attenzione delle persone il fatto che questo è un nuovo modello di minaccia e questo tipo di attacchi può essere fatto.

nascondere