Una nuova serie di immagini che ingannano l'IA potrebbe contribuire a renderla più a prova di hacker

fotografia che mostra un fungo, una libellula e uno scoiattolo, tutti etichettati erroneamente come pretzel, tombino e leone marino Unsplash: Florian Van Duyn / Krzysztof Niewolny / Pranay Pareek

L'intelligenza artificiale è ottima per identificare gli oggetti nelle immagini, ma è comunque abbastanza facile rovinare tutto. Aggiungi alcuni tratti a scelta o aggiungi un livello di rumore statico invisibile all'occhio umano e puoi eliminare un sistema di riconoscimento delle immagini, a volte con effetti mortali. L'aggiunta di adesivi a un segnale di stop può far credere a un'auto a guida autonoma che il segnale stia pubblicando un limite di velocità di 45 miglia orarie, ad esempio, mentre aggiungerli a una strada può far deviare una Tesla nella corsia di marcia in arrivo. (Il lato positivo è che le stesse tecniche possono anche proteggerti dallo stato di sorveglianza. Ne vinci un po', ne perdi un po'.)

Tutti questi sono noti come esempi contraddittori e ora i ricercatori stanno cercando di sviluppare modi per proteggere i sistemi di intelligenza artificiale da essi. Ma in un carta l'anno scorso, un gruppo di ricercatori di Google Brain e Princeton, tra cui uno dei primi ricercatori su questo argomento, Ian Goodfellow, ha sostenuto che la borsa di studio emergente era troppo teorica e non aveva capito il punto.

Mentre la maggior parte della ricerca si è concentrata sulla protezione dei sistemi da perturbazioni appositamente progettate, un hacker, hanno affermato, potrebbe scegliere uno strumento meno chiaro: una foto completamente diversa piuttosto che uno schema di rumore da sovrapporre a uno esistente. Anche questo potrebbe causare un comportamento anomalo del sistema.

La critica ha spinto Dan Hendrycks, uno studente di dottorato presso l'Università della California, Berkeley, a compilare un nuovo set di dati immagine . Chiama le immagini che contiene esempi naturali contraddittori: senza modifiche speciali, ingannano comunque un sistema.

Includono cose come uno scoiattolo che i sistemi comuni etichettano erroneamente come un leone marino o una libellula che identificano erroneamente come un tombino. Questi esempi sembrano molto più difficili da difendere, dice. Gli esempi sintetici del contraddittorio devono conoscere tutte le difese del sistema di intelligenza artificiale per essere più efficaci. Al contrario, gli esempi naturali possono funzionare abbastanza bene anche quando queste difese cambiano, dice.

Hendrycks ha rilasciato una prima versione del set di dati, con circa 6.000 immagini, la scorsa settimana alla Conferenza internazionale sull'apprendimento automatico. Ha in programma di rilasciare una versione finale con quasi 8.000 in un paio di settimane. Intende che la comunità di ricerca utilizzi il set di dati come benchmark.

In altre parole, piuttosto che addestrare sistemi di riconoscimento delle immagini direttamente sulle immagini, dovrebbero riservarle solo per il test. Se le persone dovessero semplicemente allenarsi su questo set di dati, sarebbe solo memorizzare questi esempi, dice. Ciò significherebbe risolvere il set di dati ma non il compito di essere robusti a nuovi esempi.

Incrinare la logica dietro gli errori a volte sconcertanti causati dagli esempi potrebbe portare a sistemi più resilienti. Come si confonde una libellula con il guacamole? Scherzi di Hendrycks. Non è affatto chiaro il motivo per cui viene commesso l'errore.

nascondere