Gli algoritmi di visione artificiale sono ancora troppo facili da ingannare

Categoria: Intelligenza artificiale Inserito 20 dic

Il riconoscimento delle immagini tramite intelligenza artificiale ha fatto alcuni progressi sorprendenti, ma come mostra una nuova ricerca, i sistemi possono ancora essere inciampati da esempi che non ingannerebbero mai una persona.

Labsix, un gruppo di studenti del MIT che ha recentemente ingannato un classificatore di immagini sviluppato da Google per pensare a La tartaruga stampata in 3D era un fucile , rilasciato a carta di mercoledì che descrive in dettaglio una tecnica diversa che potrebbe ingannare i sistemi ancora più velocemente. Questa volta, tuttavia, sono riusciti a ingannare una scatola nera, in cui avevano solo informazioni parziali su come il sistema stava prendendo le decisioni.

Il nuovo algoritmo del team inizia con un'immagine che vuole usare per ingannare un altro sistema (nell'esempio del loro articolo è un cane) e poi inizia a modificare i pixel per rendere l'immagine più simile all'immagine di origine; in questo caso, gli sciatori. Mentre funziona, l'algoritmo contraddittorio sfida il sistema di riconoscimento delle immagini con versioni dell'immagine che si spostano rapidamente nel territorio che qualsiasi essere umano riconoscerebbe come sciatori (guarda la gif sopra). Ma per tutto il tempo, l'algoritmo mantiene la giusta combinazione di pixel sabotati per far credere al sistema di guardare un cane.

I ricercatori hanno testato il loro metodo sull'API Cloud Vision di Google, un buon banco di prova in parte perché Google non ha pubblicato nulla su come funziona il software di visione artificiale, né tutte le etichette utilizzate dal sistema per classificare le immagini. Il team afferma che finora hanno solo provato a sventare il sistema di Google, ma che la loro tecnica dovrebbe funzionare anche su altri sistemi di riconoscimento delle immagini.

Ci sono molti ricercatori che stanno lavorando contrastare esempi contraddittori in questo modo, ma per usi critici per la sicurezza, come veicoli autonomi , l'intelligenza artificiale non sarà affidabile finché gli attacchi avversari non saranno impossibili, o almeno molto più difficili, da portare a termine.