Come si trasforma un cane in un'auto? Cambia un singolo pixel.

Categoria: Non categorizzato Inserito 30 ottobre

Grazie a un nuovo approccio allo spoofing delle IA di riconoscimento delle immagini, sviluppato da un team dell'Università di Kyushu in Giappone, per quello scherzo.

Cercare di individuare le IA è un passatempo popolare per molti ricercatori e in passato abbiamo segnalato falsificazioni dell'apprendimento automatico. L'approccio generale consiste nell'aggiungere funzionalità alle immagini che attiveranno in modo errato una rete neurale e le faranno identificare ciò che vede come qualcos'altro.

La nuova ricerca, pubblicato su arXiv , descrive un algoritmo in grado di identificare in modo efficiente i pixel migliori da alterare per confondere un'IA nell'etichettare erroneamente un'immagine. Modificando solo un pixel in un'immagine da 1.024 pixel, il software può ingannare un'IA circa il 74% delle volte. Questa cifra sale a circa l'87 percento se vengono ottimizzati cinque pixel.

Puoi vedere alcuni esempi sopra, che hanno falsificato un'IA nel chiamare un aereo un cane, una rana un camion e un cavallo un'auto, tra le altre cose.

Come il Registrati sottolinea , le immagini da 1.024 pixel sono dannatamente piccole, il che significa che le immagini più grandi avrebbero bisogno di centinaia di pixel ottimizzati. Ma la spinta a far cadere le IA utilizzando il minor numero di modifiche possibili è interessante e preoccupante, in egual misura. Come abbiamo spiegato in passato, trovare un modo per proteggere le IA da questo tipo di trucchi è piuttosto difficile, perché ancora non comprendiamo veramente il funzionamento interno delle reti neurali profonde.

Fino a quando non lo faremo, sarà difficile evitare tali hack.