I cervelli umani e le IA possono essere violati con queste strane foto ottimizzate

Categoria: Intelligenza artificiale Inserito 01 marzo

Gli algoritmi di visione artificiale non sono le uniche forme di intelligenza che possono essere ingannate da foto manipolate.

Uh Oh: I ricercatori hanno utilizzato un'intelligenza artificiale per progettare le prime foto che ingannano sia gli esseri umani che gli algoritmi di visione artificiale, come sopra: un'immagine inalterata di un gatto, a sinistra, accanto a una versione che è stata modificata per assomigliare stranamente a un cane.

Per la scienza! Trovare le debolezze umane in questo modo potrebbe migliorare i nostri sistemi di intelligenza artificiale. Nella carta che descrive queste foto manipolate — coautore di Ian Goodfellow, il creatore delle reti generative contraddittorio (GAN) — i ricercatori sottolineano che se troviamo una certa classe di immagini alterate che non possono ingannare la mente umana, suggerisce che un meccanismo simile potrebbe esistere nell'apprendimento automatico. Dopotutto, la maggior parte dei sistemi di intelligenza artificiale si basa vagamente sul cervello umano.

Perchè importa: Ora che ci sono adesivi che possono essere applicati oggetti fisici per confondere i sistemi di visione artificiale, i cosiddetti esempi contraddittori sono un problema del mondo reale. E se i veicoli autonomi non hanno un modo per assicurarsi che i loro sistemi possano vedere ogni segnale di stop, non saranno pronti per la strada tanto presto.