Un nuovo trucco può falsificare un'IA di riconoscimento vocale ogni volta

Categoria: Intelligenza artificiale Inserito 10 gennaio

Data una forma d'onda audio, i ricercatori possono ora produrre una versione praticamente identica che fa sì che il software di riconoscimento vocale trascriva qualcosa di completamente diverso.

Retroscena: Esempi contraddittori hanno ingannato molti algoritmi di visione artificiale. Sebbene tutte le reti neurali siano suscettibili a tali attacchi, i ricercatori hanno avuto meno successo con l'audio. Gli attacchi precedenti sono stati solo in grado di apportare lievi modifiche a ciò che il software sente.

Cosa c'è di nuovo: ricercatori di Berkeley mostrato che possono prendere una forma d'onda e aggiungere uno strato di rumore che inganna DeepSpeech, un'IA di sintesi vocale all'avanguardia, ogni volta. La tecnica può far suonare la musica come un discorso arbitrario all'IA o oscurare le voci in modo che non vengano trascritte.

Preparati al fastidio: Immagina di riprodurre un video musicale da YouTube sui tuoi altoparlanti e di far ascoltare ad Alexa un ordine per due tonnellate di crema di mais . Benvenuti all'inferno di attacco dell'IA.