Il software che scambia le parole ora può ingannare l'IA dietro ad Alexa e Siri

Categoria: Intelligenza artificiale Inserito 07 febbraio Un Un





Le notizie: Il software chiamato TextFooler può ingannare i sistemi di elaborazione del linguaggio naturale (NLP) in un testo frainteso semplicemente sostituendo alcune parole in una frase con sinonimi. Nei test, è stato in grado di ridurre drasticamente la precisione di tre sistemi NLP all'avanguardia. Ad esempio, la potente rete neurale BERT di Google è stata peggiore di un fattore da cinque a sette nell'identificare se le recensioni su Yelp erano positive o negative.

Hanno testato l'attacco ai sistemi NLP addestrati a svolgere attività come identificare argomenti di notizie, rilevare notizie false e analizzare il sentiment. In tutti i casi, l'IA è peggiorato notevolmente .

Come funziona: Il software, sviluppato da un team del MIT, cerca le parole in una frase che sono più importanti per un classificatore NLP e le sostituisce con un sinonimo che un essere umano troverebbe naturale. Ad esempio, cambiare la frase I personaggi, interpretati in situazioni incredibilmente artificiose, sono totalmente estranei alla realtà in I personaggi, interpretati in circostanze incredibilmente architettate, sono completamente estranei alla realtà non fa alcuna differenza nel modo in cui la leggiamo. Ma le modifiche hanno fatto sì che un'IA interpretasse le frasi in modo completamente diverso.

Perchè importa: Abbiamo visto molti esempi di tali attacchi contraddittori, il più delle volte con sistemi di riconoscimento delle immagini, in cui minuscole alterazioni all'input possono confondere un'IA e farle classificare erroneamente ciò che vede. TextFooler mostra che questo stile di attacco interrompe anche la NLP, l'intelligenza artificiale dietro gli assistenti virtuali, come Siri, Alexa e Google Home, nonché altri classificatori di linguaggi come filtri antispam e rilevatori di incitamento all'odio. I ricercatori affermano che strumenti come TextFooler possono aiutare a rendere i sistemi NLP più robusti, rivelandone i punti deboli.