Per creare un chatbot più intelligente, prima insegnagli una seconda lingua

Sig. tecnico





Da Alexa e Siri a innumerevoli chatbot e linee di assistenza clienti automatizzate, i computer stanno gradualmente imparando a parlare. L'unico problema è che sono ancora molto facilmente confusi.

Un team di ricerca di Salesforce ha escogitato un modo intelligente per migliorare le prestazioni di molti programmi linguistici moderni, insegnando a un algoritmo a parlare un'altra lingua prima di addestrarlo a svolgere altre attività.

Insegnare alle macchine per tenere una conversazione coerente rimane una delle grandi sfide in sospeso nell'intelligenza artificiale perché districare il significato del testo parlato o scritto molto spesso si basa su una comprensione più ampia del mondo o sulla conoscenza del buon senso (vedi Problema linguistico dell'IA).



Si scopre che addestrare un sistema di apprendimento automatico per tradurre tra due lingue gli insegna automaticamente cose utili sulla relazione e sul contesto appropriato delle parole. Quando questo sistema viene utilizzato come base per un altro sistema di apprendimento automatico, uno addestrato per tenere una conversazione, per esempio, o per rilevare il sentimento nel testo, funziona molto meglio di un sistema addestrato da zero.

Stiamo prendendo i dati della traduzione automatica e fondamentalmente stiamo insegnando al modello come comprendere le parole e il contesto, afferma Riccardo Socher , scienziato capo di Salesforce ed esperto nell'applicazione dell'apprendimento automatico e del linguaggio.

Il lavoro è un esempio di come i progressi dell'apprendimento automatico possano aiutare a migliorare le competenze linguistiche dei sistemi di intelligenza artificiale. Molti sistemi di visione artificiale basati sull'apprendimento profondo utilizzano una qualche forma di pre-formazione della rete e Socher suggerisce che la traduzione automatica potrebbe offrire un modo simile per avviare i sistemi di linguaggio naturale.



Salesforce, una piattaforma online per la gestione delle interazioni con i clienti nelle vendite, nel marketing e nel commercio, offre già una gamma di strumenti di intelligenza artificiale attraverso la sua piattaforma Einstein. Questi includono uno strumento per classificare automaticamente il sentimento dei messaggi di posta elettronica o chat e un altro per dare la priorità ai lead che un lavoratore sta perseguendo in base alla sua attività precedente.

Socher crede che questa scoperta aiuterà a migliorare le capacità del linguaggio naturale della piattaforma Einstein. Per i chatbot e l'automazione dell'assistenza clienti, questo è molto utile, dice.

I ricercatori di Salesforce hanno addestrato un sistema di deep learning per tradurre tra inglese e tedesco. Ciò ha comportato l'alimentazione di un gran numero di documenti tradotti in una rete neurale a più livelli e la modifica dei parametri della rete fino a quando non ha imparato a produrre una traduzione decente per se stessa. Il sistema rappresenta le parole utilizzando vettori, che è un modo comune per codificare e analizzare il significato nel testo.



I ricercatori hanno quindi addestrato la rete bilingue a fare una varietà di cose: determinare il sentimento di un pezzo di testo; classificare diversi tipi di domande; e rispondi alle domande. E mostrano che la loro rete pre-addestrata ha superato le prestazioni di una che non ha imparato una seconda lingua.

I set di dati di traduzione automatica sono particolarmente grandi, il che aiuta con la sfida dell'apprendimento automatico. C'è un collegamento importante tra la traduzione e il resto della lingua, afferma Bryan McCann, un ricercatore di Salesforce coinvolto nel progetto. [I set di dati di traduzione] sono molto generali; contengono informazioni che possono essere utili su tutta la linea per l'elaborazione del linguaggio naturale.

nascondere