Nvidia ha appena semplificato la creazione di chatbot più intelligenti e notizie false più sofisticate

L

L'immagine di un dispositivo di assistente vocale accanto alle onde sonore la signora Tech; immagine originale: HARMON KARDON





L'intelligenza artificiale ha fatto passi da gigante nell'ultimo decennio, ma le macchine sono ancora pessime nella comprensione del linguaggio. Prova a coinvolgere Alexa in un po' di battute spiritose.

Nvidia, l'azienda che produce i chip per computer che alimentano molti algoritmi di intelligenza artificiale, pensa che questo stia per cambiare e sta cercando di trarre vantaggio da un'esplosione anticipata.

Il software che il produttore di chip sta rilasciando semplifica la creazione di programmi di intelligenza artificiale sul suo hardware in grado di utilizzare il linguaggio in modo più elegante. Il nuovo codice potrebbe accelerare lo sviluppo di nuovi algoritmi linguistici e rendere i chatbot e gli assistenti vocali più veloci e intelligenti.



Nvidia produce già i chip più popolari per l'addestramento di modelli di intelligenza artificiale di deep learning, che sono esperti in attività come la classificazione delle immagini. Tradizionalmente, tuttavia, è stato molto più difficile applicare metodi statistici di apprendimento automatico come il deep learning alla parola scritta o parlata, perché il linguaggio è così ambiguo e complesso.

Ma ultimamente ci sono stati progressi significativi. Due nuovi approcci di deep learning alla lingua di Google, noti come Transformer e BERT, si sono dimostrati particolarmente abili nel tradurre tra lingue, rispondere a domande su un pezzo di testo e persino generare testo dall'aspetto realistico. Ciò ha suscitato un aumento dell'interesse accademico e industriale per il progresso del linguaggio utilizzando l'apprendimento automatico.

La combinazione di Transformer e BERT ha avuto un enorme impatto, afferma Alessandro Corsa , professore all'Università di Harvard specializzato nel sottocampo dell'IA noto come elaborazione del linguaggio naturale (NLP). È fondamentalmente all'avanguardia in ogni benchmark e consente a uno studente universitario di produrre modelli di livello mondiale in cinque righe di codice.



Nvidia è stata abile nell'inseguire le ultime tendenze nella ricerca sull'IA. Se la sua ultima intuizione si rivela corretta, gli assistenti vocali potrebbero passare dalla semplice risposta ai comandi abbaiati a mettere insieme più parole in modo coerente. I chatbot, nel frattempo, potrebbero diventare meno stupidi, mentre la funzione di completamento automatico presente in molti programmi e app potrebbe iniziare a suggerire interi paragrafi invece delle poche parole successive.

Abbiamo molta richiesta di modellazione linguistica, dice Bryan Catanzaro , vicepresidente per il deep learning applicato presso Nvidia. E se guardi al ritmo del progresso linguistico, sembra un luogo ovvio per noi in cui fare investimenti.

Nvidia ha sviluppato il suo software ottimizzando numerose parti del processo utilizzato per addestrare i modelli linguistici sulle sue GPU. Ciò ha accelerato la formazione dei modelli di intelligenza artificiale (da diversi giorni a meno di un'ora), ha accelerato le prestazioni dei modelli linguistici addestrati (da 40 millisecondi a poco più di 2 millisecondi) e ha consentito di addestrare modelli linguistici molto più grandi (modello linguistico di Nvidia , chiamato Megatron, è molte volte più grande di qualsiasi cosa fatta in precedenza, con 8,6 miliardi di parametri).



Completamento automatico nessun male

Tuttavia, i progressi nel linguaggio potrebbero avere un lato oscuro. Algoritmi più intelligenti potrebbero essere utilizzati per produrre in serie recensioni false, post sui social media e notizie più convincenti e su misura. Altri gruppi di ricerca hanno mostrato come potenti modelli linguistici possano ottenere testi dall'aspetto realistico dopo aver ingerito ampie porzioni di scrittura da Internet.

Nvidia ha un piano semplice per prevenire potenziali usi impropri: non rilascerà il modello linguistico più ampio che ha sviluppato e prevede di fare affidamento sui ricercatori per utilizzare i suoi strumenti con cura. Stiamo rilasciando un codice che mostra come utilizzare le GPU per addestrare questi modelli di grandi dimensioni, afferma Catanzaro. Riteniamo che la community utilizzerà questo codice in modo responsabile, ma tieni presente che l'addestramento di modelli di queste dimensioni richiede una potenza di calcolo seria, il che lo rende fuori dalla portata della maggior parte delle persone.

Anche se i progressi continuano a ritmo sostenuto, è probabile che passerà molto tempo prima che le macchine possano davvero dialogare con noi. Il linguaggio è ingannevolmente difficile da interpretare per le macchine, in parte a causa della sua complessità compositiva: le parole possono essere riorganizzate per sbloccare un significato infinito. Capire il significato di una frase spesso richiede anche una sorta di comprensione del mondo basata sul buon senso, qualcosa che i computer non hanno.



Stiamo assistendo a una rinascita delle capacità della PNL, afferma Oren Etzioni, CEO di The Istituto Allen per l'Intelligenza Artificiale (Ai2) , un'organizzazione no profit di Seattle dedicata alla ricerca all'avanguardia sull'IA. Questo si tradurrà in chatbot e assistenti vocali migliori, dice, anche se soffriranno di mancanza di buon senso. Un assistente vocale utile quanto un abile portiere d'albergo è ancora oltre l'orizzonte, dice Etzioni.

Ai2 ha recentemente lanciato uno strumento, chiamato Grover , che utilizza i progressi della PNL per catturare il testo che sembra essere stato sfornato dall'IA. Etzioni sottolinea che i bot ingannano già le persone su Facebook e Twitter. Il testo falso generato automaticamente è già qui, dice, ed è probabile che aumenti in modo esponenziale.

nascondere