La scienza in poche parole

Un'illustrazione concettuale che mostra un computer, documenti e intelligenza artificiale Luna Minji

Un team di scienziati del MIT e altrove ha sviluppato una rete neurale in grado di leggere articoli scientifici e fare un breve riassunto in inglese semplice. Un tale sistema potrebbe aiutare editori, scrittori e scienziati a scansionare un gran numero di articoli per avere un'idea preliminare di cosa trattano. E l'approccio potrebbe essere utilizzato anche nella traduzione automatica e nel riconoscimento vocale.

La professoressa di fisica Marin Soljačić, gli studenti laureati Rumen Dangovski e Li Jing e i colleghi stavano sviluppando reti neurali per affrontare problemi spinosi della fisica quando si sono resi conto che potevano applicare parte delle loro conoscenze di fisica per migliorare alcuni algoritmi di intelligenza artificiale.

Le reti neurali imitano un modo in cui gli esseri umani apprendono: il computer esamina molti esempi diversi e identifica i modelli fondamentali sottostanti. Sebbene ampiamente utilizzati per il riconoscimento di schemi, tali sistemi spesso hanno difficoltà a correlare le informazioni da una lunga serie di dati, come un documento di ricerca. Altre tecniche utilizzate per migliorare questa capacità, inclusa quella chiamata memoria a lungo termine (LSTM), non sono in grado di gestire attività di elaborazione del linguaggio naturale che richiedono una memoria a lungo termine.

Mentre le reti neurali sono tipicamente basate sulla moltiplicazione di matrici, il team di Soljačić ne ha sviluppato una basata su vettori che ruotano in uno spazio multidimensionale. Utilizza quella che chiamano un'unità di memoria rotazionale (RUM), che hanno inventato per aiutare con alcuni problemi fisici difficili come il comportamento della luce in materiali ingegnerizzati complessi. Lo hanno quindi adattato all'elaborazione del linguaggio naturale per aiutare con la memorizzazione e il ricordo.

In sostanza, ogni parola nel testo è rappresentata da un vettore. Ogni parola successiva fa oscillare questo vettore in una certa direzione, rappresentato in uno spazio teorico che alla fine può avere migliaia di dimensioni. Alla fine del processo, il vettore finale o l'insieme di vettori viene ricondotto nella stringa di parole corrispondente.

Quando il team ha fornito lo stesso comunicato stampa su un documento di ricerca attraverso una rete neurale basata su LSTM convenzionale e attraverso il sistema basato su RUM, il sistema LSTM ha prodotto questo riepilogo ripetitivo e abbastanza tecnico: La baylisascariasis, uccide i topi, ha messo in pericolo l'allegheny woodrat e ha causato malattie come cecità o gravi conseguenze. Questa infezione, chiamata baylisascariasis, uccide i topi, ha messo in pericolo l'allegheny woodrat e ha causato malattie come cecità o gravi conseguenze. Questa infezione, chiamata baylisascariasis, uccide i topi, ha messo in pericolo l'allegheny woodrat.

Il sistema RUM ha prodotto un riassunto molto più leggibile: I procioni urbani possono infettare le persone più di quanto si pensasse in precedenza. Il 7% degli intervistati è risultato positivo agli anticorpi contro i nematodi di procione. Oltre il 90 percento dei procioni a Santa Barbara ospita questo parassita.

Da allora i ricercatori hanno ampliato il sistema in modo che possa riassumere interi documenti, non solo comunicati stampa.

nascondere