Re – Uomo + Donna = Regina: La meravigliosa matematica della linguistica computazionale

La linguistica computazionale ha cambiato radicalmente il modo in cui i ricercatori studiano e comprendono la lingua. La capacità di numerare enormi quantità di parole per la prima volta ha portato a modi completamente nuovi di pensare alle parole e al loro rapporto reciproco.

Questo calcolo numerico mostra esattamente quanto spesso una parola appare vicino ad altre parole, un fattore importante nel modo in cui vengono utilizzate. Quindi la parola Olimpiadi potrebbe apparire vicino a parole come correre, saltare e lanciare, ma meno spesso accanto a parole come elettrone o stegosauro. Questo insieme di relazioni può essere pensato come un vettore multidimensionale che descrive come la parola Olimpiadi viene usata all'interno di un linguaggio, che a sua volta può essere pensato come uno spazio vettoriale.

E qui sta questo enorme cambiamento. Questo nuovo approccio consente di trattare i linguaggi come spazi vettoriali con precise proprietà matematiche. Ora lo studio del linguaggio sta diventando un problema di matematica dello spazio vettoriale.

Oggi, Timothy Baldwin dell'Università di Melbourne in Australia e alcuni amici esplorano una delle curiose proprietà matematiche di questo spazio vettoriale: l'aggiunta e la sottrazione di vettori produce un altro vettore nello stesso spazio.

La domanda a cui si rivolgono è questa: cosa significano questi vettori compositi? E nell'esplorare questa domanda scoprono che la differenza tra i vettori è un potente strumento per studiare il linguaggio e la relazione tra le parole.

Prima un po' di background. Il modo più semplice per pensare alle parole e a come possono essere aggiunte e sottratte come vettori è con un esempio. Il più famoso è il seguente: re – uomo + donna = regina. In altre parole, sommando i vettori associati alle parole re e donna mentre si sottrae uomo è uguale al vettore associato regina . Questo descrive una relazione di genere.

Un altro esempio è: parigi – francia + polonia = varsavia. In questo caso, la differenza di vettore tra Parigi e Francia coglie il concetto di capitale.

Baldwin e compagni si chiedono quanto possa essere affidabile questo approccio e quanto lontano possa essere portato. Per fare ciò, confrontano come cambiano le relazioni vettoriali in base al corpus di parole studiate. Ad esempio, le stesse relazioni vettoriali funzionano nel corpus di parole di Wikipedia come nel corpus di parole di Google News o di Reuters English newswire?

Per scoprirlo, esaminano i vettori associati a una serie di ben note relazioni tra classi di parole. Questi includono la relazione tra un'entità e le sue parti, ad esempio aeroplano e cabina di pilotaggio; un'azione e l'oggetto che comporta, come la caccia e il cervo; un sostantivo e il suo nome collettivo tale formica e esercito. Includono anche una serie di collegamenti grammaticali: un sostantivo e il suo plurale, come cane e cani, un verbo e il suo passato, come conoscere e conoscere; e un verbo e la sua terza persona plurale come accettare e accettare.

I risultati costituiscono una lettura interessante. Baldwin e colleghi affermano che le somme dei vettori catturate in queste relazioni generalmente formano ammassi stretti negli spazi vettoriali associati a ciascun corpus.

Tuttavia, ci sono alcuni valori anomali interessanti in cui le parole hanno più di un significato e quindi hanno rappresentazioni ambigue in questi spazi vettoriali. Esempi nel cluster di terza persona plurale includono studio e studio, correre e correre, aumentare e aumentare, tutte parole che possono essere nomi e verbi, il che distorce i loro vettori in questi spazi.

È un lavoro interessante che forgia questo nuovo percorso nello studio delle parole e delle loro relazioni reciproche. Questo articolo è il primo a testare la generalizzabilità dell'approccio della differenza vettoriale attraverso un'ampia gamma di relazioni lessicali, dicono.

Una domanda importante che Baldwin e compagni trascurano è come questa migliore comprensione potrebbe essere utilizzata nel mondo reale. Una risposta ovvia è aiutare le macchine a comprendere il linguaggio umano. Un altro è aiutare con la traduzione della lingua.

Vale la pena notare che uno dei pionieri e delle forze trainanti in questo campo è Google e il suo team di traduzione automatica. Questi ragazzi hanno scoperto che una relazione vettoriale che appare in inglese generalmente funziona anche in spagnolo, tedesco, vietnamita e in effetti in tutte le lingue.

Ecco come Google fa la sua traduzione automatica. In sostanza, considera una frase equivalente in due lingue se la sua posizione negli spazi vettoriali di ciascuna è la stessa. Con questo approccio il suo significato tradizionale è quasi irrilevante.

Ma a causa della natura idiosincratica del linguaggio, ci sono numerose eccezioni. Sono questi che causano i problemi per gli algoritmi di traduzione automatica.

Quindi trovare modi per individuare le ambiguità può fornire un modo utile per correggere questi problemi.

Rif: arxiv.org/abs/1509.01692 : Prendi e prendi, gaggle e oca, prenota e leggi: valutare l'utilità delle differenze vettoriali per l'apprendimento delle relazioni lessicali

nascondere