基于語義推導(dǎo)的統(tǒng)計機器翻譯模型關(guān)鍵技術(shù)研究.pdf

1、機器翻譯是自然語言處理的一個重要分支，旨在自動將源語言文本翻譯為目標(biāo)語言文本，并同時保留源語言文本包含的語義信息。統(tǒng)計機器翻譯(StatisticalMachine Translation，SMT)是當(dāng)前機器翻譯的主流方法。一般而言，統(tǒng)計機器翻譯包含三個重要的組成部分:(1)語言模型;(2)翻譯模型;和(3)解碼算法。語言模型用于評測目標(biāo)端生成的譯文是否流利，對譯文的流利度進行建模。翻譯模型用于表示源語言翻譯單元到目標(biāo)語言翻譯單元的翻譯

2、概率，對翻譯的忠實度進行建模。解碼算法指的是在給定模型參數(shù)和源端句子的條件下，從可選譯文中搜索出最優(yōu)的譯文。
　　統(tǒng)計機器翻譯模型發(fā)展到現(xiàn)在經(jīng)過了基于詞、短語、句法、語義四個階段。語義問題是機器翻譯進一步發(fā)展的中心問題。當(dāng)前主流的統(tǒng)計機器翻譯模型還沒有從語義層面上對翻譯過程進行有效建模，對翻譯單元的歧義性問題缺乏深入研究。在這樣的研究背景下，本文提出了基于語義推導(dǎo)的統(tǒng)計機器翻譯模型，利用機器學(xué)習(xí)技術(shù)從語義的層面上對翻譯單元進行消歧

3、，使得翻譯單元的翻譯概率估計更加準(zhǔn)確，提高了譯文的質(zhì)量。具體地，我們的貢獻可以總結(jié)為如下幾點:
　　1.主題敏感的樞軸語言翻譯模型
　　基于樞軸語言的翻譯方法能夠在語言對沒有雙語平行語料的情況下還能實現(xiàn)對源語言句子的翻譯。然而，由于前人的工作對樞軸語言端翻譯單元的上下文缺乏有效的建模，這使得樞軸語言端翻譯單元的歧義性給翻譯概率的推導(dǎo)帶來了負面影響。針對這個問題，我們提出了兩種基于主題敏感的樞軸語言方法來推導(dǎo)翻譯單元的翻譯概率

4、，有效減少了訓(xùn)練語料領(lǐng)域不一致性帶來的翻譯概率推導(dǎo)不準(zhǔn)確的問題。以英語作為樞軸語言，在法語到西班牙語的翻譯任務(wù)中，實驗結(jié)果證明我們提出的基于主題敏感的樞軸語言翻譯模型是有效的。
　　2.多義詞的詞義自動歸納
　　一詞多義在語言表達中廣泛存在，研究多義詞的詞義自動歸納是研究基于語義的統(tǒng)計翻譯模型十分重要的一環(huán)。詞義歸納(Word Sense Induction，WSI)當(dāng)前面臨兩個問題。第一，如何對多義詞實例的上下文有效建模;

5、第二，如何自動歸納出多義詞詞義個數(shù)。對于第一個問題，我們利用基于遞歸自編碼的方法同時對多義詞實例的上下文詞匯信息和句法關(guān)系進行建模，建模過程不需要人工定義特征。對于第二個問題，我們利用基于競爭學(xué)習(xí)的方法進行詞義聚類，詞義的個數(shù)能夠自動學(xué)習(xí)得到，優(yōu)于傳統(tǒng)的需要預(yù)先指定詞義數(shù)目的聚類方法。在SEMEVAL-2010 WSI的評測任務(wù)中，實驗結(jié)果證明我們提出的詞義歸納方法是有效的。
　　3.詞義敏感的雙語翻譯模型
　　當(dāng)前主流的統(tǒng)

6、計機器翻譯模型并沒有對多義詞的詞義做區(qū)分，而多義詞的歧義性會導(dǎo)致翻譯模型的翻譯概率估計不準(zhǔn)確。針對這個問題，在研究詞義自動歸納的基礎(chǔ)上，我們提出了詞義敏感的雙語翻譯模型。我們首先利用主題分布來區(qū)分多義詞的不同詞義，接下來通過詞義敏感的雙語詞空間映射獲得多義詞在不同詞義下的分布式語義表示，從而推導(dǎo)出詞義敏感的翻譯特征并加入到現(xiàn)有的翻譯模型中。在漢英的翻譯任務(wù)中，實驗結(jié)果證明我們提出的基于詞義敏感的雙語翻譯模型是有效的。
　　總體而言