融合統(tǒng)計(jì)與規(guī)則技術(shù)的蒙古語(yǔ)詞法分析研究.pdf

1、詞是語(yǔ)言中最小的能獨(dú)立運(yùn)用的單位,是自然語(yǔ)言處理的基本單位。詞法分析是自然語(yǔ)言處理的一個(gè)基礎(chǔ)課題,其主要研究?jī)?nèi)容是進(jìn)行詞語(yǔ)切分和詞語(yǔ)標(biāo)注。
　　 語(yǔ)言學(xué)上,按照詞的形態(tài)結(jié)構(gòu)對(duì)各種語(yǔ)言進(jìn)行劃分,漢語(yǔ)屬于分析型語(yǔ)言,而蒙古語(yǔ)是黏著型語(yǔ)言。漢語(yǔ)詞基本上沒(méi)有專(zhuān)門(mén)表示語(yǔ)法意義的附加成分,形態(tài)變化也很少;而蒙古語(yǔ)詞內(nèi)有專(zhuān)門(mén)表示語(yǔ)法意義的附加成分詞綴,一個(gè)詞綴表達(dá)一種語(yǔ)法意義,詞由詞干和詞綴相結(jié)合構(gòu)成。目前,蒙古語(yǔ)詞法分析研究是詞法分析研究領(lǐng)

2、域的熱點(diǎn)問(wèn)題。
　　 本文針對(duì)蒙古語(yǔ)詞的形態(tài)結(jié)構(gòu)特點(diǎn),采用統(tǒng)計(jì)語(yǔ)言模型與語(yǔ)言學(xué)規(guī)則相結(jié)合的方法,進(jìn)行蒙古語(yǔ)詞法分析。所完成的主要工作如下:
　　 1)針對(duì)蒙古語(yǔ)詞由詞干和詞綴構(gòu)成的特點(diǎn),按照詞形態(tài)結(jié)構(gòu)設(shè)計(jì)了一種生成式的概率統(tǒng)計(jì)語(yǔ)言模型。首先,把蒙古語(yǔ)句子的詞法分析結(jié)果描述為有向圖,圖中節(jié)點(diǎn)表示分析結(jié)果中的詞干、詞綴及其相應(yīng)標(biāo)注,而邊則表示節(jié)點(diǎn)之間的轉(zhuǎn)移或生成關(guān)系;然后,使用訓(xùn)練程序把訓(xùn)練數(shù)據(jù)轉(zhuǎn)換成語(yǔ)言模型;最后,解碼器載

3、入上述語(yǔ)言模型并使用動(dòng)態(tài)規(guī)劃算法整句解碼,找出最優(yōu)詞法分析結(jié)果。實(shí)驗(yàn)表明,基于生成式的統(tǒng)計(jì)語(yǔ)言模型提高了詞級(jí)聯(lián)合切分與標(biāo)注的準(zhǔn)確率,準(zhǔn)確率可達(dá)到93.5％。
　　 2)在上述生成式統(tǒng)計(jì)模型的基礎(chǔ)上,進(jìn)一步加入“蒙古語(yǔ)語(yǔ)法信息詞典”數(shù)據(jù)規(guī)范作為語(yǔ)言學(xué)構(gòu)詞規(guī)則,加入語(yǔ)言學(xué)規(guī)則后,一方面,在動(dòng)態(tài)規(guī)劃整句解碼過(guò)程中,以詞的詞干作為觸發(fā)條件,利用數(shù)據(jù)規(guī)范規(guī)則修正解碼器候選結(jié)果概率值,給予正確候選分析結(jié)果更高概率值;另一方面,按照詞類(lèi)對(duì)專(zhuān)有