依存句法分析的置信度研究.pdf

1、句法分析是自然語言處理的核心問題,對(duì)信息抽取、信息檢索、機(jī)器翻譯等應(yīng)用有重要的支撐作用。依存句法以其形式簡(jiǎn)潔、易于標(biāo)注、便于應(yīng)用等優(yōu)點(diǎn)為人所重視。雖然目前依存句法分析算法研究取得了一定的進(jìn)展,但是其準(zhǔn)確率仍然不能滿足實(shí)際應(yīng)用的需要。針對(duì)這一問題,本課題并沒有將全部研究重點(diǎn)放在提高依存句法分析的準(zhǔn)確率上,而是提出了對(duì)依存句法分析結(jié)果進(jìn)行置信度分析這一新問題,通過對(duì)依存句法樹中每條依存弧的置信度進(jìn)行計(jì)算,將置信度高的依存搭配用于特定應(yīng)用系統(tǒng)

2、,從而提高這些系統(tǒng)的準(zhǔn)確率。
　　目前主要有兩種主流的依存分析機(jī)制,一種是基于轉(zhuǎn)移的依存分析,另一種是基于圖的依存分析。針對(duì)這兩種依存分析方法的不同,本文提出了相應(yīng)的計(jì)算置信度的方法。基于轉(zhuǎn)移的依存分析通過構(gòu)造優(yōu)化的轉(zhuǎn)移序列來對(duì)句子進(jìn)行解碼,從而生成一棵依存句法樹。其學(xué)習(xí)方式有局部學(xué)習(xí)(Local Learning)和全局學(xué)習(xí)(Global Learning)兩種方式。針對(duì)局部學(xué)習(xí)的轉(zhuǎn)移模型,本文提出基于似然概率以及基于重采樣的置

3、信度計(jì)算方法;針對(duì)全局學(xué)習(xí)的轉(zhuǎn)移模型,本文提出基于K-Best結(jié)果投票的置信度計(jì)算方法?；趫D的依存分析通過尋找最大生成樹的方法獲取一個(gè)句子的依存分析結(jié)果。其學(xué)習(xí)過程一般使用在線學(xué)習(xí)(Online Learning)算法。依存分析的圖模型一般為線性模型,因此與基于轉(zhuǎn)移的依存模型不同,其無法直接得到一條依存弧的似然概率。針對(duì)這一問題,本文首先利用圖模型的輸出近似估計(jì)依存弧的邊緣概率,并以此作為該依存弧的置信度。同時(shí),本文提出一種有指導(dǎo)的基

4、于Logistic回歸的置信度估計(jì)方法,該方法能夠充分地利用更豐富的特征,并且通過有效的學(xué)習(xí)方式對(duì)特征進(jìn)行賦權(quán)。
　　另外,本文還提出了若干種置信度估計(jì)的評(píng)價(jià)方法,一方面可用以評(píng)價(jià)置信度計(jì)算結(jié)果的優(yōu)劣,另一方面也為置信度計(jì)算提供了優(yōu)化目標(biāo)。
　　最后,本文將含有置信度的依存句法分析結(jié)果應(yīng)用于篇章級(jí)情感分析以及半指導(dǎo)依存句法分析,以觀察其有效性。實(shí)驗(yàn)結(jié)果證明,對(duì)置信度信息的合理應(yīng)用能夠在一定程度上提高上層應(yīng)用及依存句法分析自身