基于語境和停用詞驅(qū)動的中文自動分詞研究.pdf

1、隨著國民經(jīng)濟(jì)信息化的不斷發(fā)展以及Internet的普及應(yīng)用，中文信息處理成為一種熱門的研究領(lǐng)域。因此，對中文自動分詞技術(shù)的要求也越來越高，成為中文信息處理的一個前沿課題。
　　 未登錄詞對分詞精度的影響超過歧義切分，因而成為提高中文分詞質(zhì)量的關(guān)鍵。語境和停用詞中隱含著有助于未登錄詞識別的信息，合理利用能提高識別的質(zhì)量。為此，本文針對以上關(guān)鍵問題進(jìn)行研究，主要工作如下：
　　 (1)提出一種基于語境的中文分詞模型。以往的分

2、詞算法大多只考慮語料信息或語境信息，這樣會產(chǎn)生局部概率偏見問題。理論分析及實(shí)驗表明綜合考慮語料信息和語境信息可有效提高分詞的質(zhì)量。
　　 (2)提出一種基于停用詞驅(qū)動的未登錄詞識別方法ROWS。以往大多方法基于停用詞干擾未登錄詞識別這一理念，將其去除后再進(jìn)行處理。只有很少方法利用規(guī)則對停用詞進(jìn)行了后處理，這種在切分結(jié)束后對其進(jìn)行處理不但代價大而且效果不明顯?；诖?，在結(jié)合語料信息和語境信息或上下文信息的同時，對停用詞進(jìn)行建模，減