具有中文人名識(shí)別功能的漢語(yǔ)自動(dòng)分詞算法研究.pdf

1、隨著信息技術(shù)的飛速發(fā)展，中文信息處理技術(shù)已經(jīng)滲透到計(jì)算機(jī)應(yīng)用的各個(gè)領(lǐng)域。 詞處理平臺(tái)技術(shù)是中文信息處理的中間環(huán)節(jié)，是連接字處理平臺(tái)和句處理平臺(tái)的關(guān)鍵環(huán)節(jié)，其核心難題是分詞問(wèn)題。漢語(yǔ)自動(dòng)分詞是對(duì)漢語(yǔ)文本進(jìn)行自動(dòng)分析的第一步，是詞處理平臺(tái)的基礎(chǔ)，漢語(yǔ)自動(dòng)分詞技術(shù)的發(fā)展直接影響著中文信息處理技術(shù)的發(fā)展。 本文對(duì)漢語(yǔ)自動(dòng)分詞的知識(shí)進(jìn)行了全面的描述，介紹了漢語(yǔ)自動(dòng)分詞的概念和國(guó)內(nèi)外研究與應(yīng)用的現(xiàn)狀。對(duì)漢語(yǔ)自動(dòng)分詞技術(shù)的原理、方法、

2、評(píng)價(jià)標(biāo)準(zhǔn)以及基本流程進(jìn)行了分析和總結(jié)。其中重點(diǎn)對(duì)漢語(yǔ)自動(dòng)分詞歧義的采集和處理以及中文人名識(shí)別所用到的技術(shù)和各種算法進(jìn)行了深入的研究與實(shí)驗(yàn)分析，并提出了一些改進(jìn)思路。 文中使用逆向最大匹配法和改進(jìn)的正向最大匹配法相結(jié)合的方法對(duì)待切分字段進(jìn)行雙向掃描來(lái)采集歧義字段；并在歧義處理過(guò)程中做出一些改進(jìn)，采用規(guī)則和統(tǒng)計(jì)相結(jié)合的方法，運(yùn)用一些歧義切分的規(guī)則及最大概率分詞法消解歧義字段；同時(shí)采用了統(tǒng)計(jì)和規(guī)則相結(jié)合的方法對(duì)未登錄詞中的人名識(shí)別進(jìn)行