基于統(tǒng)計(jì)和潛在語義分析的混合語言模型的研究.pdf

1、語言模型在語音識(shí)別中占據(jù)著重要的地位，它擔(dān)負(fù)著把拼音轉(zhuǎn)化成漢字的重任，語言模型性能的好壞直接影響到語音識(shí)別的結(jié)果好壞。當(dāng)前應(yīng)用最廣泛的語言模型是基于統(tǒng)計(jì)的語言模型。數(shù)據(jù)稀疏問題是統(tǒng)計(jì)語言模型所面臨的主要問題之一。同時(shí)，由于統(tǒng)計(jì)語言模型只考慮了語言的局部信息，因此在統(tǒng)計(jì)語言模型中融入全局信息是很有意義的。當(dāng)前應(yīng)用于統(tǒng)計(jì)語言模型中的平滑技術(shù)有很多種，在語音識(shí)別中常用的有Katz平滑和Church-Gale平滑。為了在統(tǒng)計(jì)語言模型中加入全局信

2、息，本文引用了Bellegarda提出的基于潛在語義分析的語言模型。該模型從文本全局內(nèi)容的角度出發(fā)來預(yù)測詞的出現(xiàn)概率，很好地彌補(bǔ)了統(tǒng)計(jì)語言模型的局部性，是統(tǒng)計(jì)語言模型很好的補(bǔ)充。通過對(duì)詞—文檔矩陣進(jìn)行奇異值分解，所有文檔和詞都用相同維數(shù)的向量來表示，文檔對(duì)詞的預(yù)測能力就用它們所對(duì)應(yīng)的向量的相似度來衡量。在統(tǒng)計(jì)語言模型和潛在語義分析語言模型的基礎(chǔ)上構(gòu)建了一種混合的語言模型，該模型同時(shí)包括了文本的局部信息和全局信息。為了比較混合模型和統(tǒng)計(jì)模