短文本語義相似度計(jì)算的研究.pdf

1、文本挖掘中的語義相似度問題一直受到學(xué)術(shù)界和工業(yè)界的高度關(guān)注，它在信息檢索、自動(dòng)問答、文本分類、自然語言處理、機(jī)器學(xué)習(xí)等領(lǐng)域一直是研究的熱點(diǎn)。
　　短文本語義相似度計(jì)算，就是計(jì)算兩個(gè)短文本之間語義相似的程度。目前，針對該問題，許多研究者提出了多種類型的相似度量特征，主要包括基于詞共現(xiàn)相似度量，基于語法結(jié)構(gòu)上的相似度量和基于語義的特征度量。其中基于詞共現(xiàn)的方法在短文本上表現(xiàn)效果不佳，因?yàn)槭芟抻诙涛谋镜拈L度，詞共現(xiàn)方法常出現(xiàn)語義飄離?；?/p>

2、于語法結(jié)構(gòu)上的方法，通過句法解析，賦予不同的句子成分一定的權(quán)重，進(jìn)而提取文本的語法信息?；谡Z義的特征度量，利用背景知識(shí)來學(xué)習(xí)詞的語義信息，很適合解決同義詞相似度計(jì)算問題，然而在非同義詞和不同句子成分的詞上缺少一致的表達(dá)框架。
　　本文根據(jù)以上問題并考慮短文本的特點(diǎn)，通過構(gòu)造多個(gè)層次的特征，提出了多層次特征融合模型，從文本中獲得更完整的信息，從而提高短文本語義相似度計(jì)算的準(zhǔn)確性。首先，該模型從文本的多個(gè)層面出發(fā)，融合了6大類不同文

3、本相似度量特征。這些特征包括詞匯特征、基于詞嵌入的特征、語法特征、句法特征、多樣化組合特征及其他特征等。然后，在這些多樣特征上進(jìn)行維度規(guī)約，減少文本的冗余特征和噪聲。再次，研究并利用集成學(xué)習(xí)模型Boosting算法，提高模型的泛化能力，訓(xùn)練多分類模型。
　　最后，本文通過與已有方法進(jìn)行比較，驗(yàn)證本文提出的多層次特征融合模型的有效性和短文本語義相似度計(jì)算效果。實(shí)驗(yàn)結(jié)果表明，本文提出的針對短文本的多層次特征融合模型能夠有效的提升語義相