基于詞向量的短文本分類方法研究.pdf

1、隨著互聯(lián)網(wǎng)的快速發(fā)展，人們?nèi)粘Ｉ钪械臏贤ń涣?、信息獲取、互動娛樂都高度網(wǎng)絡(luò)化。其中網(wǎng)絡(luò)新聞成為了人們獲取新聞資訊的重要途徑，網(wǎng)絡(luò)社交平臺成為了人們發(fā)表言論的重要場所。網(wǎng)絡(luò)輿情的分析對相關(guān)政府部門了解民生、制定政策顯得越來越重要。網(wǎng)絡(luò)上的新聞報(bào)道與社交平臺上用戶發(fā)布的內(nèi)容種類多樣，需要對其按照一定的需求進(jìn)行分類，才能滿足面向某些特定領(lǐng)域輿情分析的要求。針對此類問題進(jìn)行研究后，本文提出了一套基于詞向量的短文本分類框架，主要工作總結(jié)如下:<

2、br>　　(1)本文深入研究了傳統(tǒng)的向量空間模型以及短文本的特點(diǎn)，認(rèn)為向量空間模型非常適合對長文本建模，但難以很好的表達(dá)只包含少量詞語的短文本，因此引入分布式表達(dá)詞向量對短文本進(jìn)行表示。
　　(2)本文研究了基于神經(jīng)概率語言模型的詞向量生成算法，并在Word2Vec的基礎(chǔ)上提出了加權(quán)連續(xù)詞袋模型(Weighted Continuous Bag of Words)。同時也研究了主題模型LDA，并提出基于主題分布的詞向量生成算法(Wo

3、rd2TopicVec)。
　　(3)本文提出了基于詞向量的短文本分類框架，并重點(diǎn)研究了基于詞向量相似性度量的短文本擴(kuò)展方法和基于多種詞向量協(xié)同表達(dá)的短文本特征構(gòu)造方法。
　　(4)本文通過抓取紐約時報(bào)2011年至2013年7個類別的新聞標(biāo)題和內(nèi)容構(gòu)建了實(shí)驗(yàn)數(shù)據(jù)集。我們在此數(shù)據(jù)集以及復(fù)旦中文分類數(shù)據(jù)集上對比了基準(zhǔn)分類方法與本文提出的基于詞向量的短文本分類方法的效果，實(shí)驗(yàn)結(jié)果證明了本文提出方法的有效性。另外，作者還將本文提出的