網(wǎng)絡(luò)短文本主題聚類研究.pdf

1、近幾年來移動互聯(lián)網(wǎng)的飛速發(fā)展催生了大量新型的移動互聯(lián)網(wǎng)應(yīng)用，而這些互聯(lián)網(wǎng)應(yīng)用中又充斥著海量的短文本信息，網(wǎng)絡(luò)短文本與傳統(tǒng)的篇章型網(wǎng)頁長文本有非常大的區(qū)別，由于文本短小內(nèi)容較少，因此在語義特征上短文本要比長文本匱乏的多，這就導(dǎo)致對短文本的語義挖掘的難度成倍增加，常用的基于詞頻統(tǒng)計與向量空間模型的方法已經(jīng)不適用于短文本，準(zhǔn)確率較低。研究的重點(diǎn)是解決短文本語義矩陣的稀疏性問題與上下文依賴問題，產(chǎn)生一個非稀疏性矩陣，并且利用該矩陣進(jìn)行短文本間的

2、主題聚類，對聚類后的主題進(jìn)行準(zhǔn)確地聚簇描述。
　　在長文本領(lǐng)域中，主題聚類技術(shù)已經(jīng)發(fā)展地日趨成熟，比如 LDA主題模型。但在短文本領(lǐng)域，由于移動互聯(lián)網(wǎng)是最近幾年才快速發(fā)展，短文本的數(shù)量在短期內(nèi)得到了急劇增長，而且語義挖掘也難度較大，因此短文本主題聚類技術(shù)發(fā)展還是起步階段，發(fā)展相對緩慢。Xiaohui Yan等人提出BTM（Biterm Topic Model）主題模型，該模型引入了詞間的相似性在短文本的數(shù)據(jù)集上進(jìn)行主題建模，在 B

3、TM模型基礎(chǔ)之上基于CRP再引入詞對之間的相關(guān)性，提出 GBTM（Gravity Biterm Topic Model）模型，該模型可以更加深入挖掘文本內(nèi)容的語義。
　　在GBTM建模完成之后生成文本-主題概率分布，然后利用K-means聚類算法結(jié)合概率圖模型的JS距離計算文本之間的語義距離，然后將距離接近的文本聚合成一簇，該簇就是一個主題。聚類完成后，語義相近的文本會被聚成一簇，而直觀地描述聚簇的內(nèi)容是一個很重要的問題，利用主題