結(jié)合LSA的文本譜聚類算法研究.pdf

1、傳統(tǒng)的聚類分析算法最常見的比如k-means算法和EM算法，這些算法都是建立在凸球形的樣本空間上，當(dāng)樣本空間不為凸時，算法會陷入局部最優(yōu)。譜聚類算法能在任意形狀的樣本空間上聚類且收斂于全局最優(yōu)解的優(yōu)點。它可以將一個復(fù)雜的聚類問題轉(zhuǎn)化成一個代數(shù)求解問題，大大簡化了聚類模型。
　　 但是譜聚類算法本身具有很多不足，最為基礎(chǔ)的就是譜聚類(SpectralClustering)所需要的相似矩陣的構(gòu)造問題，它涉及到很多參數(shù)，已有的實驗表明

2、，譜聚類對相似矩陣十分敏感，所以如何構(gòu)造一個好的相似矩陣就變得很重要了。
　　 但是，目前學(xué)術(shù)界還沒有給出一個如何構(gòu)造相似矩陣的指導(dǎo)性原則。
　　 此外，文本預(yù)處理作為文本聚類最重要的基礎(chǔ)，常常采取向量空間模型。向量空間模型一個很大的缺點就是文本向量表示的高維性，特征項之間的同義多義造成了特征的大量冗余，針對這一問題，潛在語義分析(Latent Semantic Analysis,LSA)利用奇異值分解來達到降維和提高文

3、本向量語義相關(guān)性的目的，同時還降低了文本數(shù)據(jù)處理需要的存儲空間和時間復(fù)雜性。
　　 本文主要研究是將潛在語義分析與譜聚類結(jié)合起來。利用潛在語義分析的優(yōu)點來構(gòu)造譜聚類需要的相似矩陣。在這個過程中，本文主要做了以下幾方面的工作：
　　 ①分析了目前文本向量空間模型的不足：第一，文本向量表示的高維性，使得對文本數(shù)據(jù)的處理消耗大量時間；第二，文本向量各特征相互獨立的假設(shè)很難滿足，存在大量的特征冗余現(xiàn)象。針對這些問題，在第四章提出

4、了結(jié)合潛在語義分析的譜聚類算法。
　　 ②針對譜聚類的相似矩陣，本文沒有專門研究影響其構(gòu)造的許多參數(shù)，而是從文本數(shù)據(jù)集本身出發(fā)，應(yīng)用潛在語義分析技術(shù)，在語義空間重新構(gòu)造文本相似度，提高文本向量的表達力，從而最大程度上避免了參數(shù)不同時相似矩陣對譜聚類算法效果的影響。
　　 ③在進行結(jié)合潛在語義分析的譜聚類實驗后，本文進一步發(fā)現(xiàn)了一種簡化的潛在語義分析技術(shù)，與經(jīng)典的LSA算法相比，本文提出的技術(shù)在求文檔相似度時候不必考慮奇異