基于VSM的網(wǎng)頁文本分類技術(shù)研究.pdf

1、隨著信息技術(shù)的不斷發(fā)展,因特網(wǎng)上的網(wǎng)頁數(shù)量日益激增,但是Web頁面的復(fù)雜程度使得人們很難準(zhǔn)確而快速地獲取自己所需的信息。為了使人們能夠迅速從網(wǎng)絡(luò)中獲取到自己感興趣的信息,網(wǎng)頁分類技術(shù)應(yīng)運(yùn)而生,并逐漸成為繼文本分類之后機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點。同時這也促進(jìn)了其在信息檢索、信息過濾、搜索引擎等多個領(lǐng)域的廣泛應(yīng)用。
　　本文首先介紹了中文文本分類的研究背景和意義,以及簡要介紹文本分類的國內(nèi)外研究現(xiàn)狀。并針對網(wǎng)頁文本分類的相關(guān)技術(shù)進(jìn)行了詳細(xì)

2、地介紹,包括中文網(wǎng)頁預(yù)處理、網(wǎng)頁文本表示、特征選取技術(shù)、網(wǎng)頁分類算法和網(wǎng)頁分類效果的評價指標(biāo)和幾種常見的文本分類技術(shù)。
　　其次,本文結(jié)合網(wǎng)頁的半結(jié)構(gòu)化特性,并根據(jù)網(wǎng)頁中不同標(biāo)簽內(nèi)的特征詞對分類結(jié)果的影響大小,以及特征詞在網(wǎng)頁中出現(xiàn)位置的語義特點,分析并提出了一種根據(jù)不同標(biāo)簽和特征詞的位置的權(quán)重確定方法。同時,研究了傳統(tǒng)的tf-idf公式在網(wǎng)頁分類中的應(yīng)用及其存在的不足,發(fā)現(xiàn)tf-idf公式在選擇特征詞時未考慮特征詞在類內(nèi)及類間的

3、分布情況,然而針對此不足之處對傳統(tǒng)的tf-idf公式進(jìn)行了改進(jìn),提出了一種結(jié)合類內(nèi)分布率和類間偏差的特征選擇方法。本文將這兩種方法綜合起來統(tǒng)稱為基于特征詞復(fù)合權(quán)重的網(wǎng)頁分類算法WCA(Webpage Classification Algorithm)。再通過實驗證明該算法的優(yōu)越性和可行性。
　　最后,本文運(yùn)用改進(jìn)的WCA算法并基于半監(jiān)督的機(jī)器學(xué)習(xí)理論構(gòu)建了一個網(wǎng)頁分類器,使用搜狗實驗室的互聯(lián)網(wǎng)語料庫SougouCS和網(wǎng)絡(luò)爬蟲得到的