支持向量機(jī)及用于文本分類的研究.pdf

1、近年來，隨著網(wǎng)絡(luò)的迅猛發(fā)展，如何對(duì)網(wǎng)絡(luò)上大量的自然語言文本按照既定的語義進(jìn)行正確的歸類，已經(jīng)成為組織大量網(wǎng)絡(luò)信息的一個(gè)關(guān)鍵問題。這就是文本分類的任務(wù)。電子文本成幾何級(jí)數(shù)增長(zhǎng)，日常生活中海量信息的傳播，迫切的要求我們能對(duì)這些文章進(jìn)行自動(dòng)分類。使用文本自動(dòng)分類系統(tǒng)可以幫助人們自動(dòng)檢查文本，判斷文本的類別。 本文采用最大間隔—支持向量機(jī)的關(guān)鍵技術(shù)，實(shí)現(xiàn)了文本的自動(dòng)分類。學(xué)習(xí)算法是通過對(duì)已給定類標(biāo)記的訓(xùn)練文本的學(xué)習(xí)，自動(dòng)產(chǎn)生分類規(guī)則，該

2、規(guī)則在今后預(yù)測(cè)未知的文本的類別時(shí)，有較高的精確性。本文主要工作及創(chuàng)新點(diǎn)在于： 1.基于文本分類的技術(shù)的掌握，包括文本的表示方法，特征的選取以及文檔分類的評(píng)估指標(biāo)等。我們討論并實(shí)現(xiàn)了文本表示的全過程，包括提取詞干，去除高頻率和低頻率特征詞，得到數(shù)據(jù)字典，然后經(jīng)過權(quán)重計(jì)算，生成文本向量空間，即訓(xùn)練樣本和測(cè)試樣本數(shù)據(jù)。并采用SVM算法，設(shè)計(jì)出文本分類實(shí)驗(yàn)系統(tǒng)。通過在Ruters-21578文檔集上的實(shí)驗(yàn)，該系統(tǒng)證明了SVM能切實(shí)有效的

3、解決文本的自動(dòng)分類問題。 2.在研究SVM算法的過程中，我們發(fā)現(xiàn)算法本身易過學(xué)習(xí)，并且訓(xùn)練時(shí)間很長(zhǎng)。為了解決這些缺陷，我們提出了基于減法聚類的SVM算法。減法聚類是根據(jù)密度指標(biāo)，選取聚類中心點(diǎn)，聚類中心點(diǎn)也為訓(xùn)練數(shù)據(jù)點(diǎn)本身。這樣就達(dá)到減少訓(xùn)練數(shù)據(jù)個(gè)數(shù)的目的。我們用選取的聚類點(diǎn)作為新的訓(xùn)練集合，構(gòu)建SVM。在兩類和多類的標(biāo)準(zhǔn)數(shù)據(jù)集上的實(shí)驗(yàn)表示，該算法較之傳統(tǒng)SVM有好的分類準(zhǔn)確性和泛化能力，但是用于優(yōu)化計(jì)算的時(shí)間卻大大減少。