基于支持向量機的多類文本分類研究.pdf

1、隨著計算機信息技術(shù)的高速發(fā)展，英特網(wǎng)上的電子文檔信息急劇增加，如何對大量文本信息進行挖掘，尤其是按照預(yù)先定義好的語義對它們進行正確的類別判斷，已經(jīng)成為組織管理大量文本信息的一個重要問題，它就是文本挖掘中很關(guān)鍵的一類任務(wù)——文本分類。支持向量機(Support Vector Machine，SVM)是由Vapnik等人在上世紀九十年代提出的一種建立在統(tǒng)計學(xué)習(xí)理論基礎(chǔ)之上的模式識別方法，是借助于最優(yōu)化方法解決機器學(xué)習(xí)問題的新工具。SVM集成

2、了稀疏解、最大間隔超平面、松弛變量、Mercer核和凸二次規(guī)劃等技術(shù)。由于支持向量機具有結(jié)構(gòu)簡單、全局最優(yōu)、推廣能力強等優(yōu)點，最近幾年在模式識別以及文本分類等領(lǐng)域得到了廣泛的研究與應(yīng)用。但是SVM最早是針對兩類分類問題提出的，如何有效的將標準兩類SVM分類問題擴展到多類分類問題并應(yīng)用于多類文本分類是本文研究的重點。
　　 本文在對文本挖掘的相關(guān)概念、過程以及方法等問題進行闡述的基礎(chǔ)上，對目前具有代表性的SVM多類分類方法進行了深

3、入的研究以及優(yōu)缺點對比后，提出了一種改進的決策導(dǎo)向無環(huán)圖支持向量機多類分類算法，并把改進后的決策導(dǎo)向無環(huán)圖支持向量機用于多類文本分類。本文的主要研究工作以及創(chuàng)新點在于：
　　 ①闡述了文本挖掘的理論與技術(shù)，并重點研究了文本分類，著重對支持向量機分類算法進行了基本理論以及算法原理上的闡述，并對SVM應(yīng)用于分類挖掘時的主要研究進展做了分析，由此引出SVM多類別分類算法的研究，然后介紹了目前存在的基于SVM的多類別分類方法，包括“一對

4、一”、決策導(dǎo)向無環(huán)圖支持向量機方法、“一對多”、M-ary支持向量機、基于二叉樹的SVM多類分類等，分析了它們的性能并比較了它們的優(yōu)缺點。
　　 ②著重研究了決策導(dǎo)向無環(huán)圖的多類SVM分類算法，在目前決策導(dǎo)向無環(huán)圖支持向量機分類器生成順序隨機化的基礎(chǔ)上，提出了一種決策導(dǎo)向無環(huán)圖的改進策略，引入類內(nèi)的分散度，以基于樣本分布的類間不可分離程度作為類別的劃分順序，最終構(gòu)成了一種分類間隔較大的決策導(dǎo)向非循環(huán)圖支持向量機分類算法。