結(jié)合粗糙集的支持向量機(jī)研究及應(yīng)用.pdf

1、SVM是統(tǒng)計(jì)學(xué)習(xí)的一種，是在統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ)上發(fā)展起來的一種新型的學(xué)習(xí)機(jī)器。目前，SVM被看作是解決分類問題和回歸問題的強(qiáng)有力的工具，并已經(jīng)是機(jī)器學(xué)習(xí)領(lǐng)域繼神經(jīng)網(wǎng)絡(luò)后新的研究熱點(diǎn)。它以結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則以及VC維理論為理論基礎(chǔ)，根據(jù)有限的樣本信息在模型的復(fù)雜性和學(xué)習(xí)能力之間尋求最佳折衷，以期獲得最好的推廣能力。支持向量機(jī)被看作是對傳統(tǒng)分類器的一個(gè)好的發(fā)展，在解決小樣本、非線性和高維的機(jī)器學(xué)習(xí)問題中表現(xiàn)出了許多特有的優(yōu)勢。 眾所周

2、知，利用支持向量來進(jìn)行線性或非線性規(guī)劃具有全局收斂優(yōu)勢，但是支持向量機(jī)在解決多類問題時(shí)轉(zhuǎn)化過程較為繁雜，且計(jì)算量較大，需要占用大量的訓(xùn)練時(shí)間。為此，提出了基于鄰域的支持向量機(jī)訓(xùn)練算法，即通過鄰域的計(jì)算來減少訓(xùn)練樣本的數(shù)目以節(jié)約訓(xùn)練時(shí)間并降低計(jì)算量。為了在降低冗余的同時(shí)確保分類的準(zhǔn)確率，在訓(xùn)練過程中也引入了粗糙集的原理，利用粗糙集理論對數(shù)據(jù)進(jìn)行屬性約簡，從而進(jìn)一步減少支持向量機(jī)求解計(jì)算量。實(shí)際結(jié)果證明了該方法的有效性。 本論文解決

3、的主要問題： (1)針對二類分類問題提出的支持向量機(jī)在解決多類分類問題時(shí)需要進(jìn)行一定的轉(zhuǎn)化，本文采用將一個(gè)多類問題統(tǒng)一為一個(gè)兩類問題的轉(zhuǎn)化方法，并在空間映射方面做出改進(jìn)，使得新類的類內(nèi)距離更小，類間距離更大，從而提高樣本的可分性，最后通過類內(nèi)散度和類間散度的計(jì)算在UCI數(shù)據(jù)集上加以驗(yàn)證。 (2)結(jié)合粗糙集與支持向量機(jī)的理論，利用粗糙集理論對數(shù)據(jù)的屬性進(jìn)行約簡，在保持知識庫分類能力不變的條件下，根據(jù)其等價(jià)關(guān)系刪除其中不相關(guān)