基于粗糙集的支持向量機(jī)及應(yīng)用研究.pdf

1、基于數(shù)據(jù)的機(jī)器學(xué)習(xí)是一種重要的數(shù)據(jù)挖掘方法,也是現(xiàn)代智能技術(shù)中的重要內(nèi)容。近年來,粗糙集與支持向量機(jī)作為兩種主要的數(shù)據(jù)挖掘方法獲得了大量的研究?；诮Y(jié)構(gòu)風(fēng)險最小化的支持向量機(jī)方法能夠較好地解決小樣本、非線性、過學(xué)習(xí)、維數(shù)災(zāi)難和局部極小等問題,具有很強(qiáng)的泛化能力。但是作為一種新型的機(jī)器學(xué)習(xí)方法,在解決實(shí)際問題時還存在一些問題。本文結(jié)合粗糙集理論對支持向量機(jī)方法從兩個方面提出了幾點(diǎn)改進(jìn);一方面利用粗糙集理論對樣本集進(jìn)行預(yù)處理,首先提出基于鄰

2、域粗糙集的樣本選取,其次分析了屬性約簡對支持向量機(jī)的影響,并提出基于屬性約簡的支持向量機(jī)選擇性集成。另一方面利用模糊理論與粗糙集對支持向量機(jī)在處理不確定問題方面進(jìn)行了幾點(diǎn)改進(jìn)。
　　 論文的研究成果主要包括以下幾個方面:
　　 1.針對支持向量機(jī)方法對于高維大規(guī)模數(shù)據(jù)無法直接處理和對異常樣本敏感問題,提出一種基于鄰域粗糙集數(shù)據(jù)預(yù)處理的支持向量機(jī)分類算法。該算法從兩個方面對訓(xùn)練樣本集進(jìn)行預(yù)處理,一方面利用鄰域粗糙集模型中對

3、象鄰域的上、下近似,尋找兩種類別的交界部分,從而減小問題規(guī)模;其次通過對交界部分樣本進(jìn)行混淆度分析,對于那些混雜在另一類樣本中的異常樣本或噪聲數(shù)據(jù)進(jìn)行剔除。另一方面利用屬性重要性度量對樣本集進(jìn)行屬性約簡與屬性加權(quán)處理。
　　 2.基于粗糙集理論的屬性約簡往往會產(chǎn)生多個等價的屬性約簡集合,每個約簡集合包含的屬性是部分或者完全不同的,它們從不同的角度對原始系統(tǒng)進(jìn)行描述,具有一定的差異性和互補(bǔ)性。本文在對比研究了現(xiàn)有集成方法的基礎(chǔ)上提

4、出了一種基于粗糙集屬性約簡的選擇性支持向量機(jī)集成方法。
　　 3.在分析了現(xiàn)有模糊支持向量機(jī)隸屬度計算方法的基礎(chǔ)上,提出一種基于粗糙一類支持向量機(jī)的隸屬度確定方法。該方法利用粗糙集思想構(gòu)造一個最小粗糙球,分別得到對應(yīng)粗糙球的上近似、下近似與邊界區(qū)域,然后依據(jù)樣本在超球中的位置對分布在下近似、邊界域和粗糙球以外的樣本,分別采用三種不同的方式計算其各自的隸屬度。
　　 4.提出一種基于模糊粗糙集的不確定支持向量機(jī)方法。在實(shí)際

5、的應(yīng)用系統(tǒng)中,由于研究對象的復(fù)雜性和對研究對象認(rèn)識能力的局限性,往往得到一些含有不確定信息的信息系統(tǒng),例如樣本分類的不確定性。在這類問題中樣本不能明確地歸為某一類,只能以一定概率或一定隸屬度屬于某一類。本文利用一類特殊的核函數(shù)構(gòu)造了一種模糊等價關(guān)系,接著以這類核函數(shù)構(gòu)造的模糊等價關(guān)系為基礎(chǔ)給出了模糊粗糙集的定義,然后利用模糊粗糙集中的下近似算子為每個訓(xùn)練樣本分配隸屬度,最后將得到的樣本隸屬度融入到傳統(tǒng)支持向量機(jī)模型中,得到一個新的優(yōu)化問