基于粗糙集的支持向量機(jī)及應(yīng)用研究.pdf

1、基于數(shù)據(jù)的機(jī)器學(xué)習(xí)是一種重要的數(shù)據(jù)挖掘方法,也是現(xiàn)代智能技術(shù)中的重要內(nèi)容。近年來(lái),粗糙集與支持向量機(jī)作為兩種主要的數(shù)據(jù)挖掘方法獲得了大量的研究?；诮Y(jié)構(gòu)風(fēng)險(xiǎn)最小化的支持向量機(jī)方法能夠較好地解決小樣本、非線性、過(guò)學(xué)習(xí)、維數(shù)災(zāi)難和局部極小等問(wèn)題,具有很強(qiáng)的泛化能力。但是作為一種新型的機(jī)器學(xué)習(xí)方法,在解決實(shí)際問(wèn)題時(shí)還存在一些問(wèn)題。本文結(jié)合粗糙集理論對(duì)支持向量機(jī)方法從兩個(gè)方面提出了幾點(diǎn)改進(jìn);一方面利用粗糙集理論對(duì)樣本集進(jìn)行預(yù)處理,首先提出基于鄰

2、域粗糙集的樣本選取,其次分析了屬性約簡(jiǎn)對(duì)支持向量機(jī)的影響,并提出基于屬性約簡(jiǎn)的支持向量機(jī)選擇性集成。另一方面利用模糊理論與粗糙集對(duì)支持向量機(jī)在處理不確定問(wèn)題方面進(jìn)行了幾點(diǎn)改進(jìn)。
　　 論文的研究成果主要包括以下幾個(gè)方面:
　　 1.針對(duì)支持向量機(jī)方法對(duì)于高維大規(guī)模數(shù)據(jù)無(wú)法直接處理和對(duì)異常樣本敏感問(wèn)題,提出一種基于鄰域粗糙集數(shù)據(jù)預(yù)處理的支持向量機(jī)分類(lèi)算法。該算法從兩個(gè)方面對(duì)訓(xùn)練樣本集進(jìn)行預(yù)處理,一方面利用鄰域粗糙集模型中對(duì)

3、象鄰域的上、下近似,尋找兩種類(lèi)別的交界部分,從而減小問(wèn)題規(guī)模;其次通過(guò)對(duì)交界部分樣本進(jìn)行混淆度分析,對(duì)于那些混雜在另一類(lèi)樣本中的異常樣本或噪聲數(shù)據(jù)進(jìn)行剔除。另一方面利用屬性重要性度量對(duì)樣本集進(jìn)行屬性約簡(jiǎn)與屬性加權(quán)處理。
　　 2.基于粗糙集理論的屬性約簡(jiǎn)往往會(huì)產(chǎn)生多個(gè)等價(jià)的屬性約簡(jiǎn)集合,每個(gè)約簡(jiǎn)集合包含的屬性是部分或者完全不同的,它們從不同的角度對(duì)原始系統(tǒng)進(jìn)行描述,具有一定的差異性和互補(bǔ)性。本文在對(duì)比研究了現(xiàn)有集成方法的基礎(chǔ)上提

4、出了一種基于粗糙集屬性約簡(jiǎn)的選擇性支持向量機(jī)集成方法。
　　 3.在分析了現(xiàn)有模糊支持向量機(jī)隸屬度計(jì)算方法的基礎(chǔ)上,提出一種基于粗糙一類(lèi)支持向量機(jī)的隸屬度確定方法。該方法利用粗糙集思想構(gòu)造一個(gè)最小粗糙球,分別得到對(duì)應(yīng)粗糙球的上近似、下近似與邊界區(qū)域,然后依據(jù)樣本在超球中的位置對(duì)分布在下近似、邊界域和粗糙球以外的樣本,分別采用三種不同的方式計(jì)算其各自的隸屬度。
　　 4.提出一種基于模糊粗糙集的不確定支持向量機(jī)方法。在實(shí)際

5、的應(yīng)用系統(tǒng)中,由于研究對(duì)象的復(fù)雜性和對(duì)研究對(duì)象認(rèn)識(shí)能力的局限性,往往得到一些含有不確定信息的信息系統(tǒng),例如樣本分類(lèi)的不確定性。在這類(lèi)問(wèn)題中樣本不能明確地歸為某一類(lèi),只能以一定概率或一定隸屬度屬于某一類(lèi)。本文利用一類(lèi)特殊的核函數(shù)構(gòu)造了一種模糊等價(jià)關(guān)系,接著以這類(lèi)核函數(shù)構(gòu)造的模糊等價(jià)關(guān)系為基礎(chǔ)給出了模糊粗糙集的定義,然后利用模糊粗糙集中的下近似算子為每個(gè)訓(xùn)練樣本分配隸屬度,最后將得到的樣本隸屬度融入到傳統(tǒng)支持向量機(jī)模型中,得到一個(gè)新的優(yōu)化問(wèn)