基于改進(jìn)支持向量機(jī)的數(shù)據(jù)挖掘分類算法研究.pdf

1、隨著信息技術(shù)與計算機(jī)技術(shù)的飛速發(fā)展，數(shù)據(jù)出現(xiàn)爆炸式增長。而這些海量的數(shù)據(jù)中隱藏著豐富的深具價值的信息和知識，如何對這些信息和知識進(jìn)行有效的提取并加以利用，成為研究的重點(diǎn)。近年來不斷發(fā)展的數(shù)據(jù)挖掘技術(shù)就是一種能夠幫助人們發(fā)掘潛在有用信息的重要手段。
　　支持向量機(jī)（SVM）作為一種有效的數(shù)據(jù)挖掘分類算法，它以統(tǒng)計學(xué)習(xí)理論為基礎(chǔ)引入結(jié)構(gòu)風(fēng)險最小化，通過在屬性空間中構(gòu)建最優(yōu)分類超平面獲得分類器實(shí)現(xiàn)對未知樣本的分類，具有泛化能力強(qiáng)，較好的

2、非線性數(shù)據(jù)處理等優(yōu)點(diǎn)，但也存在一些不足。本文主要圍繞SVM算法展開分析與研究，主要研究成果如下：
　　1.針對FSVM應(yīng)用于數(shù)據(jù)挖掘分類中存在對大樣本集訓(xùn)練速度慢及對噪聲點(diǎn)敏感影響分類正確率的問題，提出了一種基于改進(jìn)FSVM的數(shù)據(jù)挖掘分類算法，該算法首先利用預(yù)選候選支持向量的方法減少訓(xùn)練樣本數(shù)目；其次定義一種新的隸屬度函數(shù)增強(qiáng)支持向量作用，并將近鄰樣本密度運(yùn)用于隸屬度函數(shù)設(shè)計中，降低噪聲點(diǎn)對分類的影響。試驗(yàn)通過與FSVM和基于類向

3、心度的模糊支持向量機(jī)（CCD-FSVM）算法的結(jié)果對比，驗(yàn)證提出算法的有效性。此外針對FSVM算法進(jìn)行數(shù)據(jù)挖掘分類時分類速度慢的問題，在保證分類正確率的前提下，提出了一種改進(jìn)的數(shù)據(jù)挖掘FSVM分類算法。該算法使用預(yù)選候選支持向量的方法減少訓(xùn)練樣本數(shù)目，并訓(xùn)練FSVM得到支持向量集；其次將粒子群優(yōu)化運(yùn)用到選擇最優(yōu)支持向量子集中，減少支持向量數(shù)目從而提高分類速度。仿真結(jié)果表明該算法在保證分類正確率的前提下，相比SVM和FSVM訓(xùn)練速度和分類

4、速度更快。
　　2.針對球向量機(jī)（BVM）雖然相較SVM具有較快的訓(xùn)練速度，但是當(dāng)樣本數(shù)目不均衡時存在分類性能較差的問題，提出了一種基于改進(jìn)BVM的不平衡數(shù)據(jù)集分類算法。該算法先利用訓(xùn)練集分解思想對負(fù)類樣本進(jìn)行分解，并分別與正類樣本組成平衡訓(xùn)練樣本集，然后用旋轉(zhuǎn)森林算法對得到的平衡訓(xùn)練樣本集進(jìn)行預(yù)處理并訓(xùn)練基分類器，最后利用集成技術(shù)對基分類器的分類結(jié)果進(jìn)行集成，提高BVM的分類性能。試驗(yàn)通過對UCI數(shù)據(jù)集進(jìn)行測試，與BVM、ESt

5、SVM、AdaBoost-SVM-OBMS和EnSVM算法進(jìn)行對比，表明該算法對于不同的不平衡數(shù)據(jù)集分類結(jié)果相對穩(wěn)定分類性能較高，驗(yàn)證了其有效性。
　　3.針對現(xiàn)實(shí)生活中存在大量高維不平衡數(shù)據(jù)，但傳統(tǒng)數(shù)據(jù)挖掘分類算法處理該分類問題時由于受到樣本分布和維數(shù)的影響導(dǎo)致分類性能不高的問題，提出了一種基于SVM的高維不平衡數(shù)據(jù)集分類算法。該算法利用改進(jìn)的核SMOTE算法合成正類樣本解決樣本分布不均衡的問題，然后在特征空間中運(yùn)用稀疏表示的特