基于Relief特征選擇算法的研究與應(yīng)用.pdf

1、伴隨著當(dāng)代科學(xué)技術(shù)的高速發(fā)展，人類已經(jīng)進(jìn)入了信息爆炸的時(shí)代。數(shù)據(jù)挖掘技術(shù)通過從大量數(shù)據(jù)中揭示出隱含的信息，將海量的高維數(shù)據(jù)轉(zhuǎn)換為有用的信息和知識(shí)。特征選擇是數(shù)據(jù)挖掘中的一個(gè)重要方向，特征選擇算法通過剔除不相關(guān)或冗余的特征，從而達(dá)到減少特征個(gè)數(shù)，提高模型精度，減少運(yùn)行時(shí)間的目的。從數(shù)據(jù)解釋的層面上看，關(guān)鍵特征的提取還可以使模型得到簡化，從而便于研究人員理解數(shù)據(jù)的產(chǎn)生。
　　Relief是一種有效的特征選擇算法。與ReliefF不同，

2、Multi-Relief通過在多次隨機(jī)抽取的兩類樣本上運(yùn)行Relief算法將其由2類問題推廣到多類問題。由于一次抽樣只能隨機(jī)抽取多類數(shù)據(jù)中的兩類樣本，可能造成所選樣本的分布不具有代表性。為了有效融和每次抽樣的結(jié)果，準(zhǔn)確度量屬性的的權(quán)重，本文提出了一種改進(jìn)的Multi-Relief算法，該算法對(duì)每一次抽樣產(chǎn)生的權(quán)重向量分組，將在組內(nèi)出現(xiàn)頻率小于一定程度的正權(quán)值摒棄，形成新的權(quán)重融合方法。在三組肝病代謝組學(xué)數(shù)據(jù)和三組公共數(shù)據(jù)中的實(shí)驗(yàn)表明，改

3、進(jìn)的Multi-Relief算法與Multi-Relief和ReliefF算法相比，性能得到了提高。
　　本文還將ReliefF-RFE算法應(yīng)用于生物數(shù)據(jù)的處理中。本文經(jīng)過對(duì)基于SVM的ReliefF-RFE原理的分析以及研究，在本實(shí)驗(yàn)中用kNN分類器取代了SVM分類器。在兩組肝病代謝組學(xué)數(shù)據(jù)以及六組高維的生物公共數(shù)據(jù)上的實(shí)驗(yàn)結(jié)果顯示ReliefF-RFE算法與經(jīng)典的ReliefF算法對(duì)比，所篩選的屬性區(qū)分能力更強(qiáng)。
　　本