基于SVM-RFE的特征選擇方法研究.pdf

1、隨著人類科技的進步發(fā)展和先進儀器設備的應用，人類得到了大量的數(shù)據(jù)。其中，高維小樣本數(shù)據(jù)作為生物信息數(shù)據(jù)的特點，給數(shù)據(jù)信息處理帶來了新的挑戰(zhàn)。為了從海量數(shù)據(jù)中提取有價值的信息，數(shù)據(jù)挖掘技術(shù)應運而生。數(shù)據(jù)挖掘是一個廣義的定義，吸納了諸如統(tǒng)計學、機器學習、模式識別等技術(shù)。作為數(shù)據(jù)挖掘技術(shù)之一的特征選擇技術(shù)，被廣泛應用于生物數(shù)據(jù)處理等各個領域。
　　特征選擇技術(shù)旨在去除噪音、冗余特征，挑選問題相關(guān)及具有良好區(qū)分類別能力的特征，達到“去偽存

2、真”的目的。雖然會丟失一些特征的信息，但卻使被選擇的特征更能代表問題的本質(zhì)。SVM-RFE是一種性能良好，泛化能力強的特征選擇方法，它是SVM與后項搜索策略的結(jié)合。本文研究了RFE的后向搜索過程以求改進。在每次迭代刪除過程中，使用模擬退火策略，結(jié)合皮爾森相關(guān)系數(shù)作為度量標準，重新評估當前被刪除的特征子集與當前剩余特征子集之間的關(guān)系，試圖找回不相關(guān)的、非冗余特征，使其有一定幾率重新加回當前特征子集。越早被刪除的特征，被重新考察的機會越大。

3、另外，在“最優(yōu)”特征子集搜索過程中，在當前特征子集與“最優(yōu)”特征子集準確率持平時，使用互信息分別重新評價兩者與類標間的關(guān)系，選擇關(guān)系大的特征子集作為當前搜索到的“最優(yōu)”特征子集。
　　隨著分析技術(shù)的發(fā)展，基因、蛋白等生物數(shù)據(jù)維數(shù)巨增，其中既存在噪音和不含問題相關(guān)信息的無關(guān)變量，也存在相互關(guān)聯(lián)的特征，共同表征復雜的生命現(xiàn)象。因此在處理高維生物信息樣本時，去除問題無關(guān)和冗余特征，選擇區(qū)分反映不同類別的生物樣本的特征，尋找相互關(guān)聯(lián)的特征

4、，有助于排除噪音干擾，反映問題的實質(zhì)。變量重疊度可以處理特征在各類樣本上分布重疊的問題，去除噪音變量和無關(guān)變量。變量關(guān)系得分考察變量之間的相互作用，發(fā)掘變量之間相互關(guān)聯(lián)。本文考慮上述因素，使用變量（特征）重疊度、變量關(guān)系得分，結(jié)合特征在超平面上的SVM權(quán)重，共同形成特征的綜合評價得分，有助于確定反映不同種類疾病、藥物療效等的標志信息。
　　實驗結(jié)果表明，基于相關(guān)性度量選擇的特征子集，多角度綜合評價特征得分的方法都改善了特征選擇性能