支持向量機相關(guān)方法研究.pdf

1、基于統(tǒng)計學(xué)習(xí)理論的支持向量機(Support Vector Machine，SVM)技術(shù)具有堅實的數(shù)學(xué)理論基礎(chǔ)，在模型推廣能力，全局最優(yōu)，非線性處理等方面均表現(xiàn)突出，已成為機器學(xué)習(xí)領(lǐng)域最活躍的研究重點之一。
　　 本文以傳統(tǒng)的支持向量機和新興的基于非平衡雙超平面的支持向量機為主要研究對象，對其相關(guān)方法進行了較深入的探討和研究。研究內(nèi)容涉及新的加權(quán)型分類器模型的構(gòu)建、多類分類方法、參數(shù)選擇方法、樣本約簡方法等方面。主要工作包括：<

2、br>　　 1.對非平衡雙超平面支持向量機的分類器模型進行研究。提出了一種新的加權(quán)最小二乘雙支持向量機分類器(WLSTSVM)，它通過在錯誤變量上設(shè)置權(quán)向量，來解決最小二乘雙支持向量機(LSTSVM)因采用SSE損失函數(shù)而引起的魯棒性差的問題。給出了WLSTSVM在線性和非線性情況下的問題表達式及詳細的推導(dǎo)過程，并給出了相應(yīng)的算法實現(xiàn)流程。實驗表明，WLSTSVM在提高抗噪能力以及分類識別率方面均有相對較好的表現(xiàn)。
　　 2.

3、對非平衡雙超平面支持向量機的多類分類方法進行探討。以LSTSVM為基本的兩類分類器，給出了一種基于優(yōu)化有向無環(huán)圖的LSTSVM多類分類方法(ODAG-LSTSVM)。用一個基于平均距離測度的類別可分性準則來確定將不同類樣本分開的難易程度，同時給出了相應(yīng)的類別序號重排方法，其目的是為了克服傳統(tǒng)DAG結(jié)構(gòu)可能引起的誤差累計。實驗證明了該方法在測試精度和執(zhí)行速度方面均有不俗表現(xiàn)。
　　 3.對支持向量機的參數(shù)選擇方法進行了探討和研究。

4、鑒于微分進化算法在尋求全局最優(yōu)解、解決多峰問題等方面的優(yōu)良表現(xiàn)，對其變異策略和控制參數(shù)兩方面進行了探討分析。首先，給出了一種基于自然界量變與質(zhì)變規(guī)律的變異策略，定義了隨進化代數(shù)自調(diào)整的變異發(fā)生質(zhì)變的概率公式；然后，遵循適者生存的原則，給出了一種以當前代最優(yōu)個體的適應(yīng)度函數(shù)為調(diào)節(jié)準則的控制參數(shù)自適應(yīng)調(diào)整策略。從經(jīng)典函數(shù)求最優(yōu)解的實驗驗證了基于上述策略的改進DE算法可以獲得更好的平均最優(yōu)解，且收斂速度較快。最后，將這種改進算法用于NPPC的

5、參數(shù)選擇，給出了相應(yīng)的算法實現(xiàn)流程，其實驗結(jié)果表明其在精度與速度方面均具有良好的性能。
　　 4.對基于支持向量機的樣本約簡方法進行了研究。主要包括兩方面的內(nèi)容，即樣本個數(shù)約簡和樣本屬性約簡。首先，給出了一種被稱為KD-FFMVM的樣本個數(shù)約簡方法，該方法考慮到消除孤立點、噪聲點等的不良影響，以及盡可能多的提取邊緣交界樣本，來防止支持向量的流失；然后，在分析現(xiàn)有屬性約簡方法的基礎(chǔ)上，對提高核Hebbian算法的收斂速度進行了探討