支持向量機(jī)模型選擇方法研究.pdf

1、支持向量機(jī)是基于統(tǒng)計(jì)學(xué)習(xí)理論的新一代機(jī)器學(xué)習(xí)技術(shù)，和傳統(tǒng)的基于數(shù)據(jù)的學(xué)習(xí)方法采用經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則不同的是，它是建立在結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則的基礎(chǔ)上，因此能夠較好地處理小樣本情況下的學(xué)習(xí)問(wèn)題，它較好地解決了以往困擾很多學(xué)習(xí)方法的過(guò)學(xué)習(xí)、高維數(shù)、局部極小點(diǎn)等實(shí)際問(wèn)題。目前，統(tǒng)計(jì)學(xué)習(xí)理論和支持向量機(jī)作為小樣本學(xué)習(xí)的最佳理論，受到越來(lái)越廣泛的重視，成為人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)。
　　 支持向量機(jī)根據(jù)有限的樣本信息在模型的復(fù)雜性和學(xué)

2、習(xí)能力之間尋求最佳折衷，以獲得最好的推廣能力。對(duì)于實(shí)際分類(lèi)問(wèn)題，支持向量機(jī)性能的優(yōu)劣依賴(lài)于核函數(shù)形式及核參數(shù)和懲罰參數(shù)的選取。確定SVM的超參數(shù)使得期望的測(cè)試誤差最小的方法，被稱(chēng)為支持向量機(jī)的模型選擇。支持向量機(jī)的模型選擇是機(jī)器學(xué)習(xí)領(lǐng)域的一個(gè)重要問(wèn)題，參數(shù)的選取直接影響到學(xué)習(xí)效果和分類(lèi)器的性能。支持向量機(jī)的超參數(shù)主要有和懲罰參數(shù)C和核參數(shù)（如RBF核寬度σ）。為了得到更好的泛化效果，我們應(yīng)該選擇合適的支持向量機(jī)模型選擇方法來(lái)確定支持向量

3、機(jī)的超參數(shù)。
　　 論文首先分析了支持向量機(jī)模型中各個(gè)參數(shù)對(duì)模型的影響，對(duì)己有的參數(shù)優(yōu)化方法進(jìn)行了總結(jié)和介紹。提出了基于遺傳算法和經(jīng)驗(yàn)誤差準(zhǔn)則對(duì)模型中的參數(shù)進(jìn)行優(yōu)化的算法，形成了基于遺傳算法與經(jīng)驗(yàn)誤差最小化的支持向量機(jī)模型選擇方法，并通過(guò)數(shù)值實(shí)驗(yàn)說(shuō)明了本算法的正確性與有效性。
　　 此外，由于遺傳算法易發(fā)生“早熟”及在進(jìn)化后期局部搜索效率比較低，本文結(jié)合遺傳算法的全局優(yōu)化能力和梯度算法的局部尋優(yōu)能力的特點(diǎn)，提出了一種基于