基于SVM的模型選擇和參數(shù)優(yōu)化方案研究與實(shí)現(xiàn).pdf

1、支持向量機(jī)是一種基于小樣本的學(xué)習(xí)工具，其基本原理是在兩類分類樣本之間找到一個(gè)線性的分類面把兩類樣本分開，并且使兩類之間的分類間隔最大。但實(shí)際應(yīng)用中的分類數(shù)據(jù)幾乎都無(wú)法用一個(gè)線性的分類面把它們分開，需要通過(guò)一個(gè)變換把數(shù)據(jù)從一個(gè)空間映射到另一個(gè)高維的空間，在這個(gè)高維的空間中數(shù)據(jù)是線性可分的。變換是使用一個(gè)映射函數(shù)實(shí)現(xiàn)，這個(gè)映射函數(shù)被稱為核函數(shù)。 分類樣本無(wú)論是構(gòu)造核函數(shù)還是采用經(jīng)典的核函數(shù)幾乎都需要設(shè)置核函數(shù)的參數(shù)，如何設(shè)置這些參數(shù)

2、才能取得好的分類效果，不同的參數(shù)對(duì)分類結(jié)果又有什么樣的影響，如果數(shù)據(jù)集有幾個(gè)可以選擇的核函數(shù)又如何去選擇。核函數(shù)的選擇和核函數(shù)參數(shù)的設(shè)置如何影響分類的結(jié)果，本文對(duì)這些問(wèn)題通過(guò)實(shí)驗(yàn)進(jìn)行了觀察與分析。 通過(guò)實(shí)驗(yàn)觀察不同參數(shù)設(shè)置對(duì)分類的影響。實(shí)驗(yàn)內(nèi)容為對(duì)核函數(shù)設(shè)置不同參數(shù)數(shù)值，觀察分類結(jié)果的變化。有可選核函數(shù)的分類樣本，對(duì)每個(gè)核函數(shù)逐一進(jìn)行實(shí)驗(yàn)觀察。實(shí)驗(yàn)結(jié)果顯示不同的參數(shù)對(duì)分類的精度有很大的影響，不同的核函數(shù)也使分類精度變化很大。分類

3、的目的不僅是要區(qū)分樣本還要取得最好的分類效果。為了保證最高的精度，需要找到一個(gè)方法來(lái)確定參數(shù)和選擇核函數(shù)。 本文中構(gòu)造一個(gè)誤差函數(shù)來(lái)量化分類的誤差。由于誤差最小和分類精度高是等價(jià)的，能取得誤差函數(shù)的最小值，也就意味著得到了最高的分類精度，于是如何得到最高的分類精度問(wèn)題轉(zhuǎn)化為求誤差函數(shù)最小值問(wèn)題。采用求誤差函數(shù)導(dǎo)數(shù)的方法求其最小值，求誤差函數(shù)最小值的方法也是得到各個(gè)核函數(shù)參數(shù)的方法，使用這個(gè)方法再結(jié)合分類樣本求解每個(gè)核函數(shù)的參數(shù)。