支持向量機(jī)在嵌入式控制系統(tǒng)的實(shí)現(xiàn)研究.pdf

1、支持向量機(jī)(Support Vector Machine，SVM)作為統(tǒng)計(jì)學(xué)習(xí)理論的最新研究成果，成為近十幾年來機(jī)器學(xué)習(xí)領(lǐng)域研究熱點(diǎn)，由于其目標(biāo)是在小樣本情況下追求最優(yōu)的泛化性能，從而在較大程度上解決了傳統(tǒng)機(jī)器學(xué)習(xí)方法中的非線性、局部極值、過學(xué)習(xí)、維數(shù)災(zāi)難等問題；以結(jié)構(gòu)風(fēng)險(xiǎn)最小化代替經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化、凸二次規(guī)劃、Mercer核函數(shù)和解的稀疏性等特點(diǎn)，使得SVM算法具有結(jié)構(gòu)簡(jiǎn)單、全局最優(yōu)以及推廣能力強(qiáng)等優(yōu)點(diǎn)，自從被提出之日起，就在諸多復(fù)雜問

2、題上凸顯出其性能優(yōu)勢(shì)。但是，由于SVM在訓(xùn)練過程中需要消耗較大的存儲(chǔ)資源，特別是在訓(xùn)練樣本數(shù)量較多時(shí)，其訓(xùn)練速度往往成為實(shí)際應(yīng)用的瓶頸，這在一定程度上制約了該算法的推廣和應(yīng)用。而在現(xiàn)實(shí)生活中各種嵌入式控制系統(tǒng)的使用越來越廣泛，客觀上也要求有更優(yōu)秀的智能算法在這些平臺(tái)上高效的應(yīng)用，因此SVM算法在嵌入式系統(tǒng)中實(shí)現(xiàn)、應(yīng)用研究成為不少研究人員努力的方向，也是比較具有實(shí)際意義的研究方向。
　　現(xiàn)有的關(guān)于支持向量機(jī)算法在嵌入式系統(tǒng)平臺(tái)上實(shí)現(xiàn)

3、的研究大多關(guān)注于硬件平臺(tái)的優(yōu)化，包括并行處理單元的使用、分布式處理、存儲(chǔ)單元的使用等，通常是以硬件花銷換取性能提升。本文重點(diǎn)從軟件的層面上研究支持向量機(jī)算法在嵌入式控制系統(tǒng)的實(shí)現(xiàn)，結(jié)合嵌入式控制系統(tǒng)的硬件資源極其有限的特性，以及支持向量機(jī)在訓(xùn)練算法上可以進(jìn)行必要的改進(jìn)的特點(diǎn)，力圖以少量的性能損失換取實(shí)時(shí)學(xué)習(xí)速度的提升；首先根據(jù)目標(biāo)平臺(tái)的字長(zhǎng)約束，將訓(xùn)練樣本特征值進(jìn)行必要的歸一化、定點(diǎn)化或整型化處理后轉(zhuǎn)化為定點(diǎn)數(shù)或整型數(shù)，以一定的精度損失

4、帶來訓(xùn)練過程數(shù)據(jù)計(jì)算的快捷性；然后根據(jù)字長(zhǎng)k及設(shè)定的模型懲罰系數(shù)對(duì)標(biāo)準(zhǔn)SVM算法中的拉格朗日參數(shù)規(guī)范化為一定范圍內(nèi)的整數(shù)值，并作為訓(xùn)練過程待優(yōu)化的參數(shù)，因此訓(xùn)練過程即為對(duì)每個(gè)在2k個(gè)整型值中的拉格朗日參數(shù)尋找最佳值作為最終模型參數(shù)；針對(duì)整型參數(shù)支持向量機(jī)算法模型中去除了等式約束條件而序貫最小優(yōu)化(Sequential Minimum Optimum，SMO)算法不再適用的實(shí)際情況，文中采用改進(jìn)的SMO算法，通過對(duì)優(yōu)化目標(biāo)的分析，提出了新