支持向量機及其在人臉識別中的應用研究.pdf

1、支持向量機是一種重要的機器學習算法,在模式識別領域有著廣泛的應川.和傳統(tǒng)的基于經(jīng)驗風險最小化準則的學習算法不同,支持向量機基于結構風險最小化準則工作,能在訓練誤差和分類器容量之問達到一個較好的平衡,因而具有更好的性能.自誕生之日起,支持向量機就迅速贏得了眾多研究者的青睞,相關研究小斷增加.但到目前為止,其至少有兩個問題還未完全解決:參數(shù)選擇和多類支持向量機的構建.前者研究的是如何選擇具有良好泛化性能的分類器,后者研究的是如何使用支持向量

2、機來處理多類問題.針對這兩個問題,本文作了三方面研究:兩類支持向量機的參數(shù)選擇研究、多類支持向量機的參數(shù)選擇研究以及多類支持向量機的結果構建研究,研究結果在多個國際通用的基準數(shù)據(jù)集上進行了驗證. 人臉識別是模式識別的一個重要分支,其研究不儀有助于機器智能的實現(xiàn),還能推進對人類視覺系統(tǒng)的理解.很多研究表明,使川支持向量機進行人臉識別能夠獲得很高的識別率.然而,一個尷尬的事實是,鮮有成熟的商業(yè)人臉識別系統(tǒng)足基于支持向量機的.為了探索基于支持

3、向量機的人臉識別系統(tǒng)在現(xiàn)實巾的可應用性,本文從應用的角度較為全面地對一些相關問題進行探討,并使用Visual C++實現(xiàn)了一個基于支持的人臉識別軟件-idTeller. 論文的主要工作和創(chuàng)新點包括: ●提出了兩利于基于VC邊界的支持向量機參數(shù)選擇算法-固定C算法和VC-CV算法.VC邊界足兩類支持向量機參數(shù)選擇的一個理想準則,但它的一些固有缺點使其應用變得困難.本文通過將VC邊界轉化為VC指標,最終把問題歸結為對最小包圍

4、體的求解,從理論上和計算上為'VC邊界的使用鋪平了道路.在此基礎之上,本文提出了兩種基于VC邊界的參數(shù)選擇算法-固定C算法和VC-CV算法.在數(shù)個基準數(shù)據(jù)集上的實驗表明,相比交義驗證算法,VC-CV算法小儀能獲得性能更好的分類器,而且具有較低的計算復雜度. ●使用序貫最小優(yōu)化算法解決了最小包圍體求解問題.最小包圍體求解足計算VC指標的一個關鍵步驟,本文使川序貫最小優(yōu)化算法對其求解,并對算法初始化、參數(shù)擇及更新等若十實現(xiàn)問題進行了

5、深入地研究.在多個基準數(shù)據(jù)集上的實驗表明,貫最小優(yōu)化算法能夠快速而準確地解決最小包圍體求解問題. ●研究了多類支持向量機參數(shù)選擇的策略問題.與文獻中廣泛采用的All-in-One策略不同,本文所采用的One-in-One策略為每個兩類分類器單獨選擇參數(shù),所得到的多類義持向量機結構靈活,易于擴展.我們從理論上和實驗上對All-in-One和One-in-One進行了分析比較,指明了兩者各自的優(yōu)缺點,為它們在實際中的應用提供參考.·

6、提出了兩種新的多類支持向量機結果構建算法-NPWC-CC算法和PWC分類器陣列法.通過使用校正分類器,NPWC-CC算法將原來的pairwise probabilities轉換為一組新的pairwise probabilities,以提高可靠的局部輸出的信度,降低不可靠局部輸出的信度,從而減少不可靠局部輸出對全局輸出的影響,提高全局輸出的質(zhì)量.PWC分類器陣列法則為問題域中的每個類別構建一個PWC分類器,每個PWC分類器由且公由與對應類

7、別相關的兩類分類器組合而成.PWC分類器陣列法不僅有效克服了現(xiàn)有PWC算法的缺點,而且成功地將絕大多數(shù)的PWC算法統(tǒng)一到了一起.在數(shù)個基準數(shù)據(jù)集上的實驗證明了NPWC-CC算法和PWC分類器陣列法的有效性. ●提出了一種快速的、具有二叉樹結構的支持向量機人臉識別算法-BTBSVM.實時性是人臉識別系統(tǒng)的一個關鍵性能.在識別時,普通多類支持向量機需要使用所有的兩類分類器進行計算,識別速度慢,無法達到實時性.通過二叉樹的使用,BTB