支持向量機和分類問題的算法研究.pdf

1、支持向量機學習算法是本文的主要研究工作，它是建立在統(tǒng)計學習理論和數(shù)學規(guī)劃基礎上的一種數(shù)據(jù)挖掘的新方法。數(shù)學規(guī)劃是運籌學一個重要分支，在機器學習、網(wǎng)絡問題、博弈理論與經(jīng)濟學、工程機械學等領域有著廣泛而重要的應用，是國際上最活躍的運籌學研究領域之一。分類是機器學習的常見問題之一。本文在近似支持向量機數(shù)學模型，近似錯誤分離最小化模型和推導多類支持向量機對偶性理論這三方面作者分別有所研究，取得的結(jié)果如下：第2章給出了支持向量機的一個近似算法-乘

2、子極大熵算法。此算法把支持向量機對偶模型化為極大極小模型，然后再用乘子極大熵法來解決這個問題。這是一個集極大熵法和乘子法兩者優(yōu)點于一身的算法，極大熵法把非光滑的問題變成了光滑的，乘子法能在一定程度上減少迭代次數(shù)，并且可以避免海森陣病態(tài)的問題。支持向量機的乘子極大熵算法對于小樣本問題，特別是醫(yī)學上癌前診斷問題有比較好的實驗結(jié)果，文中的兩個例子表明該算法能較好的解決小樣本的學習分類問題。 第3章是關于錯誤分離最小化的一個近似算法的。

3、錯誤分離最小化是機器學習中很常見的問題之一，本文給出了分離錯誤最小化數(shù)學模型的一個近似模型。在分離錯誤點個數(shù)最小的數(shù)學模型中，用分片線性函數(shù)來近似步函數(shù)，從而給出了一個近似模型。對于近似模型，本文做了一個序列線性化算法，并且證明了算法是有限步終止的。 以往關于多類支持向量機及其對偶問題的文獻在理論方面給出的結(jié)論不多。本文在二類支持向量機對偶理論的基礎上，針對多分類支持向量機的數(shù)學模型，給出原始問題解的性質(zhì)定理以及原始問題和對偶問