若干求解大規(guī)模問題的支持向量機算法.pdf

1、支持向量機(SVM)是在統(tǒng)計學(xué)習(xí)理論上的基礎(chǔ)上發(fā)展起來的新一代學(xué)習(xí)算法，Vapnik在1992年將其介紹進(jìn)入機器學(xué)習(xí)領(lǐng)域之后受到了廣泛的關(guān)注。SVM在20世紀(jì)90年代中后期得到了全面深入的發(fā)展，現(xiàn)在成為機器學(xué)習(xí)和數(shù)據(jù)挖掘領(lǐng)域的標(biāo)準(zhǔn)技術(shù)。它集成了最大間隔超平面、Mercer核、凸二次規(guī)劃、稀疏解和松弛變量等多項技術(shù)。本文在介紹支持向量機基本算法及其變形的基礎(chǔ)上，主要研究求解大規(guī)模問題的兩種方法：一種是支持向量聚類技術(shù)，另一種是拉格朗日減量

2、學(xué)習(xí)算法。
　　支持向量聚類技術(shù)(SVC)主要有三個步驟：先通過解一個優(yōu)化問題的對偶問題來找出一個最小超平面；其次通過給所有點加以分配以確認(rèn)該點所在的類；最后需對參數(shù)進(jìn)行調(diào)整。第一步對偶問題的規(guī)模就是輸入數(shù)據(jù)的規(guī)模，它往往是整個運算的瓶頸，但問題的解僅僅依賴于輸入空間的支持向量，其他的輸入對結(jié)果沒有任何影響卻大幅度的增加了聚類的復(fù)雜性。本文基于R*-tree數(shù)據(jù)結(jié)構(gòu)做出數(shù)據(jù)預(yù)處理，避免所有的樣本都參與*訓(xùn)練，縮小樣本空間，從而大大