多分類(lèi)問(wèn)題的投影雙子支持向量機(jī)及其應(yīng)用.pdf

1、分類(lèi)是數(shù)據(jù)挖掘領(lǐng)域研究的核心內(nèi)容，它是通過(guò)對(duì)有標(biāo)簽的訓(xùn)練樣本進(jìn)行學(xué)習(xí)，從而為未知標(biāo)簽的測(cè)試樣本預(yù)測(cè)標(biāo)簽的過(guò)程。作為一種有監(jiān)督學(xué)習(xí)的熱門(mén)技術(shù),分類(lèi)已廣泛應(yīng)用于各個(gè)領(lǐng)域。投影雙子支持向量機(jī)（簡(jiǎn)稱(chēng)PTSVM）是一個(gè)針對(duì)二分類(lèi)問(wèn)題的分類(lèi)方法，它具有良好的推廣性和較高的分類(lèi)精確度，也受到了學(xué)術(shù)界的廣泛研究。然而，隨著數(shù)據(jù)形態(tài)的日益復(fù)雜，多分類(lèi)問(wèn)題已成為分類(lèi)技術(shù)中研究的重點(diǎn)。因此，針對(duì)多分類(lèi)問(wèn)題，本文在PTSVM的基礎(chǔ)上，做出了如下三個(gè)方面的工作：

2、
　　第一，提出了一種新穎的多分類(lèi)投影雙子支持向量機(jī)算法（簡(jiǎn)稱(chēng)MPTSVM）。與PTSVM類(lèi)似，MPTSVM通過(guò)求解多個(gè)二次規(guī)劃問(wèn)題得到多個(gè)投影軸。不同于PTSVM，MPTSVM有如下優(yōu)點(diǎn)：
　?。?）通過(guò)引入正則項(xiàng)以及遞歸優(yōu)化過(guò)程，大大提升了MPTSVM的泛化能力。
　?。?）通過(guò)引入逐次超松弛求解方法，提升了求解二次規(guī)劃問(wèn)題的效率。
　　（3）通過(guò)引入核函數(shù)，MPTSVM被推廣到非線(xiàn)性的情況。
　　第二

3、，為了減輕MPTSVM的訓(xùn)練負(fù)擔(dān)，提出了新穎的多分類(lèi)最小二乘投影雙子支持向量機(jī)（簡(jiǎn)稱(chēng)MLSPTSVM）。它是MPTSVM的最小二乘形式，它具有以下特點(diǎn)：
　?。?）MLSPTSVM的訓(xùn)練過(guò)程僅需求解一系列線(xiàn)性方程組，從而使得該算法能夠處理大規(guī)模的數(shù)據(jù)。
　?。?）MLSPTSVM能夠?yàn)槊總€(gè)類(lèi)別產(chǎn)生多個(gè)相互正交的投影軸，從而能提升算法的性能。
　?。?）通過(guò)引入Sherman-Morrison-Woodbury公式和降核