基于偏最小二乘回歸的多標(biāo)簽分類算法研究.pdf

1、當(dāng)今社會(huì)，隨著計(jì)算機(jī)硬件和軟件技術(shù)的快速發(fā)展，不斷涌現(xiàn)出大量功能強(qiáng)大且價(jià)格合理的數(shù)據(jù)存儲(chǔ)介質(zhì)。數(shù)據(jù)存儲(chǔ)能力的極大提升推動(dòng)了數(shù)據(jù)庫技術(shù)的快速發(fā)展。大量的數(shù)據(jù)庫系統(tǒng)被用來管理大容量存儲(chǔ)介質(zhì)上的海量數(shù)據(jù)。但由于缺乏有效的管理工具，隱藏在這些海量數(shù)據(jù)背后的有用知識(shí)卻不能被人們所發(fā)現(xiàn)和利用。為了有效地將這些知識(shí)用于科學(xué)研究、欺詐檢測(cè)、生產(chǎn)管理、市場(chǎng)分析、工程規(guī)劃等領(lǐng)域，從海量數(shù)據(jù)中發(fā)現(xiàn)這些知識(shí)的工具——數(shù)據(jù)挖掘技術(shù)得到了蓬勃的興起和發(fā)展。

2、　　分類是數(shù)據(jù)挖掘中進(jìn)行數(shù)據(jù)分析的一個(gè)重要研究方向。它從預(yù)先定義的數(shù)據(jù)類中得出一個(gè)分類模型來預(yù)測(cè)未分類的數(shù)據(jù)。在傳統(tǒng)的分類中，每個(gè)樣本僅有一個(gè)標(biāo)簽，它們屬于單標(biāo)簽分類。然而在許多實(shí)際應(yīng)用中，每個(gè)樣本同時(shí)擁有幾個(gè)不同的標(biāo)簽，這些屬于多標(biāo)簽分類。近年來，由于多標(biāo)簽數(shù)據(jù)的普遍存在和廣泛的應(yīng)用價(jià)值，越來越多的研究者對(duì)其產(chǎn)生了濃厚的興趣。
　　隨著多標(biāo)簽分類問題研究的不斷深入，人們將各種不同的學(xué)習(xí)方法應(yīng)用到多標(biāo)簽分類問題中，提出了大量的多標(biāo)

3、簽分類學(xué)習(xí)算法，解決了實(shí)際應(yīng)用中的很多不同問題。例如，在多元統(tǒng)計(jì)分析中，典型相關(guān)分析是研究?jī)山M多維變量之間相互關(guān)系的一種技術(shù)，它已經(jīng)成功地應(yīng)用到多標(biāo)簽分類問題中。同樣地，在多元統(tǒng)計(jì)分析中，偏最小二乘回歸具有多元線性回歸和主成分分析的優(yōu)點(diǎn)，它也能夠通過一組多維變量預(yù)測(cè)另一組多維變量。偏最小二乘回歸通過最小二乘回歸拓展而來，在化學(xué)領(lǐng)域得到了最初的應(yīng)用。近年來，偏最小二乘回歸在經(jīng)濟(jì)、水利、環(huán)保和電力等領(lǐng)域都得到了廣泛的應(yīng)用，并取得了良好的效果

4、。在分類問題中，偏最小二乘回歸作為降維方法與其它方法相結(jié)合進(jìn)行過分類，也直接作過單標(biāo)簽分類方法。但偏最小二乘回歸還未直接應(yīng)用于多標(biāo)簽分類問題中。
　　本文研究基于偏最小二乘回歸的多標(biāo)簽分類問題，主要研究?jī)?nèi)容包括:
　　(1)由于偏最小二乘回歸能夠?qū)山M多維變量相關(guān)聯(lián)，并能通過一組多維自變量預(yù)測(cè)另一組多維因變量，因而將偏最小二乘回歸方法與多標(biāo)簽分類相結(jié)合，提出基于偏最小二乘回歸的多標(biāo)簽分類算法。首先，基于非線性迭代偏最小二乘算

5、法構(gòu)建偏最小二乘回歸模型;然后，根據(jù)多標(biāo)簽分類的特點(diǎn)，將訓(xùn)練集中的訓(xùn)練數(shù)據(jù)通過偏最小二乘回歸得到一個(gè)多標(biāo)簽分類模型，再通過這個(gè)多標(biāo)簽分類模型對(duì)測(cè)試集中的測(cè)試數(shù)據(jù)進(jìn)行多標(biāo)簽分類。
　　(2)將基于偏最小二乘回歸的多標(biāo)簽分類算法在現(xiàn)實(shí)中的多標(biāo)簽數(shù)據(jù)集上進(jìn)行仿真實(shí)驗(yàn)。在實(shí)驗(yàn)的過程中，將該多標(biāo)簽分類算法與其它的多標(biāo)簽分類算法進(jìn)行對(duì)比，以驗(yàn)證其良好的多標(biāo)簽分類性能。在對(duì)比的過程中，采用十字交叉驗(yàn)證法進(jìn)行驗(yàn)證，并采用多標(biāo)簽分類的性能評(píng)價(jià)準(zhǔn)則對(duì)