基于集成學(xué)習(xí)的SLT-PLS回歸算法研究.pdf

1、復(fù)雜樣品的定性定量分析在分析化學(xué)及工業(yè)生產(chǎn)中一直是具有挑戰(zhàn)性的課題。近紅外光譜技術(shù)有著樣品預(yù)處理簡(jiǎn)單、分析速度快、非破壞性等優(yōu)點(diǎn)，已經(jīng)被廣泛地應(yīng)用到醫(yī)藥、石油化工、食品、農(nóng)業(yè)等領(lǐng)域。但是近紅外光譜譜峰寬且重疊嚴(yán)重，因此必須要借助多元校正獲得某一組分的定量信息，如多元線性回歸(MLR)、主成分回歸(PCR)、偏最小二乘法(PLS)等。PCR的主要目的是要提取隱藏在矩陣X中的相關(guān)信息，然后用于預(yù)測(cè)變量Y的值。這種做法可以保證讓我們只使用那些

2、獨(dú)立變量，噪音將被消除，從而達(dá)到改善預(yù)測(cè)模型質(zhì)量的目的。但是，主成分回歸仍然有一定的缺陷，當(dāng)一些有用變量的相關(guān)性很小時(shí)，我們?cè)谶x取主成分時(shí)就很容易把它們漏掉，使得最終的預(yù)測(cè)模型的可靠性下降，如果我們對(duì)每一個(gè)成分進(jìn)行挑選，那樣又太困難了。PLS可以解決這個(gè)問(wèn)題。它采用對(duì)變量X和Y都進(jìn)行分解的方法，從變量X和Y中同時(shí)提取成分（通常稱為因子），再將因子按照它們之間的相關(guān)性從大到小排列。但是，當(dāng)在X空間中有很多的變量與Y無(wú)關(guān)時(shí)，就會(huì)出現(xiàn)PLS模

3、型性能不佳的狀況。這種（X中的變量）與Y不相干的規(guī)律，例如基線漂移和光譜數(shù)據(jù)中的不重要區(qū)域，使PLS模型解釋起來(lái)更復(fù)雜。在某些情況下，甚至?xí)a(chǎn)生不必要的巨大的預(yù)測(cè)誤差。針對(duì)這個(gè)缺陷畢一鳴等人提出SLT-PLS算法，使得該缺陷得以解決。但是一旦當(dāng)樣本分布不均勻的時(shí)候，STL-PLS不能夠很好地進(jìn)行預(yù)測(cè)，不能夠達(dá)到理想的預(yù)測(cè)結(jié)果。
　　為了解決這個(gè)缺陷，本文將引進(jìn)集成學(xué)習(xí)的算法。自從二十世紀(jì)九十年代開(kāi)始到現(xiàn)在，集成學(xué)習(xí)(Ensembl

4、e Learning)已經(jīng)成為機(jī)器學(xué)習(xí)四大研究方向中最主要的方向。它可以有效地提高機(jī)器學(xué)習(xí)算法的泛化能力和整體性能，已經(jīng)在web信息檢索與過(guò)濾，數(shù)據(jù)挖掘分析等多個(gè)領(lǐng)域取得了成功的應(yīng)用。
　　本文提出了一個(gè)新的組合式算法，用來(lái)進(jìn)行近紅外光譜數(shù)量分析。該算法是由bagging和SLT-PLS相結(jié)合的，名為bagging-sltpls(BSPLS)。首先利用bagging算法中的隨機(jī)取樣原則，能夠利用較少的樣本建立模型，節(jié)省了建模時(shí)間，

5、增加了模型的數(shù)量。在建立每個(gè)子模型的時(shí)候，使用了SLT-PLS算法，這樣可以解決當(dāng)在X空間中有很多的變量與Y無(wú)關(guān)時(shí)，SLT-PLS不能夠很好地進(jìn)行預(yù)測(cè)的問(wèn)題。最后，應(yīng)用平均數(shù)權(quán)重規(guī)則和帶有選擇性集成的交互檢驗(yàn)權(quán)重規(guī)則把各個(gè)模型結(jié)果結(jié)合起來(lái)。權(quán)重規(guī)則能夠排除貢獻(xiàn)小的模型，留下貢獻(xiàn)大的模型，從而解決了一旦當(dāng)樣本分布不均勻的時(shí)候，STL-PLS不能夠很好地進(jìn)行預(yù)測(cè)，不能夠達(dá)到理想預(yù)測(cè)結(jié)果的問(wèn)題。在本文提出的BSPLS算法的實(shí)驗(yàn)中，分析了兩個(gè)權(quán)