偏最小二乘法回歸建模案例

1、《人工智能》課程論文論文題目： 論文題目： 偏最小二乘算法（PLS）回歸建模 學(xué)生姓名： 學(xué)生姓名： 張帥帥 學(xué) 號(hào)： 號(hào)： 172341392 專 業(yè)： 業(yè)： 機(jī)械制造及其自動(dòng)化 所在學(xué)院： 所在學(xué)院： 機(jī)械工程學(xué)院 年 月 日偏最小二乘回歸

2、摘要在實(shí)際問(wèn)題中，經(jīng)常遇到需要研究?jī)山M多重相關(guān)變量間的相互依賴關(guān)系，并研究用一組變量（常稱為自變量或預(yù)測(cè)變量）去預(yù)測(cè)另一組變量（常稱為因變量或響應(yīng)變量） ，除了最小二乘準(zhǔn)則下的經(jīng)典多元線性回歸分析（MLR） ，提取 自變量組主成分的主成分回歸分析（PCR）等方法外，還有近年發(fā)展起來(lái)的偏最小二乘（PLS）回歸方法。 偏最小二乘回歸提供一種多對(duì)多線性回歸建模的方法，特別當(dāng)兩組變量的個(gè)數(shù)很多，且都存在多重相關(guān)性，而觀測(cè)數(shù)據(jù)的數(shù)量（樣本量）又較

3、少時(shí)，用偏最小二乘回歸建立的模型具有傳統(tǒng)的經(jīng)典回歸分析等方法所沒(méi)有的優(yōu)點(diǎn)。 偏最小二乘回歸分析在建模過(guò)程中集中了主成分分析，典型相關(guān)分析和線性回歸分析方法的特點(diǎn)，因此在分析結(jié)果中，除了可以提供一個(gè)更為合理的回歸模型外，還可以同時(shí)完成一些類似于主成分分析和典型相關(guān)分析的研究?jī)?nèi)容，提供更豐富、深入的一些信息。 本文介紹偏最小二乘回歸分析的建模方法；通過(guò)例子從預(yù)測(cè)角度對(duì)所建立的回歸模型進(jìn)行比較。關(guān)鍵詞： 關(guān)鍵詞：主元分析、主元回歸、回歸建模1

4、 偏最小二乘回歸 偏最小二乘回歸原理 原理 考慮 p 個(gè)變量 與 m 個(gè)自變量的建模問(wèn)題。偏最小二乘 p y y y ,... , 2 1 m x x x ,... , 2 1回歸的基本作法是首先在自變量集中提出第一成分 t?（t?是m x x x ,... , 2 1的線性組合，且盡可能多地提取原自變量集中的變異信息） ；同時(shí)在因變量集中 也提取第一成分 u?，并要求 t?與 u?相關(guān)程度達(dá)到最大。然后建立因變量與 t?的回歸，如果

5、回歸方程已達(dá)到滿意的精度，則算法中止。否則 p y y y ,... , 2 1繼續(xù)第二對(duì)成分的提取，直到能達(dá)到滿意的精度為止。若最終對(duì)自變量集提取r 個(gè)成分 ,偏最小二乘回歸將通過(guò)建立 與 的回歸 r t t t ,... , 2 1 p y y y ,... , 2 1 r t t t ,... , 2 1式，然后再表示為 與原自變量的回歸方程式，即偏最小二乘回歸方 p y y y ,... , 2 1程式。為了方便起見(jiàn)，不妨假定