最小二乘法與一元回歸問題分析

1、最小二乘法與一元回歸問題分析以“殘差平方和最小”為條件求得最佳估計值，成為最小二乘原理，也叫最小二乘法。本節(jié)僅介紹一元回歸分析。（1）思考與處理方法因變量（檢測儀器）與自變量（被檢測量，通常用已知量）yx之間存在線性關(guān)系，為確定與之間的關(guān)系，通常用k個輸入量，yx即被測量（輸入量之間不一定為等差）。每個輸入量又分別作平行測定，且平行測定的次數(shù)又各不盡相同，假設(shè)依次為：個、個1n1x2n…個，分別在儀器得到k組響應(yīng)值：2xknkx)(11

2、11xxxx????)(11131211nyyyy????)(2222xxxx????)(22232221nyyyy????……)(kkkkxxxx????)(321kknkkkyyyy????儀器的k組響應(yīng)值的平均值之間接近為一條直線，用最小二iy乘原理求理想直線。設(shè)理想直線的方程為：，則對應(yīng)自變量在理想直線bxay???ix上的滿足方程：iy?，相應(yīng)值與理想值之間的關(guān)系為：iibxay???iyiy?①iiiiiebxayyy???

3、??)(?應(yīng)用最小二乘原理，將①式寫成：②2112)(iNiNibxayeE??????為使值最小，即有：E0)1()(1?????????iNibxayaE0)()(21??????????iiiNxbxaybE上兩式整理得：③0)(1????iNybxay④0)(?????iiNiibxayx總偏差可寫成：???iiyyy(iy?)?()yyi??具有以下平方和關(guān)系：?????iNiNyyy121()(iy?UQyyiN?????2

4、12)?()其中：表示回歸差平方和，表示殘余差平方和UQ殘余方差即為殘余差平方和除以自由度，即：2)(2)()(122????????NbxayNQyDysNiiii個響應(yīng)值相對理想直線的標(biāo)準(zhǔn)偏差為：Niy2)()(12?????NbxayysNiii計算模擬直線上的點(diǎn)的標(biāo)準(zhǔn)不確定度bxay???iy?)?(iyu主要來源于截距和回歸系數(shù))?(iyuab計算：)(buxxxyllb?)()(1)(1][)()(21222iNixyxyx