相對重要性在處理多重共線性中的應(yīng)用.pdf

1、線性回歸中，多重共線性問題是線性回歸中一個常見的問題，但一直以來都沒有得到很好地解決。多重共線性問題難以解決的根本原因在于變量間存在重疊的信息——即共線性部分。因此，要徹底地解決共線性問題，就要合理地分離這部分重疊的信息。因此，解決多重共線性本質(zhì)就是要合理分配變量間的交互作用的影響。
　　本文首先總結(jié)目前對多重共線性問題已有的研究和處理辦法。主要包括嶺回歸、主成分回歸和偏最小二乘回歸等。而傳統(tǒng)的處理方法，重點都在于如何將存在共線性

2、的變量轉(zhuǎn)化成不相關(guān)的變量，然后再進行回歸，處理后的變量的參數(shù)意義已經(jīng)發(fā)生了變化，這樣得到的結(jié)果就無法合理衡量共線性的變量對被解釋變量的解釋能力。而本文所提出的評價變量相對重要性的度量方法就是用來衡量各個解釋變量能夠多大程度上影響被解釋變量，并分析單個變量的貢獻占所有變量貢獻的多大比例，能夠比較好地衡量變量對被解釋變量的解釋能力。因此采用相對重要性方法來解決多重共線性問題。然后介紹了相對重要性相關(guān)的理論方法，主要涉及相關(guān)文獻出現(xiàn)過的六種度

3、量相對重要性方法。幾種所謂的簡單的度量方法是相對于后來基于計算機的普遍應(yīng)用發(fā)展起來的計算密集型的方法而言的。然后重點分析這些方法的特點，并對它們做了比較分析。文中提出采用的主要的評價準則是在各種文獻中出現(xiàn)過的四個原則：非負性原則、完全貢獻原則，包含性原則和排除性原則。由于含有兩個變量的回歸的情況相對簡單，容易用公式來闡述清楚該方法的思想，因此，以兩個相關(guān)變量的回歸為例進行理論推導(dǎo)。然后進行了一系列的模擬分析。最后以一個實例來說明提到的這

4、些方法能夠有效地處理具有多重共線性的變量，得到更合理的解釋意義。通過進行理論推導(dǎo)，模擬實驗以及實例驗證等途徑來比較這些方法，根據(jù)四種評價準則得到一些基本的結(jié)論。然后進一步的對這幾種評價準則做了深入分析。根據(jù)分析，前三種原則是一種必要的評價準則。而最后一個原則，有一定的適用范圍。
　　本文提供的方法從多重共線性存在的根本原因入手，提供了幾種分離具有共線性的變量的重疊信息的方法，但其基礎(chǔ)仍是基于最簡單的OLS估計的回歸，這有待進一步的