多重共線性的程式選優法

才智咖 人氣:6.19K
  

[摘 要] 文章介紹了多重共線性及其影響,使用逐步迴歸法解決多重共線性的缺點以及程式選優法的設計思想。通過使用舉例說明程式選優法在解決多重共線性時具有快速、最優和準確的優點。
  [關鍵詞] 多重共線 逐步迴歸 Eviews 程式選優
  
  一、多重共線性及其影響
  1.什麼是多重共線性
  對於多元線性迴歸模型
   Yi=β0+β1X1i+β2X2i+…+βkXki+ui ,i=1,2,…,n
  其古典假設之一就是解釋變數X1,X2,…,Xk是相互獨立的。如果某兩個或多個解釋變數之間出現了相關性,則稱存在多重共線性。
  如果存在
  c1X1i+c2X2i+…+ckXki=0, i=1,2,…,n
  其中ci不全為0,既某一個解釋變數可以用其他解釋變數的線性組合表示,則稱解釋變數間存在完全共線性。
  如果存在
  c1X1i+c2X2i+…+ckXki+vi=0 , i=1,2,…,n
  其中ci不全為0,vi為隨機干擾項,則稱解釋變數間存在近似共線性。
  2.完全多重共線性下引數估計量不存在
  完全多重共線性時,在Eviews軟體下用普通最小二乘法估計,螢幕出現提示“Near singular matrix”。此時引數無法確定,引數的方差無窮大。
  在近似多重共線性下會有如下影響。
  3.普通最小二乘法引數估計量的方差變大,容易刪掉重要的解釋變數
  在多重共線性下,引數估計量的方差隨著多重共線性的“嚴重程度”,呈“膨脹性”增大。進行統計檢驗時,由於方差的變大,可能使t統計量小於臨界值,誤導作出引數為零的推斷,這樣容易刪掉重要的解釋變數,造成模型設定誤差。
  4.引數估計量的經濟含義不合理
  如果模型中兩個解釋變數具有線性相關性,如X1和X2,那麼它們中的一個變數可以由另一個變量表徵。這時,X1和X2前的引數並不反映各自與被解釋變數之間的結構關係,而是反映它們對被解釋變數的共同影響,所以各自的引數已經失去了應有的經濟含義,於是經常表現出似乎反常的現象,例如估計結果本來應該是正的,而結果是負的.。
  二、逐步迴歸法的缺點
  克服近似多重共線性的常用方法有排除引起共線性的變數、差分法、減小引數估計量的方差等三類方法。其中排除引起共線性的變數是最為有效的克服多重共線性的方法,而逐步迴歸法就是這種方法,因此逐步迴歸法得到了最為廣泛的應用。
  逐步迴歸法的基本步驟是首先把被解釋變數對每一個解釋變數分別進行迴歸,從而得到所有的基本回歸方程式,並對每一個基本回歸方程進行統計檢驗,分析其估計結果,從中選擇最合適的基本回歸方程,然後再逐一增加其它的解釋變數,重新再作迴歸,根據可決係數、修正的可決係數、迴歸係數的t值逐步把顯著性的解釋變數選人迴歸方程中,同時把非顯著性的解釋變數從迴歸方程中剔除,最終建立一個滿意的迴歸方程。但逐步迴歸法的使用也有一些不足。
  1.步驟煩瑣,容易出錯
  雖然Eviews軟體在計量經濟學上的廣泛應用,使引數的估計變的十分方便,但通過反覆的比較,逐步迴歸的方法,步驟還是比較煩瑣,人工操作也容易出錯。如對一個五元迴歸方程,第一大步,建立五元迴歸模型,進行檢驗多重共線性;第二大步,要進行五個一元迴歸方程的建立和比較;第三大步,在第二大步的基礎上,要進行四個二元迴歸方程的建立和比較;第四大步,在第三大步的基礎上,要進行三個三元迴歸方程的建立和比較;第五大步,在第四大步的基礎上,要進行二個四元迴歸方程的建立和比較。通過以上十四次的建立和比較才能確定一個滿意的迴歸方程。如果解釋變數增加,則步驟更多。
  2.結果有可能是區域性最優
  逐步迴歸法的應用可能遺漏最優方程,選出的迴歸方程有可能只是某一個較優的迴歸方程。如在上述第三大步中,進行四個二元迴歸方程的比較時,可能四個二元迴歸方程的t統計量都小於臨界值,而在三元方程則會通過t檢驗,因此我們在二元迴歸方程的選擇可能存在隨意性,這樣的選擇最終可能遺漏最優方程。
  三、程式選優法的設計思想
  1.程式選優法符合“從一般到簡單”的建模思想
  逐步迴歸法是以“由簡單到複雜”的建模思想為指導的,而程式選優法是以“從一般到簡單”的思想為指導,即開始時建立一個一般的模型,將對被解釋變數有影響的所有變數都作為解釋變數,然後在建模的估計和檢驗中選擇,最後得到一個比較簡單的模型。這種建模方法在很大程度上消除了建模過程中的主觀性。如開始時建立一個五元模型,程式選優法通過執行事先編好的程式,會自動建立一個五元迴歸方程,五個四元迴歸方程,十個三元迴歸方程,十個二元迴歸方程,共二十六個可能的方程,同時程式會自動選擇出最優的方程。這種方法簡單快速,保證了所選方程的最優。
  2.完全多重共線性的處理
  正如前面所說,出現完全多重共線性時,在Eviews軟體下用普通最小二乘法估計,螢幕出現 “Near singular matrix”的提示。出現這種情況,如對一個六元模型,此時可以在命令視窗輸入:
  COR y x1 x2 x3 x4 x5 x6
  螢幕出現相關係數矩陣,見表1

多重共線性的程式選優法

 
  從上表可以看出x3和x6的相關係數是1,產生了完全多重共線性,此時在x3和x6之間必須選擇去掉一個,使完全共線性變為近似共線性。事實上完全共線性並不多見,因此在一般情況下也不需要作上述處理。
  3.選優標準及過程
  Eviews軟體是由美國Quantitative Micro Software公司提供的資料分析、迴歸及預測工具,是目前世界上最流行的計量經濟學軟體。另外,Eviews軟體也提供了程式設計和執行程式的功能,這為程式選優法的實現提供了方便。
  程式選優法的選優標準首先要求在所有可能的迴歸方程中被解釋變數係數的p值都小於顯著性水平0.05,即被解釋變數在0.05的顯著性水平下都通過t檢驗。其次,在滿足上述條件下,比較迴歸方程的修正的可決係數,選出修正的可決係數最大的迴歸方程就是最優方程。