1、14對多元線性回歸模型的各種檢驗方法對于形如v= P+P Y+P Y+P v +Y 0 1X1 2X2kXk u （ 1）的回歸模型，我們可能需要對其實施如下的檢驗中的一 種或幾種檢驗：一、對單個總體參數的假設檢驗：t檢驗在這種檢驗中，我們需要對模型中的某個（總體）參數是否滿足虛擬假設H0： ° j =aj ,做出具有統計意義（即帶有一定的置信度）的檢驗，其中aj為某個給定的 已知數。特別是，當aj=0時，稱為參數的（狹義意義 上的）顯著性檢驗。如果拒絕 H。，說明解釋變量Xj對 被解釋變量Y具有顯著的線性影響，估計值 "j才敢使 用；反之，說明解釋變量 Xj對被解釋變量Y

2、不具有顯 著的線性影響，估計值也對我們就沒有意義。具體檢驗 方法如下：(1) 給定虛擬假設 H。： =aj；.?j E(j)jajt = z =z- (2) 計算統計重SeC?j)Sa%)的數值;SeC?j)一？Cjj,其中 Cjj (XTX) 1 j i jM(3) 在給定的顯著水平“下("不能大于0.1即 10%也即我們不能在置信度小于 90%U下的前提下做結 論)，查出雙尾t (n-k-1)分布的臨界值匕/2；(4) 如果出現| t|> %2的情況，檢驗結論為拒絕H0 ；反之，無法拒絕H。P?. - P .t檢驗方法的關鍵是統計量t = 蓊t必須服從已知的t分布函數。什么

3、情況或條件下才會這樣呢？這需 要我們建立的模型滿足如下的條件(或假定)：(D 隨機抽樣性。我們有一個含n次觀測的隨機樣 “Xii,Xi2，Xik,Yj:i= 1,2,，n。這保證了誤差 U 自身的隨機性，即無自相關性，CoMurE(Ui)(Uj E(Uj)=0。(2)條件期望值為0。給定解釋變量的任何值，誤 差U的期望值為零。即有E(u|Xi,X2, ,Xk) = 0這也保證了誤差U獨立于解釋變量X 1 ,X 2 , ,X ,即 模型中的解釋變量是外生性的，也使得 E (U ) = 0。(3)不存在完全共線性。在樣本因而在總體中， 沒有一個解釋變量是常數，解釋變量之間也不存在嚴格 的線性關系。

4、(4)同方差性。Var(u|Xi,X2，Xk)2 =常數。2 .(5) 正態性。誤差U滿足u Normal (0/ )0在以上5個前提下，才可以推導出：?j N j,Var( ?j)(?j - j)/Sd( ?j)N(0,1)(?j - j)/Se( ?j)tn-k-1由此可見，t檢驗方法所要求的條件是極為苛刻的。二、對參數的一個線性組合的假設的檢驗需要檢驗的虛擬假設為 H。：，= %2。比如無法直接檢驗。設立新參數'1 = P 1 - P 2。原虛擬假設等價于H0： % = 0。將，= % + %代入原模型后 得出新模型：Y= ':0 1X12(X1 X2)kXk u (2)

5、在模型(2)中再利用t檢驗方法檢驗虛擬假設H。： 1=0。我們甚至還可以檢驗這樣一個更一般的假設H)自 1n0 :八 P001 1kk Ct統計量為, 信入6“ 小t =t(n k 1), se2 入(Xx) 1 /三、對參數多個線性約束的假設檢驗：F檢驗需要檢驗的虛擬假設為H。：0,該假設對模型（i）施加了 q個排除性約束。模型（1） 在該約束下轉變為如下的新模型：P V 1X1p V 2X2,X.k- q z'k- q(3)模型（1）稱為不受約束（ur）的模型，而模型（3）稱 為受約束（r）的模型。模型（3）也稱為模型（1）的 嵌套模型，或子模型。分別用 OLS方法估計模型（1）和

6、（2）后，可以計算出如下的統計量:RSS rRSS ur / qRSS ur /( n k 1)關鍵在于，不需要滿足t檢驗所需要的假定（3）,統計量F就滿足：F Fq，n-k 一1。利用已知的F分布函數， 我們就可以拒絕或接受虛擬假設Ho：-q，= 0，-q+2,- ,=0了。所以，一般來講，F檢驗比t檢驗更先使用，用的 更普遍，可信度更高。利用關系式RSS = TSS（1 - Rr2）,RSSr=TS1-R：r), F統計量還可以寫成:LRu2r - Rr2 /qF = ;2TT7(1 - Ru2r )/(n - k - 1)四、對回歸模型整體顯著性的檢驗：F檢驗需要檢驗的虛擬假設為Ho ：

7、 B 1 = 0J 2J k = 0。相當于前一個檢驗問題的特例，q = k。嵌套模型變為Y= p 0+ u0 R2 = 0, RSG = TSS, R：r = r2o F統計量變為：_2(1 R2)/(nk 1). ESS/k RSS/(n k 1) 五、檢驗一般的線性約束需要檢驗的虛擬假設比如為 H0 ：二d11, 2,0k = 0。受約束模型變為:Y 0 X1 u再變形為：Y X1 P 0 uo F統計量只可用：l RSSr RSSur / qF =RSgr /(n k 1)其中，RSS = TS§_XJE (Y-XM)-(Y-Xi)2 = s 9-Y)-(XiXJ2。六、檢驗

8、兩個數據集的回歸參數是否相等：皺(至莊)檢驗虛擬假定是總體回歸系數的真值相等。步驟如下：(1) 基于兩組樣本數據，進行相同設定的回歸，將者的RSS另I記為RSS和RSS2。(2)將兩組樣本數據合并，基于合并的樣本數據, 進行相同設定的回歸，將回歸的 RSS記為RSSt。(3) 計算下面的F統計量：l(RSST RSS RSS2)/(k+ 1)F =(RSS+ RS§)/(n1+ n2 - 2k 2)(4)如果F N Fa ,拒絕原假定。七、非正態假定下多個線性約束的大樣本假設檢驗：LM (拉格郎日乘數)檢驗F檢驗方法需要模型(1)中的U滿足正態性假定。在不滿足正態性假定時，在大樣本條

9、件下，可以使用LM統計量。虛擬假設依然是Ho ： P k-q+1=0/k-q+2；- Zk OoLM統計量僅要求對受約束模型的估計。具體步驟如下:(i)將Y對施加限制后的解釋變量進行回歸， 并 保留殘差。即我們要進行了如下的回歸估計 Y V VV0 1X1 2X2kqXkq u(ii)將對所有解釋變量進行輔助回歸，即進行如 下回歸估計 - 99 vu01 X1?2X2ZXk ?并得到R-平方，記為RU2O2(iii)計算統計量 LM=nRu(iv)將LM與一分布中適當的臨界值 C比較。如 果LM>c,就拒絕虛擬假設H。；否則，就不能拒絕虛擬 假設H0o八、對模型函數形式誤設問題的一般檢驗

10、：RESET 如果一個多元回歸模型沒有正確地解釋被解釋變量與所觀察到的解釋變量之間的關系，那它就存在函數形式誤設的問題。誤設可以表現為兩種形式：模型中遺漏了對被解釋變量有系統性影響的解釋變量；錯誤地設定了一個模型的函數形式。在偵察一般的函數形式誤設 方面，拉姆齊(Ramsey 1969)的回歸設定誤差檢驗(regression specification error test , RESET)是一種常用的方法。RESE啃后的思想相當簡單。如果 原模型(1)滿足經典假定(3),那么在模型(1)中添 加解釋變量的非線性關系應該是不顯著的。盡管這樣做通常能偵察出函數形式誤設，但如果原模型中有許多解釋

11、變量，它又有使用掉大量自由度的缺陷。另外，非線 性關系的形式也是多種多樣的。RESETS是在中K型（1）中添加模型（1）的OLS擬合值的多項式，以偵察函數 形式誤設的一般形式。為了實施RESET我們必須決定在一個擴大的回歸 模型中包括多少個擬合值的函數。 雖然對這個問題沒有 正確的答案，但在大多數應用研究中，都表明平方項和 三次項很有用。令表示從模型（1）所得到的OLS古計 值。考慮擴大的模型Y =兔+01X1 +F2X2 + +PkXk+61Y?2+62Y?3+S（4）這個模型看起來有些奇怪，因為原估計的擬合值的函數 現在卻出作為解釋變量出現。實際上，我們對模型（4） 的參數估計并不感興趣，

12、我們只是利用這個模型來檢驗 模型（1）是否遺漏掉了重要的非線性關系。記住，P和 密都只是Xj的非線性函數。對模型（4）,我們檢驗虛擬假設Ho：6l0,62 = 0。這時， 模型（4）是無約束模型，模型（1）是受約束模型。計 算F統計量。需要查F2，n-k-3分布表。拒絕H0,模型（1）存在誤設，否則，不存在誤設。九、利用非嵌套模型檢驗函數形式誤設尋求對函數形式誤設的其他類型(比如，試圖決定某 一解釋變量究竟應以水平值形式還是對數形式出現)作出檢驗，需要離開經典假設檢驗的轄域。有可能要相對 模型Y-0+ Llog(X) B 210g(X2)+Pklog(Xk)+，(5) 檢驗模型(1),或者把兩

13、個模型反過來。然而，它們是 非嵌套的，所以我們不能僅使用標準的 F檢驗。有兩種 不同的方法。一種方法由 Mizon and Richard (1986) 提出，構造一 個綜合模型，將每個模型作為一個特殊情形而包含其 中，然后檢驗導致每個模型的約束。對于模型(1)和模型(5)而言，綜合模型就是Y = " +ZX1 + +"Xk + +”#og(X1)+"”g(Xk) + R( 6)可以先檢驗Ho：”*=0，i - 0,作為對模型(1)的檢驗。也 可以通過對檢驗H0T1=0,16k=0,作為對模型(5)的檢驗。另一種方法由 Davison and MacKinnon

14、（1981） 提出。 認為，如果模型（1）是正確的，那么從模型（5）得到 的擬合值在模型（1）中應該是不顯著的。因此，為了 檢驗模型（1）的正確性，首先用OLS古計模型（5）以 得到擬合值，并記為夫在新模型y = F0+P1X1 +吵2+FkXk+81落口（7）中計算中的t統計量，利用t檢驗拒絕或接受假定H°a . 0。 顯著的t統計量就是拒絕模型（1）的證據。類似的， 為了檢驗模型（5）的正確性，首先用OLS古計模型（1） 以得到擬合值，并記為中。在新模型Y = P° +Pilog（Xi） + p2log（X2）+ + 久 log（Xk）+3«+N（ 8）中計算Y?的t統計量，利用t檢驗拒絕或接受假定Ho：30。 以上兩種檢驗方法可以用于檢驗任意兩個具有相同 的被解釋變量的非嵌套模型。非嵌套檢驗存在一些問題。首先，不一定會出現一個 明顯好的模型。兩個模型可能都被拒絕，也可能沒有一 個被拒絕。在后一種情形中，我們可以使用調整的R-平方進行選擇。如果兩個模型都被拒絕，則有更多的工作要做。不過，重要的是知道使用這種或那種函