第三章經典單方程計量經濟學模型：多元線性回歸模型

多元線性回歸模型多元線性回歸模型的參數估計多元線性回歸模型的統計檢驗多元線性回歸模型的預測回歸模型的其他形式回歸模型的參數約束§3.1多元線性回歸模型

一、多元線性回歸模型

二、多元線性回歸模型的基本假定

一、多元線性回歸模型

多元線性回歸模型:表現在線性回歸模型中的解釋變量有多個。

一般表現形式：i=1,2…,n其中:k為解釋變量的數目，j(j=1,2…,k)稱為回歸參數（regressioncoefficient）。Yi=b0+b1X1i

+b2X2i

+...+bkXki

+mi

總體回歸模型n個隨機方程的矩陣表達式為:

其中

j也被稱為偏回歸系數，表示在其他解釋變量保持不變的情況下，Xj每變化1個單位時，Y的均值E(Y)的變化;或者說j給出了Xj的單位變化對Y均值的“直接”或“凈”（不含其他變量）影響。用來估計總體回歸模型的樣本回歸函數為：其隨機表示式:

ei稱為殘差或剩余項(residuals)，可看成是總體回歸函數中隨機擾動項i的近似替代。

樣本回歸函數的矩陣表達:

或其中：ikikiiieXXXY+++++=bbbb????22110LkikiiiXXXYbbbb?????22110++++=L二、多元線性回歸模型的基本假定

假設1，解釋變量是非隨機的或固定的，且各X之間互不相關（無多重共線性）。

假設2，隨機誤差項具有零均值、同方差及不序列相關性。

假設3，解釋變量與隨機項不相關假設4，隨機項滿足正態分布

§3.2多元線性回歸模型的估計

一、普通最小二乘估計*二、最大或然估計*三、矩估計四、參數估計量的性質五、樣本容量問題六、估計實例

說明估計方法：3大類方法：OLS、ML或者MM在經典模型中多應用OLS在非經典模型中多應用ML或者MM在本節中，ML與MM為選學內容一、普通最小二乘估計對于隨機抽取的n組觀測值如果樣本函數的參數估計值已經得到，則有：

i=1,2…n根據最小二乘原理，參數估計值應該是右列方程組的解

其中于是得到關于待估參數估計值的正規方程組：

解該（k+1）個方程組成的線性代數方程組，即可得到(k+1)個待估參數的估計值$,,,,,bjj=012L。k□正規方程組的矩陣形式即由于X’X滿秩，故有

例3.2.1：在例2.1.1的家庭收入-消費支出例中，

可求得

于是

?隨機誤差項的方差的無偏估計

可以證明，隨機誤差項的方差的無偏估計量為：

四、參數估計量的性質在滿足基本假設的情況下，其結構參數的普通最小二乘估計、最大或然估計及矩估計仍具有：

線性性、無偏性、有效性。同時，隨著樣本容量增加，參數估計量具有：

漸近無偏性、漸近有效性、一致性。

五、樣本容量問題

所謂“最小樣本容量”，即從最小二乘原理和最大或然原理出發，欲得到參數估計量，不管其質量如何，所要求的樣本容量的下限。

⒈最小樣本容量

樣本最小容量必須不少于模型中解釋變量的數目（包括常數項）,即

n

≥

k+1

2、滿足基本要求的樣本容量

從統計檢驗的角度：

n30時，Z檢驗才能應用；

n-k≥8時,t分布較為穩定

一般經驗認為:

當n≥30或者至少n≥3(k+1)時，才能說滿足模型估計的基本要求。

模型的良好性質只有在大樣本下才能得到理論上的證明

六、多元線性回歸模型的參數估計實例

例3.2.2在例2.5.1中，已建立了中國居民人均消費一元線性模型。這里我們再考慮建立多元線性模型。解釋變量：人均GDP：GDPP前期消費：CONSP(-1)估計區間：1979~2000年Eviews軟件估計結果

§3.3多元線性回歸模型的統計檢驗

一、擬合優度檢驗二、方程的顯著性檢驗(F檢驗)

三、變量的顯著性檢驗（t檢驗）四、模型的序列相關性檢驗(DW法)

一、擬合優度檢驗1、可決系數與調整的可決系數則總離差平方和的分解由于:

=0所以有：

注意：一個有趣的現象????－+++=ikiikiiieYXeXeebbb???110L

可決系數該統計量越接近于1，模型的擬合優度越高。

問題：在應用過程中發現，如果在模型中增加一個解釋變量，R2往往增大（Why?)這就給人一個錯覺：要使得模型擬合得好，只要增加解釋變量即可。——

但是，現實情況往往是，由增加解釋變量個數引起的R2的增大與擬合好壞無關，R2需調整。

調整的可決系數（adjustedcoefficientofdetermination）

在樣本容量一定的情況下，增加解釋變量必定使得自由度減少，所以調整的思路是:將殘差平方和與總離差平方和分別除以各自的自由度，以剔除變量個數對擬合優度的影響:其中：n-k-1為殘差平方和的自由度，n-1為總體平方和的自由度。

*2、赤池信息準則和施瓦茨準則

為了比較所含解釋變量個數不同的多元回歸模型的擬合優度，常用的標準還有:

赤池信息準則（Akaikeinformationcriterion,AIC）施瓦茨準則（Schwarzcriterion，SC）

這兩準則均要求僅當所增加的解釋變量能夠減少AIC值或SC值時才在原模型中增加該解釋變量。

nnknSClnln+￠=eeei2Eviews的估計結果顯示：中國居民消費二元例中：AIC=9.523SC=9.671中國居民消費一元例中：AIC=9.929SC=10.028從這點看，可以說前期人均居民消費CONSP(-1)應包括在模型中。

二、方程的顯著性檢驗(F檢驗)

方程的顯著性檢驗，旨在對模型中被解釋變量與解釋變量之間的線性關系在總體上是否顯著成立作出推斷。

1、方程顯著性的F檢驗

即檢驗模型Yi=0+1X1i+2X2i++kXki+ii=1,2,,n中的參數j是否顯著不為0。

可提出如下原假設與備擇假設：H0：1=2==k=0(注意0是否為0無關緊要)H1：j(j=1,…,k)不全為0F檢驗的思想來自于總離差平方和的分解式：

TSS=ESS+RSS

如果ESS/RSS較大，則X的聯合體對Y的解釋程度高，可認為總體存在線性關系，反之總體上可能不存在線性關系。

因此,可通過該比值的大小對總體線性關系進行推斷。

根據數理統計學中的知識，在原假設H0成立的條件下，統計量

服從自由度為(k,n-k-1)的F分布。

給定顯著性水平，可得到臨界值F(k,n-k-1)由樣本求出統計量F的數值，則當F

F(k,n-k-1)時拒絕原假設H0，接受備擇假設H1，認為原方程總體上線性關系顯著成立；當F≤F(k,n-k-1)時接受原假設H0，認為原方程總體上線性關系不顯著，故該方程不能成立。對于中國居民人均消費支出的例子：一元模型：F=2859.54二元模型：F=2056.89給定顯著性水平=0.05，查分布表，得到臨界值：一元例：F(1,21)=4.32二元例：

F(2,19)=3.52（這里的第二自由度為何是19？）顯然有F

F(k,n-k-1)，即二個模型的線性關系在95%的水平下顯著成立。

2、關于擬合優度檢驗與方程顯著性檢驗關系的討論

由可推出：與同理：F與R2同方向變化：當R2=0時，F=0;R2越大，F值也越大;當R2=1時，F為無窮大。檢驗H0:b1=b2=...=bk等價于檢驗R2=0問題：可決系數和調整的可決系數都是不大于1的非負實數嗎？在中國居民人均收入—消費一元模型中(n=23)，在中國居民人均收入—消費二元模型中，由此可知，可決系數R2值即使很小，也不能就此斷定X與Y之間就沒有線性相關性。三、變量的顯著性檢驗（t檢驗）

方程的總體線性關系顯著每個解釋變量對被解釋變量的影響都是顯著的。因此，必須對每個解釋變量進行顯著性檢驗，以決定是否作為解釋變量被保留在模型中。這一檢驗是由對變量的t檢驗完成的。

1、t統計量

由于以cii表示矩陣(X’X)-1

主對角線上的第i個元素，于是參數估計量的方差為：

其中2為隨機誤差項的方差，在實際計算時，用它的估計量代替:

因此，可構造如下t統計量

2、t檢驗設計原假設與備擇假設：

H1：i0

給定顯著性水平，可得到臨界值t/2(n-k-1)，由樣本求出統計量t的數值，通過|t|

t/2(n-k-1)或|t|≤t/2(n-k-1)來拒絕或接受原假設H0，從而判定對應的解釋變量是否應包括在模型中。

H0：i=0

（i=1,2…k）

注意：一元線性回歸中，t檢驗與F檢驗一致

一方面，t檢驗與F檢驗都是對相同的原假設H0：1=0進行檢驗;

另一方面，兩個統計量之間有如下關系：

在中國居民人均收入-消費支出二元模型例中，由應用軟件計算出參數的t值：給定顯著性水平=0.05，查得相應臨界值：t0.025(19)=2.093。可見，計算的所有t值都大于該臨界值，所以拒絕原假設。即:包括常數項在內的3個解釋變量都在95%的水平下顯著，都通過了變量顯著性檢驗。如何才能縮小置信區間？

增大樣本容量n，因為在同樣的樣本容量下，n越大，t分布表中的臨界值越小，同時，增大樣本容量，還可使樣本參數估計量的標準差減小；提高模型的擬合優度，因為樣本參數估計量的標準差與殘差平方和呈正比，模型優度越高，殘差平方和應越小。提高樣本觀測值的分散度,一般情況下，樣本觀測值越分散，(X'X)－1的分母的|X'X|的值越大，致使區間縮小。1、序列相關性概念

如果對于不同的樣本點，隨機誤差項之間不再是不相關的，而是存在某種相關性，則認為出現了序列相關性。

對于模型

Yt=0+1X1t+2X2t+…+kXkt+t

t=1,2,…,n隨機項互不相關的基本假設表現為

Cov(t

,t)=0

tj,t,j=1,2,…,n四、模型的序列相關性檢驗——杜賓-瓦森（Durbin-Watson）檢驗法

或在其他假設仍成立的條件下，序列相關即意味著0)(1jtEmm稱為一階列相關，或自相關（autocorrelation）其中：被稱為自協方差系數（coefficientofautocovariance）或一階自相關系數（first-ordercoefficientofautocorrelation）

i是滿足以下標準的OLS假定的隨機干擾項：如果僅存在

E(t

t+1)0

t=1,2,…,n自相關往往可寫成如下形式：

t=t-1+t-1<<1

由于序列相關性經常出現在以時間序列為樣本的模型中，因此，本節將用下標t代表i。2、實際經濟問題中的序列相關性

大多數經濟時間數據都有一個明顯的特點:慣性，表現在時間序列不同時間的前后關聯上。由于消費習慣的影響被包含在隨機誤差項中，則可能出現序列相關性（往往是正相關）。例如，絕對收入假設下居民總消費函數模型：Ct=0+1Yt+tt=1,2,…,n(1)、經濟變量固有的慣性(2)、模型設定的偏誤

所謂模型設定偏誤（Specificationerror）是指所設定的模型“不正確”。主要表現在模型中丟掉了重要的解釋變量或模型函數形式有偏誤。

例如，本來應該估計的模型為

Yt=0+1X1t+2X2t+3X3t+t但在模型設定中做了下述回歸：

Yt=0+1X1t+1X2t+vt因此，vt=3X3t+t，如果X3確實影響Y，則出現序列相關。

但建模時設立了如下模型：Yt=0+1Xt+vt因此，由于vt=2Xt2+t,，包含了產出的平方對隨機項的系統性影響，隨機項也呈現序列相關性。又如：如果真實的邊際成本回歸模型應為：Yt=0+1Xt+2Xt2+t其中：Y=邊際成本，X=產出，(3)、數據的“編造”例如：季度數據來自月度數據的簡單平均，這種平均的計算減弱了每月數據的波動性，從而使隨機干擾項出現序列相關。還有就是兩個時間點之間的“內插”技術往往導致隨機項的序列相關性。

在實際經濟問題中，有些數據是通過已知數據生成的。因此，新生成的數據與原數據間就有了內在的聯系，表現出序列相關性。

計量經濟學模型一旦出現序列相關性，如果仍采用OLS法估計模型參數，會產生下列不良后果：3、序列相關性的后果(1)、參數估計量非有效因為，在有效性證明中利用了E(NN’)=2I

即同方差性和互相獨立性條件。(2)、變量的顯著性檢驗失去意義

在變量的顯著性檢驗中，統計量是建立在參數方差正確估計基礎之上的，這只有當隨機誤差項具有同方差性和互相獨立性時才能成立。其他檢驗也是如此。(3)、模型的預測失效

區間預測與參數估計量的方差有關，在方差有偏誤的情況下，使得預測估計不準確，預測精度降低。所以，當模型出現序列相關性時，它的預測功能失效。D-W檢驗是杜賓（J.Durbin）和瓦森(G.S.Watson)于1951年提出的一種檢驗序列自相關的方法，該方法的假定條件是：（1）解釋變量X非隨機；（2）隨機誤差項t為一階自回歸形式：

t=t-1+t（3）回歸模型中不應含有滯后應變量作為解釋變量，即不應出現下列形式：Yt=0+1X1t+kXkt+Yt-1+t（4）回歸含有截距項4、序列相關性檢驗——DW檢驗法

該統計量的分布與出現在給定樣本中的X值有復雜的關系，因此其精確的分布很難得到。但是，他們成功地導出了臨界值的下限dL和上限dU，且這些上下限只與樣本的容量n和解釋變量的個數k有關，而與解釋變量X的取值無關。杜賓和瓦森針對原假設：H0:=0，即不存在一階自回歸，構造如下統計量：

D.W.統計量D.W檢驗步驟:（1）計算DW值（2）給定，由n和k的大小查DW分布表，得臨界值dL和dU（3）比較、判斷若0<D.W.<dL存在正自相關dL<D.W.<dU不能確定dU<D.W.<4－dU無自相關4－dU<D.W.<4－dL不能確定4－dL<D.W.<4存在負自相關

0dLdU24-dU4-dL4正相關不能確定無自相關不能確定負相關當D.W.值在2左右時，模型不存在一階自相關。

證明：展開D.W.統計量：

(*)如果存在完全一階正相關，即=1，則D.W.0

完全一階負相關，即=-1,則D.W.4

完全不相關，即=0，則D.W.2這里，為一階自回歸模型

t=t-1+t的參數估計。§3.4多元線性回歸模型的預測

一、Y0的預測值二、Y0的置信區間對于模型

給定樣本以外的解釋變量的觀測值X0=(1,X10,X20,…,Xk0)，可以得到被解釋變量的預測值：它是Y0的預測。但嚴格地說，這只是被解釋變量的預測值的估計值，而不是預測值。

為了進行科學預測，還需求出預測值的置信區間，即Y0的置信區間。

Y0的置信區間如果已經知道實際的預測值Y0，那么預測誤差為：容易證明

e0服從正態分布，即

構造t統計量

可得給定(1-)的置信水平下Y0的置信區間：

中國居民人均收入-消費支出二元模型例中：2001年人均GDP：4033.1元，于是人均居民消費的預測值為

?2001=120.7+0.2213×4033.1+0.4515×1690.8=1776.726（元）

實測值（90年價）=1782.2元，相對誤差：-0.31%，與一元模型相比，相對誤差降低了。預測的置信區間：一元模型：CONSP2001=201.107+0.38624033.1=1758.7（元）于是E(?2001）的95%的置信區間為:

或（1741.8，1811.7）X0(X'X)-1X'0

=0.3938(注意書上寫錯了！)或（1776.8-2.093*31.358,1776.8+2.093*31.358,）

同樣，易得?2001的95%的置信區間為或

（1711.1,1842.4）

比較：一元模型的置信區間為：（1680.62,1836.78）劉書P54頁應用實例3.4.1快遞服務公司統計數據表編號工作時間Y投遞行程X2業務次數X319.3100424.850338.9100446.5100254.250266.280277.47538665497.6903106.1902合計6780029建立回歸模型用eviews計算：i=1,2…,nYi=b1+b2X2i

+b3X3i

+mi

當X2

=60,X3i=2時Y的預測值為：4.6462(先把eviews里的X2和X3數列添加第11個值60和2，再進入回歸計算結果頁面點工具欄上的“forecast”即可)由eviews計算結果可知，總體方差的樣本標準差(也稱回歸標準誤差S.E.ofRegression)為0.5731由此按照公式不難把預測區間算出。(注意閱讀劉書P54 關于用S代替S0求解預測區間的解釋)Yi=-0.8687

+

0.0611X2i

+

0.9234X3i

+mi

回歸方程為：第5節虛擬變量模型

一、虛擬變量的基本含義二、虛擬變量的引入三、虛擬變量的設置原則一、虛擬變量的基本含義許多經濟變量是可以定量度量的，如：商品需求量、價格、收入、產量等但也有一些影響經濟變量的因素無法定量度量，如：職業、性別對收入的影響，戰爭、自然災害對GDP的影響，季節對某些產品（如冷飲）銷售的影響等等。為了在模型中能夠反映這些因素的影響，并提高模型的精度，需要將它們“量化”，這種“量化”通常是通過引入“虛擬變量”來完成的。根據這些因素的屬性類型，構造只取“0”或“1”的人工變量，通常稱為虛擬變量（dummyvariables），記為D。例如，反映文化程度的虛擬變量可取為：1，本科學歷D=0，非本科學歷一般地，在虛擬變量的設置中：基礎類型、肯定類型取值為1；比較類型，否定類型取值為0。概念：同時含有一般解釋變量與虛擬變量的模型稱為虛擬變量模型或者方差分析（analysis-ofvariance:ANOVA）模型。一個以性別為虛擬變量考察企業職工薪金的模型：其中：Yi為企業職工的薪金，Xi為工齡，Di=1，若是男性，Di=0，若是女性。

二、虛擬變量的引入虛擬變量做為解釋變量引入模型有兩種基本方式：加法方式和乘法方式。

企業男職工的平均薪金為：上述企業職工薪金模型中性別虛擬變量的引入采取了加法方式。在該模型中，如果仍假定E(i)=0，則

企業女職工的平均薪金為：

1、加法方式幾何意義：假定2>0，則兩個函數有相同的斜率，但有不同的截距。意即，男女職工平均薪金對教齡的變化率是一樣的，但兩者的平均薪金水平相差2。可以通過傳統的回歸檢驗，對2的統計顯著性進行檢驗，以判斷企業男女職工的平均薪金水平是否有顯著差異。02

又例：在橫截面數據基礎上，考慮個人保健支出對個人收入和教育水平的回歸。教育水平考慮三個層次：高中以下，高中，大學及其以上模型可設定如下：這時需要引入兩個虛擬變量：在E(i)=0的初始假定下，高中以下、高中、大學及其以上教育水平下個人保健支出的函數：高中以下：高中：大學及其以上：假定3>2，其幾何意義：還可將多個虛擬變量引入模型中以考察多種“定性”因素的影響。

如在上述職工薪金的例中，再引入代表學歷的虛擬變量D2：本科及以上學歷本科以下學歷職工薪金的回歸模型可設計為：女職工本科以下學歷的平均薪金：女職工本科以上學歷的平均薪金：于是，不同性別、不同學歷職工的平均薪金分別為：男職工本科以下學歷的平均薪金：男職工本科以上學歷的平均薪金：

2、乘法方式加法方式引入虛擬變量，考察：截距的不同，許多情況下：往往是斜率有變化，或斜率、截距同時發生變化。斜率的變化可通過以乘法的方式引入虛擬變量來測度。例：根據消費理論，消費水平C主要取決于收入水平Y，但在一個較長的時期，人們的消費傾向會發生變化，尤其是在自然災害、戰爭等反常年份，消費傾向往往出現變化。這種消費傾向的變化可通過在收入的系數中引入虛擬變量來考察。這里，虛擬變量D以與X相乘的方式引入了模型中，從而可用來考察消費傾向的變化。假定E(i)=0，上述模型所表示的函數可化為：

正常年份：

反常年份：如，設消費模型可建立如下：

當截距與斜率發生變化時，則需要同時引入加法與乘法形式的虛擬變量。例5.1.1，考察1990年前后的中國居民的總儲蓄-收入關系是否已發生變化。表5.1.1中給出了中國1979~2001年以城鄉儲蓄存款余額代表的居民儲蓄以及以GNP代表的居民收入的數據。以Y為儲蓄，X為收入，可令：1990年前：Yi=1+2Xi+1ii=1,2…,n1

1990年后：Yi=1+2Xi+2ii=1,2…,n2

則有可能出現下述四種情況中的一種：(1)1=1，且2=2，即兩個回歸相同，稱為重合回歸（CoincidentRegressions）；(2)11,但2=2，即兩個回歸的差異僅在其截距，稱為平行回歸（ParallelRegressions）;(3)1=1，但22，即兩個回歸的差異僅在其斜率，稱為匯合回歸(ConcurrentRegressions)；(4)11，且22，即兩個回歸完全不同，稱為相異回歸（DissimilarRegressions）。可以運用鄒氏結構變化的檢驗。這一問題也可通過引入乘法形式的虛擬變量來解決。將n1與n2次觀察值合并，并用以估計以下回歸：Di為引入的虛擬變量：于是有：可分別表示1990年后期與前期的儲蓄函數。在統計檢驗中，如果4=0的假設被拒絕，則說明兩個時期中儲蓄函數的斜率不同。具體的回歸結果為：(-6.11)(22.89)(4.33)(-2.55)由3與4的t檢驗可知：參數顯著地不等于0，強烈示出兩個時期的回歸是相異的，

儲蓄函數分別為：1990年前：1990年后：=0.98363、臨界指標的虛擬變量的引入在經濟發生轉折時期，可通過建立臨界指標的虛擬變量模型來反映。例如，進口消費品數量Y主要取決于國民收入X的多少，中國在改革開放前后，Y對X的回歸關系明顯不同。這時，可以t*=1979年為轉折期，以1979年的國民收入Xt*為臨界值，設如下虛擬變量：則進口消費品的回歸模型可建立如下：

OLS法得到該模型的回歸方程為則兩時期進口消費品函數分別為：當t<t*=1979年，當tt*=1979年，三、虛擬變量的設置原則虛擬變量的個數須按以下原則確定：

每一定性變量所需的虛擬變量個數要比該定性變量的類別數少1，即如果有m個定性變量，只在模型中引入m-1個虛擬變量。

例。已知冷飲的銷售量Y除受k種定量變量Xk的影響外，還受春、夏、秋、冬四季變化的影響，要考察該四季的影響