單方程計量經濟學模型

理論與方法TheoryandMethodologyofSingle-EquationEconometricModel第二章經典單方程計量經濟學模型：

一元線性回歸模型

回歸分析概述一元線性回歸模型的參數估計一元線性回歸模型檢驗一元線性回歸模型預測實例§2.1回歸分析概述一、變量間的關系及回歸分析的基本概念二、總體回歸函數三、隨機擾動項四、樣本回歸函數（SRF）§2.1回歸分析概述（1）確定性關系或函數關系：研究的是確定現象非隨機變量間的關系。（2）統計依賴或相關關系：研究的是非確定現象隨機變量(RandomVariable)間的關系。一、變量間的關系及回歸分析的基本概念

1、變量間的關系經濟變量之間的關系，大體可分為兩類：對變量間統計依賴關系的考察主要是通過相關分析(correlationanalysis,includinglinearrelationshipandnon-linearrelationship

)或回歸分析(regressionanalysis)來完成的：例如：

函數關系：統計依賴關系/統計相關關系：線性相關的兩變量的相關系數如果給定X和Y一組樣本的觀察值則相關系數為isthe(sample)covarianceofthevariablesdividedbytheir(sample)standarddeviations

①不線性相關并不意味著不相關；

②有相關關系并不意味著一定有因果關系；

③回歸分析/相關分析研究一個變量對另一個（些）變量的統計依賴關系，但它們并不意味著一定有因果關系。

④相關分析對稱地對待任何（兩個）變量，兩個變量都被看作是隨機的。回歸分析對變量的處理方法存在不對稱性，即區分應變量（被解釋變量）和自變量（解釋變量）：前者是隨機變量，后者不是。▲注意：

回歸分析(regressionanalysis)是研究一個變量關于另一個（些）變量的具體依賴關系的計算方法和理論。

其用意：在于通過后者的已知或設定值，去估計和（或）預測前者的（總體）均值。這里：前一個變量被稱為被解釋變量（ExplainedVariable）或應變量（DependentVariable），后一個（些）變量被稱為解釋變量（ExplanatoryVariable）或自變量（IndependentVariable）。2、回歸分析的基本概念

回歸分析構成計量經濟學的方法論基礎，其主要內容包括：

（1）根據樣本觀察值對經濟計量模型參數進行估計，求得回歸方程；（2）對回歸方程、參數估計值進行顯著性檢驗；（3）利用回歸方程進行分析、評價及預測。

由于變量間關系的隨機性，回歸分析關心的是根據解釋變量的已知或給定值，考察被解釋變量的總體均值，即當解釋變量取某個確定值時，與之統計相關的被解釋變量所有可能出現的對應值的平均值。例2.1：一個假想的社區有100戶家庭組成，要研究該社區每月家庭消費支出Y與每月家庭可支配收入X的關系。即如果知道了家庭的月收入，能否預測該社區家庭的平均月消費支出水平。二、總體回歸函數

為達到此目的，將該100戶家庭劃分為組內收入差不多的10組，以分析每一收入組的家庭消費支出。（1）由于不確定因素的影響，對同一收入水平X，不同家庭的消費支出不完全相同；（2）但由于調查的完備性，給定收入水平X的消費支出Y的分布是確定的，即以X的給定值為條件的Y的條件分布（Conditionaldistribution）是已知的，如：P(Y=561|X=800）=1/4。因此，給定收入X的值Xi，可得消費支出Y的條件均值（conditionalmean）或條件期望（conditionalexpectation）：

E(Y|X=Xi)該例中：E(Y|X=800)=605分析：描出散點圖發現：隨著收入的增加，消費“平均地說”也在增加，且Y的條件均值均落在一根正斜率的直線上。這條直線稱為總體回歸線。05001000150020002500300035005001000150020002500300035004000每月可支配收入X（元）每月消費支出Y（元）

概念：

在給定解釋變量Xi條件下被解釋變量Yi的期望軌跡稱為總體回歸線（populationregressionline），或更一般地稱為總體回歸曲線（populationregressioncurve）。稱為（雙變量）總體回歸函數（populationregressionfunction,PRF）。

相應的函數：

回歸函數（PRF）說明被解釋變量Y的平均狀態（總體條件期望）隨解釋變量X變化的規律。含義：

函數形式：可以是線性或非線性的。例2.1中，將居民消費支出看成是其可支配收入的線性函數時:

為一線性函數。其中，

0，

1是未知參數，稱為回歸系數（regressioncoefficients）。

。

三、隨機擾動項總體回歸函數說明在給定的收入水平Xi下，該社區家庭平均的消費支出水平。但對某一個別的家庭，其消費支出可能與該平均水平有偏差。稱

i為觀察值Yi圍繞它的期望值E(Y|Xi)的離差（deviation），是一個不可觀測的隨機變量，又稱為隨機干擾項（stochasticdisturbance）或隨機誤差項（stochasticerror）。記例2.1中，個別家庭的消費支出為：

（*）式稱為總體回歸函數（方程）PRF的隨機設定形式。表明被解釋變量除了受解釋變量的系統性影響外，還受其他因素的隨機性影響。（1）該收入水平下所有家庭的平均消費支出E(Y|Xi)，稱為系統性（systematic）或確定性（deterministic)部分。（2）其他隨機或非確定性（nonsystematic)部分

i。即，給定收入水平Xi,個別家庭的支出可表示為兩部分之和:(*)由于方程中引入了隨機項，成為計量經濟學模型，因此也稱為總體回歸模型。隨機誤差項主要包括下列因素的影響：1）未知的影響因素；2）殘缺數據3）眾多細小影響因素4）變量觀測值的觀測誤差的影響；5）模型關系的設定誤差的影響；6）變量的內在隨機性。產生并設計隨機誤差項的主要原因：1）理論的含糊性；2）數據的欠缺；3）節省原則。

四、樣本回歸函數（SRF）

問題：能從一次抽樣中獲得總體的近似的信息嗎？如果可以，如何從抽樣中獲得總體的近似信息？問：能否從該樣本估計總體回歸函數PRF？回答：能例2.2：在例2.1的總體中有如下一個樣本，

總體的信息往往無法掌握，現實的情況只能是在一次觀測中得到總體的一個樣本。核樣本的散點圖（scatterdiagram)：

樣本散點圖近似于一條直線，畫一條直線以盡好地擬合該散點圖，由于樣本取自總體，可以該線近似地代表總體回歸線。該線稱為樣本回歸線（sampleregressionlines）。記樣本回歸線的函數形式為：稱為樣本回歸函數（sampleregressionfunction，SRF）。

這里將樣本回歸線看成總體回歸線的近似替代則

注意：

樣本回歸函數的隨機形式/樣本回歸模型：同樣地，樣本回歸函數也有如下的隨機形式：

由于方程中引入了隨機項，成為計量經濟模型，因此也稱為樣本回歸模型（sampleregressionmodel）。

▼回歸分析的主要目的：根據樣本回歸函數SRF，估計總體回歸函數PRF。注意：這里PRF可能永遠無法知道。即，根據

估計§2.2一元線性回歸模型的基本假設

由于回歸分析的主要目的是要通過樣本回歸函數（模型）SRF盡可能準確地估計總體回歸函數（模型）PRF。即通過

采用普通最小二乘或者普通最大似然方法估計。為了保證參數估計量具有良好的性質，需要回歸模型滿足一些基本條件。主要內容一、關于模型設定的假設二、關于解釋變量的假設三、關于隨機項的假設1、關于模型關系的假設模型設定正確假設。Theregressionmodeliscorrectlyspecified.線性回歸假設。Theregressionmodelislinearintheparameters。注意：“linearintheparameters”的含義是什么？2、關于解釋變量的假設確定性假設。Xvaluesarefixedinrepeatedsampling.Moretechnically,Xisassumedtobenonstochastic.

注意：“inrepeatedsampling”的含義是什么？與隨機項不相關假設。ThecovariancesbetweenXiandμiarezero.由確定性假設可以推斷。觀測值變化假設。Xvaluesinagivensamplemustnotallbethesame.無完全共線性假設。Thereisnoperfectmulticollinearityamongtheexplanatoryvariables.

適用于多元線性回歸模型。樣本方差假設。隨著樣本容量的無限增加，解釋變量X的樣本方差趨于一有限常數。時間序列數據作樣本時間適用3、關于隨機項的假設0均值假設。Theconditionalmeanvalueofμiiszero.同方差假設。Theconditionalvariancesofμiareidentical.(Homoscedasticity)由模型設定正確假設推斷。是否滿足需要檢驗。序列不相關假設。Thecorrelationbetweenanytwoμiandμjiszero.是否滿足需要檢驗。

正態性假設。Theμ’sfollowthenormaldistribution在采用OLS進行參數估計時，不需要正態性假設。在利用參數估計量進行統計推斷時，需要假設隨機項的概率分布。推論：被解釋變量Y的分布為

4、CLRM和CNLRM以上假設（正態性假設除外）也稱為線性回歸模型的經典假設或高斯（Gauss）假設，滿足該假設的線性回歸模型，也稱為經典線性回歸模型（ClassicalLinearRegressionModel,CLRM）。同時滿足正態性假設的線性回歸模型，稱為經典正態線性回歸模型（ClassicalNormalLinearRegressionModel,CNLRM）。幾乎沒有哪個實際問題能夠同時滿足所有基本假設；通過模型理論方法的發展，可以克服違背基本假設帶來的問題（除正態假設外）；違背基本假設問題的處理構成了單方程線性計量經濟學理論方法的主要內容：

異方差問題（違背同方差假設）序列相關問題（違背序列不相關假設）共線性問題（違背解釋變量不相關假設）隨機解釋變量（違背解釋變量確定性假設）重要提示§2.3一元線性回歸模型的參數估計

(EstimationofSimpleLinearRegressionModel)

零、預備知識一、參數的普通最小二乘估計（OLS）二、參數估計的最大或然法(ML)三、參數估計的矩法（MM）四、最小二乘估計量的性質五、參數估計量的概率分布及隨機干擾項方差的估計

如果線性方程組的系數行列式D不等于零，則方程組有唯一解（1）CRAMMER法則解CRAMMER法則應用所以1、Crammer法則只能用于求解方程個數與未知數個數相等的線性方程組；2、Crammer法則只能求得系數行列式不為零時的線性方程組的唯一解；即如果方程個數與未知數個數不相等，或系數行列式等于零，則Crammer法則失效。3、計算量大，要計算n+1個n階行列式的值。

CRAMMER法則應用局限一、參數的普通最小二乘估計（OLS）

給定一組樣本觀測值（Xi,Yi）（i=1,2,…n）要求樣本回歸函數盡可能好地擬合這組值.

普通最小二乘法（Ordinaryleastsquares,OLS）給出的判斷標準是：二者之差的平方和最小。方程組（*）稱為正規方程組（normalequations）。

記上述參數估計量可以寫成：

稱為OLS估計量的離差形式（deviationform）。由于參數的估計結果是通過最小二乘法得到的，故稱為普通最小二乘估計量（ordinaryleastsquaresestimators）。

順便指出，記則有

可得

（**）式也稱為樣本回歸函數的離差形式。（**）注意：

在計量經濟學中，往往以小寫字母表示對均值的離差。

“估計量”（estimator）和“估計值”

(estimate)的區別

如果給出的參數估計結果是由一個具體樣本資料計算出來的，它是一個“估計值”，或者“點估計”，是參數估計量的一個具體數值；如果把上式看成參數估計的一個表達式，那么，則是Yi的函數，而Yi是隨機變量，所以參數估計也是隨機變量，在這個角度上，稱之為“估計量”。

二、參數估計的最大或然法(ML)

最大或然法(MaximumLikelihood,簡稱ML)，也稱最大似然法，是不同于最小二乘法的另一種參數估計方法，是從最大或然原理出發發展起來的其它估計方法的基礎。

基本原理：對于最大或然法，當從模型總體隨機抽取n組樣本觀測值后，最合理的參數估計量應該使得從模型中抽取該n組樣本觀測值的概率最大。在滿足基本假設條件下，對一元線性回歸模型：

隨機抽取n組樣本觀測值（Xi,Yi）（i=1,2,…n）。

那么，Yi服從如下的正態分布：于是，Y的概率函數為（i=1,2,…n）

假如模型的參數估計量已經求得，為因為Yi是相互獨立的，所以的所有樣本觀測值的聯合概率，也即或然函數(likelihoodfunction)為：

將該或然函數極大化，即可求得到模型參數的極大或然估計量。

由于或然函數的極大化與或然函數的對數的極大化是等價的，所以，取對數或然函數如下：解得模型的參數估計量為：

可見，在滿足一系列基本假設的情況下，模型結構參數的最大或然估計量與普通最小二乘估計量是相同的。三、參數估計的矩法MM由2.2已知，有兩個總體矩條件相應的樣本矩條件為例2.2.1：在上述家庭可支配收入-消費支出例中，對于所抽出的一組樣本數，參數估計的計算可通過下面的表2.2.1進行。

因此，由該樣本估計的回歸方程為：

四、最小二乘估計量的性質

當模型參數估計出后，需考慮參數估計值的精度，即是否能代表總體參數的真值，或者說需考察參數估計量的統計性質。

一個用于考察總體的估計量，可從如下幾個方面考察其優劣性：

（1）線性性，即它是否是另一隨機變量的線性函數；（2）無偏性，即它的均值或期望值是否等于總體的真實值；（3）有效性，即它是否在所有線性無偏估計量中具有最小方差。（4）漸近無偏性，即樣本容量趨于無窮大時，是否它的均