第3章復回歸分析：估計問題

復回歸分析，也就是多元線性回歸分析，討論應變量或回歸子Y，依賴于兩個或更多個解釋變量或回歸元的模型。 本章主要討論有兩個解釋變量的情形。

§3.1三變量模型：符號與假定三變量的PRF為：（3.1.1）其中是截距項，表示所有未包含到模型中來的變量對Y的平均影響。和被稱為偏回歸系數（partialregressioncoefficients）。

在經典線性回歸模型（CLRM）的框架下，我們對（3.1.1）作如下假定：

ui的均值為零，即：對每一個i（3.1.2）無序列相關：（3.1.3）同方差性：（3.1.4）ui與每一個X變量之間都有零協方差：（3.1.5）§3.2對復回歸方程的解釋把（3.1.1）的兩邊對Y求條件期望得：（3.2.1）可見，復回歸分析是以多個解釋變量的固定值為條件的回歸分析。我們所獲得的，是各個自變量X值固定時，Y的平均值或Y的平均響應（meanresponse）。

§3.3偏回歸系數的含義偏回歸系數的含義：度量著在保持X2不變的情況下，X1每變化1個單位時，Y的均值的變化。換一句話說，給出X1的單位變化對Y均值的“直接”或“凈”影響（凈在不染有X2的影響）。則給出了X2的單位變化對Y均值的“直接”或“凈”影響，凈在不沾有X1的影響。

如何分離出X1對Y的“真實”或凈影響呢？第一步：Y僅對X2回歸：（3.3.1）其中是樣本殘差項，b02的下標0指變量Y。第二步：X1對X2回歸：（3.3.2）其中也是殘差項。于是：

（3.3.3）

（3.3.4）其中和是分別從回歸（3.3.1）和（3.3.2）得來的估計值。殘差和的含義：表示去掉X2對Y的（線性）影響后的Yi值；表示除去X2對X1的（線性）影響后的X1i的值。這樣以來，和就代表是“凈化了的（purified）”Yi和X1i。即除去了X2的影響（沾染）的Yi和X1i。

第三步：做對的回歸：（3.3.5）其中，是樣本殘差項。那么，就是X1對Y的“真實”或凈影響的一個估計，或者說，是Y對X1的真實斜率的一個估計。

§3.4偏回歸系數的OLS估計一、OLS估計量（3.1.1）式的PRF相對應的樣本回歸函數（SRF）為：（3.4.1）其中是殘差項，是總體隨機擾動項ui的相對部分。OLS方法的實質就是，通過殘差平方和（RSS）的一階條件求未知參數的估計值：（3.4.2）

于是，得正規(guī)方程：從而，的OLS估計量為：（3.4.6）

（3.4.7）

（3.4.8）

OLS估計量的特點：①可以從方程（3.4.7）和（3.4.8）中的一個通過x1和x2的對調而得到另一個，所以，它們本質上是對稱的。②兩個方程的分母完全相同。③三變量情形是雙變量情形的自然而然的推廣。二、OLS估計量的方差和標準誤我們計算出標準誤主要有兩個作用：①建立置信區(qū)間②檢驗統計假設。公式如下。

（3.4.9）

（3.4.10）

（3.4.11）或者：（3.4.12）其中，r12是X1和X2的樣本相關系數：

（3.4.13）

（3.4.14）或者：（3.4.15）（3.4.16）（3.4.17）在上述公式中是總體干擾項ui的方差，的無偏估計量是：

（3.4.18）

注：自由度為（n-3），這是因為在估計之前，必須先估計和。從而損失了3個自由度。四變量中自由度為（n-4）等。而（3.4.19）課堂作業(yè)：證明上式

三、OLS估計量的性質1．三變量回歸面通過均值，和。因為，（3.4.3）告訴我們：這個性質可以推廣到一般情形，如在K變量回歸中有：2．估計的（即）的均值等于真實的均值。由和得：

（3.4.22）將上式兩邊對所有樣本值求和，再除以樣本容量n得：（）從而有：（由于（3.4.22））（3.4.23）其中因此，SRF：的離差形式表達為：（3.4.24）3．在求解OLS估計量的過程中，曾經有：這就是4．殘差與和都不相關，就是

這也是求解OLS估計量的副產品：

即是所求。5．殘差與不相關，即∵（3.4.23）

∴§3.5偏相關系數一、簡單與偏相關系數的釋義對于三變量回歸模型，有三個簡單相關系數：

Y與之間的相關系數：

Y與之間的相關系數：

與之間的相關系數：這些相關系數可稱毛（gross）或簡單（simple）相關系數（correlationcoefficients），或稱零階相關系數（correlationcoefficientsofzeroorder）。