問(wèn)題一：多重共線性Multi-Collinearity一、多重共線性的概念二、實(shí)際經(jīng)濟(jì)問(wèn)題中的多重共線性三、多重共線性的后果四、多重共線性的檢驗(yàn)五、克服多重共線性的方法六、案例*七、分部回歸與多重共線性問(wèn)題一：多重共線性Multi-Collinearity一、1一、多重共線性的概念對(duì)于模型

Yi=

0+1X1i+2X2i++kXki+i

i=1,2,…,n其基本假設(shè)之一是解釋變量是互相獨(dú)立的。

如果某兩個(gè)或多個(gè)解釋變量之間出現(xiàn)了相關(guān)性，則稱為多重共線性(Multicollinearity)。一、多重共線性的概念對(duì)于模型如果某2

如果存在

c1X1i+c2X2i+…+ckXki=0

i=1,2,…,n

其中:ci不全為0，則稱為解釋變量間存在完全共線性（perfectmulticollinearity）。

如果存在

c1X1i+c2X2i+…+ckXki+vi=0

i=1,2,…,n

其中ci不全為0，vi為隨機(jī)誤差項(xiàng)，則稱為

近似共線性（approximatemulticollinearity）或交互相關(guān)(intercorrelated)。如果存在如果存在3注意：

完全共線性的情況并不多見，一般出現(xiàn)的是在一定程度上的共線性，即近似共線性。注意：4二、實(shí)際經(jīng)濟(jì)問(wèn)題中的多重共線性

一般地，產(chǎn)生多重共線性的主要原因有以下三個(gè)方面：（1）經(jīng)濟(jì)變量相關(guān)的共同趨勢(shì)

時(shí)間序列樣本：經(jīng)濟(jì)繁榮時(shí)期，各基本經(jīng)濟(jì)變量（收入、消費(fèi)、投資、價(jià)格）都趨于增長(zhǎng)；衰退時(shí)期，又同時(shí)趨于下降。

橫截面數(shù)據(jù)：生產(chǎn)函數(shù)中，資本投入與勞動(dòng)力投入往往出現(xiàn)高度相關(guān)情況，大企業(yè)二者都大，小企業(yè)都小。二、實(shí)際經(jīng)濟(jì)問(wèn)題中的多重共線性一般地，產(chǎn)生多重共5（2）滯后變量的引入在經(jīng)濟(jì)計(jì)量模型中，往往需要引入滯后經(jīng)濟(jì)變量來(lái)反映真實(shí)的經(jīng)濟(jì)關(guān)系。例如，消費(fèi)=f(當(dāng)期收入,前期收入）顯然，兩期收入間有較強(qiáng)的線性相關(guān)性。（2）滯后變量的引入在經(jīng)濟(jì)計(jì)量模型中，往往6（3）樣本資料的限制

由于完全符合理論模型所要求的樣本數(shù)據(jù)較難收集，特定樣本可能存在某種程度的多重共線性。

一般經(jīng)驗(yàn)：

時(shí)間序列數(shù)據(jù)樣本：簡(jiǎn)單線性模型，往往存在多重共線性。

截面數(shù)據(jù)樣本：?jiǎn)栴}不那么嚴(yán)重，但多重共線性仍然是存在的。（3）樣本資料的限制由于完全符合理論模型所7

二、多重共線性的后果1、完全共線性情況下的后果(1)完全共線性下參數(shù)估計(jì)量不存在(2)參數(shù)估計(jì)量的方差無(wú)限大二、多重共線性的后果1、完全共線性情況下的82、不完全多重共線性產(chǎn)生的后果

如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計(jì)值，但是對(duì)計(jì)量分析可能會(huì)產(chǎn)生一系列的影響。

2、不完全多重共線性產(chǎn)生的后果如果模型中存在不完全的9（1）參數(shù)估計(jì)值的方差增大（2）對(duì)參數(shù)區(qū)間估計(jì)時(shí),置信區(qū)間趨于變大（3）嚴(yán)重多重共線時(shí),假設(shè)檢驗(yàn)容易做出錯(cuò)誤的判斷（4）當(dāng)多重共線性嚴(yán)重時(shí),可能造成可決系數(shù)R2較高經(jīng)F檢驗(yàn)的參數(shù)聯(lián)合顯著性也很高，但對(duì)各個(gè)參數(shù)單獨(dú)的t檢驗(yàn)卻可能不顯著，甚至可能使估計(jì)的回歸系數(shù)相反，得出完全錯(cuò)誤的結(jié)論。（1）參數(shù)估計(jì)值的方差增大10變量的顯著性檢驗(yàn)失去意義存在多重共線性時(shí)參數(shù)估計(jì)值的方差與標(biāo)準(zhǔn)差變大容易使通過(guò)樣本計(jì)算的t值小于臨界值，誤導(dǎo)作出參數(shù)為0的推斷可能將重要的解釋變量排除在模型之外變量的顯著性檢驗(yàn)失去意義存在多重共線性時(shí)參數(shù)估計(jì)值的方差與標(biāo)11注意：

除非是完全共線性，多重共線性并不意味著任何基本假設(shè)的違背；因此，即使出現(xiàn)較高程度的多重共線性，OLS估計(jì)量仍具有線性性等良好的統(tǒng)計(jì)性質(zhì)。

問(wèn)題在于，即使OLS法仍是最好的估計(jì)方法，它卻不是“完美的”，尤其是在統(tǒng)計(jì)推斷上無(wú)法給出真正有用的信息。注意：除非是完全共線性，多重共線性并不意味12

多重共線性檢驗(yàn)的任務(wù)是：

（1）檢驗(yàn)多重共線性是否存在；（2）估計(jì)多重共線性的范圍，即判斷哪些變量之間存在共線性。多重共線性表現(xiàn)為解釋變量之間具有相關(guān)關(guān)系，所以用于多重共線性的檢驗(yàn)方法主要是統(tǒng)計(jì)方法：如判定系數(shù)檢驗(yàn)法、逐步回歸檢驗(yàn)法等。三、多重共線性的檢驗(yàn)多重共線性檢驗(yàn)的任務(wù)是：多重共線性表現(xiàn)為解131、檢驗(yàn)多重共線性是否存在

(1)對(duì)兩個(gè)解釋變量的模型，采用簡(jiǎn)單相關(guān)系數(shù)法求出X1與X2的簡(jiǎn)單相關(guān)系數(shù)r，若|r|接近1，則說(shuō)明兩變量存在較強(qiáng)的多重共線性。(2)對(duì)多個(gè)解釋變量的模型，采用綜合統(tǒng)計(jì)檢驗(yàn)法若在OLS法下：R2與F值較大，但t檢驗(yàn)值較小，說(shuō)明各解釋變量對(duì)Y的聯(lián)合線性作用顯著，但各解釋變量間存在共線性而使得它們對(duì)Y的獨(dú)立作用不能分辨，故t檢驗(yàn)不顯著。1、檢驗(yàn)多重共線性是否存在(1)對(duì)兩個(gè)解釋變量的模型，采142、判明存在多重共線性的范圍

如果存在多重共線性，需進(jìn)一步確定究竟由哪些變量引起。(1)判定系數(shù)檢驗(yàn)法使模型中每一個(gè)解釋變量分別以其余解釋變量為解釋變量進(jìn)行回歸，并計(jì)算相應(yīng)的擬合優(yōu)度。如果某一種回歸Xji=

1X1i+2X2i+LXLi的判定系數(shù)較大，說(shuō)明Xj與其他X間存在共線性。2、判明存在多重共線性的范圍如果存在多重共線性15具體可進(jìn)一步對(duì)上述回歸方程作F檢驗(yàn)：

式中：Rj?2為第j個(gè)解釋變量對(duì)其他解釋變量的回歸方程的決定系數(shù)，若存在較強(qiáng)的共線性，則Rj?2較大且接近于1，這時(shí)（1-Rj?2）較小，從而Fj的值較大。因此，給定顯著性水平

，計(jì)算F值，并與相應(yīng)的臨界值比較，來(lái)判定是否存在相關(guān)性。

構(gòu)造如下F統(tǒng)計(jì)量具體可進(jìn)一步對(duì)上述回歸方程作F檢驗(yàn)：式中：Rj?216

在模型中排除某一個(gè)解釋變量Xj，估計(jì)模型；如果擬合優(yōu)度與包含Xj時(shí)十分接近，則說(shuō)明Xj與其它解釋變量之間存在共線性。另一等價(jià)的檢驗(yàn)是:在模型中排除某一個(gè)解釋變量Xj，估計(jì)模型；17(2)逐步回歸法

以Y為被解釋變量，逐個(gè)引入解釋變量，構(gòu)成回歸模型，進(jìn)行模型估計(jì)。根據(jù)擬合優(yōu)度的變化決定新引入的變量是否獨(dú)立。

如果擬合優(yōu)度變化顯著，則說(shuō)明新引入的變量是一個(gè)獨(dú)立解釋變量；

如果擬合優(yōu)度變化很不顯著，則說(shuō)明新引入的變量與其它變量之間存在共線性關(guān)系。(2)逐步回歸法以Y為被解釋變量，逐18（3）方差擴(kuò)大（膨脹）因子法

統(tǒng)計(jì)上可以證明，解釋變量的參數(shù)估計(jì)式的方差可表示為

其中的是變量(VarianceInflationFactor)，即的方差擴(kuò)大因子其中是多個(gè)解釋變量輔助回歸的可決系數(shù)

（3）方差擴(kuò)大（膨脹）因子法統(tǒng)計(jì)上可以證明，解釋變量的參數(shù)19經(jīng)驗(yàn)規(guī)則●方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重。反過(guò)來(lái)，方差膨脹因子越接近于1，多重共線性越弱。●經(jīng)驗(yàn)表明，方差膨脹因子≥10時(shí)，說(shuō)明解釋變量與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過(guò)度地影響最小二乘估計(jì)。經(jīng)驗(yàn)規(guī)則●方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重20多重線性問(wèn)題分析課件21（4）直觀判斷法①當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估計(jì)值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。②從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒(méi)有通過(guò)顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。（4）直觀判斷法①當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)22③有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可能存在多重共線性。④解釋變量的相關(guān)矩陣中，自變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在多重共線性問(wèn)題。③有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可23找出引起多重共線性的解釋變量，將它排除出去。以逐步回歸法(stepwise)得到最廣泛的應(yīng)用。

注意：這時(shí)，剩余解釋變量參數(shù)的經(jīng)濟(jì)含義和數(shù)值都發(fā)生了變化。

如果模型被檢驗(yàn)證明存在多重共線性，則需要發(fā)展新的方法估計(jì)模型，最常用的方法有三類。四、克服多重共線性的方法1、第一類方法：排除引起共線性的變量找出引起多重共線性的解釋變量，將它排除出去。242、第二類方法：差分法時(shí)間序列數(shù)據(jù)、線性模型：將原模型變換為差分模型:Yi=1X1i+2X2i++kXki+i可以有效地消除原模型中的多重共線性。

2、第二類方法：差分法時(shí)間序列數(shù)據(jù)、線性模型：25一般而言，差分后變量之間的相關(guān)性要比差分前弱得多，所以差分后的模型可能降低出現(xiàn)共線性的可能性，此時(shí)可直接估計(jì)差分方程。問(wèn)題：差分會(huì)丟失一些信息，差分模型的誤差項(xiàng)可能存在序列相關(guān)，可能會(huì)違背經(jīng)典線性回歸模型的相關(guān)假設(shè)，在具體運(yùn)用時(shí)要慎重。一般而言，差分后變量之間的相關(guān)性要比差分前弱得多，所26

例

如：例

如：27由表中的比值可以直觀地看到，增量的線性關(guān)系弱于總量之間的線性關(guān)系。

進(jìn)一步分析：Y與C(-1)之間的判定系數(shù)為0.9988，△Y與△C(-1)之間的判定系數(shù)為0.9567由表中的比值可以直觀地看到，增量的線性關(guān)系弱283、第三類方法：減小參數(shù)估計(jì)量的方差

多重共線性的主要后果是參數(shù)估計(jì)量具有較大的方差，所以

采取適當(dāng)方法減小參數(shù)估計(jì)量的方差，雖然沒(méi)有消除模型中的多重共線性，但確能消除多重共線性造成的后果。例如：①增加樣本容量，可使參數(shù)估計(jì)量的方差減小。3、第三類方法：減小參數(shù)估計(jì)量的方差多重共線29②橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用首先利用橫截面數(shù)據(jù)估計(jì)出部分參數(shù)，再利用時(shí)序數(shù)據(jù)估計(jì)出另外的部分參數(shù)，最后得到整個(gè)方程參數(shù)的估計(jì)。注意：這里包含著假設(shè)，即參數(shù)的橫截面估計(jì)和從純粹時(shí)間序列分析中得到的估計(jì)是一樣的。

②橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用30③變量變換變量變換的主要方法：(1)計(jì)算相對(duì)指標(biāo)(2)將名義數(shù)據(jù)轉(zhuǎn)換為實(shí)際數(shù)據(jù)(3)將小類指標(biāo)合并成大類指標(biāo)變量數(shù)據(jù)的變換有時(shí)可得到較好的結(jié)果，但無(wú)法保證一定可以得到很好的結(jié)果。③變量變換31*④嶺回歸法（RidgeRegression）

70年代發(fā)展的嶺回歸法，以引入偏誤為代價(jià)減小參數(shù)估計(jì)量的方差，受到人們的重視。具體方法是：引入矩陣D，使參數(shù)估計(jì)量為

其中矩陣D一般選擇為主對(duì)角陣，即

D=aI

a為大于0的常數(shù)。（*）顯然，與未含D的參數(shù)B的估計(jì)量相比，(*)式的估計(jì)量有較小的方差。*④嶺回歸法（RidgeRegression）32六、案例——中國(guó)糧食生產(chǎn)函數(shù)

根據(jù)理論和經(jīng)驗(yàn)分析，影響糧食生產(chǎn)（Y）的主要因素有：農(nóng)業(yè)化肥施用量（X1）；糧食播種面積(X2)成災(zāi)面積(X3);農(nóng)業(yè)機(jī)械總動(dòng)力(X4);農(nóng)業(yè)勞動(dòng)力(X5)已知中國(guó)糧食生產(chǎn)的相關(guān)數(shù)據(jù)，建立中國(guó)糧食生產(chǎn)函數(shù)：Y=

0+1X1+2X2+3X3

+4X4

+4X5

+六、案例——中國(guó)糧食生產(chǎn)函數(shù)根據(jù)理論和經(jīng)驗(yàn)33多重線性問(wèn)題分析課件34

1、用OLS法估計(jì)上述模型：R2接近于1；給定=5%，得F臨界值F0.05(5,12)=3.11

F=638.4>15.19，故認(rèn)上述糧食生產(chǎn)的總體線性關(guān)系顯著成立。但X4

、X5

的參數(shù)未通過(guò)t檢驗(yàn)，且符號(hào)不正確，故解釋變量間可能存在多重共線性。(-0.91)(8.39)(3.32)(-2.81)(-1.45)(-0.14)1、用OLS法估計(jì)上述模型：