1、2013/11/16第一章 統計學基礎知識一元回歸模型一元回歸模型 現在，我們用一個一次方程來表示兩個數據X和Y之間的關系。 這個公式就是一元回歸模型。X是表示原因的變量，成為解釋變量或獨立變量；Y是表示結果的變量，稱為被解釋變量或從屬變量。u是誤差項或擾亂項，它是Y的變化中不能完全由X的變化來解釋的部分，換句話說，它表示的是Y（實際值）與+X（理論值）之間的偏差。2013/11/16第一章 統計學基礎知識 一般來說，回歸分析是為了發現X作為原因，Y作為結果是兩者之間的因果關系，因此，X與Y之間的關系，理論上必須能夠成立。如果對沒有理論意義上的公式進行推算，即使能夠得出良好的推算結論，也是沒有

2、意義的分析，這一點必須充分注意。 回歸分析的主要目的是估計回歸系數、，最常用的辦法就是最小二乘法（ordinary least squares method，OLS）。2013/11/16第一章 統計學基礎知識最小二乘法最小二乘法（OLS） 利用OLS來估計一元回歸模型，可以得到所謂的估計回歸線（最小二乘回歸線），即YX 稱為的估計值（最小二乘估計值）。 讀作Y hat，如圖所示，它是與X實際值（觀測值）相對應的估計回歸線上的Y值，稱為Y的理論值（估計值、計算值、預測值等）。、Y2013/11/16第一章 統計學基礎知識Y Y（結果）（結果）X X（原因）（原因）Y Y1 1：觀測值觀測值1:

3、Y理論值1 u :殘差2 u3 u4 u:YX估計回歸曲線12013/11/16第一章 統計學基礎知識22222OLSn=nxyx1XYn-11Xn-1XYXYXXXXYYXXXXYYXX 根據計算 、 的公式如下：和 的協方差的方差222-=nnXYXXYXXYXYX 2013/11/16第一章 統計學基礎知識 下面，就殘差為u，殘差=實際值-理論值 其次，計算殘差的2次方的總和，即殘差平方和（residual sum of squares,RSS）,得 尋找能夠使殘差平方和最小的 值，就是OLS的基本原理。為了求殘差平方和 關于 的最小值，需要將上式對 分別求偏導，并設其為零，即 u=YY

4、 YX22 u =YX、2 u2013/11/16第一章 統計學基礎知識 這個聯立方程稱為正規方程。222 u20 u20n +YXX YXYXXYXX 將這兩個方程整理，得聯立方程2013/11/16第一章 統計學基礎知識例題例題3-1 利用下面的數據，對一元回歸模型Y=+X+u進行最小二乘估計。X X6 6111117178 81313Y135242013/11/16第一章 統計學基礎知識解答解答 將數據帶入工作表中進行計算，得：22225515192679n5 19255 15135=0.3655 6795537001n51.01 0.365XYXYXXYXYX

5、XYXYX 根據公式，因此，估計回歸線為2013/11/16第一章 統計學基礎知識又解又解 將數據帶入工作表進行計算。225515113n5n5x=y=5515x0y0 xy27x74xy27=0.365x74273111.01741.01 0.365XYXYXXYYXYYXYX 其中: 同時：得： 根據公式因此，估計回歸線為2013/11/16第一章 統計學基礎知識決定系數決定系數（coefficient of determination） 是反映估計的回歸線對觀測的數據的解釋能力，或者說是反映兩者擬合優度的尺度，是回歸分析不可缺少的統計量。我們將Y的實際值與平均值之差的平方和稱作Y的全部變

6、化，即2=YYY的全部變化另外將Y的理論值與平均值之差的平方和稱作能夠由回歸解釋的變化（回歸平方和），即2=YY能夠由回歸解釋的變化2013/11/16第一章 統計學基礎知識 這樣，所謂決定系數R2反映的是Y的全部變化中，能夠由回歸來解釋的部分的比率，其定義如下：222222=1 u=1RYYYYYYYYYY 能夠由回歸解釋的變化（回歸平方和）的全部變化不能由回歸解釋的變化（殘差平方和）的全部變化2013/11/16第一章 統計學基礎知識 決定系數的計算公式可以采用下面三個公式中的任何一個。222222222222222=xyxynnnXXRYYXXYYXXYYXYXYXXYY 2013/11

7、/16第一章 統計學基礎知識 此外，決定系數與相關系數之間有以下關系： 決定系數的取值范圍為：0R21 決定系數越接近于1，理論值與實際值越近似，說明模型的解釋能力越強。例如，如果R2=90%，則模型具有90%的解釋力；如果R2=30%，則說明模型只有30%的解釋力2013/11/16第一章 統計學基礎知識例題例題3-2 表3-3顯示了日本1994-2005年的12年間，實際國內生產總值X與實際居民消費支出Y的數據。（1）對下面的宏觀消費函數進行最小二乘估計；（2）計算決定系數R2，并考察估計出來的宏觀消費函數的擬合優度；（3）求理論值和殘差；（4）利用（1）中估算出來的宏觀消費函數，當實際國

8、內生產總值在510兆日元和570兆日元時，對實際居民消費支出分別進行預測。2013/11/16第一章 統計學基礎知識年份年份實際國內生產總值實際國內生產總值X X實際居民最終消費支出實際居民最終消費支出Y Y1994199519961997199819992000200120022003200420054694784904974884875015035045135255382662712772792772802832872902912973032013/11/16第一章 統計學基礎知識解答解答（1）222225993340117007472997131965153n12/p>

9、 340126771=0.5405812 2997131 599349523n15405.8XYXYXYXYXYXX 將數據代入工作表，得：根據公式這個 稱作邊際消費傾向，它的含義是如果實際國內生產總值增加 兆日元，將會引起實際居民最終消費支出增加億日元。其次267713401599349523=13.443n1213.4430.54058YXYX，根據公式因此，估計的日本宏觀消費函數為2013/11/16第一章 統計學基礎知識解答解答（2） 222222222nnn12340112 2997131 599312 96515334017166864410.962574

10、457830596.25%+XYXYRXXYYYX 根據公式：這就是說，實際居民最終消費支出 的變化中，有可以由模型來解釋。估計出來的宏觀消費函數具有極高的擬合優度。2013/11/16第一章 統計學基礎知識解答解答（3）13.443+0.540583-400YYXXuYYuuYYYYuYYYY關于理論值 ，可以在（1）中求出的下式中代入 的實際值求解。另外根據公式：求殘差表是理論值與殘差值的計算結果即過大估計即過小估計在回歸分析中，考慮過大估計、過小估計的發生原因，非常重要。2013/11/16第一章 統計學基礎知識年份年份實際值實際值理論值理論值殘差殘差199419951996199719

11、981999200020012002200320042005266271277279277280283287290291297303266.97271.84278.33282.11277.25276.70284.27285.35285.89290.76297.25304.27-0.97-0.84-1.33-3.11-0.253.30-1.271.654.110.24-0.25-1.272013/11/16第一章 統計學基礎知識解答解答（4）51013.4430.5405813.4430.54058 510289.1()57013.4430.5405813.4430.54058 570321.6()XYXXYX當時兆日元當時兆日元是在解釋變量X的實際取值范圍之內（469兆日元X538兆日元）預測Y，稱為內插預測；是在解釋變量X的實際取值范圍之外預測Y，稱為外插預測。2013/11/16第一章 統計學基礎知識非線性方程非線性方程（non-linear equation）的回歸分析的回歸分析 當數據的分散情況在一定的較小的范圍時，被解釋變量與解釋變量之間的回歸關系