本文格式為Word版，下載可任意編輯——第六章回歸分析

回歸分析_誤差理論與數據處理(費業泰)

第6章回歸分析

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

主要內容第一節回歸分析的基本概念函數與相關回歸分析思路其次節一元線性回歸回歸方程的確定回歸方程得方差分析及顯著性檢驗重復試驗狀況回歸直線的簡便求法第三節一元非線性回歸求解思路回歸曲線函數類型得選取和檢驗化曲線回歸為直線回歸問題合肥工業大學誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

第一節回歸分析的基本概念一、函數與相關函數關系：可以用明確的函數關系式確切地表示出來相關關系：這些變量之間既存在著密切的關系，又不能由一個(或幾個)自變量的數值確切地求出另一個因變量的數值，而是要通過試驗和調查研究，才能確定它們之間的關系。

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

第一節回歸分析的基本概念二、回歸分析思路1、由數據確定變量之間的數學表達式-回歸方程或經驗公式；2、對回歸方程的可信度進行統計檢驗；3、因素分析。

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸一元線性回歸：確定兩個變量之間的線性關系，即直線擬合問題。

一、回歸方程的確定例：確定某段導線的電阻與溫度之間的關系：19.176.3025.077.8030.179.7536.080.8040.082.3546.583.9050.085.10

散點圖：

848280787620253035404550誤差理論與數據處理

合肥工業大學

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸從散點圖可以看出：電阻與溫度大致成線性關系。設測量數據有如下結構形式：yt=β0+βxt+εt,t=1,2,L,N

式中，ε1,ε2,L,εN分別表示其它隨機因素對電阻值y1,y2,L,yN影響的總和。思路：要求電阻y與x的關系，即根據測量數據要求出β0和β的估計值。根據測量數據，可以得到7個測量方程，結合前面所學，未知數有兩個，而方程個數大于未知數的個數，適合于用最小二乘法求解。合肥工業大學誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸設得到的回歸方程

y=b0+bx殘差方程為vi=yty=ytb0bxt,t=1,2,L,N

根據最小二乘原理可求得回歸系數b0和b。對照第五章最小二乘法的矩陣形式，令y1y2Y=MyN合肥工業大學

11X=M1

x1x2MxN

=b0bb

v1v2V=MvN

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸則誤差方程的矩陣形式為YXb=V對照V=LAX,設測得值yt的精度相等，則有

b=(XTX)1XTY

將測得值分別代入上式，可計算得b=N∑xtyt(∑xt)(∑yt)t=

1t=1t=1NNN

N∑xt(∑xt)22t=1t=1

N

N

=

lxylxx

,

b0=

(∑x)(∑yt)(∑xt)(∑xtyt)t=12t

N

N

N

N

N∑xt2(∑xt)2t=1t=1

t=1N

t=1N

t=1

=ybx

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸其中1Nx=∑xtNt=11Ny=∑ytNt=11Nlxx=∑(xtx)=∑xt(∑xt)2Nt=1t=1t=122N1Nlxy=∑(xtx)(yty)=∑xtyt(∑xt)(∑yt)Nt=1t=1t=1t=1NNNN

1Nlyy=∑(yty)2=∑yt(∑yt)2Nt=1t=1t=12

N

N

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸二、回歸方程的方差分析及顯著性檢驗問題：這條回歸直線是否符合y與x之間的客觀規律回歸直線的預報精度如何？解決方法：方差分析法—分解N個觀測值與其算術平均值之差的平方和；從量值上區別多個影響因素；用F檢驗法對所求回歸方程進行顯著性檢驗。

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸(一)回歸方程的方差分析1、引起變差的原因：A、自變量x取值的不同；B、其它因素(包括試驗誤差)的影響。2、方差分析總的離差平方和(即N個觀測值之間的變差)S=∑(yty)2=lyyt=1N

νS=N1

可以證明：合肥工業大學誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸S=U+Q其中U=∑(yty)2=blxyt=1N

νU=1νQ=N2

Q=∑(ytyt)2=lyyblxyt=1

N

U—回歸平方和，反映總變差中由于x和y的線性關系而引起y變化的部分。Q—剩余平方和，反映所有觀測點到回歸直線的殘余誤差，即其它因素對y變差的影響。合肥工業大學誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸(二)回歸方程顯著性檢驗—F檢驗法基本思路：方程是否顯著取決于U和Q的大小，U越大Q越小說明y與x的線性關系愈密切。計算統計量FF=U/νUQ/νQ

對一元線性回歸，應為F=U/1Q/(N2)

查F分布表，根據給定的顯著性水平α和已知的自由度1和N-2進行檢驗：合肥工業大學誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸若，F≥F0.01(1,N2),

回歸在0.01的水平上高度顯著。回歸在0.05的水平上顯著。回歸在0.1的水平上顯著。

F0.05(1,N2)≤FF0.01(1,N2),F0.10(1,N2)≤FF0.05(1,N2),FF0.10(1,N2),

回歸不顯著。

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸(三)剩余方差與剩余標準差剩余方差：排除了x對y的線性影響后，衡量y隨機波動的特征量。σ2=QN2

剩余標準差：Qσ=N2

含義：σ越小，回歸直線的精度越高。

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸(四)方差分析表來源

平方和回歸剩余總計U=blxyQ=lyyblxyS=lyy

自由度1N-2N-1

方差-

F顯著性-α

σ---

三、重復試驗狀況1、重復試驗的意義“回歸方程顯著〞:只說明因素x的一次項對y的影響顯著；難以確定影響y的是否還有其它不可忽略的因素？x和y是否線性?不說明該方程擬合得很好。合肥工業大學誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸為檢驗一個回歸方程擬合的好壞，可通過重復試驗，獲得誤差平方和QE和失擬平方和QL,然后用QE對QL進行F檢驗。2、重復試驗回歸直線的求法1)設N個試驗點，每個試驗點重復m次試驗，則將1Nm這m次試驗取平均值，然后再依照前面的方法進行擬合，見表6-5和表6-6。2)方差分析

合肥工業大學

誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸來源回歸失擬誤差總計平方和U=mblxyQL=mlyyUQE=∑∑(ytiyt)2t=1i=1Nm

自由度

方差U/νUQL/νL

FU/νUQE/νEQ/νF=LL1QE/νEF=

顯著性F(νU,νE)αF(νL,νE)α

νU=1νL=N2νE=N(m1)νS=Nm1

QE/νE

S=U+QE+QL

-

-

-

3)方差檢驗四、回歸直線的簡便求法前面介紹：最小二乘法(誤差小，計算繁雜)現在推薦：分組法、圖解法(計算簡便，精度低)合肥工業大學誤差理論與數據處理

回歸分析_誤差理論與數據處理(費業泰)

其次節一元線性回歸1)分組法-平均值法具體做法：將自變量按由小到大次序排列，分成個數相等或近于相等的兩個組(分組數等于未知數個數),則可建立相應的兩組觀測方程：