1、現(xiàn)得到n個獨立觀測數(shù)據(jù)為X1,X2, X現(xiàn)得到n個獨立觀測數(shù)據(jù)為X1,X2, Xm的觀測值，0 N(0,1 ai12),iL1,Lmaimi ,n.(3-2)an1aimanmb1，丫bn(3-3)模型的建立：多元線性回歸分析的模型為y01X1 LmXm,( 3 1 )N(0, 2),-其中：0, 1, m,都是與X1 , X2 , Xm無關(guān)的未知參數(shù)，0, 1, m稱為回歸系數(shù),aim分別bi,ai1, , am，其中bi為y的觀測值，a,aim分別1, ,n,n m，由式（1）得1,1,式（6）表為0, 1 ,(3-4)(3-4)N(0, 2En),其中：En為n階單位矩陣。參數(shù)估計模型（

2、1）中的參數(shù) j模型（1）中的參數(shù) j?j, j 0,1, ,m 時,用最小二乘法估計，即應(yīng)選取估計值 誤差平方和b?n(bi01ai1 Li 12mQim)(3-5)達到最小。為此，令0, j 0,1,2,L ,n,Qn2(biQn2(bi01ai1L0i 1QnL2(bi01ai1ji 1(3-6) maim)aj0, j 1,2丄,m.nn0nnn0n13i123i2Li 1i 1n0ai1n21ai1n2ai1ai2Li 1i 1i 1Mnnn0aim1aimai12aimai2Li 1i 1i 1maimb,i 1i1nnma i 1 aimi 1i 1(3-7)nn2 a mima

3、imbi ,i 1i 1nn正規(guī)方程組的矩陣形式為xtxxty,(3-8)當(dāng)矩陣X列滿秩時,xt為可逆方陣，式的解為? xtx 1 xty(3-9)將？代回原模型得到y(tǒng)的估計值，而這組數(shù)據(jù)的擬合值為b?0?1an L?mam,i 1,L ,n.(3-10)記Y? X?,t?T,擬合誤差e Y Y?稱為殘差，可作為隨機誤差的估計，殘差平方和為n12.587Qe212.587i 1統(tǒng)計分析不加證明地給出以下結(jié)果:(1) 是 的線性無偏最小方差估計。指的是是Y的線性函數(shù)；的期望等于在的線性無偏估計中，的方差最小(2)服從正態(tài)分布2 T1N( ,(XX)(3-11)記(XTX) 2 T1N( ,(XX

4、)(3-11)記(XTX) 1 (Cj)nn(3)對殘差平方和Q, EQ(n m 1) 2，且2( n m 1)(3-12)由此得到2的無偏估計(3-13)s2是剩余方差(殘差的方差)，s稱為剩余標(biāo)準差n2(4)對總平方和SST(yi y)進行分解，有i 1SST Q U , USST Q U , U(yi y)(3-14)其中Q殘差平方和，反映隨機誤差對y的影響，U稱為回歸平方和，反映自變 量對y的影響。上面的分解中利用了正規(guī)方程組。回歸模型的檢驗，因變量y與自變量x仆L ,Xm之間是否存在線性關(guān)系是需要檢驗的， 顯然，如果所有的j (j 1,L m)都很小，y與X1,L ,Xm的線性關(guān)系就

5、不明顯，所以 可令原假設(shè)為H。： j 0( j 1,L m)當(dāng)Ho成立時由分解式(34)定義的U,Q滿足U /mQ/( n m 1)F (m,n m 1)U /mQ/( n m 1)F (m,n m 1)(3-15)在顯著性水平下有上 分位數(shù)F (m,n m 1)，若F F (m, n m 1),接受Ho ;否則，拒接。yy。01 X01Lm X0m(3-19)注意 接受Ho只能說明y與自變量Xi丄，Xm的線性關(guān)系不明顯，可能存在非線 性關(guān)系，如平方關(guān)系。還有一些衡量y與自變量Xi丄，Xm相關(guān)程度的指標(biāo)，如用回歸平方和在總平方中 的比值定義復(fù)判定系數(shù)R2(3-16)SSTR ，R2稱為復(fù)相關(guān)系

6、數(shù)，R越大，y與自變量Xi,L ,Xm相關(guān)關(guān)系越密切，通常，R大于0.8 (或大于0.9 )才認為相關(guān)關(guān)系成立。回歸系數(shù)的假設(shè)檢驗和區(qū)間估計當(dāng)上面的H。被拒絕時，j不全為零，但是不排除其中若干個等于零。所以應(yīng)進行一步作如下 m 1個檢驗(j 0,1丄m):Hoj : j 0j : N( j, 25), Cjj 是(XTX) 1 中的第(j, j)元素，用 s2 代替 2，由(3-11)-( 3- 13)式，當(dāng)Hj成立時勺勺QTVt(nm1)(3-17)對給定的(3-17 )式也可以用于對 信區(qū)間為對給定的(3-17 )式也可以用于對 信區(qū)間為j作區(qū)間估計(j 0,1,L m)，在置信水平1下，j的置，若tjt_(n m 1)，接受Hj ；否則，拒絕2(3-18)(3-18)j t_(n m 1)s. % j t_(n m 1)s 巧2 2其中s利用回歸模型進行預(yù)測X0 X0 (X01,L X0m)預(yù)測 y， y 是隨機給定 可以算出yo的預(yù)測區(qū)間(區(qū)間估計)，結(jié)果較復(fù)雜，但當(dāng)n較大時且xoi接近平均值Xi時，yo的預(yù)測區(qū)間可簡化為yo z s, yo z s(3-20)2 2其中z是標(biāo)準正