1、 2022-3-221數(shù)學(xué)建模與數(shù)學(xué)實(shí)驗(yàn)數(shù)學(xué)建模與數(shù)學(xué)實(shí)驗(yàn)回歸分析回歸分析 實(shí)驗(yàn)?zāi)康膶?shí)驗(yàn)?zāi)康膶?shí)驗(yàn)內(nèi)容實(shí)驗(yàn)內(nèi)容2、掌握用數(shù)學(xué)軟件求解回歸分析問題。、掌握用數(shù)學(xué)軟件求解回歸分析問題。1、直觀了解回歸分析基本內(nèi)容。、直觀了解回歸分析基本內(nèi)容。1 1、回歸分析的基本理論。、回歸分析的基本理論。3 3、實(shí)驗(yàn)作業(yè)。、實(shí)驗(yàn)作業(yè)。2、用數(shù)學(xué)軟件求解回歸分析問題。、用數(shù)學(xué)軟件求解回歸分析問題。 2022-3-223回歸分析回歸分析數(shù)學(xué)模型及定義數(shù)學(xué)模型及定義*模型參數(shù)估計(jì)模型參數(shù)估計(jì)* *檢驗(yàn)、預(yù)測(cè)與控制檢驗(yàn)、預(yù)測(cè)與控制可線性化的一元非線可線性化的一元非線性回歸（曲線回歸性回歸（曲線回歸）數(shù)學(xué)模型及定義數(shù)學(xué)模型

2、及定義*模型參數(shù)估計(jì)模型參數(shù)估計(jì)*多元線性回歸中的多元線性回歸中的檢驗(yàn)與預(yù)測(cè)檢驗(yàn)與預(yù)測(cè)逐步回歸分析逐步回歸分析(原理略) 2022-3-224一、數(shù)學(xué)模型一、數(shù)學(xué)模型例例1 測(cè)16名成年女子的身高與腿長(zhǎng)所得數(shù)據(jù)如下：身高143145146147149150153154155156157158159160162164腿長(zhǎng)8885889192939395969897969899100102以身高x為橫坐標(biāo)，以腿長(zhǎng)y為縱坐標(biāo)將這些數(shù)據(jù)點(diǎn)（xI，yi）在平面直角坐標(biāo)系上標(biāo)出.1401451501551601658486889092949698100102散點(diǎn)圖xy10 2022-3-225一元線性回歸

3、分析的主要任務(wù)主要任務(wù)是：1、用試驗(yàn)值（樣本值）對(duì)0、1和作點(diǎn)估計(jì)；2、對(duì)回歸系數(shù)0、1作假設(shè)檢驗(yàn)； 3、在 x=0 x處對(duì) y 作預(yù)測(cè)，對(duì) y 作區(qū)間估計(jì).xY10，稱為 y 對(duì)對(duì) x的的回回歸歸直直線線方方程程.返回返回 2022-3-226二、模型參數(shù)估計(jì)二、模型參數(shù)估計(jì)1、回歸系數(shù)的最小二乘估計(jì)、回歸系數(shù)的最小二乘估計(jì) 2022-3-22722110 xxyxxyxy（經(jīng)經(jīng)驗(yàn)驗(yàn)）回回歸歸方方程程為為: )(110 xxyxy 或 niiniiixxyyxx1211niiiniiniiniiyxnxy,xnxyny,xnx1122111111，其中 2022-3-2282、2的的無無偏偏

4、估估計(jì)計(jì)記 niniiiiieyyxyQQ11221010)(),(稱 Qe為殘殘差差平平方方和和或剩剩余余平平方方和和. 2的的無無偏偏估估計(jì)計(jì)為 )2(2nQee稱2e為剩剩余余方方差差（殘殘差差的的方方差差） ， 2e分別與0、1獨(dú)立 。 e稱為剩剩余余標(biāo)標(biāo)準(zhǔn)準(zhǔn)差差. 2022-3-229三、檢驗(yàn)、預(yù)測(cè)與控制三、檢驗(yàn)、預(yù)測(cè)與控制1、回歸方程的顯著性檢驗(yàn)、回歸方程的顯著性檢驗(yàn) 對(duì)回歸方程xY10的顯著性檢驗(yàn)，歸結(jié)為對(duì)假設(shè) 0:; 0:1110HH進(jìn)行檢驗(yàn).假設(shè)0:10H被拒絕，則回歸顯著，認(rèn)為 y 與 x 存在線性關(guān)系，所求的線性回歸方程有意義；否則回歸不顯著，y 與 x 的關(guān)系不能用一元

5、線性回歸模型來描述，所得的回歸方程也無意義. 2022-3-2210（）F檢驗(yàn)法檢驗(yàn)法 當(dāng)0H成立時(shí)， )2/( nQUFeF（1，n-2）其中 niiyyU12（回回歸歸平平方方和和）故 F)2, 1 (1nF，拒絕0H，否則就接受0H. （）t檢驗(yàn)法檢驗(yàn)法niiniixxxnxxxL12212)(其中當(dāng)0H成立時(shí)，exxLT1t（n-2）故)2(21ntT，拒絕0H，否則就接受0H. 2022-3-2211（）r檢驗(yàn)法檢驗(yàn)法當(dāng)|r| r1-時(shí)，拒絕H0；否則就接受H0.記 niniiiniiiyyxxyyxxr11221)()()(其中2, 121111nFnr 2022-3-22122、

6、回歸系數(shù)的置信區(qū)間、回歸系數(shù)的置信區(qū)間0和和1置置信信水水平平為為1-的的置置信信區(qū)區(qū)間間分分別別為為 xxexxeLxnntLxnnt221022101)2(,1)2(和 xxexxeLntLnt/)2(,/)2(211211 2022-3-22133、預(yù)測(cè)與控制、預(yù)測(cè)與控制（1）預(yù)測(cè)）預(yù)測(cè)用 y0的回歸值0100 xy作為 y0的的預(yù)預(yù)測(cè)測(cè)值值.0y的置信水平為1的預(yù)預(yù)測(cè)測(cè)區(qū)區(qū)間間為 )(),(0000 xyxy其中xxeLxxnntx2021011)2()( 特 別 ， 當(dāng) n 很 大 且 x0在x附 近 取 值 時(shí) ,y 的 置 信 水 平 為1的預(yù)預(yù) 測(cè)測(cè) 區(qū)區(qū) 間間 近近 似似 為

7、為 2121,uyuyee 2022-3-2214（2）控制）控制要求：xy10的值以1的概率落在指定區(qū)間yy ,只要控制 x 滿足以下兩個(gè)不等式 yxyyxy )(,)(要求)(2xyy .若yxyyxy )(,)(分別有解x和x ，即yxyyxy )(,)(. 則xx ,就是所求的 x 的控制區(qū)間. 2022-3-2215四、可線性化的一元非線性回歸（曲線回歸）四、可線性化的一元非線性回歸（曲線回歸）例例2 出鋼時(shí)所用的盛鋼水的鋼包，由于鋼水對(duì)耐火材料的侵蝕， 容積不斷增大.我們希望知道使用次數(shù)與增大的容積之間的關(guān) 系.對(duì)一鋼包作試驗(yàn)，測(cè)得的數(shù)據(jù)列于下表：使用次數(shù)增大容積使用次數(shù)增大容積2

8、34567896.428.209.589.509.7010.009.939.991011121314151610.4910.5910.6010.8010.6010.9010.76 2022-3-221624681012141666.577.588.599.51010.511散點(diǎn)圖此即非線性回歸非線性回歸或曲線回歸曲線回歸 問題（需要配曲線）配曲線的一般方法是：配曲線的一般方法是：先對(duì)兩個(gè)變量 x 和 y 作n 次試驗(yàn)觀察得niyxii,.,2 , 1),(畫出散點(diǎn)圖，根據(jù)散點(diǎn)圖確定須配曲線的類型.然后由 n 對(duì)試驗(yàn)數(shù)據(jù)確定每一類曲線的未知參數(shù) a 和 b.采用的方法是通過變量代換把非線性回歸化

9、成線性回歸，即采用非線性回歸線性化的方法. 2022-3-2217通常選擇的六類曲線如下：（1）雙雙曲曲線線xbay1（2）冪冪函函數(shù)數(shù)曲曲線線y=abx, 其中 x0,a0（3）指指數(shù)數(shù)曲曲線線 y=abxe其中參數(shù) a0.（4）倒倒指指數(shù)數(shù)曲曲線線 y=axbe/其中 a0，（5）對(duì)對(duì)數(shù)數(shù)曲曲線線y=a+blogx,x0（6）S型型曲曲線線xbeay1解例2.由散點(diǎn)圖我們選配倒指數(shù)曲線y=axbe/根據(jù)線性化方法，算得4587. 2,1107. 1Ab由此 6789.11Aea最后得 xey1107. 16789.11 2022-3-22181、多元線性回歸、多元線性回歸2、多項(xiàng)式回歸、多

10、項(xiàng)式回歸3、非線性回歸、非線性回歸4、逐步回歸、逐步回歸返回返回 2022-3-2219多元線性回歸多元線性回歸 b=regress( Y, X )npnnppxxxxxxxxxX.1.1.1212222111211nYYYY.21pb.101、確定回歸系數(shù)的點(diǎn)估計(jì)值：確定回歸系數(shù)的點(diǎn)估計(jì)值：ppxxy.110對(duì)一元線性回歸，取 p=1 即可 203、畫出殘差及其置信區(qū)間：畫出殘差及其置信區(qū)間： rcoplot（r，rint）2、求回歸系數(shù)的點(diǎn)估計(jì)和區(qū)間估計(jì)、并檢驗(yàn)回歸模型：求回歸系數(shù)的點(diǎn)估計(jì)和區(qū)間估計(jì)、并檢驗(yàn)回歸模型： b, bint,r,rint,stats=regress(Y,X,alp

11、ha)回歸系數(shù)的區(qū)間估計(jì)殘差用于檢驗(yàn)回歸模型的統(tǒng)計(jì)量，有三個(gè)數(shù)值：相關(guān)系數(shù)r2、F值、與F對(duì)應(yīng)的概率p置信區(qū)間 顯著性水平（缺省時(shí)為0.05） 相關(guān)系數(shù) r2越接近 1，說明回歸方程越顯著； F F1-（k，n-k-1）時(shí)拒絕 H0，F(xiàn) 越大，說明回歸方程越顯著； 與 F 對(duì)應(yīng)的概率 p時(shí)拒絕 H0，回歸模型成立. 21例例1 解：解：1、輸入數(shù)據(jù)：輸入數(shù)據(jù)： x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164; X=ones(16,1) x; Y=88 85 88 91 92 93 93 95 96 98 97

12、96 98 99 100 102;2、回歸分析及檢驗(yàn)：回歸分析及檢驗(yàn)： b,bint,r,rint,stats=regress(Y,X) b,bint,stats得結(jié)果：b = bint = -16.0730 -33.7071 1.5612 0.7194 0.6047 0.8340 stats = 0.9282 180.9531 0.0000即7194. 0,073.1610；0的置信區(qū)間為-33.7017，1.5612, 1的置信區(qū)間為0.6047,0.834;r2=0.9282, F=180.9531, p=0.0000p0.05, 可知回歸模型 y=-16.073+0.7194x 成立.

13、To MATLAB(liti11) 2022-3-22223、殘差分析，作殘差圖：、殘差分析，作殘差圖： rcoplot(r,rint) 從殘差圖可以看出，除第二個(gè)數(shù)據(jù)外，其余數(shù)據(jù)的殘差離零點(diǎn)均較近，且殘差的置信區(qū)間均包含零點(diǎn)，這說明回歸模型 y=-16.073+0.7194x能較好的符合原始數(shù)據(jù)，而第二個(gè)數(shù)據(jù)可視為異常點(diǎn). 4、預(yù)測(cè)及作圖：、預(yù)測(cè)及作圖：z=b(1)+b(2)*x plot(x,Y,k+,x,z,r)246810121416-5-4-3-2-101234Residual Case Order PlotResidualsCase Number返回返回To MATLAB(liti

14、12) 2022-3-2223多多 項(xiàng)項(xiàng) 式式 回回 歸歸 （一）一元多項(xiàng)式回歸（一）一元多項(xiàng)式回歸 （1）確定多項(xiàng)式系數(shù)的命令：p，S=polyfit（x，y，m） 其中 x=（x1，x2，xn） ，y=（y1，y2，yn） ；p=（a1，a2，am+1）是多項(xiàng)式 y=a1xm+a2xm-1+amx+am+1的系數(shù)；S 是一個(gè)矩陣，用來估計(jì)預(yù)測(cè)誤差.（2）一元多項(xiàng)式回歸命令：polytool（x，y，m）1、回歸：、回歸：y=a1xm+a2xm-1+amx+am+12、預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)：、預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)：（1）Y=polyval（p，x）求polyfit所得的回歸多項(xiàng)式在x處 的預(yù) 測(cè)

15、值Y； （2）Y，DELTA=polyconf（p，x，S，alpha）求polyfit所得 的回歸多項(xiàng)式在x處的預(yù)測(cè)值Y及預(yù)測(cè)值的顯著性為1- alpha的置信區(qū)間Y DELTA；alpha缺省時(shí)為0.5. 2022-3-2224 例例 2 觀測(cè)物體降落的距離s 與時(shí)間t 的關(guān)系，得到數(shù)據(jù)如下表，求s關(guān)于 t 的回歸方程2ctbtas.t (s)1/302/303/304/305/306/307/30s (cm)11.8615.6720.6026.6933.7141.9351.13t (s)8/309/3010/3011/3012/3013/3014/30s (cm)61.4972.9085

16、.4499.08113.77129.54146.48法一法一 直接作二次多項(xiàng)式回歸：直接作二次多項(xiàng)式回歸： t=1/30:1/30:14/30; s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48; p,S=polyfit(t,s,2)To MATLAB（liti21）1329. 98896.652946.4892tts得回歸模型為 ： 2022-3-2225法二法二 化為多元線性回歸：化為多元線性回歸：t=1/30:1/30:14/30;s=11.86 15.67 2

17、0.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48;T=ones(14,1) t (t.2);b,bint,r,rint,stats=regress(s,T);b,statsTo MATLAB(liti22)22946.4898896.651329. 9tts得回歸模型為 ：Y=polyconf(p,t,S) plot(t,s,k+,t,Y,r)預(yù)測(cè)及作圖預(yù)測(cè)及作圖To MATLAB(liti23) 2022-3-2226（二）多元二項(xiàng)式回歸（二）多元二項(xiàng)式回歸命令：rstool（x，y，model

18、, alpha）nm矩陣顯著性水平（缺省時(shí)為0.05）n維列向量由下列 4 個(gè)模型中選擇 1 個(gè)（用字符串輸入，缺省時(shí)為線性模型）： linear（線性）：mmxxy 110 purequadratic（純二次）： njjjjmmxxxy12110 interaction（交叉）： mkjkjjkmmxxxxy1110 quadratic（完全二次）： mkjkjjkmmxxxxy,1110 2022-3-2227 例例3 設(shè)某商品的需求量與消費(fèi)者的平均收入、商品價(jià)格的統(tǒng)計(jì)數(shù) 據(jù)如下，建立回歸模型，預(yù)測(cè)平均收入為1000、價(jià)格為6時(shí) 的商品需求量.需求量10075807050659010011

19、060收入10006001200500300400130011001300300價(jià)格5766875439選擇純二次模型，即 2222211122110 xxxxy法一法一 直接用多元二項(xiàng)式回歸：x1=1000 600 1200 500 300 400 1300 1100 1300 300;x2=5 7 6 6 8 7 5 4 3 9;y=100 75 80 70 50 65 90 100 110 60;x=x1 x2; rstool(x,y,purequadratic) 2022-3-2228 在畫面左下方的下拉式菜單中選”all”, 則beta、rmse和residuals都傳送到Matla

20、b工作區(qū)中.在左邊圖形下方的方框中輸入1000，右邊圖形下方的方框中輸入6。 則畫面左邊的“Predicted Y”下方的數(shù)據(jù)變?yōu)?8.47981，即預(yù)測(cè)出平均收入為1000、價(jià)格為6時(shí)的商品需求量為88.4791. 2022-3-2229在Matlab工作區(qū)中輸入命令： beta, rmse得結(jié)果：beta = 110.5313 0.1464 -26.5709 -0.0001 1.8475 rmse = 4.5362故回歸模型為：2221218475. 10001. 05709.261464. 05313.110 xxxxy剩余標(biāo)準(zhǔn)差為 4.5362, 說明此回歸模型的顯著性較好.To MA

21、TLAB(liti31) 2022-3-2230X=ones(10,1) x1 x2 (x1.2) (x2.2);b,bint,r,rint,stats=regress(y,X);b,stats結(jié)果為: b = 110.5313 0.1464 -26.5709 -0.0001 1.8475 stats = 0.9702 40.6656 0.0005法二法二To MATLAB(liti32)返回返回 2222211122110 xxxxy將 化為多元線性回歸： 2022-3-2231非線性回非線性回 歸歸 （1）確定回歸系數(shù)的命令： beta，r，J=nlinfit（x，y，model, bet

22、a0）（2）非線性回歸命令：nlintool（x，y，model, beta0，alpha）1、回歸：、回歸：殘差Jacobian矩陣回歸系數(shù)的初值是事先用m-文件定義的非線性函數(shù)估計(jì)出的回歸系數(shù)輸入數(shù)據(jù)x、y分別為 矩陣和n維列向量，對(duì)一元非線性回歸，x為n維列向量。mn2、預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)：、預(yù)測(cè)和預(yù)測(cè)誤差估計(jì)：Y，DELTA=nlpredci（model, x，beta，r，J）求nlinfit 或nlintool所得的回歸函數(shù)在x處的預(yù)測(cè)值Y及預(yù)測(cè)值的顯著性為1-alpha的置信區(qū)間Y DELTA. 2022-3-2232例例 4 對(duì)第一節(jié)例2，求解如下：1、對(duì)將要擬合的非線性模型

23、y=axbe/，建立 m-文件 volum.m 如下： function yhat=volum(beta,x) yhat=beta(1)*exp(beta(2)./x);2、輸入數(shù)據(jù)： x=2:16; y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76; beta0=8 2;3、求回歸系數(shù)： beta,r ,J=nlinfit(x,y,volum,beta0)； beta得結(jié)果：beta = 11.6036 -1.0641即得回歸模型為：xey10641. 16036.11To MATL

24、AB(liti41) 2022-3-22334、預(yù)測(cè)及作圖： YY,delta=nlpredci(volum,x,beta,r ,J)； plot(x,y,k+,x,YY,r)To MATLAB(liti42) 2022-3-2234例例5 財(cái)政收入預(yù)測(cè)問題：財(cái)政收入與國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝?、就業(yè)人口、固定資產(chǎn)投資等因素有關(guān)。下表列出了1952-1981年的原始數(shù)據(jù)，試構(gòu)造預(yù)測(cè)模型。 解解 設(shè)國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝?、就業(yè)人口、固定資產(chǎn)投資分別為x1、x2、x3、x4、x5、x6，財(cái)政收入為y，設(shè)變量之間的關(guān)系為：y= ax1+bx2+cx3+dx4+ex5+

25、fx6使用非線性回歸方法求解。 2022-3-22351 對(duì)回歸模型建立對(duì)回歸模型建立M文件文件model.m如下如下: function yy=model(beta0,X) a=beta0(1); b=beta0(2); c=beta0(3); d=beta0(4); e=beta0(5); f=beta0(6); x1=X(:,1); x2=X(:,2); x3=X(:,3); x4=X(:,4); x5=X(:,5); x6=X(:,6); yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6; 2022-3-22362. 主程序主程序liti6.m如下如下:X=598.00

26、 349.00 461.00 57482.00 20729.00 44.00 . 2927.00 6862.00 1273.00 100072.0 43280.00 496.00;y=184.00 216.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00 . 271.00 230.00 266.00 323.00 393.00 466.00 352.00 303.00 447.00 . 564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00 . 890.00 826.00

27、 810.0;beta0=0.50 -0.03 -0.60 0.01 -0.02 0.35;betafit = nlinfit(X,y,model,beta0)To MATLAB(liti6） 2022-3-2237 betafit = 0.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658即y= 0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6結(jié)果為結(jié)果為:返返 回回 2022-3-2238逐逐 步步 回回 歸歸逐步回歸的命令是： stepwise（x，y，inmodel，alpha） 運(yùn)行step

28、wise命令時(shí)產(chǎn)生三個(gè)圖形窗口：Stepwise Plot，Stepwise Table，Stepwise History. 在Stepwise Plot窗口，顯示出各項(xiàng)的回歸系數(shù)及其置信區(qū)間. Stepwise Table 窗口中列出了一個(gè)統(tǒng)計(jì)表，包括回歸系數(shù)及其置信區(qū)間，以及模型的統(tǒng)計(jì)量剩余標(biāo)準(zhǔn)差（RMSE）、相關(guān)系數(shù)（R-square）、F值、與F對(duì)應(yīng)的概率P.矩陣的列數(shù)的指標(biāo)，給出初始模型中包括的子集（缺省時(shí)設(shè)定為全部自變量）顯著性水平（缺省時(shí)為0.5）自變量數(shù)據(jù), 階矩陣mn因變量數(shù)據(jù)， 階矩陣1n 39例例6 水泥凝固時(shí)放出的熱量y與水泥中4種化學(xué)成分x1、x2、x3、 x4 有關(guān)

29、，今測(cè)得一組數(shù)據(jù)如下，試用逐步回歸法確定一個(gè) 線性模 型. 序號(hào)12345678910111213x17111117113122111110 x226295631525571315447406668x3615886917221842398x46052204733226442226341212y78.574.3104.387.695.9109.2102.772.593.1115.983.8113.3109.41、數(shù)據(jù)輸入：、數(shù)據(jù)輸入：x1=7 1 11 11 7 11 3 1 2 21 1 11 10;x2=26 29 56 31 52 55 71 31 54 47 40 66 68;x3=6

30、15 8 8 6 9 17 22 18 4 23 9 8;x4=60 52 20 47 33 22 6 44 22 26 34 12 12;y=78.5 74.3 104.3 87.6 95.9 109.2 102.7 72.5 93.1 115.9 83.8 113.3 109.4;x=x1 x2 x3 x4; 2022-3-22402、逐步回歸：、逐步回歸：（1）先在初始模型中取全部自變量：）先在初始模型中取全部自變量： stepwise(x,y)得圖Stepwise Plot 和表Stepwise Table圖圖Stepwise Plot中四條直線都是虛中四條直線都是虛線，說明模型的顯著性不好線，說明模型的顯著性不好從表從表Stepwise Table中看出變中看出變量量x3和和x4的顯著性最差的顯著性最差. 2022-3-2241（2）在圖）在圖Stepwise Plot中點(diǎn)擊直線中點(diǎn)擊直線3和直線和直線4，移去變量，移去變量x3和和x4移去變量移去變量x3和和x4后模型具有顯著性后模型具有顯著性. 雖然剩余標(biāo)準(zhǔn)差（雖然剩余標(biāo)準(zhǔn)差（RMSE）沒）沒有太大的變化，但是統(tǒng)計(jì)量有太大的變化，但是統(tǒng)計(jì)量F的的值明顯增大，因此新的回歸模型值明顯增大，因