回歸分析MATLAB工具箱一、多元線性回歸多元線性回歸：y=P+PX+???+PX0 11 pp1、確定回歸系數的點估計值：命令為：b=regress(YX)①b表示b=Y1Y②Y表示Y=2LY」n二\o"CurrentDocument"X ... X12 1pX ... X\o"CurrentDocument"X ... X12 1pX ... X22 2p111X③X表示X= 211X1Xn1X...Xn2 np2、求回歸系數的點估計和區間估計、并檢驗回歸模型:命令為：[b,bint,r,rint,stats]=regress(YX,alpha)bint表示回歸系數的區間估計.r表示殘差.rint表示置信區間.stats表示用于檢驗回歸模型的統計量，有三個數值：相關系數r2、F值、與F對應的概率p.說明：相關系數r2越接近1,說明回歸方程越顯著；F>膈(k,n-k-1)時拒絕H0,F越大,說明回歸方程越顯著；與F對應的概率p<a時拒絕H0,回歸模型成立.⑤alpha表示顯著性水平(缺省時為0.05)3、畫出殘差及其置信區間.命令為：rcoplot(r,rint)例1.如下程序.解：(1)輸入數據.x=[143145146147149150153154155156157158159160162164]';X=[ones(16,1)x];Y=[8885889192939395969897969899100102]';(2)回歸分析及檢驗.[b,bint,r,rint,stats]=regress(YX)b,bint,stats得結果：b= bint=

-16.07300.7194-16.07300.71940.6047 0.8340stats=0.9282180.9531 0.0000即B0=-16.073,可=0.7194；&0的置信區間為[-33.7017,1.5612],幻的置信區間為[0.6047,0.834];r2=0.9282,F=180.9531,p=0.0000,我們知道p<0.05就符合條件，可知回歸模型y=-16.073+0.7194x成立.(3)殘差分析，作殘差圖.rcoplot(r,rint)ResidualCaseOrderPlot4 6 8 10 12 14 16CaseNumber432O2345----slaudlspRResidualCaseOrderPlot4 6 8 10 12 14 16CaseNumber432O2345----slaudlspR從殘差圖可以看出，除第二個數據外，其余數據的殘差離零點均較近，且殘差的置信區間均包含零點，這說明回歸模型y=-16.073+0.7194x能較好的符合原始數據，而第二個數據可視為異常點.(4)預測及作圖.z=b(1)+b(2)*xplot(x,Y,'k+',x,z,'r')二、多項式回歸(一)一元多項式回歸.1、 一元多項式回歸：y=ax+ax+...+ax+a1m2m-1 m m+1確定多項式系數的命令：[p,S]=polyfit(x,y,m)說明：x=(x1,x2,...,xn),y=(y1,y2,...,yn)；p=(a1,a2,_,am+1)是多項式y=a1xm+a2xm-1+...+amx+am+1的系數；S是一個矩陣,用來估計預測誤差.一元多項式回歸命令：polytool(x,y,m)2、 預測和預測誤差估計.Y=polyval(p,x)求polyfit所得的回歸多項式在x處的預測值Y；[Y,DELTA]=polyconf(p,x,S,alpha求polyfit所得的回歸多項式在x處的預測值Y及預測值的顯著性為1-alpha的置信區間Y±DELTAalpha缺省時為0.5.例1.觀測物體降落的距離s與時間t的關系，得到數據如下表，求s.（關于t的回歸方程S=a+bt+ct2）t(s)1/302/303/304/305/306/307/30s(cm)11.8615.6720.6026.6933.7141.9351.13t(s)8/309/3010/3011/3012/3013/3014/30s(cm)61.4972.9085.4499.08113.77129.54146.48解法一：直接作二次多項式回歸.t=1/30:1/30:14/30;s=[11.8615.6720.6026.6933.7141.9351.1361.4972.9085.4499.08113.77129.54146.48];[p,S]=polyfit(t,s,2)得回歸模型為：s=489.2946t2+65.8896t+9.1329解法二：化為多元線性回歸.t=1/30:1/30:14/30;s=[11.8615.6720.6026.6933.7141.9351.1361.4972.9085.4499.08113.77129.54146.48];T=[ones(14,1)t'(t.A2)'];[b,bint,r,rint,stats]=regress(s',T);b,stats得回歸模型為：S=9.1329+65.8896t+489.2946t2預測及作圖：Y=polyconf(p,t,S)plot(t,s,'k+',t,Y,'r')（二）多元二項式回歸多元二項式回歸命令：rstool（x,y,’model’，alpha）說明：x表示nxm矩陣；Y表示n維列向量；alpha:顯著性水平（缺省時為0.05）；model表示由下列4個模型中選擇1個（用字符串輸入，缺省時為線性模型）：linear（線性）：y=P+P工+ P工0 11 mmpurequadratic(純二次)：y=P+Px+ Px+▼Px20 11 mm jjjj=1interaction(交叉)：y=p+px+ px+乙pxx0 11 mm jkjk1<j#k<m^quadratic(完全二次)：y=p+px+ px+乙。xx0 11 mm jkjk1<j,k<m例1.設某商品的需求量與消費者的平均收入、商品價格的統計數據如下，建立回歸模型，預測平均收入為1000、價格為6時的商品需求量.需求量10075807050659010011060收入10006001200500300400130011001300300價格5766875439

解法一：選擇純二次模型，即y=p+px+px+p若+px2.0 "11 '22 "111 '222直接用多元二項式回歸:x1=[10006001200500300400130011001300300];x2=[5766875439];y=[10075807050659010011060]';x=[x1'x2'];rstool(x,y,'purequadratic')在左邊圖形下方的方框中輸入1000rstool(x,y,'purequadratic')在左邊圖形下方的方框中輸入1000，右邊圖形下方的方框中輸入6,則畫面左邊的“PredictedY”下方的數據變為88.47981,即預測出平均收入為1000、價格為6時的商品需求量為88.4791.在畫面左下方的下拉式菜單中選"all",則beta、rmse和residuals都傳送至UMatlab工作區中.在Matlab工作區中輸入命令：beta,rmse得結果：beta=110.53130.1464-26.5709-0.00011.8475rmse=4.5362故回歸模型為：y=110.5313+0.1464x1-26.5709x2-0.0001x2+1.8475x2剩余標準差為4.5362,說明此回歸模型的顯著性較好.解法二：將y=P+Px+Px+Px2+Px2化為多元線性回歸:0 11 22 111 222X=[ones(10,1)x1'x2'(x1.A2)'(x2.A2)'];[b,bint,r,rint,stats]=regress(y,X);b,stats結果為：b=110.53130.1464-26.5709-0.00011.8475stats=40.6656 0.00050.970240.6656 0.0005三、非線性回歸1、 非線性回歸：確定回歸系數的命令：[beta,r,J]=nlinfit(x,y,'model’,beta0)說明：beta表示估計出的回歸系數；r表示殘差；J表示Jacobian矩陣；x,y表示輸入數據x、y分別為矩陣和n維列向量,對一元非線性回歸,x為n維列向量；model表示是事先用m-文件定義的非線性函數；beta0表示回歸系數的初值.非線性回歸命令：nlintool(x,y,'model',beta0,alpha)2、 預測和預測誤差估計：[Y,DELTA]=nlpredci(model',x,beta,r,J)表示nlinfit或nlintool所得的回歸函數在x處的預測值Y及預測值的顯著性為1-alpha的置信區間Y±DELTA.例1.如下程序.解：(1)對將要擬合的非線性模型y=aeb/x，建立m-文件volum.m如下：functionyhat=volum(beta,x)yhat=beta(1)*exp(beta(2)./x);輸入數據：x=2:16;y=[6.428.209.589.59.7109.939.9910.4910.5910.6010.8010.6010.9010.76];beta0=[82]';求回歸系數：[beta,r,J]=nlinfit(x',y','volum',beta0)；beta運行結果：beta=11.6036-1.0641即得回歸模型為：1.10641y=11.6036e-x(5)預測及作圖：[YY,delta]=nlpredci('volum',x',beta,r,J)；plot(x,y,'k+',x,YY,'r')四、逐步回歸1、 逐步回歸的命令：stepwise(x,y,inmodel,alpha)說明：x表示自變量數據,nxm階矩陣；y表示因變量數據,nx1階矩陣；inmodel表示矩陣的列數的指標，給出初始模型中包括的子集(缺省時設定為全部自變量)；alpha表示顯著性水平(缺省時為0.5).2、 運行stepwise命令時產生三個圖形窗口：StepwisePlot,StepwiseTable,StepwiseHistory.在StepwisePlot窗口，顯示出各項的回歸系數及其置信區間.⑴StepwiseTable窗口中列出了一個統計表,包括回歸系數及其置信區間，以及模型的統計量剩余標準差(RMSE)、相關系數(R-square)、F值、與F對應的概率P.例1.水泥凝固時放出的熱量y與水泥中4種化學成分x1、x2、x3、x4有關,今測得一組數據如下，試用逐步回歸法確定一個線性模型.12345678910111213

序號x17111117113122111110x226295631525571315447406668x3615886917221842398x46052204733226442226341212y78.574.3104.387.695.9109.2102.772.593.1115.983.8113.3109.4解：（1）數據輸入：x1=[7111117113122111110]';x2=[26295631525571315447406668]';x3=[615886917221842398]';x4=[6052204733226442226341212]';y=[78.574.3104.387.695.9109.2102.772.593.1115.983.8113.3109.4]';x=[x1x2x3x4];(2)逐步回歸.①先在初始模型中取全部自變量：stepwise(x,y)得圖StepwisePlot和表StepwiseTable.l-l'llcfLEn.Ll-r--Iml'llHI'llFll-FI①先在初始模型中取全部自變量：stepwise(x,y)得圖StepwisePlot和表Stepwise