1、第9章非線(xiàn)性回歸9.1 在非線(xiàn)性回歸線(xiàn)性化時(shí)，對(duì)因變量作變換應(yīng)注意什么問(wèn)題？答：在對(duì)非線(xiàn)性回歸模型線(xiàn)性化時(shí)，對(duì)因變量作變換時(shí)不僅要注意回歸函數(shù)的形式，還要注意誤差項(xiàng)的形式。如：乘性誤差項(xiàng)，模型形式為y=AK"0e加性誤差項(xiàng)，模型形式為y = AK "P + 6 ：i對(duì)乘法誤差項(xiàng)模型（1）可通過(guò)兩邊取對(duì)數(shù)轉(zhuǎn)化成線(xiàn)性模型，（2）不能線(xiàn)性化。 一般總是假定非線(xiàn)性模型誤差項(xiàng)的形式就是能夠使回歸模型線(xiàn)性化的形式，為了方便通常省去誤差項(xiàng)，僅考慮回歸函數(shù)的形式。9.2 為了研究生產(chǎn)率與廢料率之間的關(guān)系， 記錄了如表9.14所示的數(shù)據(jù)，請(qǐng)畫(huà)出 散點(diǎn)圖，根據(jù)散點(diǎn)圖的趨勢(shì)擬合適當(dāng)?shù)幕貧w模型。表

2、 9.14生產(chǎn)率x （單位/周）1000200030003500400045005000廢品率y （%）5.26.56.88.110.210.313.0解：先畫(huà)出散點(diǎn)圖如下圖:12.0010.008.006.00X從散點(diǎn)圖大致可以判斷出X和y之間呈拋物線(xiàn)或指數(shù)曲線(xiàn)，由此采用二次方程式和指數(shù)函數(shù)進(jìn)行曲線(xiàn)回歸(1)二次曲線(xiàn)SPSS輸出結(jié)果如下:Mode l Sum maryRR SquareAdjustedR SquareStd. Error of the Estimate.981.962.942.651The independent variable is x.ANOVASum of Squar

3、esdfMean SquareFSig.Regression42.571221.28650.160.001Residual1.6974.424Total44.2696The independent variable is x.Coe fficientsUnstandardizedCoefficientsStandardized CoefficientstSig.BStd. ErrorBetax-.001.001-.449-.891.423x * 24.47E-007.0001.4172.812.048(Constant)5.8431.3244.414.012從上表可以得到回歸方程為：y? =

4、5.843 -0.087x + 4.47父10,x2由x的系數(shù)檢驗(yàn)P值大于0.05,得到x的系數(shù)未通過(guò)顯著性檢驗(yàn)。由x2的系數(shù)檢驗(yàn)P值小于0.05,得到x2的系數(shù)通過(guò)了顯著性檢驗(yàn)。(2)指數(shù)曲線(xiàn)Mode l Sum maryRR SquareAdjustedR SquareStd. Error of the Estimate.970.941.929.085The independent variable is x.ANOVASum of SquaresdfMean SquareFSig.Regression.5731.57379.538.000Residual.0365.007Total.60

5、96The independent variable is x.Coe fficientsUnstandardizedCoefficientsStandardized CoefficientstSig.BStd. ErrorBetax.000.000.9708.918.000(Constant)4.003.34811.514.000The dependent variable is ln(y).從上表可以得到回歸方程為：y? = 4.003e0.0002t由參數(shù)檢驗(yàn)P值=0<0.05,得到回歸方程的參數(shù)都非常顯著。1QQO 002000.003000.004(X)0 005000.00從

6、R2值，0的估計(jì)值和模型檢驗(yàn)統(tǒng)計(jì)量 F值、t值及擬合圖綜合考慮, 指數(shù)擬合效果更好一些。9.3 已知變量x與y的樣本數(shù)據(jù)如表9.15,畫(huà)出散點(diǎn)圖，試用 e"x來(lái)擬合回歸模型，假設(shè)：表 9.15(1)乘性誤差項(xiàng)，模型形式為y=%e"xe,廳pxy廳pxy廳pxy14.200.08663.200.150112.200.35024.060.09073.000.170122.000.44033.800.10082.800.190131.800.62043.600.12092.600.220141.600.94053.400.130102.400.240151.401.620加性誤差

7、項(xiàng)，模型形式為y=aeHx+ £ o解：散點(diǎn)圖:1.500-1.000-0.500-0.000-(1)乘性誤差項(xiàng)，模型形式為y=%e"xe,線(xiàn)性化：lny=ln a + 3 /x + e 令 yl=lny, a=ln% ,x1=1/x .做y1與x1的線(xiàn)性回歸，SPSS輸出結(jié)果如下:Model SummarjbModelRR SquareAdjusted R SquareStd. Error of the Estimate1.999 a.997.997.04783a. Predictors: (Constant), x1b. Dependent Variable: y1AN

8、OVA bModelSum of SquaresdfMean SquareFSig.1Regression10.930110.9304778.305.000 aResidual.03013.002Total10.96014a. Predictors: (Constant), x1b. Dependent Variable: y1Coe fficients aModelUnstandardized CoefficientsStandardized CoefficientstSig.BStd. ErrorBeta1(Constant)x1-3.8566.080.037.088.999-103.83

9、069.125.000.000a. Dependent Variable: y1從以上結(jié)果可以得到回歸方程為：y1=-3.856+6.08x1F檢驗(yàn)和t檢驗(yàn)的P值=0<0.05,得到回歸方程及其參數(shù)都非常顯著?；卮鸀樵匠虨椋簓=0.021e6.08/x(2)加性誤差項(xiàng)，模型形式為y=a e /x+ £不能線(xiàn)性化，直接非線(xiàn)性擬合。給初值 =0.021, (3 =6.08(線(xiàn)性化結(jié)果)，NLS結(jié)果如下：Param ete r Estimate sParameterEstimateStd. Error95% Confidence IntervalLow er BoundUpper

10、Bounda.021.001.020.023b6.061.0445.9656.157Iteration HistoryIteration Number3Residual Sum ofSquaresParameterab10001.0216.0801.10010216.0612.0,001,0215.Q6121,001,0216.06130,001,0216.0613 1001.0216.061ANOVA aSourceSum of SquaresdfMeanSquaresRegression4.45822.229Residual.00113.000Uncorrected Total4.4591

11、5Corrected Total2.46714Dependent variable: ya. R squared = 1 - (Residual Sum of Squares) / (Corrected Sum of Squares) = 1.000.從以上結(jié)果可以得到回歸方程為:y=0.021e6.061/x根據(jù)R2-1,參數(shù)的區(qū)間估計(jì)不包括零點(diǎn)且較短，可知回歸方程擬合非常好，且其參數(shù)都顯著。Predicted Values9.4 Logistic回歸函數(shù)常用于擬合某種消費(fèi)品的擁有率，表 8.17 (書(shū)上239頁(yè)， 此處略)是北京市每百戶(hù)家庭平均擁有的照相機(jī)數(shù)，試針對(duì)以下兩種情況擬合 Log

12、istic回歸函數(shù)。1y :bobtu(1)已知u =100,用線(xiàn)性化方法擬合，(2) u未知，用非線(xiàn)性最小二乘法擬合。根據(jù)經(jīng)濟(jì)學(xué)的意義知道，u是擁有率的上限，初值可取100; b0>0,0<b1<1初值請(qǐng)讀者自己選擇。解：(1), u=i00時(shí)，的線(xiàn)性擬合。對(duì)y=Q函數(shù)線(xiàn)性化得到： _ bod u1111人11 公ln( - )= 1.851 -0.264 ln(- )=ln b° +tln b1，令 y3 = ln(- )，作 yy 100y 100y 100關(guān)于t的線(xiàn)性回歸分析，SPSS輸出結(jié)果如下：Model SummarybModelRR SquareAd

13、justedR SquareStd. Error of the Estimate1.994 a.988.987.16820a. Predictors: (Constant), tb. Dependent Variable: y3ANOVA bModelSum of SquaresdfMean SquareFSig.1Regression39.839139.8391408.165.000 aResidual.48117.028Total40.32018a. Predictors: (Constant), t b. Dependent Variable: y3Coe fficients aMode

14、lUnstandardizedCoefficientsStandardized CoefficientstSig.BStd. ErrorBeta1(Constant)t-1.851-.264.080.007-.994-23.039-37.526.000.000a. Dependent Variable: y3由表Model Summary得到，R= 0.994趨于1,回歸方程的擬合優(yōu)度好，由表ANOVA得到回歸方程顯著，由 Coefficients表得到，回歸系數(shù) 都是顯著的，得到方程：吟一得0.264，進(jìn)一步計(jì)算得到:d=0.157, b, =0.768 (u=100)回代變量得到最終方程形

15、式為：0.01 0.157 0.768t最后看擬合效果，通過(guò) sequence畫(huà)圖:y4由圖可知回歸效果比較令人滿(mǎn)意。(2)非線(xiàn)性最小二乘擬合，取初值u=100,b0 =0.157,1bl =0.768 :一共循環(huán)迭代8次，得到回歸分析結(jié)果為：Param ete r Estimate sParameterEstim ateStd. E rror95% Confidence IntervalLow er BoundUpper Boundu91.0622.03586.74795.377b.211.028.152.271c.727.012.701.753ANOVA aSourceSum of Squ

16、aresdfMeanSquaresRegression60774.331320258.110Residual85.369165.336Uncorrected Total60859.70019Corrected Total15690.38618Dependent variable: ya. R squared = 1 - (Residual Sum of Squares) / (Corrected Sum of Squares) = .995.u =91.062 ,R = 0.995>0.994,得到回歸效果比線(xiàn)性擬合要好，且:b0 =0.211 , b =0.727 ,回歸方程為：y二-

17、110.211*0.727t91.062最后看擬合效果，由sequence畫(huà)圖:-Predicted Values得到回歸效果很好，而且較優(yōu)于線(xiàn)性回歸9.5表9.17 (書(shū)上233頁(yè)，此處略)數(shù)據(jù)中GDP和投資額K都是用定基居民消 費(fèi)價(jià)格指數(shù)(CPI)縮減后的，以1978年的價(jià)格指數(shù)為100。(1) 用線(xiàn)性化乘性誤差項(xiàng)模型擬合 C-D生產(chǎn)函數(shù)；(2) 用非線(xiàn)性最小二乘擬合加性誤差項(xiàng)模型的C-D生產(chǎn)函數(shù)；(3) 對(duì)線(xiàn)性化檢驗(yàn)自相關(guān)，如果存在自相關(guān)則用自回歸方法改進(jìn)；(4) 對(duì)線(xiàn)性化檢驗(yàn)多重共線(xiàn)性，如果存在多重共線(xiàn)性則用嶺回歸方法改進(jìn)；解：(1)對(duì)乘法誤差項(xiàng)模型可通過(guò)兩邊取對(duì)數(shù)轉(zhuǎn)化成線(xiàn)性模型。ln

18、 y=ln A+ ： ln K+ In L令y' =ln y, B o=ln A, xi=ln K, X2=ln L,則轉(zhuǎn)化為線(xiàn)性向歸方程：y = 0 0+ ot Xi+ 口 品+ zSPSS輸出結(jié)果如下：模型綜述表Model Summ arybModelRR SquareAdjusted R SquareStd. Error of the Estimate1.997 a.994.993.04836a. Predictors: (Constant), InL, InKb. Dependent Variable: lnY從模型綜述表中可以看到，調(diào)整后的R?為0.993,說(shuō)明C-D生產(chǎn)函數(shù)

19、擬合效 果很好，也說(shuō)明GDP的增長(zhǎng)是一個(gè)指數(shù)模型。方差分析表ANOVA bModelSum ofSquaresdfMean SquareFSig.1Regression8.44624.2231805.601.000 aResidual.05122.002Total8.49724a. Predictors: (Constant), lnL, lnKb. Dependent Variable: lnY從方差分析表中可以看到，F(xiàn)值很大，P值為零，說(shuō)明模型通過(guò)了檢驗(yàn)，這 與上述分析結(jié)果一致。系數(shù)表Coe fficients aModelUnstandardized CoefficientsStanda

20、rdized CoefficientstSig.BStd. ErrorBeta1(Constant)-1.7851.438-1.241.228lnK.801.056.86114.370.000lnL.402.171.1412.354.028a. Dependent Variable: InY根據(jù)系數(shù)表顯示，回歸方程為：liiY = lL785 + 0.801lnK +0,4021nL盡管模型通過(guò)了檢驗(yàn)，但是也可以看到，常數(shù)項(xiàng)沒(méi)有通過(guò)檢驗(yàn)，但在這個(gè)模型里， 當(dāng)lnK和lnL都為零時(shí)，lnY為-1.785,即當(dāng)K和L都為1時(shí)，GDP為0.168, 也就是說(shuō)當(dāng)投入資本和勞動(dòng)力都為1個(gè)單位時(shí)，GDP將

21、增加0.168個(gè)單位，這種 解釋在我們的承受范圍內(nèi)，可以認(rèn)為模型可以用。最終方程結(jié)果為：y=0.618K°-801 L0.404(2) 用非線(xiàn)性最小二乘法擬合加性誤差項(xiàng)模型的 C-D生產(chǎn)函數(shù);上述假設(shè)誤差是乘性的，現(xiàn)假設(shè)誤差是加性的情況下使用非線(xiàn)性最小二乘法 估計(jì)。初值采用(1)中參數(shù)的結(jié)果，SPSS輸出結(jié)果如下：參數(shù)估計(jì)表Param ete r Estimate sParameterEstim ateStd. E rror95% Confidence IntervalLow er BoundUpper BoundP.407.885-1.4292.243a.868.066.7311.

22、006b.270.243-.234.774SPSS經(jīng)過(guò)多步迭代，最終得到的穩(wěn)定參數(shù)值為P=0.407, a=0.868, b=0.270y=0.407K°.868 L0.270為了比較這兩個(gè)方程，我們觀察下面兩個(gè)圖線(xiàn)性回歸估計(jì)擬合曲線(xiàn)圖4 5 67 10 II 12 13 14 15 IS 17 18 19 20 21 22 23 24 25GDPInGDPSequence number非線(xiàn)性最小二乘估計(jì)擬合曲線(xiàn)圖Sequence number我們知道，乘性誤差相當(dāng)于是異方差的，做了對(duì)數(shù)變換后，乘性誤差轉(zhuǎn)為加 性誤差，這種情況下認(rèn)為方差是相等的，那么第一種情況(對(duì)數(shù)變換線(xiàn)性化)就 大

23、大低估了 GDP數(shù)值大的項(xiàng)，因此，它對(duì)GDP前期擬合的很好，而在后期偏差 就變大了，同時(shí)也會(huì)受到自變量之間的自相關(guān)和多重共線(xiàn)性的綜合影響；非線(xiàn)性最小二乘法完全依賴(lài)數(shù)據(jù)，如果自變量之間存在比較嚴(yán)重的異方差、 自相關(guān)以及 多重共線(xiàn)性，將對(duì)擬合結(jié)果造成很大的影響。因此，不排除異方差、自相關(guān)以及 多重共線(xiàn)性的存在。(3) 對(duì)線(xiàn)性化回歸模型采用DW檢驗(yàn)自相關(guān)，結(jié)果如下:模型綜述表Model Summ arModelRR SquareAdjusted R SquareStd. Error of the EstimateDurbin-Watson1.997 a.994.993.04836.715a. Pre

24、dictors: (Constant), InL, InKb. Dependent Variable: lnYDW=0.715<1.27,落在自相關(guān)的區(qū)間，所以采用迭代法改進(jìn)DW3 = 11 =0.64252一X；=Xt-pXt_1將得到的數(shù)據(jù)再取對(duì)數(shù)，而后用普通最小二乘法估計(jì)，保留 DW值模型綜述表Model Summ aMModelRR SquareAdjustedR SquareStd. Error of the EstimateDurbin-Watson1.983 a.967.964478.902711.618a. Predictors: (Constant), Ltt, Ktt

25、b. Dependent Variable: Ytt方差分析表ANOVA bModelSum of SquaresdfMean SquareFSig.1Regression7.55423.777601.286.000 aResidual.13221.006Total7.68623a. Predictors: (Constant), InLtt, InKttb. Dependent Variable: lnYtt系數(shù)表Coe fficients aModelUnstandardized CoefficientsStandardized CoefficientstSig.BStd. ErrorBe

26、ta1(Constant)-1.8591.470-1.265.220lnKtt.755.054.85214.098.000lnLtt.465.180.1562.577.018a. Dependent Variable: lnYtt從模型綜述表中可以看到，DW=1.618>1.45,認(rèn)為消除了自相關(guān)；方差分析表中可以看到F值很大，P值為零，說(shuō)明模型通過(guò)了檢驗(yàn)。從系數(shù)表可得回歸方程：JnY = -1,659 +。. 7551nK + 0.4651nL1再迭代回去，最終得方程為：Lnyt Lnyt 1 = -1.859+ 0.755(LnKt LnKt i) + 0.465(LnLt LnLt

27、-i)(4)對(duì)線(xiàn)性化回歸方程通過(guò) VIF檢驗(yàn)多重共線(xiàn)性:方差分析表ANOVAbModelSum of SquaresdfMean SquareFSig.1Regression8.44624.2231805.601.000 aResidual.05122.002Total8.49724a. Predictors: (Constant), lnL, lnKb. Dependent Variable: lnY系數(shù)表ModelUnstandardized CoefficientsStandardized CoefficientstSig.Collinearity StatisticsBStd. E rrorBetaToleranceVIF1(Constant)-1.7851.438-1.241.228lnK.801.056.86114.370.000.07713.034lnL.402.171.1412.354.028.07713.034aCoe fficie ntsa. Dependent Variable: InY多重共線(xiàn)性診斷表Colline arity Diagnostics aModelDimensionEigenvalueCondition IndexVariance P ropo