關于統計學實驗方差回歸分析1第1頁，共68頁，2022年，5月20日，19點45分，星期五2方差分析(AnalysisofVariance,ANOVA)1928年由英國統計學家R.A.Fisher首先提出，為紀念Fisher，以F命名，故方差分析又稱為F檢驗。第2頁，共68頁，2022年，5月20日，19點45分，星期五3方差分析(ANOVA)①檢驗多個總體均值是否相等②研究一個或多個分類型自變量對一個數值型因變量的影響③有單因素方差分析和雙因素方差分析單因素方差分析：涉及一個分類的自變量雙因素方差分析：涉及兩個分類的自變量無交互作用的雙因素方差分析；有交互作用的雙因素方差分析；第3頁，共68頁，2022年，5月20日，19點45分，星期五4

方差分析檢驗假定

①總體是服從正態分布的；

②總體方差是相等的；③隨機樣本是獨立的。

第4頁，共68頁，2022年，5月20日，19點45分，星期五單因素方差分析用于檢驗由單一因素影響的一個(或幾個相互獨立的)因變量按因素各水平分組的均值之間是否具有顯著性差異，也可用于進行兩兩組間均值的比較；可通過One-WayANOVA對話框實現。第5頁，共68頁，2022年，5月20日，19點45分，星期五6建立的假設組為：提出假設H0

：12…k

自變量對因變量沒有顯著影響，沒有系統誤差

H1：1,2,，k

不全相等自變量對因變量有顯著影響注意：拒絕原假設，只表明至少有兩個總體的均值不相等，并不意味著所有的均值都不相等第6頁，共68頁，2022年，5月20日，19點45分，星期五例1單因素方差分析某企業需要一種零件，現有三個不同的地區的企業生產的同種零件可供選擇，為了比較這三個零件的強度是否相同，每個地區的企業抽出6件產品進行強度測試，其值如表所示。假設每個企業零件的強度值服從正態分布，試檢驗這三個地區企業的零件強度是否存在顯著差異。地區強度樣本12311161108929810385310011899411510673583107976105116102第7頁，共68頁，2022年，5月20日，19點45分，星期五81、單擊分析(Analyze)

比較均值（CompareMeans）

單因素（

One-WayANOVA），打開對話框。步驟：2、從左框中選擇因變量”零件強度”進入因變量框內，選擇“地區”進入因子框內。點擊確定。第8頁，共68頁，2022年，5月20日，19點45分，星期五9可以得到方差分析表由于F統計量值的P值明顯小于顯著性水平0.05，故拒絕假設H0，認為這三個地區的零件強度有顯著差異。如果需要對各地區間的零件強度進行進一步的比較和分析，可以通過按紐選項Option選項，contrast對比，PostHoc兩兩比較去實現。aF分布F(k-1,n-k)0拒絕H0不能拒絕H0F第9頁，共68頁，2022年，5月20日，19點45分，星期五103、單擊選項Option按紐，打開對話框如圖所示，選擇輸出項。主要有不同水平下樣本方差的齊性檢驗，缺失值的處理方式及均值的圖形。本例中選擇描述性（Descriptive）進行基本統計描述，以及方差同質檢驗（Homogeneityofvariancetest）進行不同水平間方差齊性的檢驗。在缺失值（MissingValue）欄中選擇系統默認項。第10頁，共68頁，2022年，5月20日，19點45分，星期五11完成所有選擇后返回主對話框，然后單擊OK，就可以得到三個地區零件強度分析表。基本統計描述

方差齊性檢驗

P值大于0.05，所以因素變量的各水平間的方差是沒有顯著差異的。Levene檢驗是一種非參數檢驗方法，與F檢驗類似，但不依賴與正態性假設，比F檢驗更穩健。第11頁，共68頁，2022年，5月20日，19點45分，星期五124、如果需要將水平間兩兩比較，可以單擊兩兩比較PostHoc

按紐，打開多重比較對話框。如圖所示：如果滿足在水平間方差相等的條件，常用LSD（最小顯著性差異法），用t檢驗完成各組均值間的配對比較。當方差不等的情況下，可以選擇TamhanesT2,用t檢驗進行各組均值間的配對比較。第12頁，共68頁，2022年，5月20日，19點45分，星期五13選擇多重比較方式后，點擊OK，得到輸出結果。從表中可以看出，地區2與地區3之間的差異是非常顯著的，它們均值差的檢驗的尾概率為0.005，明顯小于顯著性水平0.05。第13頁，共68頁，2022年，5月20日，19點45分，星期五14某大型連鎖超市為了解不同促銷手段對商品銷售額的影響，在其下屬五個分店中，對同一類日常生活用品分別采用不同促銷方式進行了為期四個月的銷售對比試驗（銷售對比試驗結果見所附數據集SY-22)。試利用方差分析方法，檢驗不同促銷方式下的商品銷售量是否存在顯著性差異（試驗前該類商品在五個分店內的月銷售額基本處于同一水平）。例2分析思路：這是單一因素影響下的方差分析問題，可以以月銷售額為因變量，以促銷方式為影響因素變量進行分析；分析過程利用SPSS軟件中的One-WayANOVA菜單實現。第14頁，共68頁，2022年，5月20日，19點45分，星期五15操作步驟：打開數據集SY-22，變量SALE和A分別表示月銷售額和促銷方式

。依次選擇Analyze→CompareMeans→One-WayANOVA，展開單因素方差分析對話框，將變量SALE送入Dependentlist框，將影響因素變量A送入Factor框。

單擊PostHoc項，在打開的對話框中，選中LSD復選框，以進行各組均值間的兩兩比較。繼續單擊Continue按鈕，返回到主對話框。

單擊OK按鈕，即得出單因素方差分析的運行結果。第15頁，共68頁，2022年，5月20日，19點45分，星期五16單因素方差分析的輸出結果輸出結果第16頁，共68頁，2022年，5月20日，19點45分，星期五17雙因素方差分析雙因素方差分析的應用范圍很廣；應用條件：因變量是數值型變量，且來自或近似來自正態總體。自變量是分類變量，變量可以是數值型或字符型的。各水平下的總體假設服從正態分布，而且假設各水平下的方差是相等的。第17頁，共68頁，2022年，5月20日，19點45分，星期五18雙因素方差分析雙因素方差分析過程：可以分析出每一個因素的作用；各因素之間的交互作用；檢驗各總體間方差是否相等；能夠對因素的各水平間均值差異進行比較等。第18頁，共68頁，2022年，5月20日，19點45分，星期五19例3雙因素方差分析下表是某商品S在不同地區和不同時期的銷售量（千件）表。已知數據服從正態分布，則要檢驗地區因素及時間因素對銷售量的影響是否顯著。（SY-23）地區時期1234516.514.213.42.46.221.87.19.41.54.833.610.87.21.74.943.78.98.62.34.657.612.67.52.85.2由于銷售量受地區和時間兩個因素的影響，這是一個雙因素方差分析的問題。第19頁，共68頁，2022年，5月20日，19點45分，星期五201、單擊分析(Analyze)

一般線性模型（GenerallinearModel）單變量（Univariate），打開主對話框。

步驟：2、從左框中選擇因變量“銷售量

”進入因變量框內，選擇“地區”和“時期”進入固定因子框內。點擊確定。第20頁，共68頁，2022年，5月20日，19點45分，星期五213、單擊模型（Model）按紐選擇分析模型，得到對話框如圖。全因子選項為系統默認項，建立全模型，全模型中包括因素之間的交互作用。如果選擇分析兩個因素的交互作用，則必須在每種水平組合下，取得兩個以上的實驗數據，才能實現兩個因素的交互作用的分析結果。如果不考慮因素間的交互作用時，應當選擇設定模型。第21頁，共68頁，2022年，5月20日，19點45分，星期五22先從左邊框中選擇因素變量進入模型框中，然后選擇類型。一般不考慮交互作用時，選擇主效應，考慮交互作用時，選擇交互。本例中選擇主效應。平方和一般選取默認項類型Ⅲ。單擊繼續，返回主對話框，點擊確定就可以得到相應的雙因素方差分析表.第22頁，共68頁，2022年，5月20日，19點45分，星期五23從表中數據可以看出，F值對應概率P值都小于顯著性水平0.05，這說明地區和時期對銷售量的影響都是顯著的。第23頁，共68頁，2022年，5月20日，19點45分，星期五24實驗4：相關與回歸分析相關分析回歸分析第24頁，共68頁，2022年，5月20日，19點45分，星期五25相關分析相關分析是研究變量間密切程度的統計方法，線性相關分析研究的是兩變量間線性關系的程度，用相關系數表示；可以通過分析菜單進行相關分析；

SPSS提供的相關分析功能有雙變量相關分析(Bivariate)；偏相關分析(Partial)；距離相關分析(Distance)。第25頁，共68頁，2022年，5月20日，19點45分，星期五26雙變量相關分析（簡單相關分析）

兩個變量之間的相關關系稱簡單相關關系。有兩種方法可以反映簡單相關關系：通過散點圖直觀地顯示變量之間關系；通過相關系數準確地反映兩變量的關系程度。第26頁，共68頁，2022年，5月20日，19點45分，星期五27雙變量相關分析——散點圖例4數據庫SY-31中的變量X表示山東省人均國內生產總值，Y表示山東省城鎮居民的消費額（資料來源：山東省2003年統計年鑒），現畫出散點圖來觀察兩個變量的關聯程度。具體操作步驟如下：首先打開數據SY-31；然后單擊圖形Graphs

散點Scatter,打開散點圖Scatterplot對話框，選擇需要的散點圖，圖中的5個選項如下：第27頁，共68頁，2022年，5月20日，19點45分，星期五283.如果只考慮兩個變量，可選擇簡單的散點圖Simple，然后點擊定義Define，打開簡單散點圖SimpleScatterplot對話框,如左圖所示。4.選擇變量分別進入X軸和Y軸，點擊OK后就可以得到右邊的散點圖。第28頁，共68頁，2022年，5月20日，19點45分，星期五29雙變量相關分析——相關系數具體操作如下：1.打開數據庫SY-31后，單擊分析Analyze

相關Correlate雙變量

Bivariate；如圖所示。第29頁，共68頁，2022年，5月20日，19點45分，星期五30用于計算分類變量的秩相關，考慮結點的影響用于計算分類變量的秩相關適用于正態分布等間隔測度的變量分析變量2、從左邊的變量框中選擇需要考察的兩個變量進入變量框內，選擇相關系數的種類，選擇檢驗方式，單擊選項Options按紐。

第30頁，共68頁，2022年，5月20日，19點45分，星期五313.選擇輸出項和缺失值的處理方式。本例中選擇輸出基本統計描述。成對剔除帶有缺失值的觀測量剔除所有帶有缺失值的觀測量第31頁，共68頁，2022年，5月20日，19點45分，星期五324.單擊OK，可以得到相關分析的結果。見圖所示。從表中可以看到兩個變量相關性分析的結果：相關系數是0.996，相關程度非常高，且假設檢驗的P值遠遠地小于0.05，可以認為人均國內生產總值與城鎮居民消費額存在線性正相關關系。第32頁，共68頁，2022年，5月20日，19點45分，星期五33偏相關分析

簡單相關關系只反映兩個變量之間的關系，但如果因變量受到多個因素的影響時，因變量與某一自變量之間的簡單相關關系顯然受到其它相關因素的影響，不能真實地反映二者之間的關系，所以需要考察在其它因素的影響剔除后二者之間的相關程度，即偏相關分析。第33頁，共68頁，2022年，5月20日，19點45分，星期五34例5為了考察火柴銷售量的影響因素，選擇煤氣戶數、卷煙銷量、蚊香銷量、打火石銷量作為影響因素，得數據表。試求火柴銷售量與煤氣戶數的偏相關系數.

年份火柴銷售量（萬件）煤氣戶數（萬戶）卷煙銷量（百箱）蚊香銷量（十萬盒）打火石銷量（百萬粒）6823.6925.6823.610.14.186924.125.7723.4213.312.437022.7425.8822.099.496.57117.8427.4321.4311.0925.787218.2729.9524.9614.4828.167320.2933.5328.3716.9724.267422.6137.3142.5720.1630.187526.7141.1645.1626.3917.087631.1945.7352.4627.047.397730.550.5945.323.083.887829.6358.8246.824.4610.537929.6965.2851.1133.8220.098029.2571.2553.2933.5721.228131.0573.3755.3639.5912.638232.2876.685448.4911.17第34頁，共68頁，2022年，5月20日，19點45分，星期五35求解火柴銷售量與煤氣戶數的偏相關系數具體操作如下：1、首先打開數據文件SY-32，單擊分析Analyze相關

Correlate偏相關

Partial，打開對話框，見圖所示。要考察的變量

其它客觀存在的變量

2、從左邊框內選擇要考察的兩個變量進入變量框內，其它變量進入控制框內，如本例中考察煤氣戶數與火柴銷量的偏相關系數進入變量框內，其它（除年份外）進入控制框內。第35頁，共68頁，2022年，5月20日，19點45分，星期五36PartialCorrelations對話框第36頁，共68頁，2022年，5月20日，19點45分，星期五37PartialCorrelations對話框(即：Pearson相關系數)本例中選擇簡單相關系數。第37頁，共68頁，2022年，5月20日，19點45分，星期五38輸出結果：從表中可以看出，火柴銷量與煤氣戶數的簡單相關系數為0.826，自由度為13，檢驗的P值為0.00；而偏相關系數為0.605，自由度為10，檢驗的P值為0.037，表示煤氣戶數對火柴銷量的真實影響是顯著的。表中的上半部分是簡單相關系數，下半部分是偏相關系數。第38頁，共68頁，2022年，5月20日，19點45分，星期五39回歸分析研究的是自變量與因變量之間的非確定性的因果關系；SPSS提供的回歸分析過程有：

線性回歸(Linear)、曲線估計(CurveEstimation)、二分變量邏輯回歸(BinaryLogistic)、多分變量邏輯回歸(MultinomialLogistic)、序回歸(Ordinal)、概率單位回歸(Probit)、非線性回歸(Nonlinear)、加權估計(WeightEstimation)、最優編碼回歸(optimalScaling)和二階段最小平方法(2-StageLeastSquares)。回歸分析第39頁，共68頁，2022年，5月20日，19點45分，星期五40線性回歸分析線性回歸是統計分析方法中最常用的方法之一。如果所研究的現象有若干個影響因素，且這些因素對現象的綜合影響是線性的，則可以使用線性回歸的方法建立現象（因變量）與影響因素（自變量）之間的線性函數關系式。由于多元線性回歸的計算量比較大，所以有必要應用統計分析軟件實現。介紹SPSS軟件的線性回歸分析的操作方法，包括求回歸系數，給出回歸模型的各項檢驗統計量值及相應的概率，對輸出結果的分析等相關內容。第40頁，共68頁，2022年，5月20日，19點45分，星期五411、線性回歸的假設理論（1）正態性假設：即所研究的變量均服從正態分布；（2）等方差假設：即各變量總體的方差是相等的；（3）獨立性假設,即各變量之間是相互獨立的；（4）殘差項無自相關性，即誤差項之間互不相關;2、線性回歸模型的檢驗項目（1）回歸系數的檢驗（t檢驗）。（2）回歸方程的檢驗（F檢驗）。（3）擬合程度判定（可決系數R2）。（4）D.W檢驗（殘差項是否自相關）。（5）共線性檢驗（多元線性回歸）。（6）殘差圖示分析（判斷異方差性和殘差序列自相關）。線性回歸模型假設條件與模型的各種檢驗第41頁，共68頁，2022年，5月20日，19點45分，星期五421、打開數據文件，單擊分析Analyze

回歸Regression

線性Linear，打開對話框如圖所示。指定回歸方法全部選入逐步回歸強行剔除向后剔除向前選擇加權最小平方法指定選擇參與回歸分析觀測量的變量指定作為觀測量標簽的變量線性回歸分析的具體步驟：2、從左邊框中選擇因變量Y，選擇一個或多個自變量。從方法框內下拉式菜單中選擇回歸分析方法。第42頁，共68頁，2022年，5月20日，19點45分，星期五433.單擊統計量Statistics，打開線性回歸：統計量對話框，可以選擇輸出的統計量如圖所示。德賓-沃森檢驗提供判定系數、估計標準誤、ANOVA表等顯示每個自變量進入方程后對R2和F值的影響觀測值診斷估計（系統默認):包括回歸系數，回歸系數標準誤、標準化回歸系數、回歸系數檢驗統計量（t值）及相應的檢驗統計量概率的P值（sig）。描述性統計量第43頁，共68頁，2022年，5月20日，19點45分，星期五444、如果需要觀察圖形，可單擊繪制Plots按紐，打開線性回歸：圖對話框，如圖所示。在此對話框中可以選擇所需要的圖形。標準化預測值標準化殘差剔除殘差調整預測值學生化殘差學生化剔除殘差輸出標準化殘差相對于因變量的散布圖在左上角的源變量框中，選擇Dependent進入X（或Y）軸變量框，選擇其它變量進入Y（或X）軸變量框，除因變量外，其客觀存在變量依次是：ZPRED:標準化預測值，ZRESID:標準化殘差，DRESID:剔除殘差，ADJPRED:修正后預測值，SRESID學生化殘差，SDRESID:學生化剔除殘差。第44頁，共68頁，2022年，5月20日，19點45分，星期五455、單擊選項Options按紐，打開線性回歸：選項對話框，如圖所示。可以從中選擇模型擬合判斷準則及缺失值的處理方式。步行方法標準（SteppingMethodCriteria）欄，設置變量引入或剔除模型的判別標準。使用F的概率（UseprobabilityofF）:采用F檢驗的概率為判別依據。使用F值（UseFvalue）:采用F值作為檢驗標準。Includeconstantinequation回歸方程中包括常數項。缺失值（MissingValues）：缺失值的處理方式。第45頁，共68頁，2022年，5月20日，19點45分，星期五466、如果要保存預測值等數據，可單擊保存（Save）按紐打開對話框。選擇需要保存的數據種類作為新變量存在數據編輯窗口。其中有預測值、殘差，預測區間等。7、當所有選擇完成后，單擊OK得到分析結果。第46頁，共68頁，2022年，5月20日，19點45分，星期五47分析思路：繪制散點圖，對兩個變量之間相關關系的形式、方向做出大致判斷；計算相關系數

；若二者之間存在顯著性線性相關，則建立回歸方程；例6已知某市10家百貨商店職工的人均月銷售額和利潤率的數據（見數據SY33

）,試分析人均月銷售額和利潤率之間的關系，并建立利潤率對人均月銷售額的回歸方程。第47頁，共68頁，2022年，5月20日，19點45分，星期五48操作步驟：打開數據集SY33，依次選擇圖形→散點/點狀，展開對話框。選中簡單分布選項，單擊定義按鈕，進入對話框。將變量rjxse送入“X軸”框中，將變量lrl送入Y軸框中。單擊確定按鈕，得到人均月銷售額與利潤率的散點圖。依次選擇分析→相關→雙變量，展開對話框；將變量rjxse和lrl同時送入變量框中；單擊確定按鈕，得到人均月銷售額與利潤率的相關系數。依次選擇分析→回歸→線性，展開對話框；將變量rjxse送入自變量框中，將變量lrl送入因變量框；單擊確定按鈕，得到回歸過程運行結果。第48頁，共68頁，2022年，5月20日，19點45分，星期五49輸出結果Ⅰ第49頁，共68頁，2022年，5月20日，19點45分，星期五50回歸方程：輸出結果Ⅱ

檢驗假設H0：

線性關系不顯著第50頁，共68頁，2022年，5月20日，19點45分，星期五51例7用數據SY-32，考察火柴銷售量與各影響因素之間的相關關系，建立火柴銷售量對于相關因素煤氣戶數、卷煙銷量、蚊香銷量、打火石銷量的線性回歸模型，通過對模型的分析，找出合適的線性回歸方程。第51頁，共68頁，2022年，5月20日，19點45分，星期五521、打開數據文件SY-32，單擊分析回歸線性，打開線性對話框。2、從左邊框中選擇因變量和自變量。從方法框內下拉式菜單中選擇逐步回歸法。3、單擊統計量，打開對話框，本例中選擇估計、所有與模型擬合及擬合效果有關的選擇項、D.W檢驗及奇異值診斷，選擇標準差為2，即置信度約為95%。點擊繼續。4、單擊繪制按紐，打開對話框。選擇Dependent進入X軸變量框，選擇標準化殘差ZRESID變量進入Y（或X）軸變量框，繪制殘差圖。5、單擊選項按紐，打開對話框。選擇默認項。6、點擊確定，得到結果。步驟：第52頁，共68頁，2022年，5月20日，19點45分，星期五53輸出結果(部分)：模型綜合分析表

模型綜合分析表中，有模型的復相關系數R，樣本決定系數R2，修正的可決系數，估計標準誤，模型變化導致的可決系數及F值的變化，D.W檢驗值等。由上表中知模型3的修正的可決系數為0.993，其模型的擬合程度最好，DW值為2.066（在2附近），顯然通過DW檢驗，說明殘差項不存在一階自相關。序列相關檢驗第53頁，共68頁，2022年，5月20日，19點45分，星期五54方差分析表：方差分析表同時給出了3個模型的方差分析表。其中模型3的F值最大，說明模型3的回歸效果最顯著。第54頁，共68頁，2022年，5月20日，19點45分，星期五55回歸系數表：表中的Model欄中，模型1是先將卷煙銷量作為自變量進入模型，模型2將卷煙銷量與打火石銷量兩個自變量進入模型，模型3是將卷煙、打火石和煤氣戶數三個自變量進入模型。第四個自變量蚊香銷量沒有通過檢驗自動剔除。建立火柴銷售量對于相關因素煤氣戶數、卷煙銷量、蚊香銷量、打火石銷量的線性回歸模型第55頁，共68頁，2022年，5月20日，19點45分，星期五56回歸系數表：回歸系數表的輸出結果可以看出，回歸系數都通過檢驗，模型中自變量與因變量的偏相關系數都在0.7以上，說明進入模型的自變量對因變量的影響都比較顯著。非標準化回歸系數標準化回歸系數第56頁，共68頁，2022年，5月20日，19點45分，星期五57由最后兩列的容忍度Tolerance和方差膨脹因子VIF的值來看，自變量之間不存在強烈的共線性。共線性統計方差膨脹因子其值介于1~∞之間，其值越大，自變量之間存在共線性的可能性越大。檢驗表明，VIF≥10，說明解釋變量與其余解釋變量之間存在嚴重的多重共線性容忍度介于0-1之間，其值越小，自變量與其他自變量之間的共線性越強。使用容忍度作為共線性度量標準的條件比較嚴格，觀測量一定要大致近似于正態分布。第57頁，共68頁，2022年，5月20日，19點45分，星期五58殘差統計表：

殘差統計表中表示了預測值、殘差、標準化預測值和標準化殘差的特征值。其中包括預測值及殘差項的最小值和最大值、均值、標準誤和樣本容量。第58頁，共68頁，2022年，5月20日，19點45分，星期五59奇異值表（標準化殘差值大于2）奇異值表中依次是序號，標準化殘差值，實際觀測值、預測值及殘差值。表中給出的兩個個體數據的標準化殘差（數據號為12和14）超出了2。第59頁，共68頁，2022年，5月20日，19點45分，星期五60標準化殘差圖（異方差的檢驗）：

由圖中可以看出，殘差圖中的點分布是隨機的，沒有出現趨勢性，所以回歸模型是有效的。第60頁，共68頁，2022年，5月20日，19點45分，星期五61最終得回歸模型為：第61頁，共68頁，2022年，5