1、效應(yīng)的最小二乘估計(jì)最小二乘方差分析簡(jiǎn)要介紹一、最小二乘分析法的原理和方法這里主要討論次級(jí)樣本容量不等的最小二乘分析法的基本內(nèi)容與其他方法相比，最小二乘分析法至少有以下幾個(gè)優(yōu)點(diǎn)：1、最小二乘分析法適用于線性和非線性數(shù)學(xué)模型2、最小二乘分析法與最重要的一個(gè)統(tǒng)計(jì)量算術(shù)平均數(shù)發(fā)生關(guān)系3、適應(yīng)范圍廣最小二乘分析法特別適合于以下幾種情況：1、試驗(yàn)條件復(fù)雜，成本太高、來源一致的大樣本資料不容易獲得2、來自各試驗(yàn)單位的資料不平衡、需要進(jìn)行校正3、次要因素不容易控制4、資料需要校正合并5、資料次級(jí)樣本容量不等，而使得平方和的可加性遭到破壞目前，絕大多數(shù)統(tǒng)計(jì)軟件中的方差分析均為最小二乘方差分析法設(shè)有一批觀測(cè)值 以

2、下均以 代替以前的根據(jù)最小二乘原理求出處理效應(yīng)的估計(jì)值，即取這樣一個(gè)y值,作為這批數(shù)據(jù) 的最佳值，它應(yīng)當(dāng)與各個(gè) 的平方和最小，即對(duì) 求微分，并令之為0，則有 y即為算術(shù)平均數(shù)1,2,.,iy iniyix 222122.minnifyyyyyyyyyiyiy fy20iyy0iyny1iyyny繼續(xù)求其二級(jí)微分，可知 為極小即算術(shù)平均數(shù) 是一批觀測(cè)值的最小二乘估計(jì)值在線性方程組 中，如果 ，即方程組非齊次X的秩=b的維數(shù)（即X為非奇異陣）增廣矩陣|Xy|的秩=X的秩（即方程組相容）則方程組有唯一解：當(dāng)X不是方陣（即方程組中方程的個(gè)數(shù)與未知數(shù)的個(gè)數(shù)不等）， 必為一非奇異陣，則方程組的解可由 其中

3、， 即為b的最小二乘估計(jì)值y fyXby0y 1bXyX X1X XbX ybX XX yb可以證明， 是唯一的、無偏的任何數(shù)學(xué)模型均可用矩陣形式表示如線性模型 的矩陣形式為其中，y為n維觀測(cè)值向量X為固定效應(yīng)的結(jié)構(gòu)矩陣b為固定效應(yīng)向量e為隨機(jī)誤差向量，且在 中，絕大多數(shù)情況下，X不會(huì)是方陣，即方程個(gè)數(shù)與未知數(shù)個(gè)數(shù)不等，為使方程有解 ijiijyyXbe 20,E eV eIyXbe方程可改寫成可以證明，該式必有解：當(dāng) 滿秩時(shí)，必有 存在，且為唯一，即其中， 是唯一的，且是b的最小二乘估計(jì)值，是b的最佳線性無偏估計(jì)值當(dāng) 不滿秩時(shí)， 有無窮多個(gè)解為使方程有唯一解，可加入約束條件，從而使 為滿秩，

4、得出唯一解常用的約束條件有很多，如：和約束、相對(duì)約束（ ）等，但約束條件不同，解也不同X XbX yX X1X X1bX XX yb0i0kX XbX yX XX X二、單向分類資料的最小二乘分析法例：設(shè)計(jì)了三種草本植物添加劑作飼養(yǎng)試驗(yàn)，得數(shù)據(jù)如下：添加劑種類 增重效果 1.2 1.0 1.1 1.1 1.4 1.3 1.0 0.9 1.2本例中， ， ，設(shè)三種添加劑的效應(yīng)值分別為每一觀測(cè)值完整的數(shù)學(xué)模型為：14n 22n 33n 123, 123ijijy請(qǐng)回顧一下，用普通方差分析法該如何分析之？當(dāng)有k個(gè)組時(shí)，觀測(cè)值的一般通式為：本例每一觀測(cè)值的數(shù)學(xué)模型：第一組： 第二組： 第三組： 12.

5、ijkijy123111.2100123211.4010123311.0001其結(jié)構(gòu)矩陣X為： X=該結(jié)構(gòu)陣不是一個(gè)方陣，因此應(yīng)求XX110011001100110010101010100110011001123XX= = XX的一般通式是：1111111111111000000000110000000001111100110011001100101010101001100110019423440020203003111.kkknnnnnnn而Xy= Xy=上式中：10.24.42.73.112.kyyyy121.2.1.ikkniijjnnnnyyyyyy因此，矩陣方陣為：其通式是：可以看出

6、，XX是不滿秩的，因此它無唯一解123942310.244004.420202.730033.1121111.2222.kkkkknnnnynnynnynny由于 是其約束條件，因此可以將該方程組減去一個(gè) （習(xí)慣上總是減去最后一個(gè) ）首先作行相減，第一行是 方程，因此不減從第二行逐行減去最后一個(gè)方程：然后作列相減，即除第一列外的各列均減去最后一列：0ik12942310.214031.310230.41291110.21731.31350.4這一過程稱為矩陣的降階，降階后的矩陣稱為降階矩陣，降階矩陣與原矩陣相比，少了一行一列，即由原來的（k+1）行（k+1）列降為k行k列降階后的矩陣仍為對(duì)稱陣

7、，且滿秩，因此有唯一解：11291110.21731.31350.40.12040.03700.046310.21.16110.03700.20370.12961.30.06110.04630.12960.28700.40.1889 即 （總體效應(yīng)值）=1.1611，此即為最小二乘均值LSM（least square mean） （第一種中草藥添加劑效應(yīng)值）=-0.0611 （第二種中草藥添加劑效應(yīng)值）=0.1889 （第三種中草藥添加劑效應(yīng)值）=-（-0.0611+0.1889）=-0.1278三種中草藥添加劑的最小二乘均值（LSM）則分別為：1231122331.16110.06111.11.1611 0.18891.351.16110.12781.033yyy 數(shù)據(jù)比較簡(jiǎn)單時(shí)，手工計(jì)算和統(tǒng)計(jì)軟件運(yùn)算兩者差別不大，但當(dāng)數(shù)據(jù)結(jié)構(gòu)比較復(fù)雜