1、第第7章章 參數估計參數估計7.1 參數的點估計參數的點估計7.2 參數的區間估計參數的區間估計參數估參數估計問題計問題假設檢假設檢驗問題驗問題點點 估估 計計區間估區間估 計計統計統計推斷推斷 DE基本基本問題問題7-27.1.1 7.1.1 點估計問題的一般提法點估計問題的一般提法定義定義7.1 設總體設總體X的分布函數的分布函數F(x； 1， 2， m)的的形式已知形式已知，但其中含有一個或多個，但其中含有一個或多個未知未知參數：參數： 1， 2， m，又設又設X1，X2，Xn為總體的一個樣本，為總體的一個樣本， x1，x2，xn是樣本觀測值，是樣本觀測值，構造的構造的m個統計量：個統計

2、量： 用用 的觀測值的觀測值 作為未作為未知參數知參數 i的近似值的方法稱為的近似值的方法稱為點估計法點估計法 ,.,2 , 1),(21miXXXni ),(21niXXX ),(21nixxx 7.1.1 7.1.1 點估計問題的一般提法點估計問題的一般提法稱稱 為未知參數為未知參數 i的的估計量估計量，稱稱 為未知參數為未知參數 i的的估計值估計值在不會混淆的情況下在不會混淆的情況下 和和 均可稱為均可稱為 i的的估計估計.),(21niXXX ),(21nixxx ),(21niXXX ),(21nixxx k,.,21),.,;(21kxF1212( ;,.,)()(),( ;,.,

3、)()Xkkklkkx Rx f xdxE Xx p x 連續型離散型11nkkiiAXn.,.2 , 1kl ,2211kkAAAk,.,21k,21k,.,21 );,.,2, 1(klAll 解兩個待估參數，連續型解兩個待估參數，連續型. .先求總體的一先求總體的一, ,二階二階( (原點原點) )矩矩. .因為因為X XUa,b,Ua,b,所以所以)(1XE)(22XE2)()(XEXD,212)(22baab,2ba 2211AA即即niiXnbaabXba122214)(12)(2,)(312niiXXnXa.)(312niiXXnXb,)(1XE22222)()()(XEXDXE

4、2211AA. 即即niiXnX12221 解得解得,2 2的的矩估計量矩估計量分別為分別為: :,X21221XXnniiniiXXn12)(1 解單參數，離散型解單參數，離散型. .)(1XE 由由11AXmp 因為因為 所以總體所以總體X X的一階矩的一階矩( (期望期望) )為為),(pmBXmp即即mXp 解單參數，連續型解單參數，連續型. .)(1XE 因為總體一階矩因為總體一階矩11A, 0, 10,)(1其它xxxfdxxxf)(101|1x10dxx1 由由故所求故所求為：為：即即X1) 1(X解得解得: :XX)1 (XX121XX 解單參數，連續型解單參數，連續型. .)

5、(1XE 因為總體因為總體一階矩一階矩)(21)(|xexfxdxexx|210不含不含，故不能由，故不能由“樣本一階矩樣本一階矩= =總體一階矩總體一階矩”解得所求解得所求 矩估計，需要矩估計，需要繼續求二階矩繼續求二階矩：dxexXEx|22221)(xdexdxexxx202021,2)3(22 由由“樣本二階矩樣本二階矩= =總體二階矩總體二階矩”得：得：,21212niiXn 于是于是, ,所求所求為：為：niiXn1221函數函數定義定義 一位老獵人與他的徒弟一起打獵一位老獵人與他的徒弟一起打獵,兩人同時向一兩人同時向一 獵物射擊獵物射擊,結果該獵物身中一彈結果該獵物身中一彈,你認

6、為誰打中的可能你認為誰打中的可能 性最大性最大? 根據經驗而斷根據經驗而斷:老獵人打中獵物的可能性最大老獵人打中獵物的可能性最大.q最大似然估計法最大似然估計法例如: 有兩外形相同的箱子,各裝100個球 一箱 99個白球 1 個紅球 一箱 1 個白球 99個紅球現從兩箱中任取一箱, 并從箱中任取一球,結果所取得的球是白球.答答: : 第一箱第一箱. .7-17問問: : 所取的球來自哪一箱？所取的球來自哪一箱？ 若若X1，X2，Xn為總體為總體X的一個樣本，的一個樣本，當樣本觀測值當樣本觀測值x1, x2 , xn出現時，出現時， 若要若要估計估計總體總體X中的未知參數中的未知參數，自然要，自

7、然要選取使選取使x1, x2, xn出現的出現的“概率概率”達到最大達到最大的的 作為作為的估計值了的估計值了 7.1.3 最大似然估計最大似然估計一般說，事件一般說，事件A A發生的概率與參數發生的概率與參數有關有關， 取值不同，則取值不同，則P(A)P(A)也不同。因而應記也不同。因而應記事件事件A A發生的概率為發生的概率為P(A|P(A| ). ).若若A A發生了，則認為此發生了，則認為此時的時的 值應是在值應是在 中使中使P(A|P(A| ) ) 達到最大的那一達到最大的那一個個。這就是。這就是極大似然思想極大似然思想下面分離散型與連續型總體來討論下面分離散型與連續型總體來討論.

8、.)();(xpxXPnXXX,.,21nxxx,.,21nXXX,.,21)();();,(121niinxpxxxL根據總體分根據總體分布律寫出似布律寫出似然函數：換然函數：換x為為xi這正是事件這正是事件“樣本取得樣本值樣本取得樣本值” 的概率的概率, ,稱之為樣本的稱之為樣本的 似然函數似然函數, ,它是待估參數它是待估參數的函數的函數. .),( 21nxxx相應統計量相應統計量稱為參數稱為參數的的.),( 21nXXX).;,(max);,(2121 nnxxxLxxxL 即即)();(xf)();(1niixfniiniiniiidxxfdxxf111);();(nXXX,.,2

9、1nxxx,.,21nXXX,.,21),(21nxxxniidx1)();();,(121niinxfxxxL),(21nXXX).;,(max);,(2121 nnxxxLxxxL 即即,),;(, );();,(1121連續型離散型niiniinxfxpxxxL求最大似然估計量的步驟求最大似然估計量的步驟:; );();,()();();,()( )(121121 niinniinxfxxxLLxpxxxLL或或寫寫出出似似然然函函數數一一; );(ln)(ln);(ln)(ln )(11 niiniixfLxpL或或取對數取對數二二費舍爾費舍爾最大似然估計法是由費舍爾引進的最大似然估計

10、法是由費舍爾引進的., 0d)(lnd,d)(lnd )( 的的最最大大似似然然估估計計值值解解方方程程即即得得未未知知參參數數并并令令求求導導對對三三 LL 最大似然估計法也適用于分布中含有多個最大似然估計法也適用于分布中含有多個未知參數的情況未知參數的情況. 此時只需令此時只需令., 2 , 1, 0lnkiLi .), 2 , 1( ,iikik 的的最最大大似似然然估估計計值值數數即即可可得得各各未未知知參參個個方方程程組組成成的的方方程程組組解解出出由由 對數似然方程組對數似然方程組對數似對數似然方程然方程 解雙參數，連續型解雙參數，連續型. .因為因為X XN(,N(,2 2),)

11、,所以所以X X總體的概率密度為總體的概率密度為)0,(2)(exp21),;(222Rxxf 設設 為樣本為樣本 的一個樣本值的一個樣本值, , 則似然函數為則似然函數為: :nxxx,.,21nXXX,.,212212)(21exp21),(inixL niinnx122222)(21exp2從而從而, ,取對數得取對數得: :21222)(21ln22ln2),(lnniixnnL由似然方程組由似然方程組視視2為整體為整體0)()(212ln01ln12222212niiniixnLnxL解得解得,2 2的的為為: :niixxnx122)(1,從而從而,2 2的的為為: :niiXXn

12、X122)(1,【例【例7.5】設總體設總體X的概率密度為的概率密度為其中其中( 1)為待估參數，求為待估參數，求的最大似然估計的最大似然估計量量 解：解：設設X1，X2，Xn為總體為總體X的一個樣本，的一個樣本，x1，x2，xn是樣本觀測值基于是樣本觀測值基于x1，x2，xn的的似然函數為似然函數為當當 時，時， ，7.1.3 最大似然估計最大似然估計 其它其它, 010,)1();(xxxf );,.,()(21 nxxxLL 其它其它, 01,.,0,).()1();(21211nnnniixxxxxxxf 1,.,021 nxxx niixnL1lnln)(ln 1)(令令解得解得考慮

13、到考慮到所以，所以，的最大似然估計值為的最大似然估計值為的最大似然估計量為的最大似然估計量為 7.1.3 最大似然估計最大似然估計0ln1)(ln1 niixnLdd niixn1ln1 0)1()(ln222 nLdd niixn1ln1 niiXn1ln1 【例【例7.4】總體總體X服從參數為服從參數為 的泊松分布，的泊松分布， （ 0）未知，求參數）未知，求參數 的最大似然估計量的最大似然估計量 解解：設設X1, X2, Xn是來自是來自X的樣本，的樣本，x1, x2, xn是是樣本觀測值由于樣本觀測值由于X的分布律為的分布律為故基于故基于x1, x2, xn的似然函數為的似然函數為對數

14、似然函數為對數似然函數為對數似然方程為對數似然方程為7.1.3 最大似然估計最大似然估計 , 2 , 1 , 0!);( xexxpxXPx 11211( )( ,; )!niiixxnnnniiiiLL x xxeexx11ln ( )lnln !nniiiiLnxx 01)(ln1 niixnLdd 解之得解之得 考慮到考慮到所以所以即為即為 的最大似然估計值，的最大似然估計值， 的最大似然估計量為的最大似然估計量為7.1.3 最大似然估計最大似然估計xxnnii 11 01)(ln1222 niixLdd xxnnii 11 XXnnii 11 解雙參數，連續型解雙參數，連續型. .,

15、0,1),;(其它bxaabbaxf 因為因為 所以所以X X的概率密度為的概率密度為,baUX 設設 為樣本為樣本 的一個樣本值的一個樣本值, ,記記nxxx,.,21nXXX,.,21,max,min21)(21) 1 (nnnxxxxxxxx由于由于bxxabxxxann)() 1 (21,所以所以, ,為為., 0,)(1),()() 1 (其它bxxaabbaLnn對于滿足對于滿足 的任意的任意a,ba,b有有bxxan)() 1 (,nnnxxabbaL)(1)(1),() 1 ()(即即),(),(max)() 1 (,)()1(nbxxaxxLbaLn故故a,ba,b的的為為:

16、 :.,)() 1 (nxbxa.max,min11iniiniXbXa故故a,ba,b的的為為: : 對于同一個參數對于同一個參數, ,用不同方法求出的估計量可能用不同方法求出的估計量可能 不同不同. .那么那么, ,采用哪一個估計量為好呢采用哪一個估計量為好呢? ?用何種標準來用何種標準來 評判估計量的優劣評判估計量的優劣? ? 下面下面, ,介紹幾個常用標準介紹幾個常用標準. . 1 1、)(E 則稱則稱 為為 的的. . 稱為用稱為用 來估計來估計 的的. .因此因此, , . .( )E 解因為解因為niiXnEXE11)(X2S)(11niiXEn,11nin222(1)1nSn（

17、）, 1)1(22 nSnE ,22 SE 7.1.4 估計量的評價標準估計量的評價標準21221)(1SnnXXnBnii ).()(1)(1)(22XDXDnnSEnnBE 所以，所以，B2不是總體方差不是總體方差D(X)的無偏估計，盡管的無偏估計，盡管B2是是D(X)的矩估計量的矩估計量我們可以把我們可以把 看作對看作對B2的的修正修正由于它具有無偏性，在實際應用中常被采用由于它具有無偏性，在實際應用中常被采用另一方面，由于另一方面，由于 因此，又稱因此，又稱B2是是D(X)的漸近無偏估計的漸近無偏估計7.1.4 估計量的評價標準估計量的評價標準21221)(11BnnXXnSnii )

18、.)()(1)(2 nXDXDnnBE【例【例7.8】求證：樣本標準差求證：樣本標準差S不是總體標準差不是總體標準差 的的無偏估計無偏估計 證：證：因為因為 ，即，即 又因又因 ，所以，所以即即故一般來說，故一般來說，S不是不是 的無偏估計的無偏估計7.1.4 估計量的評價標準估計量的評價標準22)( SE 22)()( SESD0)( SD 222)()( SDSE )(SE定義定義7.3 設設 都是參數都是參數的無偏估計，若的無偏估計，若則稱則稱 比比 有效有效 例如，設總體例如，設總體X的方差存在，的方差存在，X1, X2,Xn(n2)為總體為總體X的一個樣本，的一個樣本，易知易知 ,

19、均為均為 的無偏估計的無偏估計,又有又有所以所以,當當n2時，最有效，時，最有效， 較較X1有效有效7.1.4 估計量的評價標準估計量的評價標準),.,(1111nXXX ),.,(1122nXXX )()(21 DD 1 2 X,211）（nXX 1X,)(2nXD ,22121 ）（nXXD21)( XDX）（nXX 121【例【例7.9】設總體設總體X服從參數為服從參數為的指數分布，概率的指數分布，概率密度為密度為 其中其中0為未知為未知,X1,X2,Xn為總體為總體X的一個樣本，的一個樣本，試證試證 和和 都是都是的無偏估計，并比的無偏估計，并比較誰更優較誰更優 解：解：因為因為 而而 所以所以故是故是的無偏估計的無偏估計7.1.4 估計量的評價標準估計量的評價標準1,0( ; )0,0 xexf xx,)( XE),()(XEXE ,)( XEX),.,min(21nXXXnX設設 ，根據第根據第3章章(3-13)式，式，Z的概率密度為的概率密度為 這是參數為這是參數為 的指數分布，的指數分布，故知故知所以所以 也是也是的無偏估計的無偏估計7.1.4 估計量的評價標準估計量的評價標準),.,min(21nXXXZ 0, 00,);(xxenxfn