1、第七章第七章 7-1參數估參數估計問題計問題假設檢假設檢驗問題驗問題點點 估估 計計區(qū)間估區(qū)間估 計計統計統計推斷推斷 DE基本基本問題問題7-2什么是參數估計？什么是參數估計？參數是刻畫總體某方面概率特性的數量參數是刻畫總體某方面概率特性的數量. .當此數量未知時當此數量未知時, ,從總體抽出一個樣本，從總體抽出一個樣本，用某種方法對這個未知參數進行估計就用某種方法對這個未知參數進行估計就是參數估計是參數估計. .例如，例如，X N ( , 2), 點估計點估計區(qū)間估計區(qū)間估計若若 , 2未知未知, 通過構造樣本的函數通過構造樣本的函數, 給出給出它們的估計值或取值范圍就是參數估計它們的估計

2、值或取值范圍就是參數估計的內容的內容.參數估計的類型參數估計的類型點估計點估計 估計未知參數的值估計未知參數的值區(qū)間估計區(qū)間估計 估計未知參數的取值范圍，估計未知參數的取值范圍， 并使此范圍包含未知參數并使此范圍包含未知參數 真值的概率為給定的值真值的概率為給定的值.7.1 點估計方法點估計方法點估計的思想方法點估計的思想方法設總體X 的分布函數的形式已知, 但含有一個或多個未知參數：1,2, ,k設 X1, X2, Xn為總體的一個樣本構造 k 個統計量：),(),(),(21212211nknnXXXXXXXXX隨機變量7-5當測得樣本值(x1, x2, xn)時,代入上述方程組，即可得到

3、 k 個數：),(),(),(21212211nknnxxxxxxxxx數 值稱數1,k為未知參數1,k的估計值7-6對應統計量 為未知參數的估計量1,k三種常用的點估計方法三種常用的點估計方法q 頻率替換法頻率替換法利用事件A 在 n 次試驗中發(fā)生的頻率/Ann作為事件A 發(fā)生的概率 p 的估計量pnnpA7-7例例1 1 設總體X N ( , 2 ), 在對其作28 次 獨立觀察中, 事件 “X 4” 出現了21 次, 試用頻率替換法求參數 的估計值.解解 由75. 02821)24() 4(XP675. 024查表得于是 的估計值為045. 37-8 方法方法用樣本 k 階矩作為總體 k

4、 階矩的估計量, 建立含有待估參數的方程, 從而解出待估參數7-9一般, 不論總體服從什么分布, 總體期望 與方差 2 存在, 則它們的矩估計量分別為11niiXXn2122)(1nniiSXXnq 矩法矩法 7-10事實上，按矩法原理，令niiXnX11)(12122XEXnAniiX)()(222XEXE22 A2211niiXXn212)(1nniiSXXn7-11設待估計的參數為k,21設總體的 r 階矩存在，記為),()(21krrXE樣本 X1, X2, Xn 的 r 階矩為nirirXnB11kr, 2 , 1令),(21krniriXn11 含未知參數 1,2, ,k 的方程組

5、7-12解方程組 , 得 k 個統計量：11212(,)(,)nknXXXXXX 未知參數 1, ,k 的矩估計量111212( ,)( ,)nkknx xxx xx代入一組樣本值得 k 個數: 未知參數 1, ,k 的矩估計值例例2 2 設總體 X N ( , 2 ), X1, X2, Xn為 總體的樣本, 求 , 2 的矩法估計量.解解X矩21221XXnnii矩例例3 3 設總體 X E(), X1, X2, Xn為總體的 樣本, 求 的矩法估計量.解解()1/,E X1/.X令7-13故1/.X矩例例4 4 設從某燈泡廠某天生產的燈泡中隨機抽取10只燈泡，測得其壽命為(單位:小時) 1

6、050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200試用矩法估計該廠這天生產的燈泡的平均壽命及壽命分布的方差.解解)(1147101)(101hxxXEii10222211()6821().10iiD Xxxh7-14例例5 5 設總體 X U (a, b), a, b 未知, 求參數 a, b 的 矩法估計量.解解由于12)()(,2)(2abXDbaXE)()()(22XEXDXE令22212)(baab2abX22221()1122niibaabAXn7-15解得)( 322XAXa矩213() ,niiXXXn)(322XAX

7、b矩213() .niiXXXn7-16q 極大似然估計法極大似然估計法 思想方法思想方法：一次試驗就出現的 事件有較大的概率 例如: 有兩外形相同的箱子,各裝100個球 一箱 99個白球 1 個紅球 一箱 1 個白球 99個紅球現從兩箱中任取一箱, 并從箱中任取一球,結果所取得的球是白球.答答: : 第一箱. .7-17問問: : 所取的球來自哪一箱？例例6 6 設總體 X 服從0-1分布,且P (X = 1) = p, 用極大似然法求 p 的估計值.解解總體 X 的概率分布為1 , 0,)1 ()(1xppxXPxx 設 x1, x2, xn為總體樣本X1, X2, Xn的樣本值,則),(

8、2211nnxXxXxXP)()1 (11pLppniiniixnxnixi, 2 , 1, 1 , 07-18對于不同的 p , L (p)不同, 見右下圖現經過一次試驗，0.20.40.60.81p0.0020.0040.0060.0080.01Lp),(2211nnxXxXxX發(fā)生了，事件則 p 的取值應使這個事件發(fā)生的概率最大.p 7-19在容許范圍內選擇 p ，使L(p)最大 注意到，ln L(p)是 L 的單調增函數,故若某個p 使ln L(p)最大, 則這個p 必使L(p)最大。7-2001ddln11令pxnpxpLniiniixxnpnii110)1 (dlnd212122p

9、xnpxpLniinii所以xp 為所求 p 的估計值.一般, 設 X 為離散型隨機變量, 其分布律為,),()(21uuxxfxXP則樣本 X1, X2, Xn的概率分布為),(2211nnxXxXxXP),(),(),(21nxfxfxf12,1,2, ,ixu uin7-21)(),(21LxxxLn記為或稱 L( ) 為樣本的似然函數),(21nxxxL),(),(),(max21nxfxfxf稱這樣得到的 ),(21nxxxg為參數 的極大似然估計值極大似然估計值稱統計量),(21nXXXg為參數 的極大似然估計量極大似然估計量7-22MLE簡記mle簡記選擇適當的 = ,使 取最大

10、值, 即L( )極大似然法的思想若 X 連續(xù), 取 f (xi, )為Xi 的密度函數niixfL1),()(似然函數為7-23注注1 1注注2 2 未知參數可以不止一個, 如1, k 設X 的密度(或分布)為1( ,)kf x則定義似然函數為111( ,)( ,)nkikiLf x,1,2,ixin 1( ,)k11( ,;,)nkL xx若11( ,; ,)nkL xx關于1, , k可微,則稱0),;,(2121knrxxxL為似然方程組kr, 2 , 1若對于某組給定的樣本值 x1, x2, xn，參數 使似然函數取得最大值, 即k,2111( ,;,)nkL xx),;,(max21

11、21),(21knxxxLk則稱1,k為1, k 的極大似然估計值7-24顯然，),(21nrxxxgkr, 2 , 1稱統計量),(21nrXXXgkr, 2 , 1為1, 2, k 的極大似然估計量7-25例例7 7 設總體 X N (, 2), x1, x2, xn 是 X 的樣本值, 求 , 2 的極大似然估計.解解),;,(221nxxxLniixnne1222)(222)()2(1)ln(2)2ln(22)(ln2122nnxLnii222)(121ixnie7-26xxnniimle11niimlexxn122)(1 , 2 的極大似然估計量分別為11,niiXXn212)(1n

12、niiSXXn似然似然方程方程組為組為0)(1ln12niixL0)(2)()(21ln)(212222nxLnii7-27極大似然估計方法極大似然估計方法1） 寫出似然函數 L2）求出k,21, 使得),;,(2121knxxxL),;,(max2121),(21knxxxLk7-280),;,(2121knrxxxLkr, 2 , 1可得未知參數的極大似然估計值k,21然后, 再求得極大似然估計量.7-29 L是 的可微函數,解似然方程組1,k若若 L不是 的可微函數, 需用其它方法求極大似然估計值. 請看下例：1,k若若例例8 8 設 X U (a,b), x1, x2, xn 是 X

13、的一個樣本值, 求 a , b 的極大似然估計值與極大似然估計量.解解 X 的密度函數為其它, 0,1),;(bxaabbaxf似然函數為其它, 0, 2 , 1,)(1),;,(21nibxaabbaxxxLinn7-30似然函數只有當 a xi b, i = 1,2, n 時才能獲得最大值, 且 a 越大, b 越小, L 越大.令xmin = min x1, x2, xnxmax = max x1, x2, xn取maxmin,xbxa則對滿足bxxamaxmin的一切 a 1) . (1) 不是 D( X )的無偏估量; niinXXnS122)(1(2) 是 D( X ) 的無偏估計

14、量. niiXXnS122)(11證證212121)(1XXnXXnniinii前已證證明2)()(,)()(XDXDXEXEiinXDXEXE2)(,)()()()(1)(121212XEXEnXXnEniinii因而)()(2222n221nn212)(11niiXXnE故 證畢.例例3 3 設),(21mXXX是總體 X 的一個樣本 ,XB(n , p) n 1 , 求 p 2 的無偏估計量. 解解 由于樣本矩是總體矩的無偏估計量以及數學期望的線性性質, 只要將未知參數表示成總體矩的線性函數, 然后用樣本矩作為總體矩的估計量, 這樣得到的未知參數的估計量即為無偏估計量. npXEX)(令

15、)1 ()()(12212pnpnpXEXmmiiXXmnnpmii122211因此, p 2 的無偏估計量為) 1() 1(11nnXXmmiii故XXmpnnmii12221)(例例4 4 設總體 X 的密度函數為00, 01);(xxexfx0為常數),(21nXXX為 X 的一個樣本證明X與,min21nXXXn都是的無偏估計量證證 )(1XEEX故)()(XEXE是 的無偏估計量.X,min21nXXXZ令000)(zenzzfnzZ即nZEnEZ)(0100zeznz)(nZE故 n Z 是 的無偏估計量.)()()(121zXPzXPzXPnniizXP1)(1 (1),(1)(

16、21zXzXzXPzFnZ),(2111nXXX都是總體參數 的無偏估計量, 且)()(21DD則稱 比 更有效.12定義定義 設有效性有效性),(2122nXXX所以,X比,min21nXXXn更有效.是 的無偏估計量,問哪個估計量更有效？ X,min21nXXXn由例4可知, 與 都00, 01);(xxexfx0為常數例例5 5 設總體 X 的密度函數為221),min(nXXXnDnXD2)(解解 ，例例6 6 設總體 X，且 E( X )= , D( X )= 2 ),(21nXXX為總體 X 的一個樣本證明iniiXc11是 的無偏估計量(2) 證明X比iniiXc11更有效證證

17、(1) niiiniicXEcE111)()(. 11niic., 2 , 11ninci(1) 設常數(2) niiiniicXDcD122121)()(ncnii112)(1) (12DnD結論結論算術均值比加權均值更有效. .由柯西-許瓦茲不等式知2222111111nnnniiiiiiiccnc 例如 X N( , 2 ) , ( X 1 ,X 2 ) 是一樣本.213212211212143413132XXXXXX都是 的無偏估計量由例6(2) 知3最有效.0)(limPn定義定義 設 是總體參數 ),(21nXXX則稱是總體參數 的一致(或相合)估計量.的估計量. 若對于任意的 ,

18、 當n 時, 一致性一致性依概率收斂于 , 即, 0一致性估計量僅在樣本容量 n 足夠大時,才顯示其優(yōu)越性.關于一致性的兩個常用結論關于一致性的兩個常用結論 1. 樣本 k 階矩是總體 k 階矩的一致性估計量. 是 的一致估計量.由大數定律證明由大數定律證明用切貝雪夫不用切貝雪夫不 等式證明等式證明矩法得到的估計量一般為一致估計量在一定條件下, 極大似然估計具有一致性2. 設 是 的無偏估計 量, 且 , 則0)(limDn例例8 800, 01);(xxexfXx0為常數則 是 的無偏、有效、一致估計量.X證證 由例7 知 是 的無偏、有效估計量.X)(limXDn0lim2nn所以 是 的

19、一致估計量, 證畢.X7.3 7.3 區(qū)間估計區(qū)間估計引例引例 已知 X N ( ,1), 不同樣本算得的 的估計值不同，因此除了給出 的點估計外, 還希望根據所給的樣本確定一個隨機區(qū)間, 使其包含參數真值的概率達到指定的要求. 的無偏、有效點估計為X隨機變量常數如引例中，要找一個區(qū)間,使其包含 的真值的概率為0.95. ( 設 n = 5 )51,NX1, 051NX取05. 0查表得96. 12/z這說明即稱隨機區(qū)間為未知參數 的置信度為0.95的置信區(qū)間.95. 05196. 15196. 1XXP05. 096. 151XP5196. 1,5196. 1XX 反復抽取容量為5的樣本,都

20、可得一個區(qū)間,此區(qū)間不一定包含未知參數 的真值, 而包含真值的區(qū)間占95%.置信區(qū)間的意義置信區(qū)間的意義若測得 一組樣本值, 它可能包含也可能不包含 的真值, 反復則得一區(qū)間(1.86 0.877, 1.86 + 0.877)抽樣得到的區(qū)間中有95%包含 的真值.86.1x算得)51,51(22zXzX當置信區(qū)間為時區(qū)間的長度為5122z 達到最短?2/z為何要取97. 3)13. 2(84. 13321zz92. 3)96. 1(96. 1221zz-2-1120.10.20.30.432z31z-2-1120.10.20.30.42z21z取 = 0.05設 為待估參數, 是一給定的數,

21、( 0 50, 的置信區(qū)間的置信區(qū)間2121的置信區(qū)間為因此mSnSmn22212221)7(令 Zi = Xi -Yi , i = 1,2, n, 可以將它們看成來自正態(tài)總體 Z N ( 1 2 , 12 + 22) 的樣本仿單個正態(tài)總體公式(2) 的置信區(qū)間為21niiiZYXYXnS122)()(112221,(4) 未知未知, 但但 n = m , 的置信區(qū)間的置信區(qū)間21nSntYXZ) 1()(2)8(,YXZ取樞軸量(5) 方差比方差比2221的置信區(qū)間的置信區(qū)間 ( 1 , 2 未知未知) 1, 1(/2221222122222121mnFSSSSF因此, 方差比2221的置信

22、區(qū)間為) 1, 1(1,) 1, 1(121222122221mnFSSmnFSS)9(取樞軸量),()()()(1)(122211221212212221121mnFYXnmYmXnFmjjniimjjnii(6) 方差比方差比2221的置信區(qū)間的置信區(qū)間 ( 1 , 2 已已知知)因此, 方差比2221 的置信區(qū)間為),()()(,),()()(221122121122121mnFYXnmmnFYXnmmjjniimjjnii)10(例例2 2 某廠利用兩條自動化流水線罐裝番茄醬. 現分別 從兩條流水線上抽取了容量分別為13與17的兩個相互獨立的樣本1321,XXX1721,YYY 與已知2222217 . 4,4 . 2,5 . 9,6 .10gsgsgygx假設兩條流水線上罐裝的番茄醬的重量都服從正態(tài)分布,