1、第五章第五章 大數(shù)定律及中心極限定理大數(shù)定律及中心極限定理概率論與數(shù)理統(tǒng)計(jì)概率論與數(shù)理統(tǒng)計(jì)頻率穩(wěn)定性頻率穩(wěn)定性大量實(shí)驗(yàn)證實(shí)，當(dāng)重復(fù)試驗(yàn)的次數(shù)逐漸增大時(shí)，頻率呈大量實(shí)驗(yàn)證實(shí)，當(dāng)重復(fù)試驗(yàn)的次數(shù)逐漸增大時(shí)，頻率呈現(xiàn)出穩(wěn)定性，逐漸穩(wěn)定于某個(gè)常數(shù)。現(xiàn)出穩(wěn)定性，逐漸穩(wěn)定于某個(gè)常數(shù)。當(dāng)當(dāng)n足夠大時(shí)，足夠大時(shí)， n(A ) P(A)P(A)由于事件發(fā)生的頻率表示由于事件發(fā)生的頻率表示A A發(fā)生的頻繁程度。頻率大，發(fā)生的頻繁程度。頻率大，事件事件A A發(fā)生就頻繁，這意味著發(fā)生就頻繁，這意味著A A在一次試驗(yàn)中發(fā)生的可能性就在一次試驗(yàn)中發(fā)生的可能性就大。大。 當(dāng)當(dāng)n n增大時(shí)，頻率在概率附近擺動(dòng)。因此，每一個(gè)從獨(dú)

2、增大時(shí)，頻率在概率附近擺動(dòng)。因此，每一個(gè)從獨(dú)立重復(fù)試驗(yàn)中測(cè)得的頻率，都可以作為概率立重復(fù)試驗(yàn)中測(cè)得的頻率，都可以作為概率P(A)P(A)的近似值。的近似值。問題的提出問題的提出在第一章提出，人們?cè)陂L(zhǎng)期實(shí)踐中發(fā)現(xiàn)，雖然個(gè)別事件在某次實(shí)驗(yàn)中可以出現(xiàn)也可以不出現(xiàn)，但是在大量重復(fù)試驗(yàn)中卻呈現(xiàn)明顯的規(guī)律性，即一個(gè)隨機(jī)事件出現(xiàn)的概率在某個(gè)固定數(shù)的附近擺動(dòng)，即所謂“頻率穩(wěn)定性”，對(duì)于這一點(diǎn)，我們將在本章給予理論上的說明。1 大數(shù)定律大數(shù)定律切比雪夫不等式切比雪夫不等式22222()()XE XD XP XP X設(shè)隨機(jī)變量 具有數(shù)學(xué)期望，方差，則對(duì)于任意正數(shù) ，不等式或成立。依概率收斂依概率收斂),(),()

3、,(),(,bagYXgbayxgbYaXpnnpnpn則則連續(xù)，連續(xù)，在點(diǎn)在點(diǎn)，又設(shè)函數(shù)，又設(shè)函數(shù)設(shè)設(shè)設(shè)設(shè) aYaYYYaYPaYYYpnnnnn ，記為，記為依概率收斂于依概率收斂于則稱序列則稱序列，有，有若對(duì)于任意正數(shù)若對(duì)于任意正數(shù)是一個(gè)常數(shù)，是一個(gè)常數(shù)，是一個(gè)隨機(jī)變量序列，是一個(gè)隨機(jī)變量序列，設(shè)設(shè),1lim,2121 依概率收斂的性質(zhì)依概率收斂的性質(zhì)切比雪夫定理切比雪夫定理 1)(1lim0), 2 , 1()(), 2 , 1()()(,121 niiiniiinXEXnPiCXDiXDXEXXX，有，有，則對(duì)任意給定的，則對(duì)任意給定的，且，且都存在都存在和方差和方差數(shù)學(xué)期望數(shù)學(xué)期望

4、序列，序列，是相互獨(dú)立的隨機(jī)變量是相互獨(dú)立的隨機(jī)變量設(shè)設(shè)定理定理切比雪夫定理的特殊情況切比雪夫定理的特殊情況 pniiniinXXnPiXDXEXXX 即即，有，有。則對(duì)任意給定的。則對(duì)任意給定的差，差，有相同的數(shù)學(xué)期望和方有相同的數(shù)學(xué)期望和方序列，序列，是相互獨(dú)立的隨機(jī)變量是相互獨(dú)立的隨機(jī)變量設(shè)設(shè)定理定理11lim0), 2 , 1()(,)(,1221切比雪夫定理的特殊情況的證明切比雪夫定理的特殊情況的證明112221122211111()111()111lim/11nnkkkknnkkkkniininiEXE XnnnnDXD XnnnnPXnPnXnn 證明由于由切比雪夫不等式可得從而

5、有依概率收斂的意義依概率收斂的意義101nnnXanxaxa依概率收斂即依概率 收斂。隨機(jī)變量序列依概率收斂于 ，說明對(duì)于任給的，當(dāng) 很大時(shí)，事件“”的概率接近于 ，但正因?yàn)槭歉怕剩圆慌懦「怕适录啊卑l(fā)生。所以說依概率收斂是不確定現(xiàn)象中關(guān)于收斂的一種說法。例 設(shè)在每次試驗(yàn)中,事件A發(fā)生的概率為1/4.(1)300次重復(fù)獨(dú)立試驗(yàn),以X記A發(fā)生的次數(shù).用切比雪夫不等式估計(jì)X與E(X)的偏差不大于50的概率;(2)問是否可用0.925的概率,確信在1000次試驗(yàn)中, A發(fā)生的次數(shù)在200到300之間. 解:(1)由Xb(300,1/4)知,E(X)=np=75, D(X)= npq =300*

6、1/4*3/4=225/4.所以所求概率為:9975. 0504225150| )(|2XEXP (2)由Xb(1000,1/4)知, E(X)=250, D(X)=375/2.所以2375200300|()| 501500.9252PXPXE X 即,在1000次試驗(yàn)中,可以確信A發(fā)生的次數(shù)在200到300之間的概率大于0.925伯努利大數(shù)定理伯努利大數(shù)定理0lim1lim0 pnnPpnnPApAnnAnAnA或或，有，有率，則對(duì)于任意正數(shù)率，則對(duì)于任意正數(shù)在每次試驗(yàn)中發(fā)生的概在每次試驗(yàn)中發(fā)生的概是事件是事件發(fā)生的次數(shù)，發(fā)生的次數(shù)，次獨(dú)立重復(fù)試驗(yàn)中事件次獨(dú)立重復(fù)試驗(yàn)中事件是是設(shè)設(shè)定理定理了

7、頻率的穩(wěn)定性。了頻率的穩(wěn)定性。的概率這一結(jié)論，證明的概率這一結(jié)論，證明依概率收斂于依概率收斂于發(fā)生的頻率發(fā)生的頻率很大時(shí)，很大時(shí)，當(dāng)當(dāng)伯努利大數(shù)定理給出了伯努利大數(shù)定理給出了AnnAnA伯努利大數(shù)定理的證明伯努利大數(shù)定理的證明1lim1)(1lim), 2 , 1)(1()(,)()10(,212121 pnnPpXXXnPkppxDpxEpXXXXXXnAnnnkknnA即即有有理理，則由切比雪夫大數(shù)定，則由切比雪夫大數(shù)定分布，因而分布，因而的的數(shù)為數(shù)為相互獨(dú)立，且都服從參相互獨(dú)立，且都服從參，其中，其中，因?yàn)橐驗(yàn)樽C明證明 伯努利定理說明,當(dāng)試驗(yàn)在不變的條件下重復(fù)進(jìn)行很多次時(shí),隨機(jī)事件的頻率

8、在它的概率附近擺動(dòng). 如果事件A的概率很小, 則正如伯努利定理所指出的,事件A的頻率也是很少的,或者說,事件A很少發(fā)生.例如:設(shè)P(A)=0.001,則在1000次試驗(yàn)中只能希望事件A發(fā)生一次. 小概率事件的實(shí)際不可能性原理小概率事件的實(shí)際不可能性原理: 概率很概率很小的隨機(jī)事件在個(gè)別試驗(yàn)中是不可能發(fā)生的小的隨機(jī)事件在個(gè)別試驗(yàn)中是不可能發(fā)生的. 在實(shí)際生活中, 常常忽略那些概率很小的事件發(fā)生的可能性;如:雖然人騎自行車在公路上行駛時(shí)被汽車撞傷的概率不等于零,但人們還是坦然地在公路上騎自行車. 問:隨機(jī)事件的概率究竟應(yīng)怎樣小,才可以看作實(shí)際上不可能發(fā)生的? 概率論中不可能給出答案. 在實(shí)際問題中

9、,必須考慮隨機(jī)事件的本質(zhì). 例如,假設(shè)自動(dòng)車機(jī)床加工一批零件出現(xiàn)廢品的概率等于0.01, 如果零件的重要性不大而價(jià)格又低,則完全可以允許不必對(duì)全部加工出來的零件進(jìn)行了全面檢查;這就是說,可以忽略一百個(gè)零件中出現(xiàn)一個(gè)廢品的可能性.但是,如果制造一批降落傘出現(xiàn)廢品(例如:在跳傘時(shí)降落傘不能張開)的概率等0.01,顯然,在這種情況下忽略百分之一的廢品是絕對(duì)不允許的,因?yàn)橹苯游＜鞍俜种坏奶鴤阏叩纳? 最后強(qiáng)調(diào)一點(diǎn): 所謂小概率事件事件的實(shí)際不可能性原理僅僅適用于個(gè)別的或次數(shù)極少的試驗(yàn)僅僅適用于個(gè)別的或次數(shù)極少的試驗(yàn),當(dāng)試驗(yàn)次數(shù)較多時(shí)就不適用了.例如:工廠生產(chǎn)某種產(chǎn)品時(shí),出現(xiàn)廢品的概率為0.0001

10、,也就是說,一萬(wàn)個(gè)產(chǎn)品只有一個(gè)廢品;檢查產(chǎn)品質(zhì)量時(shí),如果只從其中任取一個(gè)產(chǎn)品來檢查,則取出廢品的概率為0.0001,顯然是很小的,因而幾乎可以肯定不會(huì)發(fā)現(xiàn)廢品;但是,如果逐一檢查每個(gè)產(chǎn)品,則總有一次會(huì)發(fā)現(xiàn)這個(gè)廢品. 辛欽定理辛欽定理。是辛欽定理的特殊情形是辛欽定理的特殊情形顯然，貝努里大數(shù)定理顯然，貝努里大數(shù)定理，有，有正數(shù)正數(shù)，則對(duì)任意，則對(duì)任意服從同一分布，且具有服從同一分布，且具有序列，序列，是相互獨(dú)立的隨機(jī)變量是相互獨(dú)立的隨機(jī)變量設(shè)設(shè)定理定理11lim), 2 , 1()(,121 niinknXnPkXEXXX大數(shù)定律在概率論中的意義大數(shù)定律在概率論中的意義大數(shù)定律給出了在試驗(yàn)次數(shù)很

11、大時(shí)頻率和平均值的穩(wěn)定性，從理論上肯定了用算術(shù)平均值代替均值，用頻率代替概率的合理性。它既驗(yàn)證了概率論中一些假設(shè)的合理性，又為數(shù)理統(tǒng)計(jì)中用樣本推斷總體提供了理論根據(jù)，所以說，大數(shù)定律是概率論中最重要的基本定律。2 中心極限定理中心極限定理獨(dú)立同分布的中心極限定理獨(dú)立同分布的中心極限定理2122112,(),()0(1,2,)()( )1lim( )lim2(0,1)niinniiiinntxnnnnXXXE XD XkxXXnYnnF xF xP YxedtXnNn近似的定理設(shè)是相互獨(dú)立，：，則對(duì)任意實(shí)數(shù) ，隨機(jī)變量的分布函數(shù)滿足服從同一分布且具有數(shù)即當(dāng) 充分學(xué)期大時(shí)，望和方差李雅普諾夫中心極

12、限定理李雅普諾夫中心極限定理122221221,(),()0(1,2,)10nkkkknnkknkkknXXXE XD XkBnE XB 定理設(shè)是相互獨(dú)立，它們具有數(shù)學(xué)期望和方差：，記若存在正數(shù) ，使得當(dāng)時(shí)，則隨機(jī)變量李雅普諾夫中心極限定理李雅普諾夫中心極限定理)1 , 0(21lim)(lim)()()(211111112NZndtexBXPxFxxFBXXDXEXZntxnniiniinnnnnniiniiniiniiniin近似的近似的充分大時(shí)，充分大時(shí)，即當(dāng)即當(dāng)，滿足，滿足對(duì)任意的對(duì)任意的的分布函數(shù)的分布函數(shù) 德莫佛德莫佛拉普拉斯定理拉普拉斯定理 xtnnndtexpnpnpPxppn

13、n2221)1(lim)10(,), 2 , 1( ，有，有意意的二項(xiàng)分布，則對(duì)于任的二項(xiàng)分布，則對(duì)于任服從參數(shù)為服從參數(shù)為設(shè)隨機(jī)變量設(shè)隨機(jī)變量定理定理德莫佛德莫佛拉普拉斯定理的證明拉普拉斯定理的證明二項(xiàng)分布的極限分布。二項(xiàng)分布的極限分布。定理說明，正態(tài)分布是定理說明，正態(tài)分布是特殊情形。特殊情形。同分布中心極限定理的同分布中心極限定理的可見，上述定理是獨(dú)立可見，上述定理是獨(dú)立限定理知限定理知由獨(dú)立同分布的中心極由獨(dú)立同分布的中心極。分布，有分布，有服從服從其中其中的二項(xiàng)分布，則令的二項(xiàng)分布，則令服從參數(shù)為服從參數(shù)為由于由于定理定理 xtnnkkknkknndtexpnpnpPppXDpXEX

14、Xppnn21221)1(lim)1()(,)()10()10(,), 2 , 1( 中心極限定理的意義中心極限定理的意義 我們知道，正態(tài)分布是現(xiàn)實(shí)生活中使用最多、最廣泛、最重要的一種分布。許多隨機(jī)變量本身并不屬于正態(tài)分布，但它們的極限分布是正態(tài)分布。中心極限定理闡明了在什么條件下，原來不屬于正態(tài)分布的一些隨機(jī)一些隨機(jī)變量其總和分布漸近地服從正態(tài)分布變量其總和分布漸近地服從正態(tài)分布。為我們利用正態(tài)分布來解決這類隨機(jī)變量的問題提供了理論依據(jù)。大數(shù)定律與中心極限定理的異同大數(shù)定律與中心極限定理的異同它們的相同點(diǎn)是，都是通過極限理論來研究概率問題，研究對(duì)象都是隨機(jī)變量序列，解決的都是概率論中的基本問

15、題，因而在概率論中有重要的意義。所不同的是，大數(shù)定律研究的是，概率或平均值的極限，而中心極限定理則研究隨機(jī)變量總和的分布的極限。在隨機(jī)變量的一切可能分布中, 正態(tài)分布占有很重要的地位.實(shí)踐中遇到的大量的隨機(jī)變量都是服從正態(tài)分布的.問:為什么正態(tài)分布如此廣泛地存在,從而在概率論中占有如此重要的地位?應(yīng)該如何解釋大量隨機(jī)現(xiàn)象中的這一客觀規(guī)律?在進(jìn)行某種觀測(cè)(試驗(yàn))時(shí),不可避免地有許多地引起觀測(cè)誤差的隨機(jī)因素影響著觀測(cè)結(jié)果.其中,有些誤差是由觀測(cè)儀器精度引起的,有些誤差是由觀測(cè)者自身引起的,等等. 這些因素中的每個(gè)都可能使觀測(cè)結(jié)果產(chǎn)生很小的誤差,然而由于所有這些誤差共同影響觀測(cè)結(jié)果,因此,我們得到的

16、觀測(cè)值是一個(gè)包含”總誤差”的結(jié)果.因此,可以將觀測(cè)得到的誤差看成一個(gè)隨機(jī)變量 ,它是很多數(shù)值微小的獨(dú)立隨機(jī)變量的總和,按中心極限定理,這個(gè)隨機(jī)變量應(yīng)服從正態(tài)分布.此外,還有很多類似的例子,自動(dòng)車床加工的零件尺寸的偏差,射擊時(shí)擊中點(diǎn)與目標(biāo)中心的偏差,一個(gè)城市的耗電量(是大量用戶耗電量的總和)等.習(xí)題習(xí)題1 據(jù)以往經(jīng)驗(yàn),某種電器元件的壽命服從均值為100小時(shí)的指數(shù)分布.現(xiàn)隨機(jī)地取16只,設(shè)它們的壽命是相互獨(dú)立的.求這16只元件的壽命的總和大于1920小時(shí)的概率.解解: 設(shè)Xi表示第i只元件的壽命,依題意可知X1, X2, , X16相互獨(dú)且服從均值為100小時(shí)的指數(shù)分布.從而有E(Xi)=100,

17、 D(Xi)=1002, (i=1,2,16)由同獨(dú)立分布中心極限定理知:) 1 , 0(4001600)()(161161161161NXXDXEXiiiiiiii從而有:1616111600192016001920400400iiiiXPXP16116000.8400iiXP161160010.8400iiXP 1(0.8) 10.7881 0.2119 例例 試分別用切比雪夫不等式和中心極限定理確定, 當(dāng)擲均勻銅板時(shí),需投多少次,才能保證得到正面出現(xiàn)的頻率在0.4及0.6之間的概率不少于90%.解解: 設(shè)需投n次才能滿足要求. 令銅板出現(xiàn)正面的次數(shù)為X, 則:111 ( , ),(),()224Xb nE XnD Xn正面出現(xiàn)的頻率為 ,故Xn0.40.6XPn(1)由切比雪夫不等式有:10.12XPn0.1XXPEnn2()100110.90.14XDnn 解得:250n 即:至少要投250次才能滿足要求. 例例 試分別用切比雪夫不等