Chapter5大數(shù)定理及中心極限定理

概率論與數(shù)理統(tǒng)計是研究隨機(jī)現(xiàn)象統(tǒng)計規(guī)律性的學(xué)科.隨機(jī)現(xiàn)象的規(guī)律性只有在相同的條件下進(jìn)行大量重復(fù)試驗(yàn)時才會呈現(xiàn)出來.也就是說，要從隨機(jī)現(xiàn)象中去尋求必然的法則，應(yīng)該研究大量隨機(jī)現(xiàn)象.大數(shù)定理及中心極限定理大數(shù)定理及中心極限定理

研究大量的隨機(jī)現(xiàn)象，常常采用極限形式，由此導(dǎo)致對極限定理進(jìn)行研究.極限定理的內(nèi)容很廣泛，其中最重要的有兩種:與大數(shù)定律中心極限定理定義1

設(shè)為一個隨機(jī)變量序列，記為，若對任何n≥2，隨機(jī)變量

都相互獨(dú)立，則稱是相互獨(dú)立的隨機(jī)變量序列。定義2

設(shè)為一隨機(jī)變量序列，X

為一隨機(jī)變量或常數(shù)，若對任意ε＞0，有則稱依概率收斂于X,記為或隨機(jī)序列的收斂性請注意:大數(shù)定理大量的隨機(jī)現(xiàn)象中平均結(jié)果的穩(wěn)定性

大數(shù)定律的客觀背景大量拋擲硬幣正面出現(xiàn)頻率字母使用頻率生產(chǎn)過程中的廢品率……大數(shù)定理(Cont.)伯努利（Bernoulli）大數(shù)定律定理：設(shè)

nA

是n

次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù),p

是每次試驗(yàn)中A發(fā)生的概率，則有或故伯努利家族-瑞士巴塞爾雅各布第一：數(shù)學(xué)家，

概率論奠基者，最早使用“積分”術(shù)語約翰第一：數(shù)學(xué)家，提出變分法和微分方程，歐拉、洛必達(dá)等的導(dǎo)師丹尼爾第一：數(shù)學(xué)家，力學(xué)家，天文學(xué)家，提出流體力學(xué)伯努利原理在概率的統(tǒng)計定義中，事件A

發(fā)生的頻率“穩(wěn)定于”事件A在一次試驗(yàn)中發(fā)生的概率是指：頻率與

p

有較大偏差是小概率事件,因而在n

足夠大時,可以用頻率近似代替p.這種穩(wěn)定稱為依概率穩(wěn)定.伯努利（Bernoulli）大數(shù)定律的意義：伯努利（Bernoulli）大數(shù)定律則伯努利（Bernoulli）大數(shù)定律切比雪夫(Chebyshev)大數(shù)定律相互獨(dú)立，定理：設(shè)隨機(jī)變量序列(指任意給定n>1,相互獨(dú)立)，且具有相同的數(shù)學(xué)期望和方差則有或由切比雪夫不等式，可得：切比雪夫(Chebyshev)大數(shù)定律(Cont.)切比雪夫(Chebyshev)大數(shù)定律(Cont.)說明注2：相互獨(dú)立的條件可以去掉，代之以注1：不一定有相同的數(shù)學(xué)期望與方差，可設(shè)有例切比雪夫大數(shù)定律中的條件可以弱化:下面給出的獨(dú)立同分布下的大數(shù)定律，不要求隨機(jī)變量的方差存在.設(shè)隨機(jī)變量序列X1,X2,…相互獨(dú)立，服從同一分布，具有數(shù)學(xué)期E(Xi)=μ,i=1,2,…，則對于任意正數(shù)ε

，有定理（辛欽大數(shù)定律）辛欽

1、辛欽大數(shù)定律為尋找隨機(jī)變量的期望值提供了一條實(shí)際可行的途徑.注2、伯努利大數(shù)定律是辛欽定理的特殊情況.3、辛欽定理具有廣泛的適用性.要估計某地區(qū)的平均畝產(chǎn)量，要收割某些有代表性塊，例如n塊地.計算其平均畝產(chǎn)量，則當(dāng)n

較大時，可用它作為整個地區(qū)平均畝產(chǎn)量的一個估計.

大數(shù)定律以嚴(yán)格的數(shù)學(xué)形式表達(dá)了隨機(jī)現(xiàn)象最根本的性質(zhì)之一：它是隨機(jī)現(xiàn)象統(tǒng)計規(guī)律的具體表現(xiàn).大數(shù)定律在理論和實(shí)際中都有廣泛的應(yīng)用.平均結(jié)果的穩(wěn)定性中心極限定理

中心極限定理的客觀背景在實(shí)際問題中許多隨機(jī)變量是由相互獨(dú)立隨機(jī)因素的綜合（或和)影響所形成的.例如：炮彈射擊的落點(diǎn)與目標(biāo)的偏差，就受著許多隨機(jī)因素（如瞄準(zhǔn)，空氣阻力，炮彈或炮身結(jié)構(gòu)等）綜合影響的.每個隨機(jī)因素的對彈著點(diǎn)（隨機(jī)變量和）所起的作用都是很小的.那么彈著點(diǎn)服從怎樣分布？

某個隨機(jī)變量是由大量相互獨(dú)立且均勻小的隨機(jī)變量相加而成的,研究其概率分布情況.問題:中心極限定理(Cont.)

如果一個隨機(jī)變量是由大量相互獨(dú)立的隨機(jī)因素的綜合影響所造成，而每一個別因素對這種綜合影響中所起的作用不大.則這種隨機(jī)變量一般都服從或近似服從正態(tài)分布.由于無窮個隨機(jī)變量之和可能趨于∞，故我們不研究n個隨機(jī)變量之和本身而考慮它的標(biāo)準(zhǔn)化的隨機(jī)變量.在概率論中，習(xí)慣于把和的分布收斂于正態(tài)分布這一類定理都叫做中心極限定理.中心極限定理定理(林德貝格-列維中心極限定理)注林德貝格-列維中心極限定理林德貝格-列維中心極限定理(Cont.)

3、雖然在一般情況下，我們很難求出

的分布的確切形式，但當(dāng)n很大時，可以求出近似分布.定理（李雅普諾夫(Liapounov)定理)當(dāng),但不服從同一分布時:的分布，請注意:定理3(棣莫佛－拉普拉斯（DeLaplace定理）

設(shè)隨機(jī)變量(n=1,2,‥‥)服從參數(shù)n,p(0<p<1)的二項分布，則對任意x，有證(獨(dú)立同分布,二項分布)

定理表明，當(dāng)n很大，0<p<1是一個定值時（或者說，np(1-p)也不太小時），二項變量的分布近似正態(tài)分布N(np,np(1-p)).即下面演示不難看到中心極限定理的客觀背景例:20個0-1分布的和的分布X1~f(x)X1+X2~g(x)X1+X2+X3~h(x)幾個(0,1)上均勻分布的和的分布0123xfgh例于是解例.(供電問題)某車間有200臺車床,在生產(chǎn)期間由于需要檢修、調(diào)換刀具、變換位置及調(diào)換工件等常需停車.設(shè)開工率為0.6,并設(shè)每臺車床的工作是獨(dú)立的，且在開工時需電力1千瓦.問應(yīng)供應(yīng)多少瓦電力就能以99.9%的概率保證該車間不會因供電不足而影響生產(chǎn)?（200臺車床是否開工=200次獨(dú)立重復(fù)試驗(yàn)）用X表示在某時刻工作著的車床數(shù)，解：對每臺車床的觀察作為一次試驗(yàn)，每次試驗(yàn)是觀察該臺車床在某時刻是否工作,工作的概率0.6,共進(jìn)行200次獨(dú)立重復(fù)試驗(yàn).依題意，X~B(200,0.6),現(xiàn)在的問題是：P(1*X≤N)≥0.999的最小的N.求滿足設(shè)需N千瓦，（由于每臺車床在開工時需電力1千瓦，N臺工作所需電力即N千瓦.）由中心極限定理近似N(0,1),于是P(X≤N)=P(0≤X≤N)這里

np=120,np(1-p)=48由3σ準(zhǔn)則，此項為0。查正態(tài)分布函數(shù)表得從中解得N≥141.5,即所求N=142.也就是說,應(yīng)供應(yīng)142千瓦電力就能以99.9%的概率保證該車間不會因供電不足而影響生產(chǎn).≥3.1,故例3解例1根據(jù)以往經(jīng)驗(yàn)，某種電器元件的壽命服從均值為100小時的指數(shù)分布.現(xiàn)隨機(jī)地取16只，設(shè)它們的壽命是相互獨(dú)立的.求這16只元件的壽命的總和大于1920小時的概率.課堂練習(xí)例1根據(jù)以往經(jīng)驗(yàn)，某種電器元件的壽命服從均值為100小時的指數(shù)分布.現(xiàn)隨機(jī)地取16只，設(shè)它們的壽命是相互獨(dú)立的.求這16只元件的壽命的總和大于1920小時的概率.課堂練習(xí)解：設(shè)第i只元件的壽命為Xi

,i=1,2,…,16由題給條件知，諸Xi獨(dú)立同分布，16只元件的壽命的總和為且E(Xi)=100,D(Xi)=10000依題意，所求為P(Y>1920)E(Y)=1600,D(Y)=160000由中心極限定理,近似于N(0,1)P(Y>1920)=1-P(Y

1920)

1-例2在一個罐子中,裝有10個編號為0-9的同樣的球，從罐中有放回地抽取若干次，每次抽一個，并記下號碼.

設(shè)，k=1,2,…(1)至少應(yīng)取球多少次才能使“0”出現(xiàn)的頻率在0.09-0.11之間的概率至少是0.95?(2)用中心極限定理計算在100次抽取中,數(shù)碼“0”出現(xiàn)次數(shù)在7和13之間的概率.由中心極限定理例2解答：欲使即查表得從中解得即至少應(yīng)取球3458次才能使“0”出現(xiàn)的頻率在0.09-0.11之間的概率至少是0.95.（2）解：在100次抽取中,數(shù)碼“0”出現(xiàn)次數(shù)為由中心極限定理,即其中E(Xk)=0.1,D(Xk)=0.09即在100次抽取中，數(shù)碼“0”出現(xiàn)次數(shù)在7和13之間的概率為0.6826.=0.6826小結(jié)大數(shù)定律

大數(shù)定律以嚴(yán)格的數(shù)學(xué)形式表達(dá)了隨機(jī)現(xiàn)象最根本的性質(zhì)之一：平均結(jié)果的穩(wěn)定性中心極限定理注小結(jié)大數(shù)定律與中心極限定理的區(qū)別：設(shè)為獨(dú)立同分布隨機(jī)變量序列，且則由大數(shù)定理，對于任意的ε＞0有

.大數(shù)定律并未給出的表達(dá)式,但保證了其極限是1.

而在以上同一條件下，中心極限定理(林德伯格—萊維）亦成立，這時，對于任意的ε＞0及某固定的n，有