1、概率論概率論 第一節第一節 大數定律大數定律大數定律大數定律依概率收斂定義及性質依概率收斂定義及性質小結小結第五章第五章 大數定律及中心極限定理大數定律及中心極限定理概率論概率論 大量隨機試驗中大量隨機試驗中大數定律的客觀背景大數定律的客觀背景大量拋擲硬幣大量拋擲硬幣正面出現的頻率正面出現的頻率字母使用頻率字母使用頻率生產過程中的生產過程中的廢品率廢品率 事事件件發發生生的的頻頻率率穩穩定定于于某某一一常常數數測測量量值值的的具具有有穩穩術術值值定定性性算算平平均均概率論概率論 一、大數定律一、大數定律定理定理1（切比雪夫大數定律的特殊情況切比雪夫大數定律的特殊情況）切比雪夫切比雪夫 則對任意

2、的則對任意的0，有，有學期望和方差：學期望和方差：獨立，且具有相同的數獨立，且具有相同的數相互相互，設隨機變量設隨機變量,21nXXX21 2(),()(, ,).kkE XD Xk1|1|lim1 niinXnP|lim XPn11=nkkXXn 做前做前 n 個隨機變量的算術平均個隨機變量的算術平均概率論概率論 證證 nkkXnE11由于由于 nn1 nkkXEn1)(1 nkkXnD11 nkkXDn12)(1nnn2221 由切比雪夫不等式由切比雪夫不等式22111 nXnPnkk 上式中令上式中令 n得得1|1|lim1 niinXnP概率論概率論 說明說明1121X1 2nniki

3、X ,XXXEnk,n. 、 定定理理以以數數學學形形式式證證明明了了隨隨機機變變量量的的算算術術平平均均接接近近數數學學期期望望 （）（），這這種種接接近近說說明明其其具具有有的的穩穩定定性性. 1|1|11于于時，這個事件的概率趨時，這個事件的概率趨當當是指一個隨機事件，是指一個隨機事件，、定理中、定理中 nXnnii 3、這種穩定性的含義說明、這種穩定性的含義說明算術平均值是從概率算術平均值是從概率意義上逼近某一常數。意義上逼近某一常數。概率論概率論 二、二、依概率收斂定義及性質依概率收斂定義及性質 定義定義，有，有若對于任意正數若對于任意正數一個常數一個常數是是是一個隨機變量序列，是一

4、個隨機變量序列，設設 .,21aYYYnlim |1nnP Ya.,21aYaYYYPnn記為記為依概率收斂于依概率收斂于則稱序列則稱序列性質性質).,(),(),(),(,bagYXgbayxgbYaXPnnPnPn連續，則連續，則點點在在又設函數又設函數，設設概率論概率論 請注意請注意 : 0.1nnnXXanXaa 依依概概率率收收斂斂于于 ，當當 充充分分大大時時，事事件件的的概概意意味味著著對對任任意意給給定定的的，；，而而只只是是說說他他發發生生的的可可能能性性很很小小并并不不排排除除事事件件的的發發生生率率很很大大，接接近近于于 .定性定性弱些，它具有某種不確弱些，它具有某種不確

5、中的普通意義下的收斂中的普通意義下的收斂依概率收斂比高等數學依概率收斂比高等數學概率論概率論 的另一種敘述形式的另一種敘述形式定理定理1.1), 2 , 1()(,)(,1221 PnkkkknXXnXkXDXEXXX，即，即依概率收斂于依概率收斂于，則序列，則序列差：差：有相同的數學期望和方有相同的數學期望和方相互獨立，且具相互獨立，且具，設隨機變量設隨機變量概率論概率論 問題問題 :伯努利伯努利 設設nA是是n重重伯努利伯努利試驗中事件試驗中事件A發生發生的次數，的次數，p是事件是事件A發生的概率，發生的概率，nnA是事件是事件A發生的頻率發生的頻率.事事件件發發生生的的頻頻率率能能否否近

6、近似似代代替替事事件件的的概概率率，頻頻率率是是否否具具有有穩穩定定性性呢呢？概率論概率論 設設 nA 是是n次獨立重復試驗中事件次獨立重復試驗中事件A發發生的次數，生的次數，p是事件是事件A在每次試驗中發生在每次試驗中發生的概率，則對于任意正數的概率，則對于任意正數 0 ，有，有 定理定理2（伯努利伯努利大數定律大數定律）1|lim pnnPAn或或 伯努利伯努利0|lim pnnPAn證明證明12 ( , ),AAnnb n pnXXX因因為為由由此此可可表表示示為為概率論概率論 即得即得由定理由定理11|)(1|lim21 pXXXnPnn|lim pnnPAn 證畢證畢注注伯努利伯努利

7、大數定律表明，當重復試驗次數大數定律表明，當重復試驗次數n充分大時，充分大時，事件事件A發生的頻率發生的頻率nA/n與事件與事件A的概率的概率p有較大偏差有較大偏差的概率很小的概率很小.0|lim pnnPAn或或.事事件件發發生生的的頻頻率率可可以以近近似似代代替替事事件件的的概概率率),1()()(.10ppXDpXEpkk ，因而因而分布分布）以為參數的（以為參數的（從以從以其中相互獨立，且都服其中相互獨立，且都服概率論概率論 下面給出的獨立同分布下的大數定律，下面給出的獨立同分布下的大數定律，不要求隨機變量的方差存在不要求隨機變量的方差存在. 設隨機變量序列設隨機變量序列X1,X2,

8、相互獨立，相互獨立，服從同一分布，具有數學期服從同一分布，具有數學期E(Xi)=, i=1,2,， 則對于任意正數則對于任意正數 ，有，有定理定理3（辛欽大數定律辛欽大數定律）1|1|lim1 niinXnP辛欽辛欽概率論概率論 1、辛欽大數定律為尋找隨機變量的期望、辛欽大數定律為尋找隨機變量的期望值提供了一條實際可行的途徑值提供了一條實際可行的途徑.注注2、伯努利大數定律是辛欽定理的特殊情況、伯努利大數定律是辛欽定理的特殊情況.3、辛欽定理具有廣泛的適用性、辛欽定理具有廣泛的適用性. 要估計某地區的平均畝產量要估計某地區的平均畝產量 ，要收割某些有代表性塊，例如要收割某些有代表性塊，例如n

9、塊塊地地. 計算其平均畝產量，則當計算其平均畝產量，則當n 較較大時，可用它作為整個地區平均畝大時，可用它作為整個地區平均畝產量的一個估計產量的一個估計.概率論概率論 例例1 在一個罐子中在一個罐子中,裝有裝有10個編號為個編號為0-9的同樣的球，的同樣的球，從罐中有放回地抽取若干次，每次抽一個，并記下號從罐中有放回地抽取若干次，每次抽一個，并記下號碼碼. 否則次取到號碼第001kXk 設設，k=1,2, 問對序列問對序列Xk能否應用大數定律？能否應用大數定律？nkknXnP11| 1 . 01|lim 即即對對任意的任意的0,解解: ,9 . 01 . 001kXk=1,2, E(Xk)=0

10、.1, 諸諸Xk 獨立同分布，且期望存在，故能使用大獨立同分布，且期望存在，故能使用大數定律數定律.概率論概率論 三、小結三、小結大大數數定定律律 大數定律以嚴格的數學形式表達了隨機現大數定律以嚴格的數學形式表達了隨機現象最根本的性質之一：象最根本的性質之一：平均結果的穩定性平均結果的穩定性 2)()( kkXDXE )(kXE),(pnbnA大數定律大數定律伯努利伯努利1|lim pnnPAn大數定律大數定律切比雪夫切比雪夫1|1|lim1 niinXnP大數定律大數定律辛欽辛欽1|1|lim1 niinXnP 概率論概率論 切比雪夫大數定律切比雪夫大數定律則對任意的則對任意的0，1(),(

11、1,2,),().nkkkXXKXXXkED 設設隨隨機機變變量量， ，相相互互獨獨立立，且且他他們們的的期期望望都都存存在在，方方差差存存在在并并且且有有共共同同的的有有限限上上界界：2 21|1|lim1 niinXnP1111lim|() |1nnkknkkPXEXnn ()kkXE X 特特別別地地，若若的的期期望望都都相相同同：，則則有有有有概率論概率論 第二節第二節 中心極限定理中心極限定理中心極限定理中心極限定理例題例題小結小結練習練習 布置作業布置作業概率論概率論 中心極限定理的客觀背景中心極限定理的客觀背景 在實際問題中許多隨機變量是由相互獨立隨機在實際問題中許多隨機變量是由

12、相互獨立隨機因素的綜合（或和因素的綜合（或和)影響所形成的影響所形成的.例如：炮彈射擊的例如：炮彈射擊的落點與目標的偏差，落點與目標的偏差，就受著許多隨機因就受著許多隨機因素（如瞄準，空氣素（如瞄準，空氣阻力，炮彈或炮身結構等）綜合影響的阻力，炮彈或炮身結構等）綜合影響的.每個每個隨機因隨機因素素對彈著點（隨機變量和）對彈著點（隨機變量和）所起的作用都是很小的所起的作用都是很小的.那么那么彈著點服從怎樣分布哪彈著點服從怎樣分布哪 ？概率論概率論 如果一個隨機變量是由大量相互獨立的隨機因如果一個隨機變量是由大量相互獨立的隨機因素的綜合影響所造成，而每一個別因素對這種綜合素的綜合影響所造成，而每一

13、個別因素對這種綜合影響中所起的作用不大影響中所起的作用不大. 則這種隨機變量一般都則這種隨機變量一般都服服從或近似服從正態分布從或近似服從正態分布. 自從高斯指出測量誤差服從正態自從高斯指出測量誤差服從正態分布之后，人們發現，正態分布在分布之后，人們發現，正態分布在自然界中極為常見自然界中極為常見. 現在我們就來研究獨立隨機變量之和所特有現在我們就來研究獨立隨機變量之和所特有的規律性問題的規律性問題.高斯高斯 當當n無限增大時，這個和的極限分布是什么呢？無限增大時，這個和的極限分布是什么呢？概率論概率論 由于無窮個隨機變量之和可能趨于由于無窮個隨機變量之和可能趨于，故我們，故我們不研究不研究n

14、個隨機變量之和本身而考慮它的標準化的隨個隨機變量之和本身而考慮它的標準化的隨機變量機變量. nkknknkkknXDXEXY111)()(nY討討論論的的極極限限分分布布是是否否為為標標準準正正態態分分布布? ? 在概率論中，習慣于把在概率論中，習慣于把和的分布和的分布收斂于正態分收斂于正態分布這一類定理都叫做布這一類定理都叫做中心極限定理中心極限定理. nkkkXnkX1), 1(的和的和即考慮隨機變量即考慮隨機變量概率論概率論 一、中心極限定理一、中心極限定理 xnnXPxFniinnn 1lim)(lim定理定理4（列維列維-林德貝格中心極限定理林德貝格中心極限定理-獨立同分布下獨立同分

15、布下），則隨機變量之和，則隨機變量之和方差方差布，且具有數學期望和布，且具有數學期望和相互獨立，服從同一分相互獨立，服從同一分設隨機變量設隨機變量), 2 , 1()(,)(:,221 kXDXEXXXkkn nnXYnkkn 1滿足滿足對于任意對于任意的分布函數的分布函數xxFn)(的標準化變量的標準化變量 nkkX1 x-2t -dte212 )(x 概率論概率論 注注2111(0,1)(,;1).,nnnkkkkkkXnNnXnXNnn 近近近近似似地地似似地地、定定理理表表明明，獨獨立立同同分分布布的的隨隨機機變變量量之之和和當當 充充分分大大時時，隨隨機機變變量量之之和和與與其其標標

16、準準化化變變量量分分別別有有 22,(0,1)()XXnNNn 近近似似地地近近似似地地、獨獨立立同同分分布布中中心心極極限限定定理理的的另另一一種種形形式式可可寫寫為為或或 nkkXnX11其中其中 3、雖然在一般情況下，我們很難求出、雖然在一般情況下，我們很難求出 的分的分布的確切形式，但當布的確切形式，但當n很大時，可以求出近似分布很大時，可以求出近似分布. nkkX1概率論概率論 定理定理5（李雅普諾夫李雅普諾夫(Lyapunov)定理定理), 2 , 1( ,)(,)(,221 kXDXEXXXkkkkn 有數學期望和方差：有數學期望和方差：相互獨立，它們具相互獨立，它們具設隨機變量

17、設隨機變量 nkknB122 記記 nkkknXEBn12201 時，時，使得當，使得當若存在正數若存在正數的標準化變量：的標準化變量：則隨機變量之和則隨機變量之和 nkkX1概率論概率論 11111()()nnnnkkkkkkkknnnkkXEXXZBDX ，滿足，滿足對于任意對于任意的分布函數的分布函數xxFn)( xBXPxFnnknkkknnn11lim)(lim x-2t -dte212 )(x 概率論概率論 請注意請注意 :分別近似服從分別近似服從很大時很大時在在及其標準化變量及其標準化變量、定理中隨機變量之和、定理中隨機變量之和,11nZXnnkk 211(,);(0,1)nnk

18、knkknNXNBZ近近似似地地近近似似地地 12.knkkXXn 、隨隨機機變變量量無無論論服服從從什什么么分分布布，只只要要滿滿足足定定理理條條件件，隨隨機機變變量量之之和和，當當 很很大大時時，就就近近似似服服從從正正態態分分布布，這這就就是是為為什什么么正正態態分分布布在在概概率率論論中中所所占占的的重重要要地地位位的的一一個個基基本本原原因因概率論概率論 定理定理6( (棣莫佛拉普拉斯棣莫佛拉普拉斯（De LaplaceDe Laplace定理）定理）)1(limxpnpnpPnn 設隨機變量設隨機變量 (n=1,2,)(n=1,2,)服從參數服從參數n,p(0p1)的二項分布，則對

19、任意的二項分布，則對任意x，有，有n dtext2221)(x 證證之和，之和，分布的諸隨機變量分布的諸隨機變量服從同一服從同一個相互獨立、個相互獨立、分解成為分解成為由第四章知識知可將由第四章知識知可將nnXXXn,)10(21 nkknX1 即有即有 1 , 0,)1(), 2 , 1(1 ippiXPnkXiikk的分布律為的分布律為其中其中概率論概率論 定理表明定理表明，當，當n很大，很大，0p1920)設第設第i只元件的壽命為只元件的壽命為Xi , i=1,2, ,16例例1解答：解答：E(Y)=1600,D(Y)=160000由中心極限定理由中心極限定理,近似近似N(0,1)4001600YP(Y1920)=1-P(Y 1920) =1- (0.8)40016001920( 1-=1-0.7881=0.