1、第一節 大數定律 在前面我們已經提到過事件發生的頻率具有穩定性，即隨著試驗次數的增多，事件發生的頻率逐漸穩定于某個常數。這就充分說明事件的概率是客觀存在的。頻率的穩定性，便是這一客觀存在的反映。人們還認識到大量測量值的算術平均值也具有穩定性。這種穩定性就是本節所要討論的大數定律的客觀背景。在實踐中， 在概率論中，用來闡明大量平均結果穩定性的一系列定理統稱為大數定律。由大數律，大量隨機因素的總和，必然導致某種不依賴于個別隨機事件的結果。為證明一系列大數定律的定理，下面給出一個重要且有用的不等式。一、契比曉夫不等式 我們已經知道，方差是用來描述一個隨機變量取值的分散程度的。 它具體的估算了隨機變量

2、 X 取值時，以 X 的數學期望為中心的分散程度。（1） 這個不等式對于任何具有方差的隨機變量 X 都成立。通常稱這個不等式為契比曉夫不等式。 設隨機變量 X 有數學期望 和 方差 ，則對于任意給定的正數 總成立不等式 當 時， 在實際應用及理論上都很有用。為簡便起見，下面就連續型隨機變量 X 討論其正確性。設隨機變量 X 的概率密度為表示隨機變量 X 落在區間之外。因此，不等式（1）成立。故有故，契比曉夫不等式又可表示成下面形式 不等式（2）給出了在隨機變量 X 的分布未知的情況下，估計隨機事件的概率的一種方法。若在不等式（2）中取 由于 與 是對立事件，所以則分別有 由契比曉夫不等式（2）

3、可以看出，若方差 越小，則概率 越大，表明隨機變量 X 取值越集中；反之，方差 越大概率 越小，表明隨機變量 X 取值較分散。由此，我們可以更進一步理解方差的概率含義。二、大數定律 定理1 （契比曉夫定理的特殊情況）設隨機變量 相互獨立，且具有相同的有限數學期望和方差： 。作前 n 個隨機變量的算術平均，記為則對于任意正數 恒有即（3）證明所以 因為在上式中令 并注意到概率不能大于1，由契比曉夫不等式（2）可得即得 （3）式中， 是一個隨機事件，等式表明，當 時，這個事件的概率趨于 1，即對于任意正數 當 n 充分大時，不等式 幾乎都是成立的。通常我們稱序列 依概率收斂于 。 一般地，設 為一

4、個隨機變量序列， a 是一個常數，若對于任意正數 都有則稱隨機變量序列 依概率收斂于 a 。 定理 1 表明，當 n 很大時，隨機變量 的算術平均 接近于數學期望 這種接近是概率意義下的接近。 通俗的說，在定理 1 的條件下，n 個隨機變量的算術平均，當 n 無限增加時將幾乎變成一個常數了。 例如，在一個閉合容器內有很多氣體分子，它們在不斷地運動，每個氣體分子的運動是隨機的。對于單個氣體分子而言，我們不能確定其在指定時刻的動能。但是，在一定的溫度下，對于容器內物理性質和大數定律的結論是相吻合的。下面我們給出更一般的契比曉夫定理。定理2（契比曉夫定理）設隨機變量X1，X2，X n， ， 相互獨立

5、，并且具有有限的數學期望和方差：（c為常數，i=1，2， ）作前 n 個隨機變量的算術平均，記為 即則對于任意正數 恒有（4） 定理 2 中要求方差 （c為常數，i=1，2， ），即 是一致有界的。因此，當 n 無限增大時， 是一個無窮小量。即當n充分大時， 的分布的分散程度是很小的。這表明，經過算術平均后的 的值，將比較緊密地集中在其數學期望值 附近。即說明算術平均值具有穩定性。 定理 2 的證明請讀者參照定理1自行完成。 定理3 （貝努里定理）設在 n 次獨立試驗中事件 A 發生的次數為 ，在每次試驗中事件 A 發生的概率為 p，則對于任意給定的正數0 ，恒有（5）（6）或證明顯然有 由于 只依賴于第 i 次試驗，而各次實驗室是獨立的，于是 相互獨立，且服從相同的（01）分布，即A 在第 i 次試驗中不發生，A 在第 i 次試驗中發生。引入隨機變量由定理 1，得即又因為故有 貝努里定理是契比曉夫定理的特例，它從理論上證明了頻率的穩定性。只