1、概率論與數理統計重點第1章隨機事件及其概率Pnm!從m個人中料k由n個人:井(1)排列組合公式Pm/八m1/二十n|，也(mn)!行排列的可能數。cm口從m個人中挑出n個人進n!(mn)!行組合的可能數。(2)加法和乘法原理加法原理(兩種方法均能完成此事)：m+n某件事由兩種方法來完成，第一種方法可由m種方法完成，第二種方法可由n種方法來完成，則這件事可由m+n種方法來完成。乘法原理(兩個步驟分別不能完成這件事)：mXn某件事由兩個步驟來完成，第一個步驟可由m種方法完成，第二個步驟可由n種方法來完成，則這件事可由mn種方法來完成。(3)些常見排列重復排列和非重復排列(有序)對立事件(至少有一個

2、)順序問題1和隨機 事件但在進行一次試驗之前卻不能斷言它出現哪個結果，則稱這種試驗為隨機試驗。試驗的三能結果稱為隨機事件。在一個試驗不，不管事件有多少個，一總可以從其中找出這樣一組事件，它具有如下性質：每進行一次試驗，必須發生且只能發生這一組中的一個事件；（5）基 本事 件、樣 本空間 和事件任何事件，都是由這一組中的部分事件組成的。事件，用由來表刀、。這樣一組事件中的每一個事件稱為基本基本事件的全體，稱為試驗的樣本空間,用Q表7Ko一個事件就是由。中的部分點（基本事件”）組成的集合。通常用大寫字母4B,G表示事件，它們是。的子集。0為必然事件，0為不可能事件。不可能事件（0）的概率為零，而概

3、率為零的事件不一定是不可能事件；同理，必然事件（Q）的概率為1,而概率為1的事件也不一定是必然事件。(6)事關系:i如果一個試驗在相同條件下可以重復進行，而每次試驗的可能結果不止一個，但在進行一次試驗之前卻不能斷言它出現哪個結果，則稱這種試驗為隨機試驗。試驗的可能結果稱為隨機事件。在一個試驗下，不管事件有多少個，總可以從其中找出這樣一組事件，它具有如下性質：每進行一次試驗，必須發生且只能發生這一組中的一個事件；任何事件，都是由這一組中的部分事件組成的。這樣一組事件中的每一個事件稱為基本事件，用來表示。基本事件的全體，稱為試驗的樣本空間，用表示。一個事件就是由中的部分點（基本事件）組成的集合。通

4、常用大寫字母A,B,C,表示事件，它們是的子集。為必然事件，？為不可能事件。不可能事件（？）的概率為零，而概率為零的事件不一定是不可能事件；同理，1必然事件(Q)的概率為1,而概率為1的事件也不一定是必然事件。關系:如果事件A的組成部分也是事件B的組成部分，(A發生必有事件B發生)：AB如果同時有AB,BA,則稱事件A與事件B等價，或稱A等于B：A=BAB中至少有一個發生的事件：AB,或者A+Bo屬于A而不屬于B的部分所構成的事件，稱為A與B的差，記為A-B,也可表示為A-AB或者ab,它表示A發生而B不發生的事件。AB同時發生：AB,或者ABAB=?,則表示A與B不可能同時發生，稱事件A與事

5、件B互不相容或者互斥。基本事件是互不相容的。-A稱為事件A的逆事件，或稱A的對立事件，記為限它表示A不發生的事件。互斥未必對立。運算：結合率：A(BC)=(AB)CAU(BUC)=(A1UB)UC分配率：(AB)UC=(AUC)A(BUC)(AUB)nC=(AC)U(BC)德摩根率：iiiiABAB,ABAB概率的公理化定義設為樣本空間，A為事件，對每一個事件A都有一個實數P(A),若滿足下列三個條件：10P(A)0,則稱竟1為事件A發生條件下，事件B發生的條件概率，記為P(B/A)3。P(A)條件概率是概率的一種，所有概率的性質都適合于條件概率。例如P(Q/B)=1P(B/A)=1-P(B/

6、A)(13)乘法公式乘法公式：P(AB)P(A)P(B/A)更一般地，對事件A,若P(AAAn-1)05則有P(A1A2.An)P(A1)P(A2|A1)P(A3|A1A2)P(An|A1A2An1)01兩個事件的獨立性設事件A、B滿足P(AB)p(A)p(B),則稱事件A、B是相互獨立的。若事件A、B相互獨立，且P(A)0,則有P(B| A)P(AB)P(A)P(A)P(B)P(A)P(B)1若事件A、B相互獨立，則可得到:與B、A與B、A與B也都相互獨立。(14)獨立性?與任何事件都互斥多個事件的獨立性必然事件和不可能事件？與任何事件都相互獨立。設ABC是三個事件，如果滿足兩兩獨立的條件，

7、P(AB)=P(A)P(B);P(BC)=P(B)P(C);P(CA)=P(C)P(A)并且同時滿足P(ABC)=P(A)P(B)P(C)那么AB、C相互獨立。對于n個事件類似。設事件(15)全概公 式P(Bi) 0(iBi, B2,Bi, B2,1,2,B,Bn,n),n滿足兩兩互不相容，2。A則有BiP(A)P(B1)P(A|B1)P(B2)P(A|B2)P(Bn)P(A|Bn)o設事件B1,1O_B1B2B2,)Bn及A滿足Bn兩兩互不相容,P(Bi)021,nBiiP(A)02(16)貝葉斯 公式則P(BA)nP(Bi)P(A/Bi),i=1,2,-noP(Bj)P(A/Bj)j1此公

8、式即為貝葉斯公式。劈),。率。P(Bi/A)后驗郎的念),通常叫先驗概?，“犍商為12-J,(i1.2.+率。貝葉廝公式反映.的概率規律，并作出了“由果朔因”的推斷我們作了n次試驗，且滿足每次試驗只有兩種可能結果，A發生或A不發生；n次試驗是重復進行的，即A發生的概率每次均一樣；(17)伯努利 概型每次試驗是獨立的，即每次試驗A發生與否與其他次試驗A發生與否是互不影響的。這種試驗稱為伯努利概型，或稱為n重伯努利試驗。用P表示每次試驗A發生的概率，則云發生的概率為1Pq,用網的表示n重伯努利試驗中A出現k(0kn)次的概率)八、一kknkPn(k)Cnpq)k0,1,2,no第二章隨機變量及其分

9、布(1)離散型隨機變量的分布律設離散型隨機變量X的可能取值為X(k=1,2,)且取各個值的概率，即事件(X=X)的概率為P(X=x05q=1-po隨機變量X服從參數為p的幾何分布，記為G(p)。均勻分布設隨機變量x的值只落在a,b內，其密度函數f(x)在a,b上為常數j即ba1f(x)ba,aw強他則稱隨機變量X在a,b上服從均勻分布，記為XU(a,b)o分布函數為Jba,axLxF(x)f(x)dx1,當ax1x2b時)X落在區間(必？2)內的概率為_x2XP(x1Xx2)oba11f(x)0,其中0,則稱隨機變量X服從參數為的指數分布。X的分布函數為記住積分公式:xnexdxn!0正態 分

10、布設隨機變量x的密度函數為,1(X2(x)j2e)x)其中”、0為常數，則稱隨機2變量x服從參數為的正態分布或高斯(Gauss)分布)記為XN(,2)。f(x)具有如下性質：1f(x)的圖形是關于x對稱的；20 當x值；XN（,某x）1、2時，f()一為最大.2x2)原則X的分布函數為e 2 dto o參數0、1時的正態分布稱為標準正態分布，記為XN(0,1),密度函數記為(x)2e2分布函數為xt2e2dto(x)是爾可求積函數，其函數值,已編制成表可供查用。（-x）=1-（x）且（0）=/如果XN（,2）貝UjXN（0,1）。x2x1P（xXx2）一-O(6)分位下分位表：P(X)=；上分

11、位表：P(X)=。函數離散型已知X的分布列為Xx1,x2,xn,P(X,xi)R，,P2Pn，一rj分布Yg(X)的務布列(yig(Xi)互不相等)如下：Yg(x1),g(x2),g(xn),磬有M些飛湍相等廣則應將對應的Pi相加作為g(xi)的概率。連續型先利用X的概率密度fX(x)寫出Y的分布函數FY(y)=P(g(X)0(i,j=1,2,(2)pj1.2二維 隨機 變量 的本 質連續對于二維隨機向量(X,Y),如果存型在非負函數f(x,y)(x,y),使對任意一個其鄰邊分別平行于坐標軸的矩形區域D,即D=(X,Y)|axb,cy0;(2) f(x,y)dxdy1.(Xx,Yy)(XxYy

12、)1聯合 分布 函數(3)設(X,Y)為二維隨機變量，對于任意實數x,y,二元函數F(x,y)PXx,Yy稱為二維隨機向量(X,Y)的分布函數，或稱為隨機變量X和Y的聯合分布函數。分布函數是一個以全平面為其定義域，以事件(r2)lX(1)x,Y(2)y的概率為函數值的一個實值函數。分布函數F(x,y)具有以下的基本性質：(1) 0F(x,y)1;(2) F(x,y)分別對x和y是非減的，即當x2xi時，有F(x2,y)F(xi,y);當y2yi時，有F(x,y2)F(x,yi);(3) F(x,y)分別對x和y是右連續的，即F(x,y)F(x0,y),F(x,y)F(x,y0);F(,)F(,

13、y)F(x,)0,F(,)1.(4) 對于xx2，y1y2，F(x2,y2)F(x2,y1)F(x1，、2)F(x，y1)0.1(4)離散P(Xx,Yy)P(xXxdx,yYydy)f(x,y)dxdy型與連續型的關系(5)邊緣分布離散型X的邊緣分布為Pi?P(Xx,)Pj(i,j1,2,)；Y的邊緣分布為P?jP(Yyj)Pj(i,j1,2,)。連續型X的邊緣分布密度為fX(x)f(x,y)dy;Y的邊緣分布密度為fY(y)f(x,y)dx.(6)條件分布離散型在已知X=x的條件下，Y取值的條件分布為Pijp(yyj|Xx,)；Pi?在已知Y=y的條件下，X取值的條件分布為PijP(Xxi|

14、Yyj),P?j1連續型在已知Y=y的條件下，X的條件分布密度為f(x|y)3;fY(y)在已知X=x的條件下，Y的條件分布密度為f(y|x)*fx(X)獨立性般型F(X,丫尸Fx(x)FY(y)離散型PjPi?p?j有零不獨立連續型f(x,y)=fx(x)fY(y)直接判斷，充要條件：可分離變量正概率密度區間為矩形一維正態分布221x12(x1)(y2)y212(12)1122f(x,y)ee,2124；12=01隨機若X,X2,X,Xm+1,X相互獨立,h,g為連續函數)則：h(X,XX)和g(Xm+i,X)相互獨立。特例：若X與丫獨立，則：h(X)和g(Y)獨立。例如：若X與丫獨立，則：

15、3X+1和5Y-2獨立。i（8）二維 均勻 分布設隨機向量（X, Y）的分布密度函數為Sd(x,y) df(x,y)0, 其他其中Sd為區域D的面積，則稱（X,Y）服從D上的均勻分布，記為（X,Y）（D）。例如圖3.1、圖3.2和圖3.3。yi一/3.1xi圖3.2(9)二維正態分布設隨機向量(X,Y)的分布密度函數為f(x,y)1212.112(12)e22x12(x1)(y2)112(10)函數分布其中1，2,10，20，lI1是5個參數)則稱(X)Y)服從二維正態分布，記為(X,Y)N(1,2,12,；,).由邊緣密度的計算公式，可以推出二維正態分布的兩個邊緣分布仍為正態分布，即XNI(

16、1,：),yn(2,2).但是若XN(1,；),yn(2,22),(X,Y)未必是二維正態分布。z=x+根據定義計算rYFz(z)P(Zz)P(XYz)對于連續型，fz(z)=f(x,zx)dx兩個獨立的正態分布的和仍為正態分布(12,122)。n個相互獨立的正態分布的線性組合，仍服從正態分布。Ci22Z=ma x,min( Xl,X2, Xn)若X1,X2Xn相互獨立，其分布函數分別為Fxi(x),Fx2(x)Fxn(x)則Z=max,min(X3X2，Xn)的分布函數為：Fmax(x)Fxi(x)?Fx2(x)Fxn(x)Fmin(x)11Fxi(x)?1Fx2(x)1Fxn(x)12分布

17、設n個隨機變量Xi,X2, ,Xn相互獨立，且服從標準正態分布，可以證明它們的平方和n2WXi1 1n i u2 一 2u2 e 2u 0,u 0.的分布密度為1nf(u)22n2Q我們稱隨機變量W服從自由度為n的2分布，記為W2(n),其中nn21xAx2edx.2 0所謂自由度是指獨立正態隨機變量的個數，它是隨機變量分布中的一個重要參數。2分布滿足可加性：設丫2(n)k2,、ZYi(nin2nk).i11t分布設X,Y是兩個相互獨立的隨機變量，且2XN(0,1),Y(n),可以證明函數n 1n的概率密度為).我們稱隨機變量T服從自由度為n的t分布，記為Tt(n)。ti(n)t(n)iF分布

18、設X2(n”%2),且X與Y獨立，可以證明F泮的概率密度函數Y/n2為n1n2n1n1n22n12g1n12f(v)y1y,y0f(y)n1n2n2n2萬220,y0我們稱隨機變量F服從第一個自由度為m,第二個自由度為n2的F分布，記為Ff(n1,n2).L/、1F1(小口).、Fn,)第四章隨機變量的數字特征1(1) 一維期望隨 機 期望就是平均值變量的數字特征離散型設X是離散型隨機變量，其分布律為P(Xxk)=pk,k=1,2,n,nE(X)xkPkk1(要求絕對收斂)連續型設X是連續若機變量，其概其度為f(x),E(X)xf(x)dx(要求絕對收函數的期望Y=g(X)nE(Y)g(xk)

19、Pkk1方差D(X)=EX-E(X)2,標準差(X)JD(X)_2D(X)xkE(X)pkkE(Y)2D(X)xE(X)2Y=g(X)g(x)f(x)dx1對于正整數對于正整數k,稱隨機變量X的k次塞的數學期望為X的k階原點矩，記為Vk,即vk=E(Xk)=kXiPi,k=1,2,.對于正整數k,稱隨機變量X與E(X)差的k次騫的數學期望為X的k階中心矩，記為即kE(XE(X)kk(XiE(X)Pik=1,2,稱隨機變量X次嘉的數學期為X的k階矩，記為Vk,IVk=E(X)=xkf(xk=1,2,對于正整數稱隨機變量X(X)差的k；的數學期望為的k階中心矩為k,即kE(XE(X)kk(xE(X

20、)fk=1,2,.2切比雪夫不等式設隨機變量X具有數學期望E1=以，方差D(X)=b意正數,有下列切比雪夫不等2P(X)一2切比雪夫不等式給出了在未知分布的情況下，對概率P(X的一種估計，它在理論上有重要義。(2)(1)(3)E(C)=CE(CX)=CE(X)E(X+Y)=E(X)+E(Y)nnE(GXi)CiE(XJi1i1(4)E(XY)=E(X)E(Y),充分條件：X和Y獨立;充要條件：X和Y不用(3)1方差的性質(1) D(C)=0;E(C戶C(2) D(aX)=a2D(X);E(aX戶aE(X)(3) D(aX+b)=a2D(X);E(aX+b)=aE(X)+b(4) D(X)=E(

21、X2)-E2(X)(5) D(XY)=D(X)+D(Y),充分條件：X和Y獨立充要條件：X和丫二關。D(XY)=D(X)+D(Y)2E(X-E(X)(Y-E(Y),無條件成立。而E(X+Y)=E(X)+E(Y),無條件成立。(4)常見分布的期望和|方差期望方差0-1分布B(1,p)pp(1p)二項分布B(n,p)npnp(1p)泊松分布P()幾何分布G(p)1p1p2p超幾何分布H(n,M,N)nMNnM,MNr1NNN1均勻分布U(a,b)ab2(ba)212指數分布e()112正態分布N(,2)22分布n2n1t分布0(n2)(5)二維隨機變量的數字特征期望nE(X)XiPi?i1nE(Y

22、)yjP?jjiE(X)E(Y)xfX(x)dxyfY(y)dy函數的期望EG(X,Y)=G(Xi,yj)pjEG(X,Y)=G(x,y)f(x,y)dxdy方差：D(X)XiE(X)2Pi?D(Y)XjE(Y)2p?jD(X：D(Y)xE(X)2fyE(Y)2fY協方差對于隨機變量X與Y,稱它們那階混合中心矩11為X與Y的協7或相關矩，記為XY或cov(X,Y),即XY11E(XE(X)(YE(Y).與記號XY相對應，X與Y的方5(X)與D(Y)也可分別記為xx與1相關系數對于隨機變量X與Y,如果1D(Y)0,則稱XY為X與Y的相關系數，記作XY時可簡記為)。|W1,當|=1時，稱X完全相關

23、：P(XaYb)1完全相關正相關，當負相關，當1 時(a 0),1 時(a 0),而當0時，稱X與Y不相關以下五個命題是等價的： XY。； cov(X,Y)=0; E(XY尸E(X)E(Y); D(X+Y)=D(X)+D(Y); D(X-Y)=D(X)+D(Y).協方差矩陣XXXYYXYY混合矩對于隨機變量X與Y,如果有E存在，則稱之為X與Y的k+l合原點矩，記為 心矩記為：k+l2(6) 協方 差的 性質獨立和不則X與Y相互獨立的充要條件是 X和YUkiE(XE(X)k(YE(Y)1.cov(X,Y)=cov(Y,X);(ii) cov(aX,bY)=abcov(X,Y);(iii) cov

24、(Xi+X,Y)=cov(Xi,Y)+cov(X2,Y);(iv)cov(X,Y)=E(XY)-E(X)E(Y).(i)若隨機變量X與Y相互獨立，則XY。；(ii)若(X,Y)N(i,2,2,2,),相關關第五章大數定律和中心極限定理(1)大數定律X切比雪夫大數律設隨機變量X,X,相互獨立，均具有有限方差，且被同一常數C所界：D(X)C(i=1,2,)，則對于任意的正數,有1ninlimPXi-E(Xi)1.nni1ni1特殊情形：若X1,X具有相同的數學期望E(X)=以，則上式成為1nlimP-Xi1.nni11伯努利大數律設N是n次獨立試驗中事件A發生的次數，p是事件A在每次試驗中發生的概

25、率，則對于任意的正數,有limPp1.nn伯努利大數定律說明，當試驗次數n很大時，事件A發生的頻率與概率有較大判別的可能性很小，即limPp0.nn這就以嚴格的數學形式描述了頻率的穩定性。辛欽大數律設X,X,，Xn,是相互獨立同分布的隨機變量序列，且E(X)二,則對于任意的正數有1nlimPXi1.nni11(2)心極定理XN(中列設隨機變量X,X2,相互獨限維立，服從同一分布，且具有相同2一)n林德伯格的數學期望和方差：E(XQ,D(XQ20(k1,2,)則隨機變量nXknYnk1n的分布函數Fn(X)對任意的實數X)有1lim Fn (x) lim PnXk n1、.nt21X-x一e2d

26、t.、-2此定理也稱為獨立同分布的中心極限定理。棣莫弗一拉普拉斯理limPn設隨機變量Xn為具有參數n,P(0P1)的二項分布)則對于任意實數X,有Xnnp.np(1p)t2ix2e2dt.2(3)項定理若當N時,Mp(n,k不變)貝CknkMCNMkknknCnp(1p)(N).CN超幾何分布的極限分布為二項分布。(4)泊松定理若當n時,npCnPk(1P)0,則knk-ek!(n).2其中k=0,1,2,，n,。二項分布的極限分布為泊松分布。第六章樣本及抽樣分布（1）數理總體在數理統計中，常把被考察對象的某一個（或多個）指標的全體統計的基本概念稱為總體（或母體）。我們總是把總體看成一個具有

27、分布的隨機變量（或隨機向量）。個體總體中的每一個單兀稱為樣品（或個體）。樣本我們把從總體中抽取的部分樣品Xl,X2,Xn稱為樣本。樣本中所含的樣品數稱為樣本容量，一般用n表示。在一般情況下，總是把樣本看成是n個相互獨立的且與總體有相同分布的隨機變量，這樣的樣本稱為簡單隨機樣本。在泛指田-次抽取的結果時，Xi,X2,Xn表示n個隨機變量（樣本）；在具體的一次抽取之后，XX2,Xn表示n個具體的數值（樣本值）。我們稱之為樣本的兩重性。1樣本函數設Xi,X2,Xn為總體的一個樣本，稱(Xi,X2,Xn)為樣本函數，其中為一個連續函數。如果中不包含任何未知參數，則稱(X1,X2,Xn)為一個統計量。和

28、統常見統計量及其性質樣本均值XXi.nii樣本方差1nS2d(XiX)2.n1i1樣本標準差SAn(Xix)2.nn1i1樣本k階原點矩1nLMk-Xik,k1,2,.ni1樣本k階中心矩1 n-Mk一(XiX)k,k2,3,.ni12E(X)D(X)nE(S2)E(S*2)n12,nn其中S*21nX)2為二階中心ni17矩。1正態總體下的四大分布正態分布設X1,X2,Xn為來自正態總體N(,2)的一個樣本，則樣本函數defXu=-N(0,1)./而t分布設X1,X2,Xn為來自正態總體N(,2)的一個樣本，則樣本函數defxt一一t(n1),s/Vn其中t(n-1)表示自由度為n-1的t分

29、布。2分布設X1,X2,Xn為來自正態總體N(,2)的一個樣本，則樣本函數一_2w%MS2(n1),其中2(n1)表示自由度為n-1的2分布。1F分布設Xl,X2,xn為來自正態總體N(,12)的一個樣本，而yi,y2,yn為來自正態總體N(,力的一個樣本)則樣本函數1,n2 1),def2/122F(n1S2/2其中S2nini 1ii(xi x)2，S221n21n2(yi 1y)2;2F(n11,n2述表示第一自由度為n11)第二自由度為n21的F分布。(3)正態總體下分布的性質X與S2獨立第七章參數估計(1)點估矩估計計.1設總體X的分布中包含有未知數F(x;vk數，m,則其分布函數可以表成它的k階原點矩E(Xk)(k1,2,m)中也包含了未知參1,2,m,即vkvk(1,2,m)O又設X1,X2,Xn為總體X的門個樣本值，其樣本的k階原點矩為1n,1Xik(k1,2,m).ni1這樣，我們按照“當參數等于其估計量時，總體矩等于相應的樣本矩的原則建立方程，即有v1(1,2,m)mXi由上面的m個方程中，解出的m個知參數(,m)即為參數，m)的矩估計量。為的矩估計)g(x)為連續函數,則g(3為g()的矩估計。極大似然估計當總體X為連續型隨機變量時，設其分布密度為f(X；1，2,m),其中1，2，m為未知參數。又設X1,X2,Xn為總體的一個