1、概率論與數(shù)理分析第四章 隨機(jī)變量的數(shù)字特征1 數(shù)學(xué)期望數(shù)學(xué)期望2 方差方差3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣1. 問題的提出 ,相互獨(dú)立相互獨(dú)立和和若隨機(jī)變量若隨機(jī)變量YX )(YXD不相互獨(dú)立不相互獨(dú)立和和若隨機(jī)變量若隨機(jī)變量YX?)( YXD )(YXD).()(2)()(YEYXEXEYDXD 一、協(xié)方差與相關(guān)系數(shù)的概念及性質(zhì)一、協(xié)方差與相關(guān)系數(shù)的概念及性質(zhì) 協(xié)方差那么那么).()(YDXD 22)()(YXEYXE 3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)2.定義稱為隨機(jī)變量稱為隨機(jī)變量量量)()(YEYXEXE ),ov(CYX),Cov(YX記為記為.

2、的協(xié)方差的協(xié)方差與與YX).()(YEYXEXE XY即而 )()(),Cov(YDXDYX .的相關(guān)系數(shù)的相關(guān)系數(shù)與與稱為隨機(jī)變量稱為隨機(jī)變量YX3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) ),Cov(YX)()(YEYEXEXE . 0 相互獨(dú)立相互獨(dú)立和和若隨機(jī)變量若隨機(jī)變量YX)3( )(YXD).()(YDXD 相互獨(dú)立相互獨(dú)立和和若隨機(jī)變量若隨機(jī)變量YX)2(),(Cov2)()(YXYDXD 3.說明 ,)1(協(xié)方差協(xié)方差的相關(guān)系數(shù)又稱為標(biāo)準(zhǔn)的相關(guān)系數(shù)又稱為標(biāo)準(zhǔn)和和YX)()(2 YEYXEXE )()(YDXD )()(YEYXEXE .個(gè)個(gè)無無量量綱綱的的量量它是一它是一3 協(xié)方差

3、及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)4. 協(xié)方差的計(jì)算公式 ),Cov()1(YX )()2(YXD證明 ),Cov()1(YX)()()()(YEXEYXEXYEXYE ).()()(YEXEXYE )()()()(2)(YEXEYEXEXYE );()()(YEXEXYE ).,Cov(2)()(YXYDXD )()(YEYXEXE 3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) )()2(YXD)()(2YEYXEXE )()(2YEYXEXE )()(22YEYEXEXE ).,Cov(2)()(YXYDXD )()(2YXEYXE 3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)5. 性質(zhì) ),Cov(YX ),C

4、ov( bYaX ),Cov(21YXX;, 為常數(shù)為常數(shù)ba , ),Cov(YXab).,Cov(),Cov(21YXYX 341);,Cov(XY3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)),Cov(XX2);(XD例例1，記，是二個(gè)隨機(jī)變量，已知，設(shè)1cov41YXDYDXYXYX2VY2XU，試求：UV解：YXDDU2YXDYDX,cov441444113YX2DDVYXDYDX,cov441441443 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)VU,cov)2 ,2(covYXYXXX,cov2XY,cov4YX,covYY,cov2DYYXDX2,cov524215125所以，DVDUVUUV

5、,cov4135261353 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)的聯(lián)合密度函數(shù)為，設(shè)二維隨機(jī)變量YX及，試求：，YXYXcov其它，02020sin21yxyxyxf解：dxdyyxfxEX，2020sin21dxdyyxx4同理，4EY3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)例例2228222822EY同理，dxdyyxfxEX，2220220sin21dxdyyxx22EXEXDX所以，2216222162DY同理，3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)12因此，dxdyyxfxyXYE， 2020sin21dxdyyxxy EYEXXYEYX,cov161222216161222DYDXYXYX

6、,cov,245. 03 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)例例3 設(shè)（設(shè)（X，Y）的分布率為）的分布率為, 0)( XE易知易知,25)( YE, 0)( XYE, 0 XY ., 不相關(guān)不相關(guān)YX., 不存在線性關(guān)系不存在線性關(guān)系即即YX1, 2 YXP由于由于12 YPXP 0 .,不相互獨(dú)立不相互獨(dú)立所以所以YX事實(shí)上，事實(shí)上，,2XY .的值所確定的值所確定的值完全可由的值完全可由 XYXY41 iXP iYP 212112 1 12041410414100414141413 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) Y X-101 ip-18181818308108182181818183j

7、p838283及邊緣分布律為的聯(lián)合分布律，設(shè)二維離散型隨機(jī)變量YX例43 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)0831820831EX則0831820831EY1XYP10XYP01XYP1XYE1Y1XP1Y1XP10Y1XP0Y1XP1Y0XP1Y0XP01Y1XP1Y1XP1，03 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) EYEXXYEYXcov，所以，0不相關(guān)；與這表明，隨機(jī)變量YX但另一方面，由00Y0XP ， 16182820YP0XP不獨(dú)立與知：YX3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)例例5量量是是二二隨隨機(jī)機(jī)事事件件；隨隨機(jī)機(jī)變變?cè)O(shè)設(shè)BA, .1, 11, 1不出現(xiàn)不出現(xiàn)，若，若出現(xiàn)，出

8、現(xiàn)，若若不出現(xiàn)，不出現(xiàn)，若，若出現(xiàn)，出現(xiàn)，若若BBYAAX.相相互互獨(dú)獨(dú)立立與與是是不不相相關(guān)關(guān)的的充充分分必必要要條條件件和和試試證證明明隨隨機(jī)機(jī)變變量量BAYX證明：證明：EXEYEXYYX ),cov( EX. 1)(2 BPEY)()(APAP , 1)(2 AP3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) EXEY1)(21)(2 BPAP1)B(P2)A(P2)B(P)A(P4EXY)()()()(BAPBAPBAPABP)(ABP)()()()()(ABPBPABPAPABP0),cov(EXEYEXYYX)()()(BPAPABP1, 111YXP1, 1) 1(1YXP1, 11)

9、1(YXP1, 1) 1() 1(YXP)()(ABPAP)()(BAPAP)()()(1 ABPBPAP3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù))AB(P)B(P1)B(P2)A(P2)AB(P4例6,),(服從二維正態(tài)分布設(shè)YX它的概率密度為 ),(yxf 22222121)()(2yyx 21212221)()1(21exp121x.的相關(guān)系數(shù)的相關(guān)系數(shù)與與求求YX3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) )(xfX )(yfY解的邊緣概率密度為的邊緣概率密度為),(YX,e2121212)(1x , x,e2122222)(2y . y,)(1XE 故知故知,)(2YE .)(22YD ,)(

10、21XD ),Cov(YX而yxyxfyxdd),()(21 3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) )(12121221yx,1111222 xyt,11xu .ddee2112222121)1(212)(xyxyx 則有令 utututudde )1(212222122122 ),Cov(YX3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù) tuutudede22222122 ttuutudede212222122 ,22221 XY )()(),Cov(YDXDYX. 于是.),Cov(21YX 即有3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)結(jié)論,)1(中中二維正態(tài)分布密度函數(shù)二維正態(tài)分布密度函數(shù)相關(guān)系數(shù)為

11、零相關(guān)系數(shù)為零與與二維正態(tài)隨機(jī)變量二維正態(tài)隨機(jī)變量 )2(YX;的相關(guān)系數(shù)的相關(guān)系數(shù)與與YX 代表了代表了參數(shù)參數(shù).相互獨(dú)立相互獨(dú)立與與等價(jià)于等價(jià)于YX3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)1. 問題的提出,應(yīng)如何選擇應(yīng)如何選擇問問ba)(2bXaYEe 設(shè)設(shè).的好壞程度的好壞程度近似表達(dá)近似表達(dá)可用來衡量可用來衡量則則YbXae ,的值越小的值越小當(dāng)當(dāng)e, 的值的值確定確定ba二、相關(guān)系數(shù)的意義二、相關(guān)系數(shù)的意義?衡量衡量接近的程度又應(yīng)如何來接近的程度又應(yīng)如何來?YbaX最接近最接近可使可使 .的近似程度越好的近似程度越好與與表示表示YbXa .達(dá)到最小達(dá)到最小使使 e3 協(xié)方差及相關(guān)系數(shù)協(xié)方

12、差及相關(guān)系數(shù))(2)(2)()(2222XabEXYbEaXEbYE , 求偏導(dǎo)數(shù)求偏導(dǎo)數(shù)分別關(guān)于分別關(guān)于將將bae 解得0b0ae)(2bXaYE ).(2YaE ,并令它們等于零并令它們等于零 得得ae )(2)(22YEXbEa , 0)(2)(2)(22XaEXYEXbE . 0be ,)(),Cov(XDYX .)(),Cov()()(XDYXXEYE 3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù),)(,200中中代入代入將將bXaYEeba eba,min).()1(2YDXY )(200XbaYE 得得)(2bXaYE 3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)2. 相關(guān)系數(shù)的意義,較小較小較

13、大時(shí)較大時(shí)當(dāng)當(dāng)eXY,較小時(shí)較小時(shí)當(dāng)當(dāng)XY,0時(shí)時(shí)當(dāng)當(dāng) XY.系較緊密系較緊密的線性關(guān)系聯(lián)的線性關(guān)系聯(lián)表明表明YX,.,線性相關(guān)的程度較差線性相關(guān)的程度較差YX.不相關(guān)不相關(guān)YX 和和稱稱3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)(1) 不相關(guān)與相互獨(dú)立的關(guān)系3. 注意相互獨(dú)立不相關(guān)(2) 不相關(guān)的充要條件; 0,1o XYYX不相關(guān)不相關(guān); 0),Cov(,2o YXYX不相關(guān)不相關(guān)).()()(,3oYEXEXYEYX 不相關(guān)不相關(guān)3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù). 1 XY. 1 bXaYP4. 相關(guān)系數(shù)的性質(zhì) 1 2:1的充要條件是的充要條件是 XY使使存在常數(shù)存在常數(shù)ba,證. 1 X

14、Y亦即亦即 1 2)()(3.4)200YDXbaYE及及式與式與由由 ,的非負(fù)性的非負(fù)性, 012 XY得知得知式得式得由由若若)4 . 3(1 XY)(200XbaYE . 0 3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)從而 0 )(200XbaYE ,)()(20000XbaYEXbaYD 故有)(00XbaYD )(00XbaYE . 0 , 0 00XbaYP 0)(00 XbaYP知知又由方差性質(zhì)又由方差性質(zhì) 4即 . 1, 1 ,反之反之使使若存在常數(shù)若存在常數(shù) ba ,3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)XbaYP , 1 )(2XbaYE 0)(2 XbaYP0)( XbaYP即

15、于是即得, 1 , 1 . 0 )(min2,bXaYEba )(200XbaYE )(2XbaYE 故有0 ).()1(2YDXY . 1 XY即得3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)三、小結(jié)三、小結(jié)二、相關(guān)系數(shù)的意義和性質(zhì)4.性質(zhì)3.協(xié)方差的計(jì)算公式2.定義1.問題的提出一、協(xié)方差與相關(guān)系數(shù)的概念及性質(zhì)1.意義2.性質(zhì)3 協(xié)方差及相關(guān)系數(shù)協(xié)方差及相關(guān)系數(shù)一、矩、協(xié)方差矩陣基本概念一、矩、協(xié)方差矩陣基本概念1.矩的概念矩的概念),(kXE.階中心矩階中心矩的的稱它為稱它為kX,是隨機(jī)變量是隨機(jī)變量和和設(shè)設(shè)YX若若,存在存在,階原點(diǎn)矩階原點(diǎn)矩的的稱它為稱它為kX.階矩階矩簡(jiǎn)稱簡(jiǎn)稱 k, 2 ,

16、 1 k,)(kXEXE 若若,存在存在, 3 , 2 k4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣),(lkYXE,存在存在.階混合矩階混合矩的的和和稱它為稱它為lkYX 若若, 2 , 1, lk ,)()(lkYEYXEXE ,存在存在若若.階混合中心矩階混合中心矩的的和和稱它為稱它為lkYX , 2 , 1, lk4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣 說明 變變量量函函數(shù)數(shù)的的數(shù)數(shù)學(xué)學(xué)期期望望；以以上上數(shù)數(shù)字字特特征征都都是是隨隨機(jī)機(jī) )1(的一階原的一階原是是的數(shù)學(xué)期望的數(shù)學(xué)期望隨機(jī)變量隨機(jī)變量XXEX)()2(;的二階混合中心矩的二階混合中心矩與與Y,點(diǎn)矩點(diǎn)矩,方差為二階中心矩方差為二階中心矩X

17、YX是是協(xié)方差協(xié)方差),Cov(,)3(在實(shí)際應(yīng)用中在實(shí)際應(yīng)用中.4階的矩很少使用階的矩很少使用高于高于4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣主主要要用用來來衡衡量量隨隨三三階階中中心心矩矩)(3XEXE 主主要要用用來來衡衡量量隨隨四四階階中中心心矩矩 )( 4XEXE .機(jī)變量的分布是否有偏機(jī)變量的分布是否有偏.近近的的陡陡峭峭程程度度如如何何機(jī)機(jī)變變量量的的分分布布在在均均值值附附4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣2. 協(xié)方差矩陣協(xié)方差矩陣的二階混合中心矩維隨機(jī)變量設(shè)),(21nXXXn ijc ,都存在都存在nji, 2 , 1, )()(jjiiXEXXEXE ),Cov(jiXX則稱矩陣則

18、稱矩陣 C.協(xié)方差矩陣協(xié)方差矩陣維隨機(jī)變量的維隨機(jī)變量的為為nnccc11211nccc22221nnnnccc214 矩、協(xié)方差矩陣矩、協(xié)方差矩陣?yán)缋?C的協(xié)方差矩陣為的協(xié)方差矩陣為二維隨機(jī)變量二維隨機(jī)變量),(21XX 22211211cccc其中其中11c,)(211XEXE 12c21c22c ),()(2211XEXXEXE ),()(1122XEXXEXE .)(222XEXE .陣陣為為對(duì)對(duì)稱稱的的非非負(fù)負(fù)定定矩矩陣陣,), 2 , 1,(njiccjiij 由由于于所以協(xié)方差矩所以協(xié)方差矩4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣協(xié)方差矩陣的應(yīng)用協(xié)方差矩陣的應(yīng)用4 矩、協(xié)方差矩陣矩、

19、協(xié)方差矩陣 協(xié)方差協(xié)方差矩陣可用來表示多維隨機(jī)變量的矩陣可用來表示多維隨機(jī)變量的概率密度概率密度，從而可通過協(xié)方差矩陣達(dá)到對(duì)多，從而可通過協(xié)方差矩陣達(dá)到對(duì)多維隨機(jī)變量的維隨機(jī)變量的研究。研究。概率密度概率密度 212112221)()1(21exp121x 22222212211)()(2xxx ),(21xxf現(xiàn)在將上式中花括號(hào)內(nèi)的式子寫成矩陣形式,引入下面的列矩陣為此,21 xxX.21 .),(21為例為例以二維正態(tài)隨機(jī)變量以二維正態(tài)隨機(jī)變量XX4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣的協(xié)方差矩陣為的協(xié)方差矩陣為),(21XX C,22212121 ),1(det22212 C它的行列式它的行列

20、式的逆矩陣為的逆矩陣為C 22211211cccc 1C的轉(zhuǎn)置的轉(zhuǎn)置是是這里矩陣這里矩陣經(jīng)過計(jì)算可知經(jīng)過計(jì)算可知)()(T xx)矩陣矩陣 21212122det1C4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣)()(1TXCX 212211212112)(2)(11xxx 212121222211),(det1xxC 2211xx.)(22222 x4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣的概率密度可寫成的概率密度可寫成于是于是),(21XX),(21xxf.)()(21exp)(det)2(11T2122 XCXC 引入列矩陣 x nx2x1x和 , n21)(nXE)(2XE)(1XE4 矩、協(xié)方差矩陣矩、

21、協(xié)方差矩陣的概率密度定義為的概率密度定義為維隨機(jī)變量維隨機(jī)變量),(21nXXXn),(21nxxxf.)()(21exp)(det)2(11T212 XCXCn.),(21的協(xié)方差矩陣的協(xié)方差矩陣是是其中其中nXXXC 4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣二、二、n 維正態(tài)變量的性質(zhì)維正態(tài)變量的性質(zhì)的每一的每一維正態(tài)隨機(jī)變量維正態(tài)隨機(jī)變量),(21nXXXn 1,且相互獨(dú)立且相互獨(dú)立,iX個(gè)分量個(gè)分量,反之反之,21都是正態(tài)隨機(jī)變量都是正態(tài)隨機(jī)變量若若nXXX維正態(tài)隨機(jī)變維正態(tài)隨機(jī)變是是則則nXXXn),(21.量量;, 2, 1都是正態(tài)隨機(jī)變量都是正態(tài)隨機(jī)變量ni 2維正維正服從服從維隨機(jī)變量

22、維隨機(jī)變量nXXXnn),(21態(tài)分布的充要條件：態(tài)分布的充要條件：的任意的線的任意的線nXXX,21nnXlXlXl 2211性組合性組合.服從一維正態(tài)分布服從一維正態(tài)分布4 矩、協(xié)方差矩陣矩、協(xié)方差矩陣這一性質(zhì)稱為正態(tài)變量的這一性質(zhì)稱為正態(tài)變量的線性變換線性變換不變性不變性。 3,),(21維正態(tài)分布維正態(tài)分布服從服從若若nXXXn設(shè)設(shè),), 2 , 1(,1的線性函數(shù)的線性函數(shù)是是njXYYjk .),(21也服從多維正態(tài)分布也服從多維正態(tài)分布則則kYYY 4,),(1維正態(tài)分布維正態(tài)分布服從服從設(shè)設(shè)nXXn, 1X“則則兩兩兩兩“與與相相互互獨(dú)獨(dú)立立” , , ,212nnXXXXX.