1、日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 預備知識：預備知識： 隨機過程與馬爾可夫鏈隨機過程與馬爾可夫鏈第1節 隨機變量第2節 一維隨機過程的定義及物理意義第3節 一維隨機過程的統計特性第4節 二維隨機過程的定義及統計特性第5節 馬爾可夫過程的定義及數學表述第6節 馬爾可夫鏈的定義及數學表述第7節 齊次馬爾可夫鏈第8節 馬爾可夫鏈的遍歷性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第1節節 隨機變量隨機變量1、復雜性系統復雜性系統：事件本身很復雜，社會復雜性。2、隨機現象、隨機現象。拋擲硬幣、射擊等 特點：單次

2、不確定和多次統計規律性3、研究隨機事件的必要性和可行性4、隨機變量隨機變量: 實函數，用大寫字母表示5、頻率和概率頻率和概率日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 6、數學特征、數學特征（一階原點矩）數學期望XE二階中心矩方差22XEkXEk階原點矩kXEk階中心矩(,)ijiijjCov XXEXX二階混合中心矩第第1節節 隨機變量隨機變量日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 7、連續隨機變量的概率密度函數和分布函數第第1節節 隨機變量隨機變量8、離散隨機變量的分布律和分布函數9、隨機變量的函數 X Y

3、=g1(X)=X2 Z=g2(X)=X2 )(xfxdttfxXPxF)()(日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第1節節 隨機變量隨機變量說明：隨機變量研究的是一次試驗中可能出現的各種情況。日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 1、隨機試驗：、隨機試驗：可以在相同的條件下重復進行。每次試驗的可能結果不止一個但預先知道所有可能的結果。每次試驗前不能確定哪個結果會出現。2、隨機過程的概念和數學描述、隨機過程的概念和數學描述研究連續單次隨機試驗，在某一具體時間為一個隨機變量，在不同的時刻，隨機變量不同。

4、第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 例2：在天氣預報中，若用X(n)表示某地區第n次統計所得的該天最高氣溫。例1：電話交換臺在時間段0，t內接到的呼叫次數是與t有關的隨機變量X(t)。第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義參量參量( (時間時間) )連續，狀態連續，狀態( (呼叫次數呼叫次數) )離散離散參量參量( (次數次數) )離散，狀態（溫度）連續離散，狀態（溫度）連續X(10)是離散隨機變量， X(11.5)是離散隨機變量，X(2)是連續隨機

5、變量， X(5)是連續隨機變量，日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 例4：連續拋擲一枚骰子的實驗，第n次實驗的結果記為X(n) (n=1,2, )例3：在時間段0，)內電路中某器件的熱噪聲電壓X(t)第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義參量參量( (時間時間) )連續，狀態（電壓）連續連續，狀態（電壓）連續參量參量( (次數次數) )離散，狀態（點數）離散離散，狀態（點數）離散X(10)是連續隨機變量， X(11.5)是連續隨機變量，日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波

6、 第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義 設E是隨機試驗，Se是其樣本空間。如果對于每一個樣本e S ，總可以有一個確定的參數為t的實值函數X(e，t)，t T與之對應，我們稱之為隨機過程，記作： X(e，t)， e S， t T， 簡寫為： X(t)， t T 通常情況下，t表示時間。3、隨機過程的定義、隨機過程的定義日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 4、隨機過程的物理意義：、隨機過程的物理意義：1）、對于一個特定的試驗結果（樣本）eiS， X(ei，t)表示對應于ei的樣本函數，也是隨機過程的一次實現。（樣本函

7、數族）2）、對于每一個固定的參數 tjT， X(e，tj)是一個定義在S上的隨機變量。（隨機變量族）隨機過程是依賴于參量 tT的一族隨機變量。第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 4、例(p330)：X(t)a cos（t），a， 為常數， 為在(0,2)上服從均勻分布的隨機變量。1)、t為具體值時，X(t)為一隨機變量。)cos()0( aX)cos()1 (aX)2cos()2(aX隨機變量族第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義日日 思思 日日

8、睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 2)、當隨機變量隨機取一個值j時，得到相應的樣本函數xj(t)a cos（t j ）,0321n若樣本空間)cos()(111tax)cos()(222tax樣本函數族第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 5、為什么要研究隨機過程？1)、通信過程中的信號是隨機過程，2)、噪聲也是隨機過程第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北

9、大學物電學院蔣碧波 6、說明：、說明：理論分析時通常以隨機變量族為描述方式。實際測量和處理中往往采用樣本函數族為描述方式。為什么？第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義o)(jtX日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 3)、說明：可列(離散)與非可列(連續)7、隨機過程的分類1）、按隨機過程任一時刻的狀態，可分為連續型隨機過程和離散型隨機過程。 2）、按參量t（通常表示

10、時間）時離散還是連續可分為連續參量隨機過程和離散參量隨機過程如：時間可列型連續隨機過程第第2節節 一維隨機過程的定義及物理意義一維隨機過程的定義及物理意義日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 1、一維分布函數、一維分布函數1)、定義：給定隨機過程 ， 對于任意一 ，隨機變量 的分布函數一般與t有關，記為：),(TttXTt )(tXRxxtXPtxF,)(),(稱為隨機過程 的一維分布函數，而 稱為一維分布函數族。),(TttX),(TttxF第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息

11、論與編碼 湖北大學物電學院蔣碧波 第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性2）、對于隨機過程，可以用n（足夠大）維分布函數 來近似描述隨機過程的統計特性。)(,)(,)(,)(),(332211321321nnnnxtXxtXxtXxtXPttttxxxxF；日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 例題：p352 T1利用拋擲一枚硬幣的試驗定義一隨機過程cos,( )2tHX ttT出現出現).1 ,21;,() 1 ;(),21;()(21)()(21xxFxFxFtXHPTP以及二維分布函數函數的一維分布，試確定假設第第3節節 一

12、維隨機過程的統計特性一維隨機過程的統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 分析：21t）、1THX出現出現1212,02cos)21(21) 1 ()()0()(PTPPHPxxxxXPxF00012111)21()21;()21(X01P2121第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 1t）、2THX出現出現212, 1cos)1 (21)2()() 1()(PTPPHPxxxxXPxF10122121) 1 () 1 ;()1 (X21P2

13、121第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 ）、3)21(X01)1 (X2121212121211(,;,1)(),(1)220011012211, 2FxxPXxXxxxxxxx 或或 - 1第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性1121200日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 1)、均值函數)()(tXEtX2)、方差函數)()()(22ttXEtX3)、均方值函數)()(2tXEtX第第3節節 一維隨機過程的統計特性一維

14、隨機過程的統計特性2、隨機過程的數字特征、隨機過程的數字特征日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性5)、自協方差函數)()()()()(221121ttXttXEttCXXX，4)、自相關函數)()()(2121tXtXEttRX，日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 例：P353 T5已知隨機過程 的均值函數 和協方差函數 , 是普通的函數。試求隨機過程),(TttX)(tX),(21ttC X)(t)()()(ttXtY的均值函數和協方差函數第

15、第3節節 一維隨機過程的統計特性一維隨機過程的統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 分析：）、1)()()()()()()(ttEtXEttXEtYEtXY)( t第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第3節節 一維隨機過程的統計特性一維隨機過程的統計特性）、2),()()()()()()()()()()()()()()()()(),(21221122221111221121ttCttXttXEttttXttttXEttYttYEttCX

16、XXXXYYY日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 1）定義二維隨機過程設X(t),Y(t)是定義在同一樣本空間S和同一參數集T上的隨機過程，對于不同的t T，(X(t),Y(t) 是不同的二維隨機變量，我們稱(X(t),Y(t), t T為二維隨機過程。第第4節節 二維隨機過程及其統計特性二維隨機過程及其統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第4節節 二維隨機過程及其統計特性二維隨機過程及其統計特性2）二維隨機過程的分布函數用二維隨機過程的m+n維隨機變量的分布函數近似代替隨機過程的分布函數

17、，即：1212121211221122( ,; ,;,; ,)( ),( ),(); ( ), ( )( )mmnnmmnnF x xxt tty yy t ttP X tx X txX txY ty Y tyY ty 稱為二維隨機過程的mn維分布函數或隨機過程X(t)與Y(t)的mn維聯合概率分布。日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 則稱隨機過程X(t)與Y(t)相互獨立1212121212121212( ,; ,;,; ,)( ,; ,( ,; ,)mmnnmmnnF x xx t tty yy t ttF x xx t ttF y yy t

18、 tt ）第第4節節 二維隨機過程及其統計特性二維隨機過程及其統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 6)、互相關函數)()()(2121tYtXEttRXY，7)、互協方差函數)()()()()(221121ttYttXEttCYXXY，二維隨機過程的情況第第4節節 二維隨機過程及其統計特性二維隨機過程及其統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 例：P353 T7的協方差函數。求的協方差矩陣為已知二維隨機變量、設)(),(,)(62221tZYXtYtXtZ第第4節節 二維隨機過程及其統計

19、特性二維隨機過程及其統計特性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第4節節 二維隨機過程及其統計特性二維隨機過程及其統計特性YXZtYtXEtZEt)()(2221122121221121)()()()()()()(),(t tttYtXYtXEttZttZEttCYXYXZZZ日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 作業作業 P352 T2, 3, 9 例題最好做在另外一個本子上日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 1、馬爾可夫過程1）、馬爾可夫性（無后效

20、性，遺忘特性）： 過程在時刻t0所處的狀態為已知的情況下，過程在tt0所處的狀態的條件分布與過程在時刻t0之前的狀態無關。ctytty)(0|)(1010)(,)(|)(ctyctytty 第第5節節 馬爾可夫過程及其數學表述馬爾可夫過程及其數學表述日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 2）、馬爾可夫過程定義： 設隨機過程X(t),t T的狀態空間為I。如果對時間t的任意n個數值t1 t2 tn，n3， tiT，在條件 X(ti)=xi，i1，2， n1下，X(tn)的條件分布函數等于在條件X(tn-1)=xn-1下X(tn)的條件分布函數。即：第

21、第5節節 馬爾可夫過程及其數學表述馬爾可夫過程及其數學表述日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第5節節 馬爾可夫過程及其數學表述馬爾可夫過程及其數學表述111|121121|11(,|,; ,)(,|;)nnn nt ttnnnnt tnnnnFx tx xxt ttFx txt則稱之為馬爾可夫過程說明：其中狀態空間I可離散可連續，參量空間T可離散可連續。11221111( )|( ),( ),()( )|()nnnnnnnnP X txX tx X txX txP X txX tx日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖

22、北大學物電學院蔣碧波 例：例：p373 T1構成一齊次馬氏鏈。說明記為中任取一數，如此繼續，任取一數記為中，再從中任取一數，記為，從數1,2 , 1;21;211211nXXXXXXNnnn第第5節節 馬爾可夫過程及其數學表述馬爾可夫過程及其數學表述日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第5節節 馬爾可夫過程及其數學表述馬爾可夫過程及其數學表述分析：若第m次取值為i，則第m+1次取值樣本空間為1,2,i,設取值為j，則有：11(,1)0ijjipmmiij日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 第第5節

23、節 馬爾可夫過程及其數學表述馬爾可夫過程及其數學表述思考：思考：從上面的例子可以看出，用條件概率可以很直觀地表示馬爾可夫過程，那為什么要用條件分布函數(而不是條件概率)來定義馬爾可夫過程呢？條件概率只存在于離散情況，而條件分布函數可以總括連續和離散隨機過程。日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 1、馬爾可夫鏈的定義 時間和狀態都離散的馬爾可夫過程稱為馬爾可夫鏈。記作：Xn=X(n),n=0,1, 第第6節節 馬爾可夫鏈的定義及數學表述馬爾可夫鏈的定義及數學表述日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 2、馬

24、爾可夫鏈的表示、馬爾可夫鏈的表示表示馬氏鏈在m時刻處于狀態ai的條件下，在m1時刻轉移到狀態aj的概率。稱為在以m為起始點的1步轉移概率。|,|121121imjmimttjmaXaXPaXaXaXaXP|) 1,(1imjmijaXaXPmmp記作：第第6節節 馬爾可夫鏈的定義及數學表述馬爾可夫鏈的定義及數學表述（1）1步轉移概率。 馬爾可夫鏈的遺忘特性通常以條件概率來表述。1）1步轉移日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 (2) 1步轉移概率矩陣13 ,2, 1,1),(jijinmmP) 1,() 1,() 1,() 1,() 1,() 1,

25、() 1,() 1,() 1,(333231232221131211mmpmmpmmpmmpmmpmmpmmpmmpmmp321aaa321aaa第第6節節 馬爾可夫鏈的定義及數學表述馬爾可夫鏈的定義及數學表述) 1,(mmP日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 (3)狀態轉移圖第第6節節 馬爾可夫鏈的定義及數學表述馬爾可夫鏈的定義及數學表述123) 1,(12mmp) 1,(11mmp)(13p) 1,(22mmp)(21p)(23p) 1,(32mmp) 1,(33mmp) 1,(13mmp日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與

26、編碼 湖北大學物電學院蔣碧波 第第6節節 馬爾可夫鏈的定義及數學表述馬爾可夫鏈的定義及數學表述設一醉漢Q在如圖所示的直線點集I=1,2,3,4,5上作隨機游動，且僅在1秒、2秒等時刻發生游動。游動的規律是：如果Q現在在點i(1i0則此鏈為具有遍歷性。2、遍歷性證明第第8節節 馬爾可夫鏈的遍歷性馬爾可夫鏈的遍歷性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 3、如果齊次馬氏鏈具有遍歷性，則有以下性質：、如果齊次馬氏鏈具有遍歷性，則有以下性質： 我們稱（1， 2，3，j， ）為馬氏鏈的平穩分布第第8節節 馬爾可夫鏈的遍歷性馬爾可夫鏈的遍歷性設齊次馬氏鏈的狀態空

27、間為I，如果對于所有的aj，ajI，轉移概率pij(n)有極值存在： n 時， pij(n) j 。即a.極限分布（平穩分布）存在123123123lim( )limnnnP nPLLLLLLL日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 b.平穩分布滿足： P第第8節節 馬爾可夫鏈的遍歷性馬爾可夫鏈的遍歷性121212limlimniiniPpppPPpppP123123123limlimnnPPPPLLLLLLL日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 例：P374 T8一步轉移概率矩陣為無誤差狀態。設狀態的表示表示誤差狀態，以，以先前一個循環是否有誤取決于一循環具有誤差的概率在一計算機系統中，每105 . 05 . 025. 075. 0P01011(2)試說明相應齊次馬氏鏈是遍歷的，并求起極限分布(平穩分布）（）用定義解；用遍歷性定理解第第8節節 馬爾可夫鏈的遍歷性馬爾可夫鏈的遍歷性日日 思思 日日 睿睿 篤篤 志志 篤篤 行行信息論與編碼 湖北大學物電學院蔣碧波 、用定義證明：) 15 .05 .025.075.0P0101XPX特征方程：1,25.005 .05 .025.075.0021PE特征值：1 MAMP10025.0A第第8節節 馬爾可夫鏈的遍歷性馬爾可夫鏈的遍歷性日