1、 等效信道 干擾源 物理信道 解調器 編碼器 譯碼器 信宿 信源 調制器 實際信道 編碼信道 圖圖3.1.1 3.1.1 數字通信系統的一般模型數字通信系統的一般模型)(0)(1)|(xfyxfyxyP)|().|.()|(12121iiNiNNxyPxxxyyyPxyP a1 b1 a2 b2 X . . Y . .ar bsP(bj/ai)sjijijpp110 矩陣矩陣P P完全描述了信道的特性，可用它作為離散單符號完全描述了信道的特性，可用它作為離散單符號信道的另一種數學模型信道的另一種數學模型的形式。的形式。 P P中有些是信道干擾引起的錯誤概率，有些是信道正確中有些是信道干擾引起的

2、錯誤概率，有些是信道正確傳輸的概率。所以該矩陣又稱為傳輸的概率。所以該矩陣又稱為信道矩陣信道矩陣（轉移矩陣）。（轉移矩陣）。 rsrrsspppppppppP.:.212222111211 b1 b2 bsa1 P(b1|a1) P(b2|a1) P(bs|a1)a2 P(b1|a2) P(b2|a2) P(bs|a2) . ar P(b1|ar) P(b2|ar) P(bs|ar) -1 pppp1pPabPpPabPppPabPppPabP )0|1()|()1|0()|(1)1|1()|(1)0|0()|(12212211 p p是單個符號是單個符號傳輸發生錯誤傳輸發生錯誤的概率的概率（

3、1-p1-p）表示是）表示是無錯誤傳輸無錯誤傳輸的概率。的概率。 轉移矩陣轉移矩陣: :1 1p p a a1 1=0 =0 0=b0=b1 11 1p p a a2 2=1 =1 1=b1=b2 2p pp p符號符號“2”2”表示接收到了表示接收到了“0”0”、“1”1”以外的特以外的特殊符號殊符號 qqpp1001 0 2 1 0 2 10 01 1p p0 0 0 01 1p p1 1 1 1q q1 1q q2 2(1/0)0(0/1)0p yxp yx)(log)()(1log)()(1xPxPaPaPXHXirii)|(1log)|()|(jXjjbxPbxPbXH )/()()

4、/()|(1jsjjjbXHbPbXHEYXHrijijisjjbaPbaPbP11)|(1log)|()()|(1log)(,yxPxyPYX寫成一般表達式寫成一般表達式)()|(log)|(1log)(1log)/()();(ijijiijixpyxpyxpxpyxIxIyxI)()|(log)();()();(ijijijijijijixpyxpyxpyxIyxpYXI(/)(;)() log( )() log(/)() log( )1() log(/)( ) log( )(/)1() log( ) log( )(/)()(/)xyxyxyxyyxxyxp xyI X Yp xyp xp

5、 xyp xyp xyp xp xyp yxp xp xp xyp xyp xp xp xyHXHXY )(1log)()(;)(1log)()(ypypYHxpxpXHYX)|(1log)()|(;)|(1log)()|(,xypxypXYHyxpxypYXHYXYX )(1log)()(,xypxypXYHYX H(X)H(Y)H(X/Y)H(Y/X)I(X;Y)I(X;Y)H(XY)H(XY)(0)(1)|(xfyjixfyjixypij)(0)(1)|(xfyjixfyjiyxpji YyXxyPxyp)()|(YyXxxPyxp)()|(,()()(/)(;)() log()()()

6、(/)()(/)()()(;)() log()()()()(;)() log()()()log()()log()()log 10 x yx yx yx yx yEfxfExp xyIXYp xyp xp xypyp xyp xyp xypyp xyIXYp xyp xpyp xpyIXYp xyp xyp xpyp xyp xyp xpy證明證明: :利用詹森不等式利用詹森不等式()( )log( ) ( )p xyf xp x p y,10(/)1.log0(/)1(|)()log0(|)(;)()(/)()X Yp xyp xyH XYp xyp xyI X YH XH XYH X由于證明

7、證明: :,(/)(;)()log( )()()log( )( )()()log( )( )(/)()log( )( ;)x yx yx yx yp xyI X Yp xyp xp xyp xyp x p yp yxp xyp y p xp yxp xyp yI Y X()( ) ( / )()( / )( )p xyp y p x yp xyp x yp y,( | )( | )(; )( ;)()log( ) ( | )log( )( )( )( ) ( | )X YX YXP y xP y xI X YI Y XP xyP x P y xP yP yP yP x P y x其中：01(

8、)1xp x 11(; )( )(/)1( )()log( / )1( )( )( / )log( / )11( )( ) loglog( )( )XYXYXppppppppI X YH YH YXH YP xyp y xH YP xP y xp y xH YP xpppH yH pp對對BSC,BSC,其信道轉移矩陣為其信道轉移矩陣為計算計算(0)( 0)( ) (0/ )(0) (0/0)(1) (0/1)(1)1(; )()log111()logloglog( )XP yP xp x pxppppppp ypI X YpppppppppHppH ppppp（）由由I(X;Y)I(X;Y)

9、表達式可得表達式可得, ,若信道固定若信道固定(P(P一定一定),),則則0(; )( )( )01(; )()( )01(; )1( )2(; )I X YH pH pI X YHH pI X YH pI X Yp ，最大即是 的型函1(; )()log111()logloglog( )I X YpppppppppHppH pppp（）(;)( )0(;)( )(0)( )1(;)()(1)( )111(;)( )( )222(;)I X YHppH ppI X YHHHpI X YHHHpI X YHHI X Y在（）中，最小即是 的型凸函1(; )()log111()logloglog(

10、 )I X YpppppppppHppH pppp（）說明總是存在最差信道，使說明總是存在最差信道，使I=0I=0sjijijpp110)|().|.()|(12121ijNiNNxyPxxxyyyPxyP rsrrsspppppppppP.:.:.2122221112111 11111 111 12221 12(. )(. )(.)(. )(|): (.)(. )NNNNkkrrrsssrsa aabbba aabbbpXYa aab bb NNNNNNsrrrss212222111211(|)khhkp1212(|)hhhNkkkNp b bba aa1(|)1,2,1,2,NNNhiki

11、ip bakirhis22222222pppppppppppppppppppppppp2112131241(/)(00 / 00)(0 / 0)(0 / 0)(/)(01 / 00)(0 / 0)(1 / 0)(/)(10 / 00)(1 / 0)(0 / 0)(/)(11 / 00)(1 / 0)(1 / 0).PPPPpPPPPppPPPPppPPPPp);();(NNYXIYXI)/()(NNNYXHXH)/()(NNNXYHYHX X NiiixyPxP1)/()/(yNiiiYXIYXI1);();( ),(),(1iiNiYXIIYX),(),(),(1YXNIYXIIiiNiYX

12、Rt R/t = I(X;Y)/t = H(X)/t H(X|Y)/t （比特（比特/ /秒秒）);(max)(YXICXP tCCt)(1);(maxpHYXImax(; )max()( )1( )CIX YHppH pH p ()( )HppH p當當12100010001)3 , 2 , 1,(10)/()/(jijijibaPabPjiij)/(loglog)(max)(max)()(symbolbitsrYHXHCyPxP10000005153510000003231P”0“1)/(1)/(1)/(1)/(1)/(1)/(635242322111其他各項后驗概率為baPbaPbaPb

13、aPbaPbaPsymbolbitrXHCxP/log)(max)(P68說明()max( )log(/)P yCH Ysbit symbolP68說明2161313121616131213131616161613131PP和7 .01 .02 .01 .02 .07 .03161316161613131PP和.11.11:.11ppprrpppPrrppprr1pp)/() ,., (log),., ()(max2121)(symbolbitpppHspppHYHCssxP YXxypxypxpXYH)|(1log)|()()|()/()(xXYHxpXYxypxypxXYH)|(1log)

14、|()|(),., ()/(21spppHxXYH3131616161613131P),(),(1iiNiYXII YX即：即：C CN N = NC= NC()()1()11max (; ) max(;) max (;) iNP XNiiP XiNiiP XiNiiCI X YI X YI X YC 一、連續單符號加性高斯噪聲信道的信道容量一、連續單符號加性高斯噪聲信道的信道容量22log)(enh2020log212log2logPeePC)1log(21)1log(212nssPPP二、多維無記憶高斯加性連續信道二、多維無記憶高斯加性連續信道NiiNiiinpxypxypnp11)()/

15、()/()(NiiiYXIYXI1);();(NinisiPP11log21NinisiPP11log21);(max)(YXICxpX X1 1Y Y1 1=X=X1 1 +n+n1 1n n1 1X XN NY YN N=X=XN N +n+nN Nn nN NP Pn nnsPPNC1log2NininiPPC11log210 00 )(xxxxnisiPPPPXENisiNii112nisiPPnisiPP)( 11WPNisi65. 00 . 1.2 . 01 . 011011011NiniPP517.06.0.2.01.01616161iniPP5 . 05 . 0.2 . 01

16、. 01515151iniPP5 . 04 . 0.2 . 01 . 01414141iniPP35. 24 . 03 . 02 . 01 . 05 . 0log21log21log211log21443214141nnnniniinisiPPPPPPPC53. 48 . 0.2 . 01 . 0825. 0log21log21log2188765432181nnnnnnnniniPPPPPPPPPC85. 00 . 1.2 . 01 . 031011011NiniPP)( 31WPNisi825. 08 . 0.2 . 01 . 0381三、限頻限時限功率的加性高斯白噪聲信道的信道容量三、限

17、頻限時限功率的加性高斯白噪聲信道的信道容量 12( , ,., )Lx x xx12(,.,)Lyy yyyxn2LWT和和而在頻帶內的高斯噪聲是彼此獨立的，從而有而在頻帶內的高斯噪聲是彼此獨立的，從而有按照采樣定理，在按照采樣定理，在00，TT范圍內要求范圍內要求 這是多維無記憶高斯加性信道，其信道容量為：這是多維無記憶高斯加性信道，其信道容量為： 211lo g12LiiiPC0 =log(1)sPWTN W - -這是重要的這是重要的香農公式香農公式。當信道輸入信號是平均功率。當信道輸入信號是平均功率受限的高斯白噪聲信號時，信息傳輸率才達到此信道容量。受限的高斯白噪聲信號時，信息傳輸率才

18、達到此信道容量。WNPWTCCsTt01loglim比特秒比特秒);(YXIC CYXIC);( rXHlog)(1例如，某離散無記憶信源例如，某離散無記憶信源 通過一個無噪無損二元離散信道進行傳輸。通過一個無噪無損二元離散信道進行傳輸。對對二元離散信道的信道容量二元離散信道的信道容量為：為：C C1(1(比特信道符號比特信道符號) )對本信源的信息熵為對本信源的信息熵為 H(X)H(X)1.937(1.937(比特信源符號比特信源符號) )要使信源在此二元信道中傳輸，必須對要使信源在此二元信道中傳輸，必須對X X進行二元編碼：進行二元編碼：123456()1/21/41/81/161/321/32XxxxxxxP X因此，必須通過合適的信源編碼，使信道的信息傳因此，必須通過合適的信源編碼，使信道的信息傳輸率接近或等于信道容量。輸率接近或等于信道容量。12345612000001010011100101000000010010001101000101xxxxxxCC1C對于碼對于碼1()0.6463H XR ( (比特信道符號比特信道符號) )2()0.4844H XR 2C對于碼對于碼( (比特信道符號比特信道符號) )eP ePL 1e