第3章信道容量2022/12/101第3章信道容量2022/12/101本章主要內(nèi)容3.1信道的數(shù)學(xué)模型與分類(lèi)3.2單符號(hào)離散信道的信道容量3.3多符號(hào)離散信道的信道容量3.4連續(xù)信道及其容量3.5信道編碼定理2022/12/102本章主要內(nèi)容3.1信道的數(shù)學(xué)模型與分類(lèi)2022/12/1023.3多符號(hào)離散信道的信道容量多符號(hào)離散信道（DMC的N次擴(kuò)展信道）Def：輸入輸出都是長(zhǎng)為N的多符號(hào)離散消息，這樣的信道稱(chēng)為多符號(hào)離散信道。設(shè)信源XN：信宿YN：則N次擴(kuò)展信道的轉(zhuǎn)移概率矩陣為輸入信道的第i條消息信道輸出的第j條消息2022/12/1033.3多符號(hào)離散信道的信道容量多符號(hào)離散信道（DMC的N次多符號(hào)信道的轉(zhuǎn)移信道概率：其中2022/12/104多符號(hào)信道的轉(zhuǎn)移信道概率：其中2022/12/104例：設(shè)BSC信道如圖3.5(a)，X=(x1,x2)=(0,1),Y=(y1,y2)=(0,1),求2次擴(kuò)展信道的轉(zhuǎn)移概率矩陣。解：BSC信道的轉(zhuǎn)移概率矩陣為

2次擴(kuò)展信道的轉(zhuǎn)移概率為對(duì)稱(chēng)p2022/12/105例：設(shè)BSC信道如圖3.5(a)，X=(x1,x2)=(0,則說(shuō)明：若單符號(hào)離散信道是對(duì)稱(chēng)的，則形成的N次擴(kuò)展信道也是對(duì)稱(chēng)的。2022/12/106則說(shuō)明：若單符號(hào)離散信道是對(duì)稱(chēng)的，則形成的N次擴(kuò)展信道也是對(duì)單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道：可以看作是一種特殊的多符號(hào)信道，而多符號(hào)信道是各個(gè)輸入信源Xi都取自同一集合X，并聯(lián)的各個(gè)輸出信宿Yj都取自同一集合Y,這樣的N個(gè)信道的并聯(lián)。單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道的數(shù)學(xué)模型2022/12/107單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道N次擴(kuò)展信道的信道容量因此N次擴(kuò)展信道的信道容量按照信道容量的定義式，為：例：分別用定義式求上題的二次擴(kuò)展信道的容量解：因?yàn)閷?duì)稱(chēng)，所以2022/12/108N次擴(kuò)展信道的信道容量因此N次擴(kuò)展信道的信道容量按照信道容量代入N次擴(kuò)展信道容量的定義式2022/12/109代入N次擴(kuò)展信道容量的定義式2022/12/109單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道N次擴(kuò)展信道的容量C：各信道輸入Xi都取自同一集合X，各信道輸出Yj都取自同一集合Y，則每個(gè)并聯(lián)信道的容量：2022/12/1010單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道N次擴(kuò)展信道的容量C：各信道獨(dú)立并聯(lián)信道的信道容量獨(dú)立并聯(lián)信道的容量C：若是N個(gè)獨(dú)立單符號(hào)離散信道的并聯(lián)，各信道輸入Xi和輸出Yj分別取自不同集合，則信道容量為2022/12/1011獨(dú)立并聯(lián)信道的信道容量獨(dú)立并聯(lián)信道的容量C：若是N個(gè)獨(dú)立單符獨(dú)立并聯(lián)信道的信道容量多個(gè)獨(dú)立的單符號(hào)信道的并聯(lián)信道的數(shù)學(xué)模型。獨(dú)立并聯(lián)信道的數(shù)學(xué)模型2022/12/1012獨(dú)立并聯(lián)信道的信道容量多個(gè)獨(dú)立的單符號(hào)信道的并聯(lián)信道的數(shù)學(xué)模因此：?jiǎn)畏?hào)無(wú)記憶信道的N次擴(kuò)展信道是一種特殊的獨(dú)立并聯(lián)信道。2022/12/1013因此：?jiǎn)畏?hào)無(wú)記憶信道的N次擴(kuò)展信道是一種特殊的獨(dú)立并聯(lián)信道幾種組合信道的容量的求解串聯(lián)信道串聯(lián)信道的容量C串依據(jù)P求解。P2022/12/1014幾種組合信道的容量的求解串聯(lián)信道P2022/12/1014和信道：和信道的容量其中：Ci為第i個(gè)信道的容量P2022/12/1015和信道：P2022/12/1015ThankYou!2022/12/1016ThankYou!2022/12/1016第3章信道容量2022/12/1017第3章信道容量2022/12/101本章主要內(nèi)容3.1信道的數(shù)學(xué)模型與分類(lèi)3.2單符號(hào)離散信道的信道容量3.3多符號(hào)離散信道的信道容量3.4連續(xù)信道及其容量3.5信道編碼定理2022/12/1018本章主要內(nèi)容3.1信道的數(shù)學(xué)模型與分類(lèi)2022/12/1023.3多符號(hào)離散信道的信道容量多符號(hào)離散信道（DMC的N次擴(kuò)展信道）Def：輸入輸出都是長(zhǎng)為N的多符號(hào)離散消息，這樣的信道稱(chēng)為多符號(hào)離散信道。設(shè)信源XN：信宿YN：則N次擴(kuò)展信道的轉(zhuǎn)移概率矩陣為輸入信道的第i條消息信道輸出的第j條消息2022/12/10193.3多符號(hào)離散信道的信道容量多符號(hào)離散信道（DMC的N次多符號(hào)信道的轉(zhuǎn)移信道概率：其中2022/12/1020多符號(hào)信道的轉(zhuǎn)移信道概率：其中2022/12/104例：設(shè)BSC信道如圖3.5(a)，X=(x1,x2)=(0,1),Y=(y1,y2)=(0,1),求2次擴(kuò)展信道的轉(zhuǎn)移概率矩陣。解：BSC信道的轉(zhuǎn)移概率矩陣為

2次擴(kuò)展信道的轉(zhuǎn)移概率為對(duì)稱(chēng)p2022/12/1021例：設(shè)BSC信道如圖3.5(a)，X=(x1,x2)=(0,則說(shuō)明：若單符號(hào)離散信道是對(duì)稱(chēng)的，則形成的N次擴(kuò)展信道也是對(duì)稱(chēng)的。2022/12/1022則說(shuō)明：若單符號(hào)離散信道是對(duì)稱(chēng)的，則形成的N次擴(kuò)展信道也是對(duì)單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道：可以看作是一種特殊的多符號(hào)信道，而多符號(hào)信道是各個(gè)輸入信源Xi都取自同一集合X，并聯(lián)的各個(gè)輸出信宿Yj都取自同一集合Y,這樣的N個(gè)信道的并聯(lián)。單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道的數(shù)學(xué)模型2022/12/1023單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道N次擴(kuò)展信道的信道容量因此N次擴(kuò)展信道的信道容量按照信道容量的定義式，為：例：分別用定義式求上題的二次擴(kuò)展信道的容量解：因?yàn)閷?duì)稱(chēng)，所以2022/12/1024N次擴(kuò)展信道的信道容量因此N次擴(kuò)展信道的信道容量按照信道容量代入N次擴(kuò)展信道容量的定義式2022/12/1025代入N次擴(kuò)展信道容量的定義式2022/12/109單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道N次擴(kuò)展信道的容量C：各信道輸入Xi都取自同一集合X，各信道輸出Yj都取自同一集合Y，則每個(gè)并聯(lián)信道的容量：2022/12/1026單符號(hào)無(wú)記憶信源的N次擴(kuò)展信道N次擴(kuò)展信道的容量C：各信道獨(dú)立并聯(lián)信道的信道容量獨(dú)立并聯(lián)信道的容量C：若是N個(gè)獨(dú)立單符號(hào)離散信道的并聯(lián)，各信道輸入Xi和輸出Yj分別取自不同集合，則信道容量為2022/12/1027獨(dú)立并聯(lián)信道的信道容量獨(dú)立并聯(lián)信道的容量C：若是N個(gè)獨(dú)立單符獨(dú)立并聯(lián)信道的信道容量多個(gè)獨(dú)立的單符號(hào)信道的并聯(lián)信道的數(shù)學(xué)模型。獨(dú)立并聯(lián)信道的數(shù)學(xué)模型2022/12/1028獨(dú)立并聯(lián)信道的信道容量多個(gè)獨(dú)立的單符號(hào)信道的并聯(lián)信道的數(shù)學(xué)模因此：?jiǎn)畏?hào)無(wú)記憶信道的N次擴(kuò)展信道是一種特殊的獨(dú)立并聯(lián)信道。2022/12/1029因此：?jiǎn)畏?hào)無(wú)記憶信道的N次擴(kuò)展信道是一種特殊的獨(dú)立并聯(lián)信道幾種組合信道的容量的求解串聯(lián)信道串聯(lián)信道的容量C串依據(jù)P