1、1 .在無失真的信源中，信源輸出由上(上來度量；在有失真的信源中，信源輸出由R ( D )來 度 量 。2 .要使通信系統做到傳輸信息有效、可靠和保密，必須首先信源編碼,然后_加密編碼,再信道編碼,最后送入信道。3 .帶限AWG瞰形信道在平均功率受限條件下信道容量的基本公式，也就是有名的 香農公式是C Wlog(1 SNR);當歸一化信道容量 C/W趨近于零時，也即信道完全喪失了通信能力，此時Eb/No為-1.6 dB,我們將它稱作香農限，是一切編碼方式 所能達到的理論極限。4 .保密系統的密鑰量越小，密鑰嫡H(K)就越上,其密文中含有的關于明文的信息量I(M。就越大。5 .已知n=7的循環碼

2、g(x) x4 x2 x 1,則信息位長度k為3、校驗多項式h(x) =3 x x 1 _06 .設輸入符號表為X= 0, 1,輸出符號表為 Y= 0 , 1。輸入信號的概率分布為 p=(1/2 , 1/2),失真函數為 d(0, 0) = d(1 , 1) = 0 , d(0, 1) =2 , d(1 , 0) = 1 , 則 dn = 0, Rdn) = 1bit/symbol ,相應的編碼器車t移概率矩陣p(y/x )=1 0 ； D-= 0.5, RDmax)=Q,相應的編碼器轉移概率矩陣P(y/x ) = 1 0。0 11 07.已知用戶A的RSA公開密鑰(e,n)=(3,55) ,

3、 p 5,q 11,則(n)40,他的秘密密鑰(d,n) = (27,55)。若用戶B向用戶A發送m=2的加密消息，則該加密后的消息為 8 o1 .設X的取值受限于有限區間a,b,則X服從 均勻 分布時,其嫡達到最大；如X的均值為,方差受限為2 ,則X服從 高斯 分布時,其嫡達到最大。2 .信息論不等式：對于任意實數z 0,有lnz z 1,當且僅當z 1時等式成立。3 .設信源為 X=0, 1, P (0) =1/8,則信源的嫡為 _1/8log2 8 7/8log2(7/8)比特/符號,如信源發出由m個“0”和(100-m)個“1”構成的序列，序列的自信息量為m log 2 8 (100

4、m) log 2 (7 /8)比特 / 符號。該信道的容量為 C log m pij log pij o j 14 .采用m進制編碼的碼字長度為 K,碼字個數為n,則克勞夫特不等式為n m Ki 1, i 1它是判斷唯一可譯碼存在的充要條件。5 .差錯控制的基本方式大致可以分為前向糾錯 、反饋重發和 混合糾錯。6 .如果所有碼字都配置在二進制碼樹的葉節點，則該碼字為唯一可譯碼。7 .齊次馬爾可夫信源的一步轉移概率矩陣為P,穩態分布為 W則儲口 P滿足的方程為W=WP 。8 .設某信道輸入端的嫡為H(X),輸出端的嫡為H(Y),該信道為無噪有損信道，則該信道的容量為 MAX H (Y)o9 .某

5、離散無記憶信源 X,其符號個數為n,則當信源符號呈 等概 分布情況下，信源嫡取最大值 log (n)。10 .在信息處理中，隨著處理級數的增加，輸入消息和輸出消息之間的平均互信息 量趨于減少 。12 .信息論不等式：對于任意實數 z 0,有lnz z 1,當且僅當z 1時等式成立。13 設信源為 X=0, 1, P (0) =1/8,則信源的嫡為 _1/8log2 8 7/8log2(7/8)比特/符號，如信源發出由m個“0”和(100-m)個“1”構成的序列，序列的自信息量為m log 2 8 (100 m) 10g 2 (7 /8)比特 / 符號。14 離散對稱信道輸入等概率時，輸出為 等

6、概分布。15 根據碼字所含的碼元的個數，編碼可分為定長 編碼和 變長 編碼。16 .設DMS為U. u1u2u3 u4u5 u6，用二元符號表PU0.370.250.18 0.100.07 0.03X xi 0,x2 1對其進行定長編碼，若所編的碼為000 , 001, 010, 011, 100, 101,1 .信息的基本概念在于它的不確定性 。2 .按照信源發出的消息在時間和幅度上的分布情況，可將信源分成 離散 信源和 連續信源兩大類。3 . 一個隨機事件的自信息量 定義為其出現概率對數的負值。4 .按樹圖法構成的碼一定滿足即時碼的定義。5 .有擾離散信道編碼定理稱為香農第二極限定理。6

7、.糾錯碼的檢、糾錯能力是指檢測、糾正錯誤碼元的數目。7 .信道一般指傳輸信息的物理媒介，分為 有線 信道和 無線 信道。8 .信源編碼的主要目的是提高通信系統的有效性。1 .設信源X包含4個不同離散消息，當且僅當X中各個消息出現的概率為 1/4 時，信、源嫡達到最大值，為 _2一 此時各個消息的自信息量為 _2 _02 .如某線性分組碼的最小漢明距 dmin=4,則該碼最多能檢測出 3 個隨機錯，最多能 糾正_1 個隨機錯。3 .克勞夫特不等式是唯一可譯碼 _存在的充要條件。4 .平均互信息量I(X;Y)與信源嫡和條件嫡之間的關系是 (X;Y尸H(X)-H(X/Y )。5 ._信源 _提高通信

8、的有效性，J言道 目的是提高通信的可靠性，_加密編碼的目的是保證通信的安全性。6 .信源編碼的目的是提高通信的有效性 ，信道編碼的目的是提高通信的可靠性 ,加密編碼的目的是保證通信的安全性 。7 .設信源X包含8個不同離散消息，當且僅當 X中各個消息出現的概率為_1/8_ 時，信源嫡達到最大值，為 3。8 .自信息量表征信源中各個符號的不確定度，信源符號的概率越大，其自信息量越_小。9 .信源的冗余度來自兩個方面，一是信源符號之間的相關性_,二是信源符號分布的不均勻性 。10 .最大后驗概率譯碼指的是譯碼器要在已知 r的條件下找出可能性最大的發碼作為譯碼估值 ，即令 =maxP( |r)。11

9、 .常用的檢糾錯方法有 前向糾錯、反饋重發和混合糾錯三種。(D)1 .給定Xi條件下隨機事件yj所包含的不確定度和條件自信息量p(yj/Xi),A.數量上不等，單位不同C.數量上相等，單位不同2 .條件嫡和無條件嫡的關系是：A H(Y/X)<H(Y)C HY/X)<HY)3 .根據樹圖法構成規則，A在樹根上安排碼字C.在中間節點上安排碼字4 .下列說法正確的是：A.奇異碼是唯一可譯碼C.非奇異碼不一定是唯一可譯碼5 .下面哪一項不屬于嫡的性質：A非負性B.數量上不等，單位相同D.數量上相等，單位相同(C)B. HJY/X) >H(Y)D. HJY/X) >H(Y)(D)

10、B.在樹枝上安排碼字D.在終端節點上安排碼字(C)B.非奇異碼是唯一可譯碼D.非奇異碼不是唯一可譯碼(B)B.完備性D.確定性C.對稱性1 .下面表達式中正確的是（A ）A. p(yj/x) 1B.p(yj/x) 1C.p(x,yj)(yj) D.p(xyj) q(Xi)2 .彩色電視顯像管的屏幕上有 5X 105個像元，設每個像元有 64種彩色度，每種彩度又有16種不同的亮度層次，如果所有的彩色品種和亮度層次的組合均以等概率出現，并且各個組合之間相互獨立。每秒傳送25幀圖像所需要的信道容量（C ）A. 50?10 6 B.75?106C. 125?106 D.250?103 .已知某無記憶三

11、符號信源a,b,c等概分布，接收端為二符號集，其失真矩陣為1 2d= 1 1 ,則信源的最大平均失真度 Dmax為（D ）。2 1A. 1/3 B. 2/3 C. 3/3D. 4/34 .線性分組碼不具有的性質是（C ）A.任意多個碼字的線性組合仍是碼字B.最小漢明距離等于最小非 0重量C.最小漢明距離為3D.任一碼字和其校馬矩陣的乘積cmrf=05 .率失真函數的下限為（B） oA .H(U)B.0C.I(U; V)D.沒有下限6.糾錯編碼中，下列哪種措施不能減小差錯概率(D ）。A.增大信道容量B.增大碼長C.減小碼率D. 減小帶寬7 . 一珍珠養殖場收獲240顆外觀及重量完全相同的特大珍

12、珠，但不幸被人用外觀相 同但重量僅有微小差異的假珠換掉1顆。一人隨手取出3顆，經測量恰好找出了假珠，不巧假珠又滑落進去，那人找了許久卻未找到，但另一人說他用天平最多6次能找出，結果確是如此，這一事件給出的信息量( A )。A. Obit B. log6bit C. 6bit D. log240bit8 .下列陳述中，不正確的是(D )。A.離散無記憶信道中，H (Y)是輸入概率向量的凸函數B.滿足格拉夫特不等式的碼字為惟一可譯碼C. 一般地說，線性碼的最小距離越大，意味著任意碼字間的差別越大，則碼的檢錯、 糾錯能力越強D.滿足格拉夫特不等式的信源是惟一可譯碼9 .一個隨即變量x的概率密度函數P

13、(x)= x /2,0 x 2V,則信源的相對嫡為(C )。A . 0.5bit B. 0.72bit C. 1bit D. 1.44bit10 .下列離散信源，嫡最大的是(D )。A. H (1/3,1/3,1/3); B. H (1/2,1/2 );C. H (0.9,0.1 ); D. H (1/2,1/4,1/8,1/8)11.下列不屬于消息的是(B ）。A.文字 B. 信號 C. 圖像 D. 語言12 .為提高通信系統傳輸消息有效性，信源編碼采用的方法是（ A ）。A.壓縮信源的冗余度B.在信息比特中適當加入冗余比特C.研究碼的生成矩陣D.對多組信息進行交織處理13 .最大似然譯碼等

14、價于最大后驗概率譯碼的條件是（D ）。A.離散無記憶信道B.無錯編碼C.無擾信道D.消息先驗等概14 .下列說法正確的是（C ）。A.等重碼是線性碼B.碼的生成矩陣唯一C.碼的最小漢明距離等于碼的最小非 0重量D.線性分組碼中包含一個全 0碼字15.二進制通信系統使用符號 0和1,由于存在失真，傳輸時會產生誤碼，用符號表 示下列事件，u0:一個0發出 u1: 一個1發出 V0 : 一個0收到 v1: 一 個1收到則已知收到的符號，被告知發出的符號能得到的信息量是（ A ）。A. H（U/V） B. H（V/U） C. H（U,V） D. H（UV）16 .同時扔兩個正常的骰子，即各面呈現的概率

15、都是1/6 ,若點數之和為12,則得到的自信息為（B ）。A. log36bitB. log36bitC. log (11/36)bitD. log(11/36)bit17 .下列組合中不屬于即時碼的是(A ),10, 11 D. 1, 01, 00A. 0 , 01, 011 B. 0, 10, 110 C. 00111010則不用計算就可判斷出下18 .已知某(6, 3)線性分組碼的生成矩陣 G 110001011101列碼中不是該碼集里的碼是( D )A. 000000 B. 110001 C. 011101 D. 11111119 .一個隨即變量 x的概率密度函數P(x尸x /2 ,

16、0 x 2V ,則信源的相對嫡為(C )。A. 0.5bit/ 符號 B. 0.72bit/ 符號 C. 1bit/ 符號 D. 1.44bit/ 符 號20 .設有一個無記憶信源發出符號A和B,已知p(A)尢p(B)上 發出二重符號序列消息的信源，無記憶信源嫡H(X2)為(A )。A.0.81bit/ 二重符號 B.1.62bit/ 二重符號 C.0.93 bit/二重符號 D .1.86bit/二重符號瑪 H£6、只要L -1踞口,當N足夠長時，一定存在一種無失真編碼。7、當Rv C時，只要碼長足夠長，一定能找到一種編碼方法和譯碼規則，使譯碼錯 誤概率無窮小8、在認識論層次上研究

17、信息的時候，必須同時考慮到形式、含義和效用 三個方 面的因素9、1948年，美國數學家 香農 發表了題為“通信的數學理論”的長篇論文，從而 創立了信息論。按照信息的性質，可以把信息分成 語法信息、語義信息和語用信息 。按照信息的地位，可以把信息分成客觀信息和主觀信息 。人們研究信息論的目的是為了 高效、可靠、安全 地交換和利用各種各樣的信息。信息的可度量性 是建立信息論的基礎。統計度量 是信息度量最常用的方法。嫡是香農信息論最基本最重要的概念。事物的不確定度是用時間統計發生概率的對數 來描述的。10、單符號離散信源一般用隨機變量描述，而多符號離散信源一般用隨機矢量描述。11、一個隨機事件發生某

18、一結果后所帶來的信息量稱為自信息量，定義為其發生概率對數的負值。12、自信息量的單位一般有比特、奈特和哈特 。13、必然事件的自信息是 0。14、不可能事件的自信息量是00 o15、兩個相互獨立的隨機變量的聯合自信息量等于兩個自信息量之和 。16、數據處理定理：當消息經過多級處理后，隨著處理器數目的增多，輸入消息與輸出消息之間的平均互信息量趨于變小 。17、離散平穩無記憶信源 X的N次擴展信源的嫡等于離散信源 X的嫡的N倍。士3十工區一口- HlimH(XN/X1X2 X n 1 )18、離散平穩有記憶信源的極限嫡，H N ' N 1 219、對于n元m階馬爾可夫信源，其狀態空間共有n

19、m個不同的狀態。20、一維連續隨即變量 X在a , b區間內均勻分布時，其信源嫡為log2 (b-a)1 . c -log 2 2 eP21、平均功率為P的高斯分布的連續信源，其信源嫡，Hc (X) =2022、對于限峰值功率的 N維連續信源，當概率密度 均勻分布 時連續信源嫡具有最 大值。23、對于限平均功率的一維連續信源，當概率密度高斯分布 時，信源嫡有最大值。24、對于均值為0,平均功率受限的連續信源，信源的冗余度決定于平均功率的限定彳4 P和信源的嫡功率P之比。25、若一離散無記憶信源的信源嫡H (X)等于2.5,對信源進行等長的無失真二進制編碼，則編碼長度至少為30nm ki 126

20、、m元長度為ki , i=1 , 2, n的異前置碼存在的充要條件是：i 1。27、若把擲骰子的結果作為一離散信源，則其信源嫡為10g26 o28、同時擲兩個正常的骰子，各面呈現的概率都為1/6 ,則“3和5同時出現”這件事的自信息量是log218 (1+2 log23 )。1-p(x) e m29、若一維隨即變量X的取值區間是0 , X,其概率密度函數為m，其中:x 0, m是X的數學期望，則X的信源嫡hc(x) 10g2me。30、一副充分洗亂的撲克牌(52張)，從中任意抽取1張，然后放回，若把這一過程看作離散無記憶信源，則其信源嫡為10g 2 52 31、根據輸入輸出信號的特點，可將信道

21、分成離散信道、連續信道、半離散或半連續信道。32、信道的輸出僅與信道當前輸入有關，而與過去輸入無關的信道稱為無記憶信道。33、具有一一對應關系的無噪信道的信道容量C= log2n。34、強對稱信道的信道容量 C= 1og2n-Hni 。35、對稱信道的信道容量 C= 1og2m-Hmi。36、對于離散無記憶信道和信源的N次擴展，其信道容量 CN= NC oNCk37、對于N個對立并聯信道，其信道容量 CN = k1 o38、多用戶信道的信道容量用多維空間的一個區域的界限來表示。39、多用戶信道可以分成幾種最基本的類型：多址接入信道、廣播信道和相關信源信道。40、廣播信道是只有 一個輸入端和多個

22、輸出端 的信道。41、當信道的噪聲對輸入的干擾作用表現為噪聲和輸入的線性疊加時，此信道稱為 加性連續信道110g2(1 P)42、高斯加性信道的信道容量 C=2Pn 。43、信道編碼定理是一個理想編碼的存在性定理，即：信道無失真傳遞信息的條件是信息率小于信道容量。1/2 1/2 044、信道矩陣 001代表的信道的信道容量 C= 1 。1 01 045、信道矩陣0 1代表的信道的信道容量 C= 1。46、高斯加性噪聲信道中，信道帶寬3kHz,信噪比為7,則該信道的最大信息傳輸速率 Ct= 9 kHz 。47、對于具有歸并性能的無燥信道，達到信道容量的條件是p (yj) =1/m)。1 048、

23、信道矩陣0 1代表的信道，若每分鐘可以傳遞6*105個符號，則該信道的最大信息傳輸速率Ct= 10kHz 。49、信息率失真理論是量化、數模轉換、頻帶壓縮和數據壓縮的理論基礎。50、求解率失真函數的問題，即：在給定失真度的情況下，求信息率的極小值c51、信源的消息通過信道傳輸后的誤差或失真越大，信宿收到消息后對信源存在的不確定性就 越大，獲得的信息量就越小。也越52、信源的消息通過信道傳輸后的誤差或失真越大道傳輸消息所需的信息率53、單符號的失真度或失真函數d (xi , yj )表示信源發出一個符號 xi ,信宿再現yj所引起的誤差或失真。0 i j54、漢明失真函數d (xi , yj )

24、 = 1 i j。55、平方誤差失真函數 d (xi , yj ) = (yj- xi )2。56、平均失真度定義為失真函數的數學期望，即 d (xi , yj )在X和Y的聯合概率 空間P (XY)中 的統計平均值。57、如果信源和失真度一定，則平均失真度是 信道統計特性 的函數。58、如果規定平均失真度 D不能超過某一限定的值 D,即：D D。我們把b D稱 為保真度準則。59、離散無記憶N次擴展信源通過離散無記憶N次擴展信道的平均失真度是單符號信源通過單符號信道的平均失真度的 N 倍。60、試驗信道的集合用 PD 來表示，則 PD= p(yj/xi):D D;i 1,2, ，n,j 1,

25、2, ,m 。61、信息率失真函數，簡稱為率失真函數，即：試驗信道中的平均互信息量的最小值。62、平均失真度的下限取0的條件是失真矩陣的每一行至少有一個零元素。63、平均失真度的上限 DmaxWDj : j=1 , 2,，m中的 最小值64、率失真函數對允許的平均失真度是單調遞減和連續的65、對于離散無記憶信源的率失真函數的最大值是10g2n66、當失真度大于平均失真度的上限時DmaX寸，率失真函數 R (D) = 0I(X;Y)P DInf67、連續信源X的率失真函數R (D) = p(y/x) 68、當D 2時，高斯信源在均方差失真度下的信息率失真函數為R(D)210g69、保真度準則下的

26、信源編碼定理的條件是信源的信息率R大于率失真函數 RD)70、某二元信源P(X)0101/2 1/2其失真矩陣D= aa0 ,則該信源的Dmax=a/271、某二元信源P(X)0101/2 1/2其失真矩陣D= aa0 ,則該信源的Dmin= 0X72、某二元信源P(X)(D/a)。010 a1/2 1/2其失真矩陣D= a0 ,則該信源的R (D) = 1-H73、按照不同的編碼目的，編碼可以分為三類：分別是信源編碼、信道編碼和安全編碼。74、信源編碼的目的是：提高通信的有效性 。75、一般情況下，信源編碼可以分為離散信源編碼、連續信源編碼和相關信源編碼76、連續信源或模擬信號的信源編碼的理

27、論基礎是限失真信源編碼定理77、在香農編碼中，第i個碼字的長度ki和p ( xi )之間有log 2 P(Xi)ki1 log 2 P(xi) 關系。XXiX2X3X4X5X6X7X878、對信源 P(X)1/41/41/81/81/161/161/161/16進行二進制費諾編碼，其編碼效率為1。79、對具有8個消息的單符號離散無記憶信源進行4進制哈夫曼編碼時，為使平均碼長最短，應增加2 個概率為0的消息。80、對于香農編碼、費諾編碼和哈夫曼編碼，編碼方法惟一的是香農編碼。81、對于二元序列0011100000011111001111000001111111,其相應的游程序列是23652457 。82、設無記憶二元序列中，“0”和“1”的概率分別是p0和p1,則“0”游程長度L7 1n L(0) 1 口(0)的概率為P L(0) P0P1 083、游程序列的嫡 等于 原二元序列的嫡。84、若“0”游程的哈夫嗎編碼效率為刀0, “1”游程的哈夫嗎編碼效率為刀1,且刀0> Y 1對應的