信息論考試試題及答案

一、單項選擇題（每題2分，共10題）1.信息論的創始人是（）A.香農B.維納C.馮·諾依曼D.圖靈答案：A2.信源發出的信號共有8種狀態，等概率出現，則信源的熵為（）A.1bitB.2bitC.3bitD.4bit答案：C3.下面哪個不是離散信源的特征（）A.輸出是離散符號B.符號間相互獨立C.輸出是連續量D.可用概率分布描述答案：C4.一個離散無記憶信源，其符號集為{0,1}，概率分別為0.6和0.4，則該信源的平均信息量為（）A.0.971bitB.0.8bitC.1bitD.1.2bit答案：A5.對于一個有噪信道，若輸入符號集為{0,1}，輸出符號集為{0,1}，則信道轉移概率矩陣為（），其中p表示錯誤概率。A.[[1-p,p],[p,1-p]]B.[[p,1-p],[1-p,p]]C.[[1-p,1-p],[p,p]]D.[[p,p],[1-p,1-p]]答案：A6.在信息編碼中，霍夫曼編碼屬于（）編碼。A.等長B.變長C.定比D.混合答案：B7.信息率失真函數的下限為（）A.0B.信源熵C.信道容量D.1答案：A8.以下哪種編碼方法主要用于糾錯（）A.霍夫曼編碼B.游程編碼C.漢明編碼D.算術編碼答案：C9.如果信源輸出有m個不同的符號，且每個符號的概率相等，則信源的熵為（）A.log?mB.mlog?mC.1/mlog?mD.log?(1/m)答案：A10.當信源與信宿之間的互信息達到信道容量時，以下說法正確的是（）A.信源分布為均勻分布B.信道無噪C.信源與信道達到最佳匹配D.信宿收到的信息無失真答案：C二、多項選擇題（每題2分，共10題）1.信息的特性包括（）A.可度量性B.可識別性C.可轉換性D.可存儲性E.可共享性答案：ABCDE2.離散信源按其記憶特性可分為（）A.無記憶信源B.有記憶信源C.離散無記憶信源D.離散有記憶信源E.平穩信源答案：AB3.信道按其輸入輸出信號的特點可分為（）A.離散信道B.連續信道C.半離散半連續信道D.有記憶信道E.無記憶信道答案：ABC4.以下哪些屬于信源編碼的目的（）A.提高傳輸效率B.壓縮冗余信息C.提高信息的安全性D.降低誤碼率E.便于存儲答案：ABE5.信道容量的影響因素有（）A.信道的帶寬B.信號的功率C.噪聲的功率譜密度D.信源的熵E.信道的記憶特性答案：ABC6.在信息論中，以下關于互信息的說法正確的是（）A.互信息可以是負數B.互信息是信源與信宿之間的統計關聯程度C.當信源與信宿獨立時，互信息為0D.互信息不大于信源熵E.互信息不大于信道容量答案：BCDE7.下面屬于無損壓縮編碼的有（）A.霍夫曼編碼B.算術編碼C.LZW編碼D.JPEG編碼E.MP3編碼答案：ABC8.信源的不確定性可以用以下哪些量來描述（）A.熵B.平均信息量C.互信息D.信息率失真函數E.信道容量答案：AB9.以下關于信息率失真函數的說法正確的是（）A.它與信源分布有關B.它與失真度量有關C.它是在允許一定失真條件下的最小信息傳輸率D.它的值隨著允許失真度的增加而減小E.它的最小值為0答案：ABCDE10.信息傳輸的有效性指標包括（）A.傳輸速率B.頻帶利用率C.誤碼率D.信道容量E.信源熵答案：AB三、判斷題（每題2分，共10題）1.信源熵越大，表示信源的不確定性越小。（×）2.信道容量是信道能夠傳輸的最大信息量。（√）3.霍夫曼編碼是一種等長編碼。（×）4.互信息是對稱的，即I(X;Y)=I(Y;X)。（√）5.離散有記憶信源的熵小于離散無記憶信源的熵。（×）6.所有的無損壓縮編碼都能將文件壓縮到原始大小的一半以下。（×）7.信息率失真函數的值只與信源有關。（×）8.對于一個無噪信道，互信息等于信源熵。（√）9.信道的轉移概率只與信道本身的特性有關。（√）10.信源編碼主要解決信息傳輸的可靠性問題。（×）四、簡答題（每題5分，共4題）1.簡述信源熵的定義。答案：信源熵是用來度量信源的不確定性的。對于離散信源，信源熵定義為信源輸出符號的自信息量的數學期望，它反映了信源輸出前平均不確定程度。2.說明信道容量的意義。答案：信道容量表示一個信道無差錯傳輸信息的最大能力。它是信道能夠可靠傳輸的最大信息速率，反映了信道本身的特性以及信道輸入信號與噪聲之間的關系。3.簡述霍夫曼編碼的基本原理。答案：霍夫曼編碼基本原理是將信源符號按概率大小排序，把概率最小的兩個符號合并成一個新符號，重新計算概率，重復此過程構建二叉樹。然后對二叉樹的分支分配0和1，從根到葉的路徑編碼就是霍夫曼編碼。4.解釋信息率失真函數的概念。答案：信息率失真函數是在允許一定失真度D的情況下，信源輸出信息率R(D)的最小值。它反映了在給定失真限度下，為了恢復信源符號所需的最小信息率。五、討論題（每題5分，共4題）1.討論信源編碼和信道編碼的區別與聯系。答案：區別：信源編碼目的是壓縮冗余提高效率，側重于對信源特性處理；信道編碼為提高傳輸可靠性，增加冗余抗干擾。聯系：都是信息傳輸中的編碼環節，信源編碼后的數據經信道編碼后傳輸，兩者相互配合以實現高效可靠傳輸。2.分析噪聲對信道容量的影響。答案：噪聲增加時，信道中的不確定性增大。這會降低信道容量，因為噪聲干擾會使正確傳輸信息的能力下降，能可靠傳輸的最大信息量減少。3.闡述如何提高信息傳輸的有效性和可靠性。答案：有效性：采用高效信源