《信息與編碼理論》試卷（一）考試時間120分鐘總分總分班級學號姓名一二三四五六七1.（15分）彩色電視顯象管的屏幕上有5×105個象元，設每個象元有64種彩色度，每種彩度又有16種不同的亮度層次，如果所有的彩色品種和亮度層次的組合均以等概率出現并且各個組合之間相互獨立。計算每秒傳送25幀圖象所需要的信道容量；如果在加性高斯白噪聲信道上信號與噪聲平均功率的比值為63，為實時傳送彩色電視的圖象，信道的帶寬應為多大？2．（15分）已知一個信源包含八個符號消息,它們的概率分布如下表,ABCDEFGH0.10.180.40.050.060.10.070.04該信源每秒鐘內發出一個符號,求該信源的熵及信息傳輸速率。對八個符號作二進制碼元的霍夫曼編碼,寫出各代碼組,并求出編碼效率。對八個符號作三進制碼元的霍夫曼編碼,寫出各代碼組,并求出編碼效率。3．（15分）一信源產生概率為的統計獨立二進制數符。這些數符組成長度為100的數符組。我們為每一個含有3個或少于3個“1”的源數符組提供一個二進制碼字，所有碼字的長度相等。求出為所規定的所有源符組都提供碼字所需的最小碼長。求信源發出一數符組，而編碼器無相應碼字的概率。4．（15分） 求下圖中DMC的信道容量。如果輸入分布為{p(x=0)=1/2，p(x=1)=1/4，p(x=2)=1/4），試求輸入的信息熵和經過該信道的輸入、輸出間的平均互信息量。111020231/31/31/31/31/31/31/31/31/35．（15分）設二元（7,4）線性分組碼的生成矩陣為給出該碼的一致校驗矩陣并寫出所有的伴隨式和與之相對應的陪集首。若接收矢量，試計算出其對應的伴隨式S并按照最小距離譯碼準則試著對其譯碼。6．（15分）證明最小錯誤概率譯碼與最大似然譯碼在先驗等概的條件下等價。設M＝2且兩個消息等概，令，。通過信道轉移概率p<1/2的信道傳輸。若將譯碼區間分為試給出譯碼錯誤概率和有錯而不能判決的概率。7．（10分）對于任意概率事件集X、Y、Z，證明下述三角不等式成立 H(X|Y)+H(Y|Z)≥H(X|Z)《信息與編碼理論》試卷（一）參考答案與評分標準1.每種彩色度和亮度層次組合的概率P=1/(64*16)。每個彩色像元的自信息量I1=log1/P=10bits/每像元。每幀彩色圖像的信息量I2=10*5*105=5*106bit/幀。因為每秒有25幀圖像，所以，所需的信道容量至少為 C＝5*106*25=1.25*108bits（8分） 因為，S/N=63C=Wlog2(1+S/N)=6W 所以，W＝6C＝20.9MHz（7分）2.H(X)=－∑p(x)logp(x)=2.552bits/符號。由于每秒中只有一個符號，所以傳輸速率R=H=2.552bits/S（5分）各符號對應的碼組如下：A―100；B―110；C―0；D―11101；E－1010；F－1111；G－1011；H－11100。平均碼長N＝∑PiNi＝0.4*1+0.28*3+0.23*4+0.09*5=2.61編碼效率η＝H(X)/N=97.79%（5分）各符號對應的碼組如下：A―11；B―12；C―2；D―022；E－00；F－10；G－01；H－021。平均碼長N＝∑PiNi＝0.4*1+2*0.51+3*0.09=1.69編碼效率η＝H(X)/N=95.28%（5分）3．含有1個“1”的個數為；不含有“1”的個數為；含有2個“1”的個數為；含有3個“1”的個數為；所以，含有3個“1”或少于3個“1”的源符組個數為M=1+100+4950+161700=166751所需最小碼長為，因為是二元碼所以D＝2（8分）首先求信源發出一源符組，有碼字與之對應的概率。由題意，只有當源符組含有3個“1”或少于3個“1”時，才有碼字與之對應。因此有碼字的概率為無碼字與之對應的概率為（7分）4．由圖可知，該信道的轉移概率矩陣如下 Y=0Y=1Y=2Y=3 X=01/3 1/301/3X=101/31/31/3X=21/301/31/3 易知該信道是一個準對稱信道，則當輸入為等概分布時 C=I(x=0,Y)= =（7分）因為W(0)=1/3[1/3+1/3]=2/9W(1)=1/3[1/3+1/3]=2/9W(3)=1/3[1/3+1/3+/13]=1/3 所以=2/3log3/2bits當p(x=0)=1/2,p(x=1)=1/4,p(x=2)=1/4時:H(X)==3/2bits又因為H(Y)==1+1/6log6+1/3log3H(XY)==log6+1/2所以I(X,Y)=H(X)+H(Y)－H(XY)=7/6－1/2log3（8分）5．該碼的一致校驗矩陣為H＝（3分）因為二元（7，4）碼的糾錯范圍是7個一位錯，所以各陪集首和與之相對應的S如下： e=0000001――S=101e=0000010――S=111 e=0000100――S=011e=0001000――S=110 e=0010000――S=001e=0100000――S=010 e=1000000――S=100（8分）當V＝0001011的時候，S＝100，對照最小距離譯碼準則與S和e之間的關系表，可知，e＝1000000。所以C＝e＋V＝1001011（4分）6．令信道輸入為xm時輸出y的轉移概率為PN(y|xm)，則最小錯誤概率譯碼實際上為最大后驗概率譯碼 其中（5分）對于給定的y和所有的m，其w(y)必然相同，所以就可化為如下式子則當先驗等概時Q(m)=Q(m’)，上式進一步化為，此即最大似然譯碼。（5分） 所以，當先驗等概時，最小錯誤概率譯碼與最大似然譯碼是