信息與編碼理論 第2版 課件 4.1 無失真信源編碼定理_第1頁
信息與編碼理論 第2版 課件 4.1 無失真信源編碼定理_第2頁
信息與編碼理論 第2版 課件 4.1 無失真信源編碼定理_第3頁
信息與編碼理論 第2版 課件 4.1 無失真信源編碼定理_第4頁
信息與編碼理論 第2版 課件 4.1 無失真信源編碼定理_第5頁
已閱讀5頁，還剩11頁未讀， 繼續免費閱讀

下載本文檔

版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領

文檔簡介

第4章信源編碼本章內容：無失真信源編碼定理無失真信源編碼限失真信源編碼定理限失真信源編碼§4.1無失真信源編碼定理4.1無失真信源編碼定理編碼分為無失真編碼限失真編碼信源編碼信道編碼

對信源進行編碼，就是設計一個編碼器，將信源的原始符號按照一定的數學規則進行變換，生成適合于信道傳輸的符號，通常稱為碼元（碼序列）。我們將離散信源輸出信息定義為離散符號集，如下：4.1無失真信源編碼定理我們在給消息分配碼字的時候分配多少可以做到無失真譯碼？碼字越多，所需要的信息率就越大，很明顯，我們希望信息率越小越好，但是信息率小到多少能保證無失真呢？我們首先要給出關于碼的定義。4.1無失真信源編碼定理1.二元碼如果碼符號集為，所得到的碼字都是二元序列，稱為二元碼。如果將信源通過二元信道進行傳輸，那么就需要將信源符號轉換為由0和1組成的二元碼序列，這也是數字圖像處理最為常用的一種。2.等長碼（定長碼）如果一組碼中所有碼字的長度都相等，我們稱之為等長碼。3.變長碼如果一組碼中所有碼字的長度都不相同，我們稱之為變長碼。4.非奇異碼如果一組碼中所有碼字都不相同，即所有信源符號映射到不同的碼元序列，它們之間是一一對應的，那么我們稱之為非奇異碼。4.1無失真信源編碼定理5.奇異碼如果一組碼中有相同的碼字，即所有信源符號映射到相同的碼元序列，那么我們稱之為奇異碼。6.同價碼如果碼符號集中每個碼符號所占用的傳輸時間都相同，則所得到的碼為同價碼。一般來講，二元碼都是同價碼。7.碼的次擴展碼假設某碼，它把信源中的符號轉化成碼中的碼字，則碼的次擴展碼是所有個碼字組成的碼字序列的集合。8.唯一可譯碼如果碼的任意一串有限長的碼符號序列只能被唯一的譯成所對應的信源符號序列，那么此碼稱為唯一可譯碼。否則就稱為非唯一可譯碼。4.1無失真信源編碼定理4.1無失真信源編碼定理4.1無失真信源編碼定理那么最佳編碼效率為：該定理也說明，編碼信息率大于單符號熵時，可以做到幾乎無失真，前提是必須足夠大。可以證明，當方差和均為定值時，只要信源序列長度滿足：即

譯碼差錯率一定小于任意正數。4.1無失真信源編碼定理4.1無失真信源編碼定理變長編碼定理：

設離散無記憶信源為編碼后碼字碼長為對唯一可譯碼來講，信源符號與碼字一一對應，因此碼的平均長度為4.1無失真信源編碼定理4.1無失真信源編碼定理4.1無失真信源編碼定理這個定理是香農信息論中非常重要的一個定理，要做到無失真的信源編碼，信源每個符號所需要的平均碼元數就是信源的熵值，如果小于這個值，則唯一可譯碼不存在，在譯碼或反變換時必然帶來失真或差錯，可見，信源的信息熵是無失真信源編碼的極限值。定理還指出，通過對擴展信源進行編碼，當趨向于無窮時，平均碼長可以趨近該極限值。由可以得到我們定義：香農第一定理就可以表述為：如果就存在唯一可譯變長碼如果則不存在唯一可譯變長碼4.1無失真信源編碼定理信道角度講，信道的信息傳輸率為由于所以當平均

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間，僅對用戶上傳內容的表現方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容，請與我們聯系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論