1、智能控制及其MATLAB實現 題目： 基于BP神經網絡的圖像壓縮實現方法 姓 名： 裴曉鵬 學 號： 2015510298 授課教師： 李國勇 所在院系： 信息工程學院 基于BP神經網絡的圖像壓縮實現方法摘要 在當今這個信息爆炸的時代，圖像傳輸和共享是一個很重要的環節，但是圖像數據的海量性使其存儲和傳輸成為數字圖像處理領域的一大難題。研究發現，一幅圖像之所以占據內存大，是因為除了有效信息以外，還有許多冗余信息和相干信息。也正是因為圖像中存在著大量的冗余信息和相干信息，使得對圖像進行壓縮，即去除圖像中的冗余信息和相干信息，只保留圖像中的有效特征信息變得可行。所謂圖像壓縮是指用較少的數據量對冗余信

2、息和相干信息進行有效的表征或直接去除。壓縮圖像為數字圖像提供了一種有效的表示方法，同時緩解了系統的存儲和傳輸等壓力，在一定程度上能夠減少圖像存儲量和減輕圖像傳輸的負擔，也能實現快速傳輸和實時處理。本文在圖像壓縮原理及幾種常用的圖像壓縮方法的研究基礎上，采用BP神經網絡實現圖像壓縮，能夠重構出高質量的圖像。在要求存儲量較少的同時還追求高質量的重構圖像的情況下，這種壓縮方法對數據的存儲和傳輸有一定的實踐指導作用。關鍵詞：圖像壓縮；快速傳輸；BP神經網絡Image compression method based on BP neural networkAbstractToday informati

3、on explodes, the images transmission and sharing is an important part but the image data huge amounts make its storage and transport become a big problem in the field of digital image processing. The study found that an image is to occupy memory is big, because in addition to the valid information,

4、there are a lot of redundant information and irrelevant information. Is precisely because there are a lot of redundant information in the image and correlation information, make the image is compressed, which remove the redundant information in the image and correlation information, only keep the ef

5、fective feature information of images become feasible. Image compression refers to the use of less amount of data to the redundant information and coherent information for effective characterization or remove directly. Compressed image as the representation method of digital image provides an effect

6、ive, at the same time reduce the pressure on the system of storage and transmission, etc, to a certain extent, can reduce the image storage and reduce the burden of image transmission, also can realize fast transmission and real-time processing. Based on the principle of image compression and severa

7、l common image compression method based on the research of image compression is realized by using the BP neural network, to reconstruct the high quality images. In demanding less storage capacity but also the pursuit of high quality under the condition of reconstructed images, the compression method

8、 for data storage and transmission have certain practice guidance.Key words: Image compression; Rapid transmission; The BP neural network第一章 引言 在當今充滿各種類型信息的時代，圖像是人類感知世界、表達信息、獲取信息和傳遞信息的重要工具之一。隨著人類對圖像信息需求量的不斷增加，龐大圖像數據量的獲取、存儲、傳輸以及傳播等都面臨著巨大的挑戰?，F實應用中，一幅較大圖像數據的存儲通常需要占用比較大的內存，而真正用來表征圖像本質特征的數據往往相對較少，如果我們將整幅

9、圖像數據全部保存，將無形中占用和浪費較大的內存資源，假如我們只保存表征圖像的有效數據，則能夠節約大量的存儲空間。因此，如何對圖像信號用少量的數據進行有效表征以減少存儲空間和縮短傳輸時間已成為圖像處理領域的研究熱點之一?！?】研究發現，一幅圖像之所以占據內存大，是因為除了有效信息以外，還有許多余信息和相干信息。通常把圖像中大量重復出現的這部分信息稱為冗余信息，對于那些可用其它信息表示的信息稱為相干信息，也正是因為圖像中存在著大量的冗余信息和相干信息，使得對圖像進行壓縮，即去除圖像中的冗余信息和相干信息，只保留圖像中的有效特征信息變得可行【2】。所謂圖像壓縮是指用較少的數據量對冗余信息和相干信息進

10、行效的表征或直接去除。壓縮圖像為數字圖像提供了一種有效的表示方法，同時緩解了系統的存儲和傳輸等壓力，也便于用有限的資源查看和處理大量的圖像信息。 圖像壓縮技術歷經50多年的不斷發展，目前已經有一些比較成熟的方法。常用的圖像壓縮技術通常采用變換的方法來有效地去除圖像中的冗余信息。基于變換編碼壓縮的方法，常用的主要有離散余弦變換(Discrete Cosine Transform, DCT)編碼81和離散小波變換(Discrete Wavelet Transform, DWT)編碼，“。DCT變換將空間域的圖像信號變換到頻域，使得信號能量集中在一起，能夠用少量的有效數據來表征原始圖像。由于DCT變

11、換基固定，并且能夠快速實現，使其在許多圖像壓縮技術中采用。如JPEG,MPEG, H.26x和AVS等標準均采用了DCT變換技術。如今，通信網絡技術的發展、數字圖像的閱覽和圖像數據的傳輸不斷要求圖像壓縮方法能夠提供高質量和高分辨率的解壓圖像，來滿足不同等級的需求，這些靈活性的要求往往與DCT的編碼結構很難結合起來，有待相關研究者進行更深入的研究【3】。 1974年，小波變換(Wavelet Transform, WT)理論出現，極大地促進了數據壓縮技術的進一步發展【4】。小波變換和DCT變換類似，可以將圖像從空間域變換到頻域，使圖像按頻率能量分布更為集中;小波變換通過對圖像進行多尺度分解，可以

12、獲得不同程度上的近似圖像信號。80年代末，Lu Jian等人就將小波變換應用到圖像壓縮編碼中，其具體過程為:首先對圖像依據Mallat塔式快速小波變換算法進行多尺度分解;然后對每級的小波系數進行量化;再對量化后的小波系數進行編碼處理，最終獲得壓縮圖像。隨著小波變換理論的不斷發展，其在圖像數據壓縮領域已經被廣泛地應用，如2002年提出的圖像壓縮編碼方法JPEG2000就是基于DWT的一種新的靜止圖像壓縮標準【5】。 1993年，MPEG-1正式成為視頻圖像壓縮標準(運動圖像壓縮標準)。MPEG-1主要面向數字存儲媒體，應用于多媒體計算機、電子出版物以及交互式電視等領域。隨著數字圖像技術的不斷發展

13、，隨后的幾年中，陸續推出了MPEG-2, MPEG-4, MPEG-7等標準【6】。 圖像壓縮編碼方法已經發展多年，并且日漸成熟，一系列的圖像壓縮標準也在不斷完善和發展，從靜止圖像壓縮標準JPEG到JPEG2000的發展使得圖像的壓縮比以及重構圖像質量都有很大的提升，尤其從動態圖像壓縮標準MPEG-X系列可以看出，基于圖像內容信息的壓縮編碼方法將是圖像壓縮發展的趨勢【7】。 本文在闡述BP 神經網絡的圖像壓縮原理基礎上，仿真實現了基于BP神經網絡的靜態灰度圖像壓縮。第二章 人工神經網絡簡介人工神經網絡從生理學角度模擬人腦大量神經元細胞的運行機理，通過不斷對鏈接權值進行修改，達到訓練、模擬、預測

14、等目的。人工神經網絡經一段時間的低潮后，從 20 世紀 80 年代起，逐漸進入熱潮，并衍生出多種網絡鏈接方式，在工程、勘探、圖像、預測等方面應用廣泛【8】。1988年Hecht-Nielsen對人工神經網絡定義如下“人工神經網絡是一個并行、分布處理結構，它由處理單元及稱為連接的無向信號通道互連而成。這些處理單元具有局部內存，并可以完成局部操作。每個處理單元有一個單一的輸出鏈接，這個輸出可根據需要被分支多個并行鏈接，且這些并行連接都輸出相同的信號，即相應處理單元的信號及信號的大小不因分支的多少而變化。處理單元的輸出信號可以是任何需要的數學模型，每個處理單元進行的操作必須是完全局部的。也就是說，它

15、必須僅僅依賴于經過輸入連接到達處理單元的所有輸入信號的當前值和儲存在處理單元局部的范圍值?！薄?】1986 年，Rumelhart和Mc Celland在 Parallel Distributed Processing一書中，提出 BP 學習算法。用得最廣泛的BP神經網絡一般采用三層，即一輸入層，一隱層，一輸出層。BP算法訓練時，由工作信號正向傳播和誤差信號反向傳播組成；工作時，采用訓練好的權值進行計算。 工作信號正向傳播。神經網絡的輸入數據在輸入層經傳遞函數的計算，把結果傳向隱層；再經隱層傳遞函數的計算，結果傳向輸出層，在輸出層產生輸出。在此過程中，網絡權值不變，算法計算因輸入、網絡權重、閾

16、值、傳遞函數等產生的輸出。 誤差信號反向傳播產生輸出結果后，根據輸出值和期望值之間的差異，把誤差回傳，根據不同的具體算法，從輸出層起，逐層調整網絡權值，至輸入層，目的是通過調整權值，使輸出的數據更接近期望值然后再進行工作信號正向傳播，得出輸出層結果后，再調整網絡權值，如此循環。工作時，采用經多次調整的網絡權值，把輸入數據傳遞到輸出層，產生輸出。BP 網絡是目前發展較為成熟的神經網絡模型之一，是一種利用非線性可微分函數進行權值修正與調整的多層前饋人工神經網絡，能通過嚴謹的數學理論進行推理驗證，在模式識別、函數逼近、數據壓縮等方面獲得了廣泛應用與認同。BP 網絡算法的主要特點是輸入信號正向傳遞，誤

17、差反向傳播。BP 網絡的學習訓練算法的實質是把樣本集合的輸入輸問題變換為一個非線性優化問題【10】。其網絡結構分為輸入層、隱含層、輸出層等三層。一個典型的BP神經網絡模型結構如圖1。圖1 一個典型的BP網絡模型結構人腦在接受視覺感觀傳來的大量圖像信息后，能夠迅速做出反應，并在腦海中重現這些信息， 這不僅與人腦的巨大信息儲存能力有關，還說明人腦具有較強的特征提取能力。人工神經網絡雖然是人腦的簡單模擬和抽象，但具有許多與人腦相似的信息處理能力， 自然也具有較強的數據壓縮能力， 一些神經網絡模型能直接提供數據壓縮就是一個很好的例子【11】。由于現實圖像內容變化的隨機性，對圖像的分割以及平穩區域與非平

18、穩區域的數學描述還沒有找到一個有效的手段和方法，試圖用一種圖像模型來描述自然界千奇百怪的圖像是不現實的， 而人工神經網絡在解決類似的黑箱上特別有效， 故可以用神經學習圖像中規律性的東西， 通過神經網絡自適應機制， 如結構自適應、學習率參數的變化和連接權值的變化等進行調整。因此， 可以利用神經網絡的特點對圖像信息進行有效的分解、表征和編碼， 從而取得傳統方法無法比擬的結果。這就是將人工神經網絡用于圖像壓縮的基本思想和出發點。具體來講， 與傳統的圖像壓縮方法相比，人工神經網絡具有如下一些優勢：(1) 圖像信號的正交變換中，如果所選的基向量與圖像信號的協方差矩陣的特征向量接近， 則變換域內圖像信號的

19、相關性將明顯下降，能量相對集中， 就能使圖像信號的帶寬得到較大壓縮， 此時的變換比較接近最佳線性變換(KLT)。對于隨機性很強的圖像信號來說，很難找到一種與不同統計特性的圖像信號完全匹配的變換， 因此變換矩陣中基向量的選擇不是固定的， 這就給最佳變換編碼的實現帶來了困難，而神經網絡的強映射力和非線性特性， 使它可以學習具有相當接近輸入信號特征空間基的能力，因此用來解決最佳變換的實現是很有效的【12】；(2) 神經網絡中及其豐富的訓練算法為設計高效的圖像壓縮編碼系統提供了新的途徑；(3) 大多數人工神經網絡都具有相當強的模式識別與模式分類能力， 這給圖像編碼方案中模式分類問題的解決提供了一個強有

20、力的工具；(4)神經網絡有較強的容錯性和聯想記憶功能，任何局部的損壞不會影響整體結果， 這一特性有助于對有噪圖像的數據壓縮及對壓縮后信息不全圖像的恢復；(5)神經網絡的大規模并行處理能力及分布式結構，為神經網絡圖像編碼的實時實現創造了條件， 這也是將神經網絡用于圖像編碼的優勢所在。目前，將人工神經網絡理論與技術引入圖像編碼領域的研究工作十分活躍，發展相當快，基于人工神經網絡模型的圖像編碼方法已涉足圖像編碼研究的很多方面， 所使用的神經網絡模型已有近十種，對現有的神經網絡圖像編碼方法進行歸納、總結， 有助于了解神經網絡方法的發展方向，使已取得的成果系統化，使尚未解決的問題明確化【13】。不少神經

21、網絡模型都有相當強的數據壓縮能力，當然，有些神經網絡模型不能提供直接的數據壓縮， 而是間接參與數據壓縮。如果以用于圖像編碼的神經網絡模型為主線， 對現有神經網絡圖像編碼方法進行分類， 一方面可了解哪些神經網絡模型具有壓縮能力， 從而進一步挖掘潛力， 另一方面可了解神經網絡與圖像壓縮技術結合的途徑，從而探討其它模型的壓縮能力， 建立適合數據壓縮的新的模型， 在進行歸類的過程中， 將那些常用的或者重要的神經網絡模型和學習算法分別作為一個獨立的類別， 而將那些很少使用或新近提出的神經網絡模型劃入其它類別， 按此原則， 目前用于圖像編碼的神經網絡模型和學習算法主要有以下幾類：(1) 多層前饋神經網絡，

22、其學習算法為BP算法，所以又叫BP網絡；(2) Kohonen 自組織神經網絡，包括頻率敏感競爭學習(FSCL)網絡，其學習算法為自組織特征映射(SOFM)算法；(3) Hpfield 神經網絡；(4) 模擬退火(SA)學習算法；(5) 混合神經網絡模型；(6) 其它神經網絡模型，包括CPN，函數鏈神經網絡，Sophia 聯想神經網絡(SANNET)， 改進的Hebbian 學習規則的系列應用(SAMH)等。第三章 BP 神經網絡的圖像壓縮原理數字圖像壓縮是以較少的比特數有損或者無損地表示原來的像素矩陣的一種圖像處理技術，其目的是減少圖像數據中的時間冗余、空間冗余、頻譜冗余等一種或多種冗余信息

23、而達到更加高效的存儲與傳輸數據。圖像壓縮系統無論采用什么具體的結構或者技術方法，其基本過程卻是一致的，可概括為如圖2 所示的流程圖，包括編碼、量化、解碼等三個環節【14】。圖2 圖像壓縮基本流程從理論上講，編解碼問題可以歸納為映射與優化問題，而人工神經網絡從數學上分析就是實現了從輸入到輸出的一個非線性映射關系，并具有高度并行處理能力、較高的容錯性與魯棒性。分析圖像壓縮的基本原理、環節與BP 的網絡結構分布，可得出基于BP 網絡的圖像壓縮原理如圖3 所示。圖3 基于BP神經網絡的圖像壓縮原理在BP 網絡中，輸入層到隱含層之間的映射關系相當于編碼器，用于對圖像信號進行線性或者非線性變換。而隱含層到

24、輸出層之間的映射關系相當于解碼器，通過對壓縮后的信號數據進行反變換以達到重建圖像數據。壓縮比率S= 輸入層神經元節點數/ 隱含層神經元節點數。BP 神經網絡的輸入層與輸出層的神經元節點數目從理論上應該是一致的，而隱含層的神經元數目比輸入輸出層地數目要少的多。這樣理論上可通過調節隱含層神經元節點數目可達到不同圖像壓縮比效果。BP網絡是目前最為常用的一種神經網絡模型，它可以直接提供數據壓縮能力。最典型的例子是一種三層對稱的BP網絡，包括輸入層、隱含層和輸出層，隱含層的節點數要少于輸入節點數， 輸入節點數與輸出節點數相同， 整個網絡結構是完全對稱的。學習時， 圖像數據既送到輸入層又送到輸出層作為教師

25、信號，所使用的學習算法為BP 算法。網絡訓練好以后，輸入層到隱含層為網絡的編碼過程，對圖像數據進行線性或者非線性變換， 從隱含層到輸出層為網絡的解碼過程，對經過壓縮后的變換系數進行線性或非線性反變換，恢復圖像的原始數據。這類方法稱為結構壓縮法。N.Sonehara 等人1989 年探討了三層前饋神經網絡的通用性與訓練圖像數目以及迭代次數的關系，還探討了隱節點輸出值量化和初始權值的選擇對重建圖像質量的影響，為了控制網絡規模，將圖像分成8×8的子塊， 每一子塊分別送到相應的子網絡進行并行處理， 因此學習速度相當快，每學習一幅圖像僅一秒鐘。1990年，Z.He與H.Li將多層前饋神經網絡用

26、于圖像非線性預測編碼，結果表明：神經網絡實現的非線性預測器優于線性預測器，網絡的抗噪性強，通用性好。隨后，與張偉等人進行了類似的研究，得出了相同的結論。BP 算法流程如圖4 所示。誤差反向傳播算法分為兩個階段：第一階段(正向傳播過程)， 給出輸入信息通過輸入層經隱含層逐層處理并計算每個單元的實際輸出值； 第二階段(反向傳播過程)， 若在輸出層未能得到期望的輸出值，則逐層遞歸求期望輸出和實際輸出值的偏差(即誤差)，以便根據此誤差調節權值。權值的實際改變可由權值誤差微商一個模式一個模式的計算出來，即它們可以在這組模式集上進行累加【15】。圖4 BP算法流程圖誤差反向傳播算法的性能函數是均方誤差。對

27、單層的線性網絡，誤差是網絡權值的顯式線性函數，其相對于權值的導數較為容易求得。在具有非線性傳輸函數的多層網絡中，網絡權值和誤差的關系就更為復雜。為了計算導數，需要使用微積分的鏈式法則。采用BP算法的多層前饋網絡是至今為止應用最為廣泛的神經網絡，在多層前饋網的應用中， 以圖5 所示的單隱層網絡的應用最為普遍【16】。一般習慣將單隱層前饋網稱為三層前饋網， 所謂三層包括了輸入層、隱層和輸出層。圖5 三層BP網絡模型通常,圖像的數字編碼，其實質是在一定質量(信噪比要求或主觀評價得分)條件下， 以最少比特數來表示(傳輸)一幅圖像。為了比較各種壓縮編碼效率，需定義表示其壓縮效率的壓縮比，通用的壓縮比可定

28、義為:壓縮比用于表示原始數據量與壓縮后存儲數據量之間的比值關系，衡量數據壓縮的程度。壓縮比越大丟棄的信息越多，重構圖像質量越差。壓縮比主要是用來評價圖像的壓縮性能，而另外還有一些評價重建圖像的質量的性能參數，如峰值信噪比( PSNR )，造成解壓后重構圖像失真的就是壓縮過程中丟棄的那部分信息，這部分信息可以通過原始圖像與重構圖像之間的函數關系來表示，PSNR能反映出這兩者間的關系。峰值信噪比定義為： 。本文的程序在附錄里有詳細說明，下面圖6展示了利用BP神經網絡實現圖像壓縮的效果：圖表 6 圖像壓縮結果總結本次壓縮的峰值信噪比PSNR：33.8075，壓縮比：2.3136，壓縮效果明顯，重構圖

29、像效果較好。但是它也有很多不完美的地方：(1) 己經學習好的網絡的泛化問題，即能否逼近規律、能否正確處理大量沒有學習的樣本、是否有預測能力；(2) 基于BP 算法的網絡的誤差面有三個特點：有很多局部最小的解； 存在一些平坦區， 在此區內誤差改變很?。?存在不少的局部最小點， 在某些初值的條件下算法容易陷入局部最小點。由于第二和第三個缺點， 造成網絡完全不能訓練； 初始的隨機加權的大小， 對局部最小的影響很大； 訓練步長的大小， 直接影響訓練時間的長短， 其選擇沒有理論指導。(3) 學習算法的收斂速度緩慢， 且容易振蕩；(4) 網絡的隱含層節點的個數的選取尚缺少統一而完整的理論指導。針對這些問題

30、，將在以后的研究中進行改進。參考文獻1張旭峰.基于壓縮感知的圖像壓縮研究D.西北大學,20152徐大衛.基于字典學習的高光譜圖像壓縮算法研究D.中國科學技術大學,20153王丹楓.基于在線字典學習的高光譜圖像壓縮技術研究D.哈爾濱工業大學,20154吳運澤.基于小波變換的多級樹集合分裂圖像壓縮算法研究D.沈陽工業大學,20155劉志翔.基于BP神經網絡的汽車保險需求預測研究D.暨南大學,20156董程.基于改進神經網絡的車牌識別算法的研究及仿真D.哈爾濱理工大學,20157羅毅.基于BP神經網絡與智能算法的股價預測方法研究D.深圳大學,20158XiaoHong Han;Xiaoyan Xio

31、ng;Fu Duan.A new method for image segmentation based on BP neural network and gravitational search algorithm enhanced by cat chaotic mappingJ.Applied Intelligence,2015,No.49Xuewu Ji;Jian Wang;Youqun Zhao;Yahui Liu;Liguo Zang;Bo Li.Path planning and tracking for vehicle parallel parking based on prev

32、iew BP neural network PID controllerJ.Transactions of Tianjin University,2015,No.310Ximing You;Xuewu Cao.Study of Liquid Lithium Coolant Interaction Based on BP Neural Network Optimized by Genetic AlgorithmJ.Journal of Fusion Energy,2015,No.411Weikuan Jia;Dean Zhao;Tian Shen;Shifei Ding;Yuyan Zhao;C

33、hanli Hu.An optimized classification algorithm by BP neural network based on PLS and HCAJ.Applied Intelligence,2015,No.112Juncheng, Tao.Adaptive combination forecasting model for Chinas logistics freight volume based on an improved PSO-BP neural networkJ.Kybernetes: The International Journal of Syst

34、ems & Cybernetics,2015,No.413Woodworth, Joseph Thomas.Numerical Optimization Methods for Image Processing and Machine LearningD.UCLA,201614叢爽編著.面向MATLAB工具箱的神經網絡理論與應用M.200915賀興華等編著.MATLAB 7.x圖像處理M.200616周潤景，張麗娜著.基于MATLAB的模糊與神經網絡設計M.2010附錄1程序代碼bp_imageCompress.m% bp_imageCompress.m% 基于BP神經網絡的圖像壓縮%

35、 清理clcclear all% 壓縮率控制K=4;N=10;row=256;col=256;% 數據輸入% I=imread('lena.bmp');i=imread('tyut2.jpg');I=rgb2gray(i);%I灰度圖像% 統一將形狀轉為row*colI=imresize(I,row,col);% 圖像塊劃分，形成K2*N矩陣P=block_divide(I,K);% 歸一化P=double(P)/255;% 建立BP神經網絡net=feedforwardnet(N,'trainlm');T=P;net.trainParam.go

36、al=0.001;net.trainParam.epochs=1000;ticnet=train(net,P,T);toc% 保存結果com.lw=net.lw2;com.b=net.b2;,len=size(P); % 訓練樣本的個數com.d=zeros(N,len);for i=1:len com.d(:,i)=tansig(net.iw1*P(:,i)+net.b1);endminlw= min(com.lw(:);maxlw= max(com.lw(:);com.lw=(com.lw-minlw)/(maxlw-minlw);minb= min(com.b(:);maxb= max(

37、com.b(:);com.b=(com.b-minb)/(maxb-minb);maxd=max(com.d(:);mind=min(com.d(:);com.d=(com.d-mind)/(maxd-mind);com.lw=uint8(com.lw*63);com.b=uint8(com.b*63);com.d=uint8(com.d*63);save comp com minlw maxlw minb maxb maxd mindbp_imageRecon.m% bp_imageRecon.m% 清理clear,clcclose all% 載入數據col=256;row=256;% I=imread('lena.bmp');i=imread('tyut2.jpg');I=rgb2gray(i);%I灰度圖像I=imresize(I,row,col);load compcom.lw=double(com.lw)/63;com.b=double(com.b)/63;com.d=double(com.d)/63;com.lw=com.lw*(m