2023/8/18大連理工大學1第11章隨機信號的統計最優濾波技術大連理工大學碩士研究生校管課程信號處理與數據分析電子信息與電氣工程學部2023/8/18大連理工大學1

內容概要§11.1引言§11.2維納濾波器的基本原理與方法§11.3維納預測器（略）§11.4卡爾曼濾波器簡介（略）§11.5統計最優濾波技術的應用舉例2023/8/18大連理工大學2§11.1

引言2023/8/18大連理工大學311.1.1經典濾波器與統計最優濾波器信號濾波（filtering）根據輸入信號x(t)在當前時刻和以前時刻的狀態估計信號預測（prediction）根據輸入信號x(t)在當前時刻和以前時刻的狀態來估計其在未來某個時刻的狀態。信號平滑（smoothing）或插值（interpolation）濾波器根據x(t)在t時刻以外的數據估計出x(t)在t時刻的數據。2023/8/18大連理工大學4濾波器的概念所謂濾波器實際上是一個信號處理的系統，可由模擬電路、數字電路或計算機程序等軟硬件構成，其功能是允許某一部分頻率的信號通過，而另一部分頻率的信號則受到較大的衰減和抑制，從而達到抑制噪聲提取信號的目的。濾波器的大致分類：模擬濾波器和數字濾波器；低通、高通、帶通、帶阻和全通濾波器；有源濾波器和無源濾波器；時變濾波器和時不變濾波器；線性濾波器和非線性濾波器。2023/8/18大連理工大學52023/8/18大連理工大學6經典濾波器和現代濾波器經典濾波器一般假定輸入信號x(n)中的有用成分和希望去除的成分各自占有不同的頻段；如果有用信號與噪聲干擾等無用成分的頻譜相互重疊時，經典濾波器就無能為力現代濾波器（統計最優濾波器）不依靠信號與噪聲的頻率差別來進行噪聲擬制和信號提取；依據某些統計最優準則，從帶噪聲的觀測信號中對與有用信號或信號的參數進行估計；維納濾波器、卡爾曼濾波器、線性預測器和自適應濾波器等11.1.2兩種主要的統計最優濾波器（1）維納濾波器的概念是一類線性最優濾波器的統稱；目的是從噪聲中提取有用信號。根據濾波器輸出信號與期望信號只差的均方值最小的最小均方誤差準則，求得最優線性濾波器的系數2023/8/18大連理工大學72023/8/18大連理工大學8附：維納生平簡介諾伯特·維納(NorbertWiener，1894-1964)是美國數學家，控制論的創始人。維納1894年11月26日生于密蘇里州的哥倫比亞，1964年3月18日卒于斯德哥爾摩。維納在其70年的科學生涯中，先后涉足哲學、數學、物理學和工程學，最后轉向生物學，在各個領域中都取得了豐碩成果，稱得上是恩格斯頌揚過的、本世紀多才多藝和學識淵博的科學巨人。他一生發表論文240多篇，著作14本。他的主要著作有《控制論》(1948)、《維納選集》(1964)和《維納數學論文集》(1980)。維納還有兩本自傳《昔日神童》和《我是一個數學家》。

2023/8/18大連理工大學9附：維納生平簡介（續）維納是著名的神童。三歲半開始讀書，生物學和天文學的初級科學讀物就成了他在科學方面的啟蒙書籍。七歲時，開始深入物理學和生物學的領域，甚至超出了他父親的知識范圍。1903年（9歲），他開始上學；1906年（12歲），高中畢業，同年9月入讀塔夫斯學院修讀數學；1909年（15歲）時他已取得學士學位，入讀哈佛大學研究動物學。一年后他往康乃爾大學轉讀哲學。1912年，18歲的他取得哈佛大學數理邏輯的博士學位。2023/8/18大連理工大學10附：維納生平簡介（續2）維納的主要成就：建立維納測度；引進巴拿赫—維納空間；闡述位勢理論；發展調和分析；發現維納—霍普夫方法；提出維納濾波理論；開創維納信息論；創立控制論2023/8/18大連理工大學11（2）卡爾曼濾波器的概念是一種以卡爾曼的名字命名的用于

線性時變系統的遞歸濾波器。將過去的測量估計誤差合并到新的

測量誤差中來估計將來的誤差，可

以用包含正交狀態變量的微分方程來描述。卡爾曼濾波器的首次實現是由施密特（Schmidt）完成的。卡爾曼在美國航空航天（NASA）研究中心訪問時，發現卡爾曼濾波器對于解決阿波羅計劃的軌道預測很有意義，并且后來在阿波羅飛船的導航電腦中實現上使用了這種濾波器。2023/8/18大連理工大學12附：卡爾曼生平簡介魯道夫·卡爾曼（RudolfEmilKalman）匈牙利裔美國數學家，1930年出生于匈牙利首都布達佩斯。1953年于麻省理工學院獲得電機工程學士，翌年碩士學位。1957年于哥倫比亞大學獲得博士學位。1964年至1971年任職斯坦福大學。1971年至1992年任佛羅里達大學數學系統理論中心（CenterforMathematicalSystemTheory）主任。1972起任瑞士蘇黎世聯邦理工學院數學系統理論中心主任直至退休。先居住于蘇黎世和佛羅里達。2009年獲美國國家科學獎章。

§11.2維納濾波器的基本原理與方法2023/8/18大連理工大學132023/8/18大連理工大學14維納濾波的基本思路設計維納濾波器的過程，即是在最小均方誤差準則下，尋求濾波器的單位脈沖響應，或系統傳遞函數。11.2.1因果維納濾波器設線性離散系統的單位脈沖響應為h(n)，若h(n)是因果的,其輸入信號x(n)是有用信號s(n)與觀測噪聲v(n)的線性組合維納濾波器的任務是使輸出y(n)是s(n)的估計。若h(n)是因果的，則輸出的可以看作是由當前時刻的觀測值與過去時刻的觀測值x(n-1),x(n-2),…,的線性組合來估計的。2023/8/18大連理工大學152023/8/1816因果維納濾波器（續）誤差函數的最小均方誤差準則表示為：

為了使均方誤差達到最小，對上式相對于各h(m),m=0,1,…求偏導，并令導數為0，有用相關函數表示上式，則得到維納-霍夫方程的離散形式大連理工大學2023/8/18大連理工大學17因果維納濾波器（續）從維納-霍夫方程中解出系統單位脈沖響應h(n)，這就是最小均方誤差意義上的最優，并得到最小均方誤差為11.2.2維納—霍夫方程的求解（1）有限脈沖響應求解法設h(n)的序列長度為N，則求導，并令導數為0，有2023/8/18大連理工大學182023/8/18大連理工大學19整理，有由上式可以寫出N個線性方程為（11.16）2023/8/18大連理工大學20寫為矩陣形式，有或式中為待求維納濾波器的單位脈沖響應。信號的自相關矩陣2023/8/18大連理工大學202023/8/18大連理工大學21信號與待估計信號的互相關矢量若自相關陣是非奇異的，則進一步求得最小均方誤差為若已知自相關函數和互相關函數，則由式（11.16）或式（11.19）所示的維納—霍夫方程就可以求解出最優系統的單位脈沖響應，從而在噪聲中估計出有用信號，實現最優維納濾波。（11.19）2023/8/18大連理工大學22實際上，維納—霍夫方程的求解，可以采用類似于AR模型參數估計的方法（例如Levinson-Durbin算法）來求解。若信號和噪聲滿足互不相關的條件，即若：則有：這樣，且2023/8/18大連理工大學23【例11.1】設廣義平穩隨機信號表示為。已知信號與噪聲統計獨立，且，是均值為0方差為1的白噪聲。試：（1）設計一個的維納濾波器來估計有用信號。（2）求該維納濾波器的最小均方誤差。解：（1）由已知條件，有和則2023/8/18大連理工大學24【例11.1】（續）由此解得：（2）將的值代入最小均方誤差表達式，有若已知的值，則可以得到的估計值。如果增加維納濾波器的階數，則可以改善系統的估計精度，減小均方誤差。2023/8/18大連理工大學25（2）預白化求解法（略）方法關鍵是利用預白化濾波器將輸入信號x(n)轉化為白噪聲過程w(n),并進一步求解維納-霍夫方程只要求得白化濾波器，就可以實現預白化，并進一步確定對輸入信號的最優估計。隨機信號x(n)可以看做白噪聲激勵一個線性系統所產生的響應。2023/8/18大連理工大學252023/8/18大連理工大學26設該線性系統的z域系統函數為其中，表示隨機信號x(n)自功率譜密度函數的z域形式；和分別對應中極點、零點在單位圓內和單位圓外的部分。由于的零點和極點均在單位圓內，是一個物理可實現的最小相位系統，1/B(z)也是一個物理可實現的最小相位系統。把x(n)作為系統的輸入，w(n)作為系統的輸出，從而實現輸入信號x(n)的預白化處理。2023/8/18大連理工大學27

虛線框的部分記為由上圖有：

2023/8/18大連理工大學28均方誤差為其中表示的單位脈沖響應將代入上式，使均方誤差最小，等價于令于是有2023/8/18大連理工大學292023/8/18大連理工大學302023/8/18大連理工大學31【例11.2】參見書稿2023/8/18大連理工大學32【例11.3】2023/8/18大連理工大學33關于維納濾波的說明維納濾波從理論上完美地解決了在最小均方誤差條件下的信號最佳估計問題。但是，從實際應用角度來看，卻存在不足：為了得到維納濾波器的單位沖激響應，必須知道觀測信號的自相關函數與互相關函數。自相關函數可以利用觀測信號進行估計。互相關函數則需要信號的更多的信息。及時得到上述兩個相關函數，求解維納—霍夫方程仍是比較復雜的過程。2023/8/18大連理工大學33§11.3

維納預測器2023/8/18大連理工大學3411.3.1因果維納預測器略2023/8/18大連理工大學3511.3.2N步純預測器略2023/8/18大連理工大學3611.3.3一步線性維納預測器略2023/8/18大連理工大學37§11.4

卡爾曼濾波器簡介2023/8/18大連理工大學382023/8/18大連理工大學39卡爾曼卡爾曼（RudolfE.Kalman），匈牙利數學家；1930年出生于匈牙利首都布達佩斯。1953，1954年于麻省理工學院分別獲得電機工程學士及碩士學位。1957年于哥倫比亞大學獲得博士學位；1964—1971年任職斯坦福大學。1971—1992年任佛羅里達大學數學系統理論中心主任。1972起任瑞士蘇黎世聯邦理工學院數學系統理論中心主任.2009年獲美國國家科學獎章。卡爾曼濾波器源于他的博士論文和1960年發表的論文《ANewApproachtoLinearFilteringandPredictionProblems》2023/8/18大連理工大學3911.4.1卡爾曼濾波器的基本原理卡爾曼濾波器（Kalmanfilter）可以認為是維納濾波器的推廣；它不僅可以適用于平穩過程，而且可以適用于非平穩過程；不僅可以用于線性濾波問題，還可以用于非線性控制問題，甚至可以用于多輸入-多輸出系統。其基本特點是在時域內分析，并且應用狀態空間分析方法。2023/8/18大連理工大學402023/8/18大連理工大學41重要的量2023/8/18大連理工大學41重要的量2023/8/18大連理工大學42狀態方程與觀測方程（又稱輸出方程）其中：為狀態矢量，是被估計的量；是輸入信號；是觀測數據；表示時刻的狀態矩陣；表示系統白噪聲；表示系統噪聲影響各狀態的程度；表示量測矩陣；為輸入矩陣；為觀測噪聲。

噪聲和為互不相關的0均值白噪聲，滿足：2023/8/18大連理工大學422023/8/18大連理工大學43卡爾曼濾波的基本思路與步驟卡爾曼濾波采用遞推算法；第一步：先不考慮系統噪聲的影響，由時刻的狀態變量估計值估計狀態變量和輸出信號的初步估計值：這樣，初步估計輸出值與實測輸出值的誤差為：2023/8/18大連理工大學44第二步：用第一步得到的輸出信號的誤差加權后校正狀態變量的估計值，即按照以下卡爾曼濾波方程求得濾波結果：式中，加權矩陣（增益矩陣）為：預測誤差的方差矩陣定義為：可以證明：2023/8/18大連理工大學442023/8/18大連理工大學45其中時刻的誤差方差矩陣定義為而它與的關系為卡爾曼濾波的關鍵：是計算加權矩陣的最佳值，使狀態變量估計的誤差最小。只要滿足：就可以實現上述目標。2023/8/18大連理工大學452023/8/18大連理工大學46計算公式：計算流程2023/8/18大連理工大學462023/8/18大連理工大學47【例】假定隨機信號是由一個0均值白噪聲序列激勵的一階遞歸系統所產生的廣義馬爾可夫過程，其信號模型和觀測模型為：和為統計獨立的白噪聲序列，有試描述最佳遞推的運算過程。2023/8/18大連理工大學472023/8/18大連理工大學48【解】2023/8/18大連理工大學482023/8/18大連理工大學49卡爾曼濾波器的進一步分析卡爾曼濾波器的遞推可以無限進行下去，但實際問題中，可能會發生發散，原因：（1）計算機字長所引起數據舍入誤差的影響；常采用雙精度運算或改用均方誤差陣的平方根。（2）待估計過程模型不夠精確；減小舊觀測值的權重，而增加信觀測值的權重。（3）由系統的不可觀測性引起，即指系統的狀態變量有隱含的，不能依據現有數據進行估計；2023/8/18大連理工大學49§11.5

統計最優濾波技術的應用舉例2023/8/18大連理工大學502023/8/18大連理工大學511.維納濾波提取誘發電位1在人的頭皮表面，可以記錄到兩種腦電活動，即自發腦電圖（electroencephalogram，EEG）和與一定刺激相關的腦電誘發電位（evoke