1、RLS和LMS自適應算法分析摘要：本文主要介紹了自適應濾波的兩種算法：最小均方(LMS, Least Mean Squares)和遞推最小二乘(RLS, Recursive Least Squares)兩種基本自適應算法。我們對這兩種基本的算法進行了原理介紹，并進行了Matlab仿真。通過仿真結果，我們對兩種自適應算法進行了性能分析，并對其進行了比較。用Matlab求出了LMS自適應算法的權系數，及其學習過程曲線，和RLS自適應權系數算法的學習過程。關鍵詞：自適應濾波、LMS、RLS、Matlab仿真Abstract: this article mainly introduces two ki

2、nds of adaptive filtering algorithms: Least Mean square (LMS), further Mean Squares) and Recursive Least Squares (RLS, Recursive further Squares) two basic adaptive algorithm. Our algorithms of these two basic principle is introduced, and Matlab simulation. Through the simulation results, we have tw

3、o kinds of adaptive algorithm performance analysis, and carries on the comparison. Matlab calculate the weight coefficient of the LMS adaptive algorithm, and its learning curve, and the RLS adaptive weight coefficient algorithm of the learning process.Keywords:, LMS and RLS adaptive filter, the Matl

4、ab simulation課題簡介：零均值、單位方差的白噪聲通過一個二階自回歸模型產生的AR過程。AR模型的系統函數為： H(Z)=假設=-1.6,=0.8將系統函數轉化為差分方程為： 其中w(n)為白噪聲，參數=-1.6,=0.8。激勵源是白噪聲w(n)。本文用Matlab仿真做出了模型系數的收斂過程及平均的學習曲線。分別用LMS算法和RLS算法，分別做出了模型系數的收斂過程及學習曲線，還對兩種算法的特性進行了對比。引言：由于隨機信號的未知性和隨時間變化的統計特性，需要設計參數隨時間變化的濾波器算法，即所謂的自適應濾波。它是利用前一時刻以獲得的濾波器參數的結果，自動的調節現時刻的濾波器參數，

5、以適應信號和噪聲未知的或隨時間變化的統計特性，從而實現最優濾波。 自適應濾波器的特性變化是由自適應算法通過調整濾波器系數來實現的。不同的自適應濾波器算法，具有不同的收斂速度、穩態失調和算法復雜度。自適應濾波算法中利用了輸出反饋，屬于閉環算法。其優點是能在濾波器輸入變化時保持最佳的輸出，而且還能在某種程度上補償濾波器元件參數的變化和誤差以及運算誤差。但其缺點是存在穩定性問題以及收斂速度不高。所以探討如何提高收斂速度、增強穩定性以滿足信號處理的高效性、實時性，一直是人們研究的重點和熱點。本文基對比研究了兩類基本的自適應算法LMS和RLS，并對它們權系數的收斂過程及學習過程進行了分析。 LMS原理分

6、析：LMS算法是自適應濾波器中常用的一種算法與維納算法不同的是其系統的系數隨輸入序列而改變。維納算法中截取輸入序列自相關函數的一段構造系統的最佳系數。而LMS算法則是對初始化的濾波器系數依據最小均方誤差準則進行不斷修正來實現的。因此理論上講LMS算法的性能在同等條件下要優于維納算法但是LMS算法是在一個初始化值得基礎上進行逐步調整得到的因此在系統進入穩定之前有一個調整的時間這個時間受到算法步長因子的控制在一定值范圍內增大會減小調整時間但超過這個值范圍時系統不再收斂的最大取值為R的跡。LMS采用平方誤差最小的原則代替均方誤差最小的原則，信號基本關系如下： 寫成矩陣形式為： 式中W(n)為n時刻自

7、適應濾波器的權矢量，N為自適應濾波器的階數。X(n)為n時刻自適應濾波器的參考輸入矢量，由最近的N個信號的采樣值構成，。d(n)是期望的輸出值；e(n)為自適應濾波器的輸出誤差調節信號；是控制自適應速度與穩定性的增益常數。LMS的算法流程圖：讀取x(n)和d(n)初始化w(n) 計算誤差e(n)=d(n)-y(n) 計算因子更新權RLS算法原理分析：為遺忘因子，它是小于1的正數：參考信號或期望信號第n次迭代的權值均方誤差按照如下準則：越舊的數據對的影響越小。對濾波器的系數w求偏導，并令結果等于0知整理得到標準方程為：定義:標準方程可以簡化為：經求解可以得到迭代形式：定義：，則可知T的迭代方程為

8、：系數的迭代方程為其中增益和誤差的定義分別為：參數遞推估計，每取得一次新的觀測數據后，就在前次估計結果的基礎上，利用新引入的觀測數據對前次估計的結果，根據遞推算法進行修正，減少估計誤差，從而遞推地得出新的參數估計值。這樣，隨著新觀測數據的逐次引入，一次接一次地進行參數估計，直到參數估計值達到滿意的精確程度為止。RLS算法流程圖：初始化；計算T(n),w(n),k(n),e(n|n-1) 計算誤差e(n)=d(n)-y(n)更新權LMS算法程序：clearclose allclca1=-1.6; a2=0.8; n=1000; P=50;e=zeros(1,n);ep=zeros(1,n);ee

9、=zeros(1,n);x=zeros(1,n)' w=randn(1,n)' %算法for p=1:P x(1)=w(1); x(2)=-a1*x(1)+w(2); for i=3:n x(i)=-a1*x(i-1)-a2*x(i-2)+w(i);end L=2; u=0.0005; wL=zeros(L,n);for i=(L+1):n X=x(i-L:1:(i-1); y(i)=X'*wL(:,i); %i時刻輸出信號 e(i)=x(i)-y(i); %i時刻誤差信號 wL(:,(i+1)=wL(:,i)+2*u*e(i)*X; %i時刻濾波器的權值 ee(i)=

10、e(i)2;end ep=ep+ee; endeq=ep/P;a1L=-wL(2,1:n); % a1在LMS算法下值的變化，wL矩陣中第一行的1到n個數 a2L=-wL(1,1:n); % a2在LMS算法下值的變化 ，wL矩陣中第二行的1到n個數 %畫圖subplot(2,2,1);plot(1:n,x); title('高斯白噪聲w');subplot(2,2,2); plot(1:n,a1L,'r-',1:n,a1,'k-'); title('a1的學習過程');subplot(2,2,3); plot(1:n,a2L,&

11、#39;r-',1:n,a2,'k-'); title('a2的學習過程');subplot(2,2,4);plot(1:n,eq);title('50次平均后的學習過程'); 圖1：步長因子=0.0005時LMS仿真圖形 圖2：步長因子=0.001時LMS仿真圖形 圖3：步長因子=0.005時LMS仿真圖形結果分析：1. 在仿真過程中可以看到，圖形的收斂時間隨著步長因子的增大而減小。說明步長因子與收斂時間成反比，其決定了LMS算法學習過程的快慢。2. 由上圖對比可知，當步長因子增大時，收斂時間減少，但會使失調增大，當等于0.0005與0

12、.001時圖形沒有失調，但當等于0.005時，就會發現圖形失調嚴重。3. 綜上所述可得出結論：控制失調與加快收斂速度矛盾。 LMS與RLS對比程序：程序：clear;close all;clc;a1=-1.6; a2=0.8; n=1000; x=zeros(1,n)' w=randn(1,n)' x(1)=w(1); x(2)=-a1*x(1)+w(2); for i=3:n x(i)=-a1*x(i-1)-a2*x(i-2)+w(i); end; %LMS濾波 L=2; u=0.001; wL=zeros(L,n);for i=(L+1):n X=x(i-1:-1:(i-L

13、); y(i)=X'*wL(:,i); e(i)=x(i)-y(i); wL(:,(i+1)=wL(:,i)+2*u*e(i)*X; end; a1L=-wL(1,1:n); a2L=-wL(2,1:n); %RLS濾波 L=2; namuta=0.98; wR=zeros(L,n);T=eye(L,L)*10;% %RLS算法下T參數的初始化,T初始值為10 for i=(L+1):n X=x(i-1:-1:(i-L); K=(T*X)/(namuta+X'*T*X);%i時刻增益值 e1=x(i)-wR(:,i-1)'*X; wR(:,i)=wR(:,i-1)+K*

14、e1; %i時刻權值 y(i)=wR(:,i)'*X; e(i)=x(i)-y(i); T=(T-K*X'*T)/namuta; %i時刻的維納解 end; a1R=-wR(1,1:n); a2R=-wR(2,1:n); %畫圖subplot(2,1,1); plot(1:n,a1L,'r-',1:n,a1R,'g-',1:n,a1,'k-'); title('LMS與RLS算法a1權系數收斂過程對比'); subplot(2,1,2); plot(1:n,a2L,'r-',1:n,a2R,'

15、;g-',1:n,a2,'k-'); title('LMS與RLS算法a2權系數收斂過程對比'); 圖4：LMS與RLS仿真圖形對比結果分析：1. RLS算法在算法的穩態階段即算法的后期收斂階段其性能和LMS算法相差不明顯但在算法的前期收斂段RLS算法的收斂速度要明顯高于LMS算法。但是RLS算法復雜度高計算量比較大。RLS算法與LMS對比：由于LMS算法只是用以前各時刻的抽頭參量等作該時刻數據塊估計時的平方誤差均方最小的準則，而未用現時刻的抽頭參量等來對以往各時刻的數據塊作重新估計后的累計平方誤差最小的準則，所以LMS算法對非平穩信號的適應性差。RLS

16、算法的基本思想是力圖使在每個時刻對所有已輸入信號而言重估的平方誤差的加權和最小，這使得RLS算法對非平穩信號的適應性要好。與LMS算法相比，RLS算法采用時間平均，因此，所得出的最優濾波器依賴于用于計算平均值的樣本數，而LMS算法是基于集平均而設計的，因此穩定環境下LMS算法在不同計算條件下的結果是一致的。在性能方面，RLS的收斂速率比LMS要快得多，因此，RLS在收斂速率方面有很大優勢。圖6分別為RLS算法和LMS算法在處理過程中的誤差曲線，它指出了在迭代過程中的誤差減少過程。由圖可見，RLS算法在迭代過程中產生的誤差明顯小于LMS算法。由此可見，RLS在提取信號時，收斂速度快，估計精度高而且穩定性好，可以明顯抑制振動加速度