自適應信號處理改進型最小均方自適應算法第四章新工科建設：電子信息類系列教材01歸一化LMS算法歸一化LMS算法1第3章討論的LMS算法中存在著失調與收斂速度的矛盾。在保證濾波器具有一定的失調性能的情況下，如何縮短收斂過程就成為一個值得研究的問題。本章將給出幾種用于提高收斂速度、縮短收斂過程的改進型LMS算法。提高LMS算法收斂速度的基本思路主要有三種。（1） 采用不同的梯度估值。如LMS牛頓算法，它在估計梯度時釆用了輸入向量相關矩陣的估值，使得收斂速度大大快于基本LMS算法，因為它在迭代過程中采用了更多的有關輸入信號向量的信息。基于約束優化問題求解歸一化LMS算法歸一化LMS算法1（2） 對收斂因子（步長）選用不同方法。步長的大小決定著算法的收斂速度和穩態時失調量的大小。對于步長取常數值來說，收斂速度和失調量是一對矛盾量。而采用變步長的方法可以克服這一矛盾。自適應過程開始時，選用較大的步長以保證較快的收斂速度，然后讓步長逐漸減小，以保證收斂后得到較小的失調量，如歸一化LMS算法。（3） 釆用變換域分塊處理技術。對用濾波器權向量來調整修正項的迭代方式，可以用變換域快速算法與分塊處理技術來大大減小計算量，且能改善收斂特性，如頻域內的快速塊LMS算法。LMS牛頓算法在第3章己經介紹，下面分別來介紹歸一化LMS算法和快速塊LMS算法。基于約束優化問題求解歸一化LMS算法歸一化LMS算法1歸一化LMS算法濾波器的結構形式與LMS算法濾波器完全一樣，都是橫向濾波器。在第3章討論的基本LMS算法中，1次迭代中濾波器抽頭權向量的修正項包含三項：步長參數日、抽頭輸入向量，估計誤差。由于濾波器抽頭權向量修正項與抽頭輸入向量成正比，因此，LMS算法的梯度噪聲將被放大。釆用歸一化LMS算法可以克服LMS算法的這一缺點。最陡下降算法的基本思想歸一化LMS算法1在歸一化LMS算法中，1次迭代中濾波器抽頭權向量的修正項被抽頭輸入向量的平方歐氏范數歸一化。本節將從約束優化問題的角度來導出歸一化LMS算法。歸一化LMS算法的基本思想遵循濾波器設計的最小化干擾原理。濾波器設計的最小化干擾原理為：自適應濾波器權向量從一次迭代到下一次迭代的過程中應以最小方式改變，而且受到更新的濾波器輸出所施加的約束。最陡下降算法的基本思想歸一化LMS算法1最陡下降算法的基本思想歸一化LMS算法1最陡下降算法的基本思想歸一化LMS算法1LMS算法權向量的修正項被抽頭輸入向量的平方歐氏范數歸一化。相比于基本LMS算法權向量的迭代公式，則可以把歸一化LMS算法視為變步長的LMS算法。由于歸一化LMS算法在LMS算法隨機梯度估計的基礎上相對于抽頭輸入向量的平方歐氏范數進行了歸一化，因此無論是對于不相關數據還是對于相關數據，歸一化LMS算法都比基本LMS算法有更快的收斂速度。最陡下降算法的基本思想歸一化LMS算法2歸一化LMS算法小結歸一化LMS算法2除歸一化LMS算法外，還有兩種改進型LMS算法：時域正交LMS(TDO-LMS)算法和修正LMS(MLMS)算法，都屬于可變步長的LMS算法，可以縮短自適應收斂過程的時間。感興趣的讀者可參閱相關文獻。歸一化LMS算法小結02塊LMS算法塊LMS算法1塊自適應濾波器圖4-1給出了塊自適應濾波器的結構框圖。輸入數據序列通過串-并轉換器被分成長度為的塊，產生的輸入數據塊被一次一塊地加到長度為M的橫向濾波器。在收集到每一塊數據樣值后進行濾波器抽頭權值的更新，使得濾波器的自適應一塊一塊地進行，而不是像基本LMS濾波器那樣一個一個樣值地進行。塊LMS算法1塊自適應濾波器塊LMS算法1塊自適應濾波器塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法2塊LMS算法描述塊LMS算法3塊LMS算法的收斂性塊LMS算法4塊LMS算法塊長度的選擇塊LMS算法的塊長度[存在三種可能的選擇，每種選擇都有各自的實際應用。這三種可能選擇分別如下。(1)L=M，從計算復雜性來看，這是最佳選擇。(2)L<M，這種情況具有降低處理延遲的好處。此外，由于塊長度小于濾波器長度，因此此時還有自適應濾波器算法的計算效率優于LMS算法的優點。(3)L>M，會產生自適應過程的冗余運算，因為此時梯度向量的估計使用了比濾波器本身更多的信息。在大多數實際應用中，人們更多地使用L=M的塊自適應濾波情況。03快速塊LMS算法快速塊LMS算法塊LMS算法的關鍵問題在于如何釆用有效的計算方式來實現該算法。塊LMS算法濾波器的輸出運算為濾波器的抽頭輸入信號與抽頭權值的線性卷積；塊LMS算法權向量修正項的主要運算為濾波器抽頭輸入信號與誤差信號的線性相關。而根據數字信號處理相關理論可知，快速變換(FFT)可以實現快速卷積和快速相關運算。因此，利用FFT在頻域上可以完成塊LMS算法。用這種方式實現的塊LMS算法稱為快速塊LMS(FBLMS)算法。首先考慮線性卷積。利用FFT計算線性卷積有兩種方法：重疊保留法和重疊相加法。其中重疊保留法更