1、智能控制導論姓 名 * 學 院 自動化與電氣工程學院 專 業 控制科學與工程 班 級 * 學 號 * 指導老師 * 二一六年六月十八故障診斷中基于神經網絡的特征提取方法研究摘要：對文章故障診斷中基于神經網絡的特征提取方法研究進行總結概括，分析了BP神經網絡的優缺點，針對BP神經網絡不足,提出了一種新的特征提取方法，即分形維數-免疫克隆選擇特征提取算法，并對該算法進行闡述和分析。關鍵詞：特征提取；BP神經網絡；免疫克隆選擇算法1 對附錄文章的概括總結1.1基于神經網絡的特征評價附錄文章是以電路檢測與故障診斷為背景，提取重要的特征參數，對電路的工作狀態進行定量描述。為滿足工程需要，附錄文章利用神經

2、網絡進行特征選擇時主要以特征參數的靈敏度作為其評價指標。學習誤差為E=，定義E為評價特征提取的準則函數,則當E 滿足要求時, B P 網絡第1 隱層的輸出值即為提取得到的新特征。學習誤差公式實現了新特征空間到原始特征空間的反映射, 給出該反映射后產生的誤差大小。1.2基于BP網絡的特征提取1.2.1 特征提取的概念特征提取是利用已有的特征參數構造1 個較低維數的特征空間, 將原始特征中蘊含的有用信息映射到少數幾個特征上, 忽略多數的不相干信息。從數學意義上講,就是1 個n 維向量x =進行降維變換至低維向量Y =,m n。其中Y 確實含有向量X 的主要特性。1.2.2 BP神經網絡BP神經網絡

3、是1986年由Rumelhart和McCelland為首的科學家小組提出，是一種按誤差逆傳播算法訓練的多層前饋網絡，是目前應用最廣泛的神經網絡模型之一。BP神經網絡能學習和存貯大量的輸入輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法，通過反向傳播來不斷調整網絡的權值和閾值，使網絡的誤差平方和最小。BP神經網絡模型拓撲結構包括輸入層、隱層和輸出層。1.2.3 基于BP神經網絡特征提取的步驟 （1）對原始特征值進行歸一化處理; （2）選擇B P 網絡模型結構參數, 輸入和輸出單元數等于原始特征參數的維數, 第l 隱層單元數等于新特征參數的維數, 一般選隱層

4、數為1; （3）選擇合適的神經網絡學習參數, 以保證較高的收斂精度; （4）利用誤差反傳法訓練B P 網絡, 通常滿足系統特征提取性能下誤差所需的精度即可; （5）將原始特征參數的所有樣本輸入訓練好的B P網絡, 進行前向計算, 求出B P 網絡第1 隱層各單元的輸出值，即得到所提取的特征參數。1.2.4 BP神經網絡的優點（1）網絡實質上實現了一個從輸入到輸出的映射功能，而數學理論已經證明它具有實現任何復雜非線性映射的功能。這使得它特別適合于求解內部機制復雜的問題；（2）網絡能通過學習帶動正確答案的實例集自動提取合理的求解規則，即具有自學習能力；（3）網絡具有一定的推廣、概況能力。1.2.5

5、 BP神經網絡的缺點（1）由于學習速率是固定的，因此網絡的收斂速度慢，需要較長的訓練時間。對于一些復雜問題，BP算法需要的訓練時間可能非常長，這主要是由于學習速率太小造成的，可采用變化的學習速率或自適應的學習速率加以改進。（2）BP算法可以使權值收斂到某個值，但并不保證其為誤差平面的全局最小值，這是因為采用梯度下降法可能產生一個局部最小值。對于這個問題，可以采用附加動量法來解決。 (3)網絡隱含層的層數和單元數的選擇尚無理論上的指導，一般是根據經驗或者通過反復實驗確定。因此，網絡往往存在很大的冗余性，在一定程度上也增加了網絡學習的負擔。 (4)網絡的學習和記憶具有不穩定性。也就是說，如果增加了

6、學習樣本，訓練好的網絡就需要從頭開始訓練，對于以前的權值和閾值是沒有記憶的。但是可以將預測、分類或聚類做的比較好的權值保存。2對附錄文章算法的改進想法2.1 分形維數-免疫克隆選擇特征提取算法分形維數(FractalDimension)定義:是一個用以描述分形特征的重要參數,其重要性在于分形維數能夠用數據描述,更重要的是分形維數能通過實驗手段近似地得出,比如:如果將正方形每條邊長放大3倍,那么就得到一個相當于個原來的正方形;若將正方體每邊長放大3倍,那么就會得到一個相當于個原來的正方體。依次推廣,對于一個d維幾何形態將其每個獨立方向都增加為原來度量的c倍,那么就會得到相當于了個原來的幾何形態。

7、對于上面的關系取對數后有以下形式: 如果按同樣方式將一個對象縮小,為縮小倍數,則有以下形式: (1)上式中的d對于一般分形而言，其結果往往不是整數，則d被稱為分形維數D。分形維數的計算一般是利用最小二乘擬合方法,來對曲線數據點進行擬合,求得其斜率,那么就是原始數據集的分形維數。2.1.2分形維數-免疫克隆選擇特征提取算法思想如果設置原始數據集的分形維數為,要對數據集進行特征選擇,也就是說要得到原始數據集所有D個特征中選出的d個特征組合的最優屬性子集,使得它的分形維數與原始數據集的分形維數差值是最小的,如果屬性子集包含的屬性個數為d,而該子集的分形維數記為,同時引入免疫克隆算法進行特征選擇,則有

8、如下結果：(l)免疫克隆算法搜索的目標為尋找出最優屬性子集;(2)在該算法解的構造中,一般隨機設置N個抗體,其中每個抗體是表示一種特征組合,并采用二進制編碼方式,它的基因串長為特征向量長度D,其編碼為,每個基因位的取值為: (3)算出它的每一個抗體的分形維數,同時計算適應度評價函數，形式如下: (2) 進一步定義第i個抗體的親和度為如下形式: (3)為任意小的正數,主要是用它來避免出現第i個屬性子集的分形維數和原始數據集的分形維數相等。(4)如果值越小,同時第i個屬性子集的分形維數和原始數據集的分形維數的差值越小,那么分類準確率越高,這個解的親和度也越高。2.1.3分形維數-免疫克隆選擇特征提

9、取算法步驟分形維數一免疫克隆選擇特征提取算法流程如圖(4) 所示。具體步驟如下:(l)隨機生成N個抗體作為初始種群A(0),每只抗體i是表示一種特征組合,采用二進制編碼方式,基因串長為特征向量長度D,編碼為,其中每個基因位的取值為0或1。(2)計算每一個抗體的分形維數,進而計算抗體的親和度。將每個抗體解碼為對應的特征組合,得到新的數據集,記第i個抗體的分形維數為,以公式(2)確定該抗體的適應度評價函數,以公式(3)確定第i個抗體的親和度,得到種群的親和度集合J(A(0);(3)判斷是否滿足迭代終止條件,這里設置為迭代次數,若滿足則終止迭代,確定當前種群中的最佳抗體作為算法最終尋找到的解,否則繼

10、續迭代;(4)對當前的第k代父本種群A(k)進行克隆,得到對每個抗體進行克隆操作,克隆的規模按照抗體與抗原的親和度大小成正比的原則分配,單個抗體復制的抗體數目數為nc,由下式確定 其中。為克隆系數,i為抗體排序后的序號,N為種群規模,round()為取整函數；(5)克隆變異:對以變異概率進行變異操作，得到A(k)；(6)計算親和度。將當前種群A(k)中每個抗體解碼為相應的特征組合,從而得到新的數據集,依照公式(2)、(3)確定第i個抗體的親和度,得到種群A”(k)的親和度集合；(7)克隆選擇。在子種群中,若存在變異后抗體使得f(a)f(b)。,選擇個體乓進入新的父代群體,即以一定的比例原則選擇親和度較大的個體作為下一代種群A(k十l);(8)計算親和度。依據種群中個體的編碼,獲得新的特征組合,依據式(2)計算種群A(k+1)的親和度J(A(k+l)；(9),返回第(3)步。圖（4）2.1.4分形維數-免疫克隆選擇特征提取算法優點 該算法適用于高維數據集的特征選擇，可以降低分類器的計算復雜度，提高分類器的分類精度，在運算速度方面具有明顯優勢。3 總結附錄文章研究了基于神經網絡的特征評價和特征提取方法，利用神經網絡的訓練結果對特征參數進行合