1、競爭學習神經網絡自組織神經網絡的典型構造*1自組織神經網絡*2自組織學習(self-organized learning) ： 經過自動尋覓樣本中的內在規律和本質屬性，自組織、自順應地改動網絡參數與構造。 自組織網絡的自組織功能是經過競爭學習competitive learning實現的。 1 競爭學習的概念與原理1.1 根本概念分類分類是在類別知識等導師信號的指點下，將待識別的輸入方式分配到各自的方式類中去。聚類無導師指點的分類稱為聚類，聚類的目的是將類似的方式樣本劃歸一類，而將不類似的別分開。*3 類似性丈量歐式間隔法*41.1 根本概念同一類內各個方式向量間的歐式間隔不允許超越某一最大值

2、*5 類似性丈量余弦法1.1 根本概念余弦法適宜方式向量一樣或方式特征只與向量方向相關的類似性丈量同一類內各個方式向量間的夾角不允許超越某一最大夾角T*61.2 競爭學習原理競爭學習規那么Winner-Take-All 網絡的輸出神經元之間相互競爭以求被激活或點火，結果在每一時辰只需一個輸出神經元被激活或點火。這個被激活的神經元稱為競爭獲勝神經元，而其它神經元的形狀被抑制，故稱為Winner Take All。勝者為王*7競爭學習規那么Winner-Take-All1.向量歸一化 首先將當前輸入方式向量X和競爭層中各神經元對應的內星向量Wj 全部進展歸一化處置； (j=1,2,m)*8原始向量

3、*9歸一化后的向量*10競爭學習原理競爭學習規那么Winner-Take-All2.尋覓獲勝神經元 當網絡得到一個輸入方式向量時，競爭層的一切神經元對應的內星權向量均與其進展類似性比較，并將最類似的內星權向量判為競爭獲勝神經元。*11 從上式可以看出，欲使兩單位向量的歐式間隔最小，須使兩向量的點積最大。即：競爭學習規那么Winner-Take-All*12競爭學習規那么勝者為王(Winner-Take-All)3.網絡輸出與權值調整 jj* 步驟3完成后回到步驟1繼續訓練，直到學習率衰減到0。獲勝神經元輸出為1，其他為0j=j*之外的j*13競爭學習的幾何意義*14競爭學習的幾何意義*15例4

4、.1 用競爭學習算法將以下各方式分為2類：解：為作圖方便，將上述方式轉換成極坐標方式 ：競爭層設兩個權向量，隨機初始化為單位向量：上式中，X1=x,yT*16*17*18*19*20*21*22*23*24*25*262 自組織特征映射網 Self-Organizing feature Map 1981年芬蘭Helsink大學的T.Kohonen教授提出一種自組織特征映射網，簡稱SOM網，又稱Kohonen網。 Kohonen以為：一個神經網絡接受外界輸入方式時，將會分為不同的對應區域，各區域對輸入方式具有不同的呼應特征，而且這個過程是自動完成的。自組織特征映射正是根據這一看法提出來的，其特點

5、與人腦的自組織特性相類似。SOM網的生物學根底 生物學研討的現實闡明，在人腦的覺得通道上，神經元的組織原理是有序陳列。因此當人腦經過感官接受外界的特定時空信息時，大腦皮層的特定區域興奮，而且類似的外界信息在對應區域是延續映象的。 對于某一圖形或某一頻率的特定興奮過程，神經元的有序陳列以及對外界信息的延續映象是自組織特征映射網中競爭機制的生物學根底。*27SOM網的拓撲構造 SOM網共有兩層，輸入層模擬感知外界輸入信息的視網膜，輸出層模擬做出呼應的大腦皮層。 *28SOM網的權值調整域 SOM網的獲勝神經元對其臨近神經元的影響是由近及遠，由興奮逐漸轉變為抑制，因此其學習算法中不僅獲勝神經元本身要

6、調整權向量，它周圍的神經元在其影響下也要程度不同地調整權向量。這種調整可用三種函數表示：*29*30SOM網的權值調整域 以獲勝神經元為中心設定一個鄰域半徑，該半徑圈定的范圍稱為優勝鄰域。在SOM網學習算法中，優勝鄰域內的一切神經元均按其分開獲勝神經元的間隔遠近不同程度地調整權值。 優勝鄰域開場定得很大，但其大小隨著訓練次數的添加不斷收縮，最終收縮到半徑為零。*31SOM網的運轉原理訓練階段*32 w1 w2 w3 w4 w5SOM網的運轉原理任務階段*33SOM網的學習算法Kohonen 學習算法(1)初始化 對輸出層各權向量賦小隨機數并進展歸一化處置，得到 ，j=1,2,m；建立初始優勝鄰

7、域Nj*(0)；學習率 賦初始值。(2)接受輸入 從訓練集中隨機選取一個輸入方式并進展歸一化處置，得到 ，p1,2,P。(3)尋覓獲勝節點 計算 與 的點積，j=1,2,m，從中選出點積最大的獲勝節點j*。(4)定義優勝鄰域Nj*(t) 以j*為中心確定t 時辰的權值調整域，普通初始鄰域Nj*(0)較大，訓練過程中Nj*(t)隨訓練時間逐漸收縮。*34SOM網的學習算法Kohonen學習算法*35SOM網的學習算法(5)調整權值 對優勝鄰域Nj*(t)內的一切節點調整權值： i=1,2,n jNj*(t) 式中， 是訓練時間t 和鄰域內第j 個神經元與獲勝神經元 j* 之間的拓撲間隔N 的函數

8、，該函數普通有以下規律：*36Kohonen學習算法SOM網的學習算法(5)調整權值*37(6)終了檢查 學習率能否衰減到零或某個預定的正小數？Kohonen學習算法*38Kohonen學習算法程序流程 SOM網絡的功能SOM網絡的功能特點之一是：保序映射，即能將輸入空間的樣本方式類有序地映射在輸出層上。例 動物屬性特征映射1989年Kohonen給出一個SOM網的著名運用實例，即把不同的動物按其屬性映射到二維輸出平面上，使屬性類似的動物在SOM網輸出平面上的位置也相近。訓練集選了16種動物，每種動物用一個29維向量來表示。前16個分量構成符號向量不同的動物進展16取1編碼，后13個分量構成屬

9、性向量，描畫動物的13種屬性的有或無用1或0表示。16種動物的屬性向量29維向量的后13個分量 動物屬性鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛小1111110000100000中0000001111000000大00000000000111112只腿11111110000000004只腿0000000111111111毛0000000111111111蹄0000000000000111 動物屬性鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛鬃毛0000000000000110羽毛1111111000000000獵0000111101111000跑0000000011011110飛10011

10、11000000000泳0011000000000000 SOM網輸出平面上有1010個神經元，16個動物方式輪番輸入訓練，最后輸出平面呈現16種動物屬性特征映射，屬性類似的挨在一同，實現了特征的有序分布。1010神經元X向量29維前16個分量16取1，表達動物種類。后13個分量表達動物屬性鴨鵝鴿母雞馬斑馬牛隼狼虎獅貓狗狐貓頭鷹鷹動物屬性特征映射 SOM網的功能特點之二是數據緊縮。 將高維空間的樣本在堅持拓撲構造不變的條件下投影到低維空間。如上例中輸入樣本空間為29維，經過SOM網后緊縮為二維平面的數據。 SOM網的功能特點之三是特征抽取。規律的發現 在高維方式空間，很多方式的分布具有復雜的構

11、造，從數據察看很難發現其內在規律。當經過SOM網映射到低維輸出空間后，其規律往往一目了然，實現某種特征抽取的映射。即高維空間的向量經過特征抽取后可以在低維特征空間更加明晰地表達，因此映射的意義不僅僅是單純的數據緊縮，更是一種規律發現。如上例29維映射到二維后，相近屬性的動物實現了聚類分布的特點。 SOM網有許多運用實例：如的聽寫打字機聲音識別，處理游覽商最優路經問題，皮革外觀效果分類等。運用實例無線車輛自組網中用SOM自動組網*44吳怡;楊瓊;吳慶祥;沈連豐;林瀟; 基于自組織映射神經網絡的VANET組網算法，：2021年第12期，第-145頁 No.1 sg1 Group 6 26.0763

12、 119.311 26.0708 119.353 348.75 90 No.2 sg2 Group 2 26.0762 119.311 26.0943 119.313 348.75 348.75 No.3 sg3 Group 6 26.0761 119.311 26.0693 119.359 348.75 90 No.4 sg4 Group 2 26.076 119.311 26.106 119.292 348.75 348.75 No.5 sg5 Group 2 26.0763 119.311 26.1103 119.32 348.75 348.75 No.6 sg6 Group 6 26.0762 119.311 26.063 119.367 348.75 90 No.7 sg7 Group 2 26.0761 119.311 26.0975 119.283 348.75 348.75 No.8 sg8 Group 2 26.076 119.311 26.0855 119.245 348.75 348.75 N