模擬實際神經絡的數學方法神經網絡模型01介紹解剖機理結構信息處理目錄03020405數學模型發展歷史基本特征應用目錄070608基本信息模擬人類實際神經絡的數學方法問世以來，人們已慢慢習慣了把這種人工神經絡直接稱為神經絡。神經絡在系統辨識、模式識別、智能控制等領域有著廣泛而吸引人的前景，特別在智能控制中，人們對神經絡的自學習功能尤其感興趣，并且把神經絡這一重要特點看作是解決自動控制中控制器適應能力這個難題的關鍵鑰匙之一。介紹神經絡的學習機理和機構學習是神經絡一種最重要也最令人注目的特點。在神經絡的發展進程中,學習算法的研究有著十分重要的地位。目前,人們所提出的神經絡模型都是和學習算法相應的。所以,有時人們并不去祈求對模型和算法進行嚴格的定義或區分。有的模型可以有多種算法。而有的算法可能可用于多種模型。在神經絡中,對外部環境提供的模式樣本進行學習訓練,并能存儲這種模式,則稱為感知器;對外部環境有適應能力,能自動提取外部環境變化特征,則稱為認知器。神經絡在學習中,一般分為有教師和無教師學習兩種。感知器采用有教師信號進行學習,而認知器則采用無教師信號學習的。在主要神經絡如Bp絡,Hopfield絡,ART絡和Kohonen絡中;Bp絡和Hopfield絡是需要教師信號才能進行學習的;而ART絡和Khonone絡則無需教師信號就可以學習49。所謂教師信號,就是在神經絡學習中由外部提供的模式樣本信號。

機理結構機理結構神經絡的基本組成單元是神經元，在數學上的神經元模型是和在生物學上的神經細胞對應的。或者說，人工神經絡理論是用神經元這種抽象的數學模型來描述客觀世界的生物細胞的。很明顯，生物的神經細胞是神經絡理論誕生和形成的物質基礎和源泉。這樣，神經元的數學描述就必須以生物神經細胞的客觀行為特性為依據。因此，了解生物神經細胞的行為特性就是一件十分重要而必須的事了。神經絡的拓樸結構也是以生物學解剖中神經細胞互連的方式為依據的。對神經細胞相互作用情況的揭露也是十分重要的。神經元是神經絡基本元素。只有了解神經元才能認識神經絡的本質。在這一節介紹神經元的生物學解剖，信息的處理與傳遞方式，工作功能以及其數學模型。解剖細胞體軸突樹突解剖細胞體細胞體是由很多分子形成的綜合體，內部含有一個細胞核、核糖體、原生質狀結構等，它是神經元活動的能量供應地，在這里進行新陳代謝等各種生化過程。神經元也即是整個細胞，整個細胞的最外層稱為細胞膜。樹突細胞體的伸延部分產生的分枝稱為樹突，樹突是接受從其它神經元傳入的信息的入口。軸突細胞體突起的最長的外伸管狀纖維稱為軸突。軸突最長可達1米以上。軸突是把神經元興奮的信息傳出到其它神經元的出口。突觸是一個神經元與另一個神經元之間相并進行信息傳送的結構。如圖1—2所示。它由突觸前成分，突觸間隙和突觸后成分組成。突觸前成分是一·個神經元的軸突末梢。突觸間隙是突觸前成分與后成分之間的距離空間，間隙一般為200—300Å。突觸后成分可以是細胞體，樹突或軸突。突觸的存在說明：兩個神經元的細胞質并不直接連通，兩者彼此是通過突觸這種結構接口的。有時．也把突觸看作是神經元之間的連接。目前，根據神經生理學研究，已經發現神經元及其間的突觸起碼有4種不同行為。神經元4種生物行為有：(1)能處于抑制或興奮狀態；(2)能產生爆發和平臺兩種情況；(3)能產生抑制后的反沖；(4)具有適應性。信息處理興奮與抑制信息傳遞特性信息綜合特性D/A、A/D特性信息處理興奮與抑制人工神經絡對神經元的興奮與抑制進行模擬，故而首先應了解神經元的興奮與抑制狀態。一個神經元的興奮和抑制兩種狀態是由細胞膜內外之間不同的電位差來表征的。在抑制狀態，細胞膜內外之間有內負外正的電位差，這個電位差大約在-50—-100mv之間。在興奮狀態，則產生內正外負的相反電位差，這時表現為約60—100mv的電脈沖。細胞膜內外的電位差是由膜內外的離子濃度不同導致的。細胞的興奮電脈沖寬度一般大約為1ms。神經元的興奮過程電位變化如圖1—3所示。圖1-3.神經元的興奮過程電位變化信息傳遞特性對神經細胞的研究結果表明：神經元的電脈沖幾乎可以不衰減地沿著軸突傳送到其它神經元去。由神經元傳出的電脈沖信號通過軸突，首先到達軸突末梢，這時則使其中的囊泡產生變化從而釋放神經遞質，這種神經遞質通過突觸的間隙而進入到另一個神經元的樹突中。樹突上的受體能夠接受神經遞質從而去改變膜向離子的通透性．使膜外內離子濃度差產生變化；進而使電位產生變化。顯然，信息就從一個神經元傳送到另一個神經元中。當神經元接受來自其它神經元的信息時，膜電位在開始時是按時間連續漸漸變化的。當膜電位變化經超出一個定值時，才產生突變上升的脈沖，這個脈沖接著沿軸突進行傳遞。神經元這種膜電位高達一定閥值才產生脈沖傳送的特性稱閥值特性。這種閥值特性從圖1—3中也可以看出。神經元的信息傳遞除了有閥值特性之外，還有兩個特點。一個是單向性傳遞，即只能從前一級神經元的軸突末梢傳向后一級神經元的樹突或細胞體，不能反之。另一個是延時性傳遞．信息通過突觸傳遞，通常會產生0.5-1ms的延時。信息綜合特性神經元對來自其它神經元的信息有時空綜合特性。在神經絡結構上，大量不同的神經元的軸突末梢可以到達同一個神經元的樹突并形成大量突觸。來源不同的突觸所釋放的神經遞質都可以對同一個神經元的膜電位變化產生作用。因此，在樹突上，神經元可以對不同來源的輸入信息進行綜合。這就是神經元對信息的空間綜合特性。對于來自同一個突觸的信息，神經元可以對于不同時間傳入的信息進行綜合。故神經元對信息有時間綜合特性。D/A、A/D特性從神經元軸突上傳遞的信息是等幅、恒寬、編碼的離散電脈沖信號，故而是一個數字量。但在突觸中神經遞質的釋放和樹突中膜電位的變化是連續的。故而，這時說明突觸有D/A功能。在神經元的樹突膜電位高過一定閥值時，則又變成電脈沖方式由軸突傳送出去。故而，這個過程說明神經元有A/D功能。很明顯，信息通過一個神經元傳遞時，神經元對信息執行了D/A、A/D轉換過程。從上面可知，神經元對信息的處理和傳遞有閥值，D/A、A/D和綜合等一系列特性和功能。數學模型BP神經絡模型BP絡是一種對非線性可微分函數進行權值訓練的多層絡。它的最大特點是僅僅借助樣本數據,無需建立系統的數學模型,就可對系統實現由m個輸入神經元的模式向量p組成的pm空間到yn空間n(為輸出節點數)的高度非線性映射。BP算法是為了解決多層前向神經絡的權系數優化而提出來的;所以BP算法也重慶大學碩士學位論文3基于BP神經絡的軟件可靠性模型選擇研究通常暗示著神經絡的拓撲結構是一種無反饋的多層前向絡。故而.有時也稱無反饋多層前向絡為BP模型。在人工神經絡的實際應用中,80%一90%的神經絡模型是采用BP絡或它的變化形式。BP算法是用于前饋多層絡的學習算法。

基本特征非線性非局限性非常定性非凸性基本特征非線性非線性關系是自然界的普遍特性。大腦的智慧就是一種非線性現象。人工神經元處于激活或抑制二種不同的狀態，這種行為在數學上表現為一種非線性關系。具有閾值的神經元構成的絡具有更好的性能，可以提高容錯性和存儲容量。非局限性一個神經絡通常由多個神經元廣泛連接而成。一個系統的整體行為不僅取決于單個神經元的特征，而且可能主要由單元之間的相互作用、相互連接所決定。通過單元之間的大量連接模擬大腦的非局限性。聯想記憶是非局限性的典型例子。非常定性人工神經絡具有自適應、自組織、自學習能力。神經絡不但處理的信息可以有各種變化，而且在處理信息的同時，非線性動力系統本身也在不斷變化。經常采用迭代過程描寫動力系統的演化過程。非凸性一個系統的演化方向，在一定條件下將取決于某個特定的狀態函數。例如能量函數，它的極值相應于系統比較穩定的狀態。非凸性是指這種函數有多個極值，故系統具有多個較穩定的平衡態，這將導致系統演化的多樣性。發展歷史發展歷史1943年，心理學家loch和數理邏輯學家W.Pitts建立了神經絡和數學模型，稱為MP模型。他們通過MP模型提出了神經元的形式化數學描述和絡結構方法，證明了單個神經元能執行邏輯功能，從而開創了人工神經絡研究的時代。1949年，心理學家提出了突觸強度可變的設想。60年代，人工神經絡的到了進一步發展，更完善的神經絡模型被提出，其中包括感知器和自適應線性元件等。M.Minsky等仔細分析了以感知器為代表的神經絡系統的功能及局限后，于1969年出版了《Perceptron》一書，指出感知器不能解決高階謂詞問題。他們的論點極大地影響了神經絡的研究，加之當時串行計算機和人工智能所取得的成就，掩蓋了發展新型計算機和人工智能新途徑的必要性和迫切性，使人工神經絡的研究處于低潮。在此期間，一些人工神經絡的研究者仍然致力于這一研究，提出了適應諧振理論（ART）、自組織映射、認知機絡，同時進行了神經絡數學理論的研究。以上研究為神經絡的研究和發展奠定了基礎。1982年，美國加州工學院物理學家eld提出了Hopfield神經格模型，引入了“計算能量”概念，給出了絡穩定性判斷。1984年，他又提出了連續時間Hopfield神經絡模型，為神經計算機的研究做了開拓性的工作，開創了神經絡用于聯想記憶和優化計算的新途徑，有力地推動了神經絡的研究，1985年，又有學者提出了波耳茲曼模型，在學習中采用統計熱力學模擬退火技術，保證整個系統趨于全局穩定點。1986年進行認知微觀結構地研究，提出了并行分布處理的理論。90年代初，又有脈沖耦合神經絡模型被提出。人工神經絡的研究受到了各個發達國家的重視，美國國會通過決議將1990年1月5日開始的十年定為“腦的十年”，國際研究組織號召它的成員國將“腦的十年”變為全球行為。在日本的“真實世界計算（RWC）”項目中，人工智能的研究成了一個重要的組成部分。應用自動控制領域處理組合優化問題模式識別圖像處理信號處理機器人控制010302040506應用衛生保健醫療經濟焊接領域應用自動控制領域主要有系統建模和辨識，參數整定，極點配置，內模控制，優化設計，預測控制，最優控制，濾波與預測容錯控制等。處理組合優化問題成功解決了旅行商問題，另外還有最大匹配問題，裝箱問題和作業調度問題。模式識別手寫字符，汽車牌照，指紋和聲音識別，還可用于目標的自動識別，目標跟蹤，機器人傳感器圖像識別及地震信號的鑒別。圖像處理對圖像進行邊緣監測，圖像分割，圖像壓縮和圖像恢復。信號處理能分別對通訊、語音、心電和腦電信號進行處理分類；可用于海底聲納信號的檢測與分類，在反潛、掃雷等方面得到應用。機器人控制對機器人軌道控制，操作機器人眼手系統，用于機械手的故障診斷及排除，智能自適應移動機器人