1、神經網絡與復雜網絡的分析摘要復雜網絡在現實生活中是無處不在的， 生物網絡是它的一個分類。 神經網絡 是很重要的生物網絡。利用神經網絡是可以研究一些其他的方向，如網絡安全、 人工智能等。 而神經網絡又可以因為它是復雜的網絡， 可以利用復雜網絡的部分 性質里進行研究，比如小世界效應的。本文只要介紹了幾篇應用復雜網絡的研究，并進行簡單的介紹和分析。關鍵詞： 復雜網絡、神經網絡AbstractThe Complex network is in everywhere in real life, while Biological network is one of kinds of it. And neu

2、ral network is one of the most important of biological network. The neural network could be used to research other subjects such as network security, artificial intelligence and so on. However we also use some properties of complex network to study neural network. Foe example we could use small-worl

3、d to study it.This paper introduces and analysis five articles that use complex network.Key word： complex network、 neural network神經網絡與復雜網絡的分析在神經網絡的研究中， 除了根據神經生物學實驗得到基本組成單元的數學模 型以及使用動力學對于模型系統的活動進行認識以外， 神經網絡的結構也是一個 重要的方面。 網絡的結構對于大多數復雜系統整體的動力學具有重要的影響， 這 已經是一個被普遍接受的觀點。復雜網絡一開始就是一個交叉學科研究。 在復雜網絡研究興起之前， 網絡概

4、 念就已經在幾個研究領域出現并發揮著重要的作用， 例如社會學研究， 計算機網 絡和互聯網， 數學中的一個分支圖論， 以及神經系統活動。 在現實世界中復雜網 絡是無處不在的。在現實社會中復雜網絡主要分為四類：社交網絡、生物網絡、 技術網絡和信息網絡。在現實生活中很多生物系統都可以被表示成網絡的形式， 并利用這種形成的網絡結構來研究相應的生物系統。 生物網絡的典型例子可能是 代謝路徑網絡， 它是代謝基質和代謝產物的刻畫， 如果一已知代謝反應存在， 其 作用于給定基質并產生指定產物， 兩者之間由有向邊連接。 如一個不同的網絡是 蛋白質之間的力學物理相互作用網絡（與代謝物中的化學反應相對） ，它經常被

5、 指為蛋白質相互作用網絡。 而在生物網絡中還有幾個重要的應用如： 基因調節網 絡、食物鏈網、血管網絡等。在其中還有一個相當重要的生物網絡就是神經網絡。 就是對現實中的神經網絡進行模擬， 但是對現實神經網絡的拓撲結構進行測度極 為困難，但在一些案個別的案例中得到成功實施。人工神經網絡也簡稱為神經網絡或稱作連接模型， 它是一種模范動物神經網 絡行為特征， 進行分布式并行信息處理的算法數學模型。 這種網絡依靠系統的復 雜程度，通過調整內部大量節點之間相互連接的關系， 從而達到處理信息的目的。 人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學 模型。在工程與學術界也常直接簡稱為神經

6、網絡或類神經網絡。 神經網絡是一種 運算模型， 由大量的節點 （或稱神經元） 和之間相互聯接構成。 每個節點代表一 種特定的輸出函數，稱為激勵函數（activation function）。每兩個節點間的連接都 代表一個對于通過該連接信號的加權值， 稱之為權重， 這相當于人工神經網絡的 記憶。 網絡的輸出則依網絡的連接方式， 權重值和激勵函數的不同而不同。 而網 絡自身通常都是對自然界某種算法或者函數的逼近， 也可能是對一種邏輯策略的 表達。在研究神經網絡時， 有幾個重要的研究方向。 可以研究復雜網絡的拓撲屬性 來研究神經網絡。在王勝軍 1 的論文復雜網絡上神經動力學研究中主要是研究了復雜網

7、絡的拓撲屬性對神經網絡動力學的影響， 神經網絡中限制同步性的一種動力學機 制，并且使用神經網絡研究了復雜網絡本身的一個普遍性問題： 稀疏性特征的意 義。他是分為幾個方面來進行研究的。 一、研究了復雜網絡結構對于兩層神經網 絡之間的同步的影響。 二、研究了神經元之間突觸耦合的效能對于興奮性神經網 絡中放電同步的影響。三、研究了度關聯無標度吸引子網絡對刺激的響應。四、 使用吸引子網絡模型作為例子研究復雜網絡稀疏特征的功能意義。 從這幾個方面 來研究神經網絡，和理解一個稀疏的連接密度上網絡的拓撲屬性對于網絡上動力 學的影響最明顯。 使用信噪比分析， 我們證明非單調的差異是由網絡度分布的差 異性和信號

8、強度的競爭導致的。 此工作有助于深刻理解具有網絡結構的復雜系統 往往是稀疏的這一普遍現象。在研究神經網絡時， 并不一定是從網絡的結構來研究的， 也可以從小世界的 方向進行對神經網絡的研。 小世界效應是復雜網絡的一個性質。 在主要是指在一 個網絡中的任意兩個節點之間的距離是很短的。 著名的六度分割的實驗就表明了 在真實世界存在一種小世界效應的。 而神經網絡是屬于生物網絡的， 而生物網絡 是復雜網絡在現實世界中的一個重要的分類， 所以神經網絡也應該具有小世界效 應的。但是真是的神經網絡是不容易進行研究的， 所以通過研究人工神經網絡來 進行對真實的神經網絡的研究。而 LI Shou-wei 3 在

9、Analysis of Contrasting Neural Network with Small-world Network 文章，對三類網絡進行比較，即比較人 工神經網絡、 腦神經網絡和小世界網絡。 根據和腦神經網絡進行比較分析， 可以 觀測到典型的人工神經網絡時規則的， 它的功能有很對缺陷和限制； 腦神經網絡 是一個小世界網絡； 人工神經網絡和小世界網絡的不同組成它們復雜性的三個等 級：點、邊和行為。 還討論了如何重構人工神經網絡到小世界網絡。 小世界神經 網絡可以通過以一定概率 p 進行重連，而對于最好的模擬是這個重連的概率是滿 足 0<p<0.1 的。對小世界網絡和神經網

10、絡的關系的研究不止這樣， 還有很多人是基于小世界神經網絡進行研究的。在王小虎等人2 的文章多層前向小世界神經網絡的逼近與容錯性能 中就是借助了小世界效應來研究神經網絡的。 他們的 基本思想是基于 Watts Strogatz網絡模型的構造思想，對多層前向神經網絡中的 規則連接依重連概率進行重連， 構建了一種多層前向小世界神經網絡模型 對該 網絡模型進行簡要的數學描述， 并以函數逼近和網絡容錯仿真考察了構建的小世 界神經網絡的性能。神經網絡是一個大的領域， 在其中聯想記憶是一個重要的組成部分， 也是神 經網絡用于智能控制、 模式識別與人工智能等領域的一個重要功能。 它主要利用 神經網絡的良好容錯

11、性 能使不完整的、 污損的、畸變的輸入樣本恢復成完整的 原型，適于識別、分類等用途。在徐志 4的基于復雜網絡的聯想記憶網絡研 究中就是應用復雜網絡的拓撲結構來研究神經網絡中的聯想記憶網絡。 他們是 建立一個具有稀疏拓撲連接結構的網絡來完成聯想記憶的功能。 他們首先對傳統 的研究方法進行里總結，如：離散 Hopfield 網絡和連續 Hopfield 網絡進行了分 析。基于復雜網絡的新型聯想記憶網絡。 即出于降低連接復雜度的目的， 同時根 據生物學中神經系統中的復雜網絡的特性的發現， 基于小世界模型建立具有復雜 網絡特性的新型聯想記憶網絡， 是該新型網絡能再整體中連接較少的情況下仍使 得網絡具有

12、良好的記憶回想功能， 同時減少連邊數。 結果這種情況下， 即連邊數 數很小的情況下，能夠完成聯想記憶功能，并與其它的相比，具有一定的優勢。不同的人在研究時有著不同的思路和方向的。 而在研究不同的理論時可以是 相互利用的。 所以可以用復雜網絡的理論來進行對神經網絡的研究， 同樣也可以 用神經網絡的理論來研究復雜網絡。張蘭華等人 通過應用BP網絡來進行對社團分類的研究。BP網絡是向后傳播網絡是在 1986年由Rumelhart和McCelland 為首的科學家小組提出， 是一種按誤差逆傳播算法訓練的多層前饋網絡， 是目前 應用最廣泛的神經網絡模型之一。BP網絡能學習和存貯大量的輸入-輸出模式映 射

13、關系，而無需事前揭示描述這種映射關系的數學方程。 它的學習規則是使用最 速下降法， 通過反向傳播來不斷調整網絡的權值和閾值， 使網絡的誤差平方和最 小。BP神經網絡模型拓撲結構包括輸入層(in put)、隱層(hide layer)和輸出層 (output layer)0在張蘭華等人的文章是將神經網絡分類特性應用到社團結構的分 類之中的，以BP網絡為模型，用社團節點與神經網絡節點的相似性來模擬社團 分類結果，構建成員關系圖的鄰接矩陣，利用鄰接矩陣來進行實驗設計建立 BP 神經網絡 ,通過已知樣本學習和檢驗樣本檢驗 ,實現成員關系網絡的分類模擬。在進行神經網絡和復雜網絡的研究時，有著大量的研究。總結在這短短幾周的時間的學習， 了解到了神經網絡的一些知識， 對此，感謝蒲老師的教導。并對為完成這篇文章給予幫助的同學表示感謝參考文獻1 . 王勝軍 . 復雜網絡上神經動力學研究 . 20092 . 王小虎 . 多層前向小世界神經網絡的逼近與容錯性能 . 西安交通大學學報第 44 卷第 7 期.20103 . LI Shou-wei. Analysis of Contrasting Neural Network with Small-world Network. DOI 10.