1、會計學1hopfield神經網絡及其應用教學神經網絡及其應用教學2第1頁/共64頁31.1 反饋網絡簡介1.2 網絡穩定性第2頁/共64頁4n系統穩定的平衡狀態可以通過設計網絡的權值而被存儲到網絡中第3頁/共64頁5第4頁/共64頁6第5頁/共64頁7該網絡為單層全反饋網絡，其中的每個神經元的輸出都是與其他神經元的輸入相連的。所以其輸入數目與輸出層神經元的數目是相等的，有rs。 第6頁/共64頁8第7頁/共64頁9第8頁/共64頁10第9頁/共64頁11第10頁/共64頁12第11頁/共64頁13第12頁/共64頁14第13頁/共64頁15第14頁/共64頁16第15頁/共64頁17第16頁/

2、共64頁18第17頁/共64頁19其初始輸入A(t0)向穩定吸引子狀態移動就可以達到目的第18頁/共64頁20第19頁/共64頁21 Hopfield Hopfield網絡是神經網絡發展歷史上的一個重要的里程碑。由美國加州理工學院物理學家教授于網絡是神經網絡發展歷史上的一個重要的里程碑。由美國加州理工學院物理學家教授于19821982年提出，是一種單層反饋神經網絡。年提出，是一種單層反饋神經網絡。HopfieldHopfield網絡是一種由非線性元件構成的反饋系統，其穩定狀態的分析比前向神經網絡要復雜得多。網絡是一種由非線性元件構成的反饋系統，其穩定狀態的分析比前向神經網絡要復雜得多。1984

3、1984年，年，HopfieldHopfield設計并研制了網絡模型的電路，并成功地解決了旅行商設計并研制了網絡模型的電路，并成功地解決了旅行商(TSP)(TSP)計算難題計算難題( (優化問題優化問題) )。 Hopfield Hopfield網絡分為離散型和連續型兩種網絡模型，分別記作網絡分為離散型和連續型兩種網絡模型，分別記作DHNN (Discrete Hopfield Neural Network) DHNN (Discrete Hopfield Neural Network) 和和CHNN (Continues Hopfield Neural Network) CHNN (Cont

4、inues Hopfield Neural Network) 。 Hello,Im John Hopfield第20頁/共64頁22第21頁/共64頁23 DHNN中的激活函數 CHNN中的激活函數 第22頁/共64頁24第23頁/共64頁25第24頁/共64頁26第25頁/共64頁27第26頁/共64頁28第27頁/共64頁29第28頁/共64頁30第29頁/共64頁31nnn1111E2ijijiiijiijjiwv vb v ()( )0v ttv tt 第30頁/共64頁32n11E2iijijiiiijw vvbv nn11n1EE (1)E ( )11(1)(1)( )( )221

5、(1)( )2iiiijijiiijijiiiiijijiiijjiiijttw v tvbv tw v t vbv tv tv tw vb E0iHopfield網絡狀態向著能量函數減網絡狀態向著能量函數減小的方向演化。由于能量函數有界小的方向演化。由于能量函數有界，所以系統必然會趨于穩定狀態，所以系統必然會趨于穩定狀態 。第31頁/共64頁33第32頁/共64頁34第33頁/共64頁35第34頁/共64頁36第35頁/共64頁37第36頁/共64頁38第37頁/共64頁39第38頁/共64頁40第39頁/共64頁41第40頁/共64頁42第41頁/共64頁43第42頁/共64頁44第43頁/共64頁45第44頁/共64頁46第45頁/共64頁47第46頁/共64頁48的精確的記憶第47頁/共64頁49第48頁/共64頁50第49頁/共64頁51第50頁/共64頁52第51頁/共64頁53第52頁/共64頁54只要滿足，只要滿足，r rq q，則，則有有sgn(Nsgn(Nl l) )P Pl l保證保證P Pl l為網絡的穩定為網絡的穩定解解 第53頁/共64頁55第54頁/共64頁56第55頁/共64頁57第56頁/共64頁58第57頁/共64頁59第58頁/共6