




版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
關于神經網絡數學建模模型及算法簡介第1頁,共97頁,2022年,5月20日,14點41分,星期五一、引例
1981年生物學家格若根(W.Grogan)和維什(W.Wirth)發現了兩類蚊子(或飛蠓midges).他們測量了這兩類蚊子每個個體的翼長和觸角長,數據如下:翼長觸角長類別
1.641.38Af1.821.38Af1.901.38Af1.701.40Af1.821.48Af1.821.54Af2.081.56Af翼長觸角長類別1.781.14Apf1.961.18Apf1.861.20Apf1.721.24Af2.001.26Apf2.001.28Apf1.961.30Apf1.741.36Af第2頁,共97頁,2022年,5月20日,14點41分,星期五問:若抓到三只新的蚊子,它們的觸角長和翼長分別為(1.24,1.80);
(1.28,1.84);(1.40,2.04).問它們應分別屬于哪一個種類?
把翼長作縱坐標,觸角長作橫坐標;那么每個蚊子的翼長和觸角決定了坐標平面的一個點.其中6個蚊子屬于APf類;用黑點“·”表示;9個蚊子屬Af類;用小圓圈“。”表示.得到的結果見圖1圖1飛蠓的觸角長和翼長一、引例
1989年美國大學生數學建模問題第3頁,共97頁,2022年,5月20日,14點41分,星期五思路:例如;取A=(1.44,2.10)和B=(1.10,1.16),過AB兩點作一條直線:
y=1.47x-0.017其中x表示觸角長;y表示翼長.
分類規則:設一個蚊子的數據為(x,y)如果y≥1.47x-0.017,則判斷蚊子屬Apf類;
如果y<1.47x-0.017;則判斷蚊子屬Af類.
一、引例
作一直線將兩類飛蠓分開第4頁,共97頁,2022年,5月20日,14點41分,星期五分類結果:(1.24,1.80),(1.28,1.84)屬于Af類;(1.40,2.04)屬于Apf類.圖2分類直線圖
一、引例
第5頁,共97頁,2022年,5月20日,14點41分,星期五?缺陷:根據什么原則確定分類直線?
若取A=(1.46,2.10),B=(1.1,1.6)不變,則分類直線變為y=1.39x+0.071分類結果變為:
(1.24,1.80),
(1.40,2.04)屬于Apf類;
(1.28,1.84)屬于Af類
哪一分類直線才是正確的呢?
一、引例
A=(1.44,2.10)第6頁,共97頁,2022年,5月20日,14點41分,星期五再如,如下的情形能不能用分類直線的辦法呢?
新思路:將問題看作一個系統,飛蠓的數據作為輸入,飛蠓的類型作為輸出,研究輸入與輸出的關系。一、引例
方法:馬氏距離判別法、Bayes判別法等第7頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡模型第8頁,共97頁,2022年,5月20日,14點41分,星期五前言
所謂人工神經網絡就是基于模仿生物大腦的結構和功能而構成的一種信息處理系統。粗略地講,大腦是由大量神經細胞或神經元組成的。每個神經元可看作是一個小的處理單元,這些神經元按某種方式連接起來,形成大腦內部的生理神經元網絡。這種神經元網絡中各神經元之間聯結的強弱,按外部的激勵信號做自適應變化,而每個神經元又隨著所接收到的多個接收信號的綜合大小而呈現興奮或抑制狀態。第9頁,共97頁,2022年,5月20日,14點41分,星期五生物神經網基本工作機制:一個神經元有兩種狀態——興奮和抑制平時處于抑制狀態的神經元,當接收到其它神經元經由突觸傳來的沖擊信號時,多個輸入在神經元中以代數和的方式疊加。進入突觸的信號會被加權,起興奮作用的信號為正,起抑制作用的信號為負。如果疊加總量超過某個閾值,神經元就會被激發進入興奮狀態,發出輸出脈沖,并由軸突的突觸傳遞給其它神經元。第10頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的生物學基礎第11頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的生物學基礎信息輸入信息傳播與處理信息傳播與處理(整合)信息傳播與處理結果:興奮與抑制信息輸出第12頁,共97頁,2022年,5月20日,14點41分,星期五神經網絡的基本思想人工神經元的基本構成:第13頁,共97頁,2022年,5月20日,14點41分,星期五人工神經元-信息處理單元第14頁,共97頁,2022年,5月20日,14點41分,星期五人工神經元-信息處理單元信息輸入第15頁,共97頁,2022年,5月20日,14點41分,星期五人工神經元-信息處理單元信息傳播與處理:加權求和第16頁,共97頁,2022年,5月20日,14點41分,星期五人工神經元-信息處理單元信息傳播第17頁,共97頁,2022年,5月20日,14點41分,星期五人工神經元-信息處理單元信息傳播與處理第18頁,共97頁,2022年,5月20日,14點41分,星期五人工神經元-信息處理單元信息輸出第19頁,共97頁,2022年,5月20日,14點41分,星期五神經元的傳遞函數f(X)是激發函數;它可以是線性函數,也可以是非線性函數.例如,若取激發函數為符號函數
第20頁,共97頁,2022年,5月20日,14點41分,星期五神經元的傳遞函數S型傳遞函數第21頁,共97頁,2022年,5月20日,14點41分,星期五注:一個神經元含有與輸入向量維數相同個數的權系數,若將閾值看作是一個權系數,-1是一個固定的輸入,另有n-1個正常的輸入,則式也可表示為:
‘
參數識別:假設函數形式已知,則可以從已有的輸入輸出數據確定出權系數及閾值。
ojx1-1x2第22頁,共97頁,2022年,5月20日,14點41分,星期五簡單原理
人工神經網絡是根據人的認識過程而開發出的一種算法。假如我們現在只有一些輸入和相應的輸出,而對如何由輸入得到輸出的機理并不清楚,那么我們可以把輸入與輸出之間的未知過程看成是一個“網絡”,通過不斷地給這個網絡輸入和相應的輸出來“訓練”這個網絡,網絡根據輸入和輸出不斷地調節自己的各節點之間的權值來滿足輸入和輸出。這樣,當訓練結束后,我們給定一個輸入,網絡便會根據自己已調節好的權值計算出一個輸出。這就是神經網絡的簡單原理。第23頁,共97頁,2022年,5月20日,14點41分,星期五神經網絡的作用網絡說話人們把一本教科書用網絡把它讀出來(當然需要通過光電,電聲的信號轉換);開始網絡說的話像嬰兒學語那樣發出“巴、巴、巴”的聲響;但經過B-P算法長時間的訓練竟能正確讀出英語課本中90%的詞匯.從此用神經網絡來識別語言和圖象形成一個新的熱潮。第24頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡基本特點
(1)可處理非線性
(2)并行結構.對神經網絡中的每一個神經元來說;其運算都是同樣的.這樣的結構最便于計算機并行處理.
(3)具有學習和記憶能力.一個神經網絡可以通過訓練學習判別事物;學習某一種規律或規則.(4)對數據的可容性大.在神經網絡中可以同時使用量化數據和質量數據(如好、中、差、及格、不及格等).(5)神經網絡可以用大規模集成電路來實現.如美國用256個神經元組成的神經網絡組成硬件用于識別手寫體的郵政編碼.第25頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的分類按網絡連接的拓撲結構分類:層次型結構:將神經元按功能分成若干層,如輸入層、中間層(隱層)和輸出層,各層順序相連單純型層次型結構第26頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的分類按網絡內部的信息流向分類:前饋型網絡:網絡信息處理的方向是從輸入層到各隱層再到輸出層逐層進行前饋型網絡第27頁,共97頁,2022年,5月20日,14點41分,星期五神經網絡的學習規則
關鍵在于如何決定每一神經元的權值。
常用的學習規則有以下幾種:Hebb規則Delta規則(最小均方差規則
)反向傳播學習方法Kohonen學習規則(用于無指導訓練網絡)Grosberg學習方法第28頁,共97頁,2022年,5月20日,14點41分,星期五神經網絡常用模型共70多種,具有代表性的有:(1)感知器(Perceptron)
(2)多層前饋(BP)網絡
(3)Hopfield網絡(優化)(4)Boltzmann機(在BP中加入噪聲)(5)雙向聯想記憶網絡(快速存儲)……第29頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的工作原理人工神經網絡的工作原理到底是怎樣的,我們可以從一個最簡單的網絡來剖析,一定程度上打開這個黑匣子。1958年,美國心理學家FrankRosenblatt提出一種具有單層計算單元的神經網絡,稱為Perceptron,即感知器。感知器是模擬人的視覺接受環境信息,并由神經沖動進行信息傳遞的層次型神經網絡。單層感知器的結構與功能都非常簡單,以至于在解決實際問題時很少采用,但由于它在神經網絡研究中具有重要意義,是研究其它網絡的基礎,常作為學習神經網絡的起點。第30頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的工作原理感知器模型(單層前向神經網絡)j=1,2,…,m
輸出類別指示輸入樣本第31頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的工作原理感知器模型凈輸入:輸出為:Tj為閥值,sgn為符號函數第32頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的工作原理(C.)感知器模型具體的:設輸入向量X=(x1,x2)T輸出:則由方程w1jx1+w2jx2-Tj=0確定了二維平面上的一條分界線ojx1-1x2第33頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的工作原理感知器模型具體的:則由方程w1jx1+w2jx2-Tj=0確定了二維平面上的一條分界線(Why?)w1jx1+w2jx2–Tj=0w1jx1=Tj-w2jx2x1=(Tj-w2jx2)/w1j
=-(w2j/w1j)x2+Tj/w1j=a
x2+c第34頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的工作原理感知器模型具體的:這樣的話,我們就可以得到
第35頁,共97頁,2022年,5月20日,14點41分,星期五思路:例如;取A=(1.44,2.10)和B=(1.10,1.16),過AB兩點作一條直線:
y=1.47x-0.017其中x表示觸角長;y表示翼長.
分類規則:設一個蚊子的數據為(x,y)如果y≥1.47x-0.017,則判斷蚊子屬Apf類;
如果y<1.47x-0.017;則判斷蚊子屬Af類.
一、引例
作一直線將兩類飛蠓分開第36頁,共97頁,2022年,5月20日,14點41分,星期五人工神經網絡的工作原理感知器模型一個最簡單的單計算節點感知器具有分類功能。其分類原理是將分類知識存儲于感知器的權向量(包含了閾值)中,由權向量確定的分類判決界面將輸入模式分為兩類。ojx1-1x2單層感知器的局限性是:僅對線性可分問題具有分類能力。第37頁,共97頁,2022年,5月20日,14點41分,星期五神經網絡研究的發展(1)第一次熱潮(40-60年代未)1943年,美國心理學家W.McCulloch和數學家W.Pitt
在提出了一個簡單的神經元模型,即MP模型。1958年,F.Rosenblatt等研制出了感知機(Perceptron)。(2)低潮(70-80年代初):(3)第二次熱潮
1982年,美國物理學家J.J.Hopfield提出Hopfield模型,它是一個互聯的非線性動力學網絡,他解決問題的方法是一種反復運算的動態過程,這是符號邏輯處理方法所不具備的性質.1987年首屆國際ANN大會在圣地亞哥召開,國際ANN聯合會成立,創辦了多種ANN國際刊物。第38頁,共97頁,2022年,5月20日,14點41分,星期五經典的人工神經網絡算法BP算法BP(ErrorBackProragation,BP)誤差反向傳播算法它是有指導訓練的前饋多層網絡訓練算法,是靠調節各層的加權,使網絡學會由輸入輸出對組成的訓練組執行優化的方法是梯度下降法BP算法是使用非常廣泛的一種算法,最常用的轉移函數是Sigmoid函數第39頁,共97頁,2022年,5月20日,14點41分,星期五梯度法考慮無約束問題,其中函數f(x)一階連續可導,梯度指對各個自變量的偏導數依次排列所成的向量。梯度法就是在點x處以f(x)的負梯度方向進行搜索的一種優化方法,其迭代公式,其中,是從出發的搜索方向,取最速下降方向第40頁,共97頁,2022年,5月20日,14點41分,星期五經典的人工神經網絡算法BP算法BP網絡模型輸入層隱層輸出層第41頁,共97頁,2022年,5月20日,14點41分,星期五
網絡學習的目的是要使網絡產生盡可能逼近理想的反應。網絡受訓練時,不斷將網絡的輸出數據與理想數據相比較,并按學習規格改變權重,直到網絡的輸出數據對所有訓練數據與理想輸出數據之差在要求的誤差范圍之內。BP神經網絡模型
簡單網絡第42頁,共97頁,2022年,5月20日,14點41分,星期五經典的人工神經網絡算法BP算法學習的過程:正向傳播:輸入樣本---輸入層---各隱層---輸出層判斷是否轉入反向傳播階段:若輸出層的實際輸出與期望的輸出(教師信號)不符誤差反傳誤差以某種形式在各層表示--修正各層單元的權值網絡輸出的誤差減少到可接受的程度進行到預先設定的學習次數為止第43頁,共97頁,2022年,5月20日,14點41分,星期五假設有P個訓練樣本,即有P個輸入輸出對(Ip,Tp),p=1,…,P,其中輸入向量為目標輸出向量為(理論上的)
網絡輸出向量為
(實際上的)
簡單網絡的B-P算法第44頁,共97頁,2022年,5月20日,14點41分,星期五(p=1,…,P)
(2)
通常理論與實際有誤差,網絡學習則是指不斷比較,并根據極小原則修改參數wij,使誤差平方和達最小:記Delta學習規則:
(4)
(3)
表示遞推一次的修改量,則有稱為學習的速率一般取值為0.1~0.3
簡單網絡的B-P算法記wij為從輸入向量的第j(j=1,…,m)個分量到輸出向量的第i(i=1,…,n)個分量的權重。第45頁,共97頁,2022年,5月20日,14點41分,星期五ipm=-1,wim=(第i個神經元的閾值)(5)注:由(1)式,第i個神經元的輸出可表示為特別當f是線性函數時
(6)簡單網絡的B-P算法第46頁,共97頁,2022年,5月20日,14點41分,星期五訓練用的性能指標為最小求E的最小值,只需考慮EP達到最小的遞推算法第47頁,共97頁,2022年,5月20日,14點41分,星期五求E的最小值的梯度下降法就是Delta學習規則。第48頁,共97頁,2022年,5月20日,14點41分,星期五多層前饋網絡
(l)輸入層不計在層數之內,它有N0個神經元.設網絡共有L層;輸出層為第L層;第k層有Nk個神經元.假設:(2)
設表示第k層第i神經元所接收的信息
wk(i,j)表示從第k-1層第j個元到第k層第i個元的權重,
表第k層第i個元的輸出
有些文獻將輸入層作為一層第49頁,共97頁,2022年,5月20日,14點41分,星期五(3)設層與層間的神經元都有信息交換(否則,可設它們之間的權重為零);但同一層的神經元之間無信息傳輸.(4)設信息傳輸的方向是從輸入層到輸出層方向;因此稱為前向網絡.沒有反向傳播信息.
(5)表示輸入的第j個分量.假設:第50頁,共97頁,2022年,5月20日,14點41分,星期五在上述假定下網絡的輸入輸出關系可以表示為:(7)
其中θk(i)表示第k層第i個元的閾值.,f為S函數第51頁,共97頁,2022年,5月20日,14點41分,星期五定理
對于具有多個隱層的前饋神經網絡;設激發函數為S函數;且指標函數取
則每個訓練循環中按梯度下降時;其權重迭代公式為其中第52頁,共97頁,2022年,5月20日,14點41分,星期五證明思路與簡單模型相同。不同的是這里具有隱層第53頁,共97頁,2022年,5月20日,14點41分,星期五2層前饋神經網絡單個神經元節點第54頁,共97頁,2022年,5月20日,14點41分,星期五反向一層傳播第55頁,共97頁,2022年,5月20日,14點41分,星期五反向二層傳播某一隱層節點受所有輸出層節點影響第56頁,共97頁,2022年,5月20日,14點41分,星期五B-P算法的學習過程如下:(1)選擇一組訓練樣例,每一個樣例由輸入信息和期望的輸出結果兩部分組成。(2)從訓練樣例集中取一樣例,把輸入信息輸入到網絡中。(3)分別計算經神經元處理后的各層節點的輸出。(4)計算網絡的實際輸出和期望輸出的誤差。反向傳播模型及其學習算法第57頁,共97頁,2022年,5月20日,14點41分,星期五(5)從輸出層反向計算到第一個隱層,并按照某種能使誤差向減小方向發展的原則,調整網絡中各神經元的連接權值。(6)對訓練樣例集中的每一個樣例重復3—5的步驟,直到對整個訓練樣例集的誤差達到要求時為止。在以上的學習過程中,第(5)步是最重要的,如何確定一種調整連接權值的原則,使誤差沿著減小的方向發展,是B-P學習算法必須解決的問題。
反向傳播模型及其學習算法第58頁,共97頁,2022年,5月20日,14點41分,星期五應用
已知的兩類蚊子的數據如表1:
翼長觸角長類別1.781.14Apf1.961.18Apf1.861.20Apf1.721.24Af2.001.26Apf2.001.28Apf1.961.30Apf1.741.36Af目標值0.90.90.90.10.90.90.90.1
翼長觸角長類別
1.641.38Af1.821.38Af1.901.38Af1.701.40Af1.821.48Af1.821.54Af2.081.56Af目標t0.10.10.10.10.10.10.1
BP采用S函數,輸出不宜設為1或0,可設為0.9或0.1。第59頁,共97頁,2022年,5月20日,14點41分,星期五輸入數據有15個建模:兩層神經網絡建立神經網絡第60頁,共97頁,2022年,5月20日,14點41分,星期五規定目標為:當t(1)=0.9時表示屬于Apf類,t(2)=0.1表示屬于Af類。設兩個權重系數矩陣為:為閾值
其中第61頁,共97頁,2022年,5月20日,14點41分,星期五分析如下:
為第一層的輸出,同時作為第二層的輸入。其中,為閾值,為傳遞函數若令
(作為一固定輸入)(閾值作為固定輸入神經元相應的權系數)
第62頁,共97頁,2022年,5月20日,14點41分,星期五則有:取傳遞函數為=則同樣,取
第63頁,共97頁,2022年,5月20日,14點41分,星期五(1)隨機給出兩個權矩陣的初值;例如用MATLAB軟件時可以用以下語句:
令p=0具體算法如下:=rand(2,3);=rand(1,3);(2)根據輸入數據利用公式算出網絡的輸出
=第64頁,共97頁,2022年,5月20日,14點41分,星期五取(3)計算因為所以
L=2計算
第65頁,共97頁,2022年,5月20日,14點41分,星期五(5)計算
和
j=1,2,3,i=1,2,3,j=1,2,3(4)取
(或其他正數,可調整大小)
第66頁,共97頁,2022年,5月20日,14點41分,星期五(6)p=p+1,轉(2)
注:僅計算一圈(p=1,2,…,15)是不夠的,直到當各權重變化很小時停止,本例中,共計算了147圈,迭代了2205次。最后結果是:第67頁,共97頁,2022年,5月20日,14點41分,星期五如何分類?規定目標為:當t(1)=0.9時表示屬于叉類,t(2)=0.1表示屬于圓點類。22對訓練樣本第68頁,共97頁,2022年,5月20日,14點41分,星期五(1)隨機給出兩個權矩陣的初值;例如用MATLAB軟件時可以用以下語句:
令p=0具體算法如下:=rand(2,3);=rand(1,3);(2)根據輸入數據利用公式算出網絡的輸出
=第69頁,共97頁,2022年,5月20日,14點41分,星期五取(3)計算因為所以
L=2計算
第70頁,共97頁,2022年,5月20日,14點41分,星期五(5)計算
和
j=1,2,3,i=1,2,3,j=1,2,3(4)取
(或其他正數,可調整大小)
第71頁,共97頁,2022年,5月20日,14點41分,星期五直到當各權重變化很小時停止,本例中,共計算了200圈,迭代了4400次。最后結果是:第72頁,共97頁,2022年,5月20日,14點41分,星期五
數學建模中有很多題目都可以用神經網絡加以解決。比較典型的題目有:DNA序列分類題(2000年全國賽A題),癌癥判斷題(2001年北京大學數學建模競賽),乳房癌的診斷題(2001年全國大學生數學建模夏令營C題)神經網絡在數學建模中的應用第73頁,共97頁,2022年,5月20日,14點41分,星期五DNA序列模式分類問題
假定已知兩組人工已分類的DNA序列(20個已知類別的人工制造的序列),其中序列標號1—10為A類,11-20為B類。要求我們從中提取已經分類了的DNA序列片段的特征和構造分類方法,并且還要衡量所用分類方法的好壞,從而構造或選擇一種較好的分類方法。測試對象是20個未標明類別的人工序列(標號21—40)和182個自然DNA序列。例如A類:第74頁,共97頁,2022年,5月20日,14點41分,星期五a1='aggcacggaaaaacgggaataacggaggaggacttggcacggcattacacggaggacgaggtaaaggaggcttgtctacggccggaagtgaagggggatatgaccgcttgg';b1='gttagatttaacgttttttatggaatttatggaattataaatttaaaaatttatattttttaggtaagtaatccaacgtttttattactttttaaaattaaatatttatt';……我們用前20組數據對網絡進行訓練,再用訓練好的網絡來計算未知數據,便能得到分類的結果。第75頁,共97頁,2022年,5月20日,14點41分,星期五
文件給出了一個114個基因,60個人的基因表達水平的樣本.其中前20個是癌癥病人的基因表達水平的樣本(其中還可能有子類),其后的是20個正常人的基因表達信息樣本,其余的20個是待檢測的樣本(未知它們是否正常).(1).試設法找出描述癌癥與正常樣本在基因表達水平上的區別,建立數學模型,及識別方法,去預測待檢測樣本是癌癥還是正常樣本.癌癥判斷題(2001年北京大學數學建模競賽)我們用前40組數據對網絡進行訓練,再用訓練好的網絡來計算后20組數據,便能得到分類的結果。第76頁,共97頁,2022年,5月20日,14點41分,星期五神經的網絡應用神經網絡的應用領域語音識別語音識別娃娃圖像識別與理解人臉檢測第77頁,共97頁,2022年,5月20日,14點41分,星期五(1)采用BP神經網絡方法建模的首要和前提條件是有足夠多典型性好和精度高的樣本。而且,為監控訓練(學習)過程使之不發生“過擬合”和評價建立的網絡模型的性能和泛化能力,必須將收集到的數據隨機分成訓練樣本、檢驗樣本(10%以上)和測試樣本(10%以上)3部分。(2)盡量獲取足夠多的樣本,它的多少直接關系到所建模型的可靠性。建議第78頁,共97頁,2022年,5月20日,14點41分,星期五(3)建模時盡量減少隱含層神經元的個數。由于隱含層神經元個數的確定是憑經驗的,而個數的多少直接關系到網絡的性能。個數太少,網絡容易陷入局部極小值;太多,則網絡的預測結果不穩定。為此隱含層神經元個數的確定利用“試錯法”來實現,即先給定一個較小的值,根據訓練的結果逐漸增加,這樣可找到適合該模型隱含層神經元個數的最小值,從而提高了網絡的穩定性。(4)將神經網絡與其它方法(如遺傳算法)相結合。由于每種方法都有其各自的特點,多種方法的結合可改善單一方法所存在的缺陷。第79頁,共97頁,2022年,5月20日,14點41分,星期五前饋網絡隱層節點數經驗公式
分類數×特征向量維數+1/2分類數×(特征向量維數2+特征向量維數)-1隱層節點數=
分類數+特征向量維數第80頁,共97頁,2022年,5月20日,14點41分,星期五遙感圖像的BP神經網絡分類1、學習樣本的獲取2、網絡系統的確定3、網絡的訓練4、圖像的分類第81頁,共97頁,2022年,5月20日,14點41分,星期五遙感圖像的BP神經網絡分類學習樣本的獲取類別:森林、峽谷、河流學習樣本:每個類別人工選取64個特征向量:第82頁,共97頁,2022年,5月20日,14點41分,星期五遙感圖像的BP神經網絡分類網絡系統的確定網絡層數:一般取為2層輸入節點:與特征個數相同,取3
隱節點數量:根據經驗公式取為5
輸出節點:分為3類,取3第83頁,共97頁,2022年,5月20日,14點41分,星期五遙感圖像的BP神經網絡分類隱層節點數的計算
分類數×特征向量維數+1/2分類數×(特征向量維數2+特征向量維數)-1隱層節點數=
分類數+特征向量維數向上取整,保證分類性能!第84頁,共97頁,2022年,5月20日,14點41分,星期五遙感圖像的BP神經網絡分類圖像信息圖像變換與特征提取特征數據規格化分類判決圖像分類結果神經網絡圖像分類過程經過訓練的神經網絡第85頁,共97頁,2022年,5月20日,14點41分,星期五MATLAB神經網絡工具箱的應用在網絡訓練過程中使用的是Matlab7.0forWindows軟件,對于BP神經元網絡的訓練可以使用NeuralNetworksToolboxforMatlab。美國的Mathwork公司推出的MATLAB軟件包既是一種非常實用有效的科研編程軟件環境,又是一種進行科學和工程計算的交互式程序。MATLAB本身帶有神經網絡工具箱,可以大大方便權值訓練,減少訓練程序工作量,有效的提高工作效率.第86頁,共97頁,2022年,5月20日,14點41分,星期五MATLAB交互界面第87頁,共97頁,2022年,5月20日,14點41分,星期五BP神經網絡學習算法的MATLAB實現
MATLAB中BP神經網絡的重要函數和基本功能函數名功能newff()生成一個前饋BP網絡tansig()雙曲正切S型(Tan-Sigmoid)傳輸函數logsig()對數S型(Log-Sigmoid)傳輸函數traingd()梯度下降BP訓練函數第88頁,共97頁,2022年,5月20日,14點41分,星期五BP神經網絡學習算法的MATLAB實現MATLAB中BP神經網絡的重要函數和基本功能newff()功能建立一個前向BP網絡格式net=newff(PR,[S1S2...SN1],{TF1TF2...TFN1},BTF,BLF,PF)說明net為創建的新BP神經網絡;PR為網絡輸入取向量取值范圍的矩陣;[S1S2…SNl]表示網絡隱含層和輸出層神經元的個數;{TFlTF2…TFN1}表示網絡隱含層和輸出層的傳輸函數,默認為‘tansig’;BTF表示網絡的訓練函數,默認為‘trainlm’;BLF表示網絡的權值學習函數,默認為‘learngdm’;PF表示性能數默認為‘mse’,誤差。第89頁,共97頁,2022年,5月20日,14點41分,星期五BP神經網絡學習算法的MATLAB實現給定4組學習數據為輸入[-1-122;0505],理想輸出[-1-111],試建立一個2層前向神經網絡,第一層(隱層)由3個神經元組成且用tansig函數,第二層用purelin函數。學習規則為traind。輸入數據得PR=[-12;05],隱層和輸出層分別有3個和1個神經元,[S1S2]=[31],Net=newff(PR,[S1S2],{‘tansig’,’purelin’},’traingd’)P=[-1-122;0505],t=[-1-111][net,tr]=train(net,p,t);
a=sim(net,p)輸出命令第90頁,共97頁,2022年,5月20日,14點41分,星期五輸入向量P=[012345678910];期望輸出T=[01234321234];例:net=newff([010],[51],{'tansig','purelin'});Y=sim(net,P);plot(P,T,P,Y,'o')創建兩層的BP網絡第91頁,共97頁,2022年,5月20日,14點41分,星期五Y=-2.3431-2.7532-2.4510-1.2784-0.8590-0.29810.24950.48111.03751.22681.4232T=[01234321
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 上下班健康管理制度
- 下鄉審批管理制度
- 專人病例管理制度
- 專利申報管理制度
- 專柜專區管理制度
- 專款支出管理制度
- 專用教室管理制度
- 業余團體管理制度
- 業務區域管理制度
- 業務工時管理制度
- 印制電路板領域:深南電路企業組織結構及部門職責
- 年產120萬噸氧化鋁拜爾法生產高壓溶出工藝設計
- 《哈爾濱工程大學學報》模板
- DB14T 1049.1-2020 山西省用水定額 第1部分:農業用水定額
- 配載平衡基礎培訓
- 醫療廢物管理相關法律、法規介紹
- 漯河醫學高等專科學校輔導員招聘考試行政管理教師崗筆試面試歷年真題庫試卷
- 政審在校證明
- 變電站一次通流-通壓試驗方法的探討與實踐
- 線槽燈安裝施工工法
- 自由公差對照表(共3頁)
評論
0/150
提交評論