1、遺傳算法的優點：1. 與問題領域無關切快速隨機的搜索能力。2. 搜索從群體出發，具有潛在的并行性，可以進行多個個體的同時比較，robust.3. 搜索使用評價函數啟發，過程簡單4. 使用概率機制進行迭代，具有隨機性。5. 具有可擴展性，容易與其他算法結合。 遺傳算法的缺點：1、遺傳算法的編程實現比較復雜，首先需要對問題進行編碼，找到最優解 之后還需要對冋題進行解碼，2、 另外三個算子的實現也有許多參數，如交叉率和變異率，并且這些參數 的選擇嚴重影響解的品質，而目前這些參數的選擇大部分是依靠經驗.3、沒有能夠及時利用網絡的反饋信息，故算法的搜索速度比較慢，要得要較 精確的解需要較多的訓練時間。4

2、、算法對初始種群的選擇有一定的依賴性，能夠結合一些啟發算法進行改 進。5、算法的并行機制的潛在能力沒有得到充分的利用，這也是當前遺傳算法 的一個研究熱點方向。一*梯度法（最速下降法）:1.搜焉方向：護=円心、,也稱詞最速亍降方向：2搜索步長：族取最優步長,即滿足f （斗“ +入黑護）=min f （算* +加* ） «二、梯度法算法步驟；71.給寶初她點J1 用爲允許逞差若> 0,令* = 1 a2,計算搜索方向滬二-V f（xk）;L3若|rf'|<,則停止計算，龍*為所求極值點：否則，求最優步長 心 使得f（xk +血卅）= min /（齊+加爼A乳令丁和=X

3、十Ak（lk，令衣:=k +1,轉2。于是得到如下迭代公式x*+1 = x* -V2/)-1/),牛頓迭代公式記 dk =-v2/(x/f)rivf(x*),則產為線 jV2f(xk)d = -Vf(xk)J解.此時牛頓迭代公式可改寫為xA+1 =xk+dk 用Newton法求解無約束問題算法(Newton法):Step 1.給定精度磯取初始點兀打置氐=1;Step!.如果阿(旳卜£,則算法停止，址為無約束否則，求解方程得解.Step 3.令嚴"+滬，m 返回 Step!,牛頓法具有局部收斂性和二次收斂速度， 對于凸二次函數，牛頓法 步即可達到最優解，具有二次終止性。缺點：

4、牛頓方向d不一定是下降方向；當初始點遠離最優解時，牛頓法可能不收斂；海森陣及逆陣的計算量較大；算法（修正Newton法）：Stepl.給定精度e,取初始點疋，置農=1;Step 2,如果呼3）卜£,則算法停止，£為無約菜 否則，求解N曲伽/方程得解卅.Stepi. 一維搜索求解一維問題min（pa） = fxk +a（lk）得步長值a*.Step 4.令 x+1 =xk +akdk:=點 + 匕返回G印 2.精確一維搜索的優點：得到的是© （a）精確的極小點缺點：花費時間太多共軛梯度法:算法：FR共軌梯度法 Stepl.給定初始點乂蔦令A = l;Step 2.計

5、算Vf(xA),若|7/*(*)| =必則算法停止，*鑒卩為 無約束問題(W)的最優解；否則，進入下一步；Step 3,確定搜索方向.令其中，當k = l時燦t=0;當&A1吋代_ =Step 4.令兀e =+ akdk,其中步長叫V/(xA/<7AdkTGdkStep 5.置 :=+ 1,返回 Step 2,下面給出不使用“重新開始”策略的用于一般函數的M共扼梯度法：算法：StepV給定初始點十，允許誤差f >0. UStep 2.計算WC/),若|W(卅)|<6則算法停止，卅即為無約束問題的最優解；否則，進入下一步；確定搜索方向.令I心-町(心譏宀2頭中，當* = 1時=0;當氐>1時0-=嚴(*) I"(嚴)|$切4.作一維搜索確定步長還:min 0(a) = /(x* 4-«rf*),Step 5.令= xk + 業護，止:=氐 +1,返回 Step 2.方 性、法質、牛頓法DFP （擬牛頓法）共軛梯度法（重置初值）二次終止 性質一步終止（幾二1 ）n步（精確一維搜索 ） 終止n步（精確一維搜索 ） 終止收斂作C且有界 凸，X0充分接近x*,hk三1fC在L（xo）上有界 凸，L（x 0）有界（精確一維搜索）代C在L（xo）上有界凸，L（xo）有界（精確一維搜索）局部 收斂性同上 二階收斂同上，且V