1、無約束最優(yōu)化無約束最優(yōu)化數(shù)學(xué)建模與數(shù)學(xué)實驗數(shù)學(xué)建模與數(shù)學(xué)實驗實驗?zāi)康膶嶒災(zāi)康膶嶒瀮?nèi)容實驗內(nèi)容2.掌握用數(shù)學(xué)軟件包求解無約束最優(yōu)化問題掌握用數(shù)學(xué)軟件包求解無約束最優(yōu)化問題.1.無約束最優(yōu)化基本算法無約束最優(yōu)化基本算法.1. 無約束優(yōu)化基本思想及基本算法無約束優(yōu)化基本思想及基本算法. .4. 實驗作業(yè)實驗作業(yè). .3. 用用matlab求解無約束優(yōu)化問題求解無約束優(yōu)化問題.2. matlab優(yōu)化工具箱簡介優(yōu)化工具箱簡介. 無約束最優(yōu)化問題無約束最優(yōu)化問題求解無約束最優(yōu)化問題的的基本思想求解無約束最優(yōu)化問題的的基本思想*無約束最優(yōu)化問題的基本算法無約束最優(yōu)化問題的基本算法返回標(biāo)準(zhǔn)形式：標(biāo)準(zhǔn)形式：求解

2、無約束最優(yōu)化問題的基本思想求解無約束最優(yōu)化問題的基本思想求解的基本思想求解的基本思想 ( 以二元函數(shù)為例以二元函數(shù)為例 )1x2x12( ,)f x xo1x2xo5310x1x2x)(0xf)(1xf)(2xf連續(xù)可微多局部極小298.0f0f298.0f 唯一極小(全局極小)221211 2212( ,)223f x xxx xxxx搜索過程搜索過程2 2212211min( ,)100()(1)f x xxxx最優(yōu)點 (1 1)初始點 (-1 1)1x2xf-114.00-0.790.583.39-0.530.232.60-0.180.001.500.09-0.030.980.370.1

3、10.470.590.330.200.800.630.050.950.90 0.0030.990.991e-40.9990.9981e-50.9997 0.9998 1e-8返回?zé)o約束優(yōu)化問題的基本算法無約束優(yōu)化問題的基本算法 最速下降法是一種最基本的算法，它在最優(yōu)化方法中占有重要地位.最速下降法的優(yōu)點是工作量小，存儲變量較少,初始點要求不高；缺點是收斂慢，最速下降法適用于尋優(yōu)過程的前期迭代或作為間插步驟，當(dāng)接近極值點時，宜選用別種收斂快的算法. 1 1最速下降法（共軛梯度法）算法步驟：最速下降法（共軛梯度法）算法步驟：2 2牛頓法算法步驟：牛頓法算法步驟： 如果f是對稱正定矩陣a的二次函數(shù)，

4、則用牛頓法，經(jīng)過一次迭代就可達(dá)到最優(yōu)點,如不是二次函數(shù)，則牛頓法不能一步達(dá)到極值點，但由于這種函數(shù)在極值點附近和二次函數(shù)很近似,因此牛頓法的收斂速度還是很快的. 牛頓法的收斂速度雖然較快，但要求黑塞矩陣可逆，要計算二階導(dǎo)數(shù)和逆矩陣，就加大了計算機(jī)的計算量和存儲量.3 3擬牛頓法擬牛頓法返回matlab優(yōu)化工具箱簡介優(yōu)化工具箱簡介1.1.matlab求解優(yōu)化問題的主要函數(shù)求解優(yōu)化問題的主要函數(shù)2.2.優(yōu)化函數(shù)的輸入變量優(yōu)化函數(shù)的輸入變量 使用優(yōu)化函數(shù)或優(yōu)化工具箱中其他優(yōu)化函數(shù)時, 輸入變量見下表:3.3.優(yōu)化函數(shù)的輸出變量見下表優(yōu)化函數(shù)的輸出變量見下表: :4 4控制參數(shù)選項的設(shè)置控制參數(shù)選項的

5、設(shè)置 (3) maxitermaxiter: 允許進(jìn)行迭代的最大次數(shù),取值為正整數(shù).選項中常用的幾個參數(shù)的名稱、含義、取值如下選項中常用的幾個參數(shù)的名稱、含義、取值如下: : (1)陳列: 顯示水平.取值為off時,不顯示輸出; 取值為iter時,顯示每次迭代的信息;取值為final時,顯示最終結(jié)果.默認(rèn)值為final.(2)maxfunevals: 允許進(jìn)行函數(shù)評價的最大次數(shù),取值為正整數(shù).例：opts=optimset(display, iter, tolfun,1e-8) 該語句創(chuàng)建一個稱為選擇的優(yōu)化選項結(jié)構(gòu),其中顯示參數(shù)設(shè)為iter, tolfun參數(shù)設(shè)為1e-8. 控制參數(shù)選項可以通

6、過函數(shù)控制參數(shù)選項可以通過函數(shù)optimsetoptimset創(chuàng)建或修改創(chuàng)建或修改. .命令的命令的格式如下：格式如下：(1) options=optimset(optimfun) 創(chuàng)建一個含有所有參數(shù)名,并與優(yōu)化函數(shù)optimfun相關(guān)的默認(rèn)值的選項結(jié)構(gòu).（2）options=optimset(param1,value1,param2,value2,.) 創(chuàng)建一個名稱為選項的優(yōu)化選項參數(shù),其中指定的參數(shù)具有指定值,所有未指定的參數(shù)取默認(rèn)值.(3) options=optimset(oldops, param1,value1,param2,value2,.) 創(chuàng)建名稱為oldops的參數(shù)的拷貝

7、,用指定的參數(shù)值修改oldops中相應(yīng)的參數(shù).返回用用matlab解無約束優(yōu)化問題解無約束優(yōu)化問題 其中等式（3）、（4）、（5）的右邊可選用（1）或（2）的等式右邊. 函數(shù)fminbnd的算法基于黃金分割法和二次插值法，它要求目標(biāo)函數(shù)必須是連續(xù)函數(shù)，并可能只給出局部最優(yōu)解. 常用格式如下：常用格式如下：（1）x= fminbnd (fun,x1,x2)（2）x= fminbnd (fun,x1,x2 ，options)（3）x，fval= fminbnd（）（4）x，fval，exitflag= fminbnd（）（5）x，fval，exitflag，output= fminbnd（）mat

8、lab(wliti1) 主程序為主程序為wliti1.m: f=2*exp(-x).*sin(x); fplot(f,0,8); %作圖語句作圖語句 xmin,ymin=fminbnd (f, 0,8) f1=-2*exp(-x).*sin (x); xmax,ymax=fminbnd (f1, 0,8)例例2 2 有邊長為有邊長為3 3m的正方形鐵板，在四個角剪去相等的正方形以的正方形鐵板，在四個角剪去相等的正方形以制成方形無蓋水槽，問如何剪法使水槽的容積最大？制成方形無蓋水槽，問如何剪法使水槽的容積最大？解解先編寫先編寫m文件文件fun0.m如下如下: : function f=fun0(

9、x) f=-(3-2*x).2*x;主程序為主程序為wliti2.m: x,fval=fminbnd(fun0,0,1.5); xmax=x fmax=-fval運算結(jié)果為運算結(jié)果為: xmax = 0.5000, = 0.5000,fmax =2.0000. =2.0000.即剪掉的正方形即剪掉的正方形的邊長為的邊長為0.50.5m時水槽的容積最大時水槽的容積最大, ,最大容積為最大容積為2 2m3. .matlab(wliti2) 命令格式為命令格式為: :（1）x= fminunc（fun,x0 ）；或x=fminsearch（fun,x0 ）（2）x= fminunc（fun,x0 ，

10、options）； 或x=fminsearch（fun,x0 ，options）（3）x，fval= fminunc（.）； 或x，fval= fminsearch（.）（4）x，fval，exitflag= fminunc（.）； 或x，fval，exitflag= fminsearch（5）x，fval，exitflag，output= fminunc（.）； 或x，fval，exitflag，output= fminsearch（.） 2.多元函數(shù)無約束優(yōu)化問題多元函數(shù)無約束優(yōu)化問題標(biāo)準(zhǔn)型為：標(biāo)準(zhǔn)型為：min()f x3 fminunc為中型優(yōu)化算法的步長一維搜索提供了兩種算法，由選項中

11、參數(shù)linesearchtype控制： linesearchtype=quadcubic (缺省值)，混合的二次和三次多項式插值； linesearchtype=cubicpoly，三次多項式插使用使用fminunc和和 fminsearch可能會得到局部最優(yōu)解可能會得到局部最優(yōu)解. .說明說明: :fminsearch是用單純形法尋優(yōu)是用單純形法尋優(yōu).fminunc算法見以下幾點說明：算法見以下幾點說明：1 fminunc為無約束優(yōu)化提供了大型優(yōu)化和中型優(yōu)化算法.由選項中的參數(shù)largescale控制：largescale=on (默認(rèn)值默認(rèn)值),使用大型算法使用大型算法largescale

12、=off (默認(rèn)值默認(rèn)值),使用中型算法使用中型算法2 fminunc為中型優(yōu)化算法的搜索方向提供了4種算法，由 選項中的參數(shù)選項中的參數(shù)hessupdate控制：控制： hessupdate=bfgs（默認(rèn)值），擬牛頓法的（默認(rèn)值），擬牛頓法的bfgs公式；公式；hessupdate=dfp，擬牛頓法的，擬牛頓法的dfp公式；公式；hessupdate=steepdesc，最速下降法，最速下降法例例3 3 minmatlab(wliti3) 1. 1.編寫編寫m文件文件 fun1.m: :function f = fun1 (x)f = exp(x(1)*(4*x(1)2+2*x(2)2+4

13、*x(1)*x(2)+2*x(2)+1); 2.2.輸入輸入m文件文件wliti3.m如下如下: : x0 = -1, 1; x=fminunc(fun1,x0); y=fun1(x) 3. 3.運行結(jié)果運行結(jié)果: : x= 0.5000 -1.0000 y = 1.3029e-1012212122( )(42421) exf xxxx xxmatlab (wliti31)matlab (wliti32)3.3.用用fminsearch函數(shù)求解函數(shù)求解matlab (wliti41)輸入命令: f=100*(x(2)-x(1)2)2+(1-x(1)2;x,fval,exitflag,outpu

14、t=fminsearch(f,-1.2 2)運行結(jié)果: x =1.0000 1.0000fval =1.9151e-010exitflag = 1output= iterations: 108 funccount: 202 algorthm: nelder-mead simplex direct search 4.4.用用fminunc 函數(shù)函數(shù)matlab (wliti44)(1)建立m文件fun2.m function f=fun2(x) f=100*(x(2)-x(1)2)2+(1-x(1)2(2)主程序wliti44.m rosenbrock函數(shù)不同算法的計算結(jié)果函數(shù)不同算法的計算結(jié)果

15、 可以看出，最速下降法的結(jié)果最差.因為最速下降法特別不適合于從一狹長通道到達(dá)最優(yōu)解的情況.例例5 5 產(chǎn)銷量的最佳安排產(chǎn)銷量的最佳安排 某廠生產(chǎn)一種產(chǎn)品有甲、乙兩個牌號，討論在產(chǎn)銷平衡的情況下如何確定各自的產(chǎn)量，使總利潤最大.所謂產(chǎn)銷平衡指工廠的產(chǎn)量等于市場上的銷量.基本假設(shè)基本假設(shè)1 1價格與銷量成線性關(guān)系價格與銷量成線性關(guān)系2 2成本與產(chǎn)量成負(fù)指數(shù)關(guān)系成本與產(chǎn)量成負(fù)指數(shù)關(guān)系 模型建立模型建立 若根據(jù)大量的統(tǒng)計數(shù)據(jù),求出系數(shù)b1=100,a11=1,a12=0.1,b2=280,a21=0.2,a22=2,r1=30,1=0.015,c1=20, r2=100,2=0.02,c2=30,則問題轉(zhuǎn)化為無約束優(yōu)化問題：求甲,乙兩個牌號的產(chǎn)量x1，x2，使總利潤z最大. 為簡化模型,先忽略成本,并令a12=0,a21=0,問題轉(zhuǎn)化求z1 = ( b1 - a11x1 ) x1 + ( b2 - a22x2 ) x2的極值.顯然其解為x1 = b1/2a11 = 50, x2 = b2/2a22 = 70,我們把它作為原問題的初始值.總利潤為：總利潤為： z(x1,x2)=(p1-q1)x1+(p2-q2)x2 模型求解模型求解 1.建立m文件fun.m: function f = fun (x) y1=(100-x(1)- 0.1*x