最優化算法理論與應用_第1頁
最優化算法理論與應用_第2頁
最優化算法理論與應用_第3頁
最優化算法理論與應用_第4頁
最優化算法理論與應用_第5頁
已閱讀5頁,還剩10頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

最優化算法理論與應用第1頁,課件共15頁,創作于2023年2月優化方法基本分類本門課程有關事宜優化問題基本分類第2頁,課件共15頁,創作于2023年2月優化問題基本分類第3頁,課件共15頁,創作于2023年2月例、和優化聯系非常密切的一類問題(回歸、辨識、估計、訓練、學習、擬合、逼近…)已知某個標量和某個向量之間若干一一對應的樣本數據要確定一個函數,使在包含所有樣本數據的某個集合里能夠用描述和之間的對應關系,即使誤差對任意的都盡量小第4頁,課件共15頁,創作于2023年2月基本方法:選擇含有待定參數的函數,通過極小化某種樣本誤差確定待定參數得到所需函數常用范數的樣本誤差于是,最終要解決的是下述優化問題這是連續變量無約束優化問題第5頁,課件共15頁,創作于2023年2月對于采用范數形成的優化問題為克服目標函數不可導的困難,可以等價轉換成下面的連續變量約束優化問題特別是,當是的線性函數時,即上面的優化問題是線性規劃問題第6頁,課件共15頁,創作于2023年2月可以選擇足夠多的基函數使優化問題的樣本誤差任意小,這樣得到的模型在樣本集以外通常會產生很大的預報誤差,這就是所謂過度擬合或過度訓練問題。解決該問題的根本途經是同時極小化基函數的個數,理論上要解決連續和離散變量混合的優化問題其中是設定的正的權值第7頁,課件共15頁,創作于2023年2月前面的例子包含了優化問題最基本的類型線性與非線性無約束與有約束連續變量與離散變量后者相對于前者在難度上均有質的改變具有不確定性和動態特性的問題轉換成上述問題第8頁,課件共15頁,創作于2023年2月優化方法基本分類第9頁,課件共15頁,創作于2023年2月例基本方法:從之間的任一點出發,朝著能夠改進目標函數的方向搜索前進,直至目標函數不能改進肯定能夠收斂到一個局部最優解,不能保證全局最優第10頁,課件共15頁,創作于2023年2月跳出局部陷阱的唯一途經是在搜索過程中允許前進到目標函數值變差的點,如在之間容許目標函數下降才有可能找到全局最優解由此產生新問題,無法保證算法收斂第11頁,課件共15頁,創作于2023年2月為了使算法收斂,只能引入不確定性,讓算法在任何一點以一定的概率前進到鄰近的某點,移動概率和相應點的目標函數值正相關,所以由此產生的算法是結果不確定的算法第12頁,課件共15頁,創作于2023年2月前面的例子包含了優化方法最基本的類型確定型搜索與不確定型搜索前者是經典的優化教材介紹的主要內容,后者包括模擬退火、禁忌搜索、遺傳算法、免疫算法、螞蟻算法等方法,一般統稱為智能算法本課程主要討論基于確定性搜索的優化方法后期簡單介紹基于不確定性搜索的優化方法第13頁,課件共15頁,創作于2023年2月本門課程有關事宜第14頁,課件共15頁,創作于2023年2月教材:運籌學(第二版),刁在筠等編,高教出版社

自第2章到第6章按教材順序講課,內容有增減

在第6章后增加一些不確定型搜索方法的內容考核:

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論