深度學習基礎與實踐 課件 2.3.2模型的欠擬合與過擬合（上）_第1頁
深度學習基礎與實踐 課件 2.3.2模型的欠擬合與過擬合（上）_第2頁
深度學習基礎與實踐 課件 2.3.2模型的欠擬合與過擬合（上）_第3頁
深度學習基礎與實踐 課件 2.3.2模型的欠擬合與過擬合（上）_第4頁
深度學習基礎與實踐 課件 2.3.2模型的欠擬合與過擬合（上）_第5頁
全文預覽已結束

下載本文檔

版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領

文檔簡介

模型的欠擬合與過擬合（上）02模型欠擬合和過擬合欠擬合和過擬合產生原因圖片來源：[1]《動手學深度學習》

AstonZhang誤差（error）一般是指學習器根據模型計算得到的結果與樣本真實值之間的差異。訓練誤差（training

error）一般是指學習器計算結果與訓練集中樣本真實值之間的差異。測試誤差（test

error）一般是指學習器計算結果與測試集中樣本真實值之間的差異。泛化誤差（generalizationerror）一般是指學習器在新的樣本上的誤差。例：對二次函數??

=

??

+

??1??

+

??2??2

進行擬合，其中擬合結果如下面三幅圖所示，分別為欠擬合、合適和過擬合的可視化結果。欠擬合 合適 過擬合模型欠擬合和過擬合02圖片來源：[2]

《機器學習

》周志華為了在未見樣本上表現得很好，應盡可能的學習出適用于未知樣本的“普遍規律”，當把訓練樣本學得“太好”時，會存在把訓練樣本自身的特有性質當作樣本總體的普遍性質，導致泛化性能下降，這樣的現象稱為過擬合。與過擬合相對應的就是欠擬合。欠擬合是指對于訓練好的模型，數據的擬合程度不高，與擬合曲線相差較大；或指模型沒有很好地捕捉到數據特征，不能夠很好地擬合數據。欠擬合同樣會導致泛化性能下降。。02模型欠擬合和過擬合欠擬合和過擬合區別欠擬合與過擬合在本質上都是模型對事物本質規律表達上的偏差。但兩者的形成原因不同，欠擬合主要是由于模型太簡單，不能表達復雜關系。而過擬合可能是模型太復雜，也可能是樣本不典型。欠擬合與過擬合的表現不同，欠擬合在訓練集和測試集上的性能都較差，而過擬合往往在訓練集上有好的表現，而在測試集上的性能較差。模型欠擬合和過擬合02欠擬合解決辦法過擬合和欠擬合都是機器學習算法要考慮的問題，其中欠擬合的情況比較容易克服，常見解決方法有：增加新特征，可以考慮加入特征組合、高次特征，來增大表達能力；添加多項式特征，這個在機器學習算法里面用的很普遍，例如將線性模型通過添加二次項或者三次項使模型泛化能力更強；使用非線性模型，比如SVM

、決策樹、深度學習等模型。總之，欠擬合的解決辦法通常是提高模型的表達

溫馨提示

  • 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙，網頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間，僅對用戶上傳內容的表現方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容，請與我們聯系，我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論