1、會計學1機器學習基礎概述機器學習基礎概述第1頁/共48頁研究方法概念學習資料第2頁/共48頁機器學習機器學習是近20多年興起的一門多領域交叉學科,涉及概率論、統計學、逼近論、凸分析、算法復雜度理論等多門學科。機器學習理論主要是設計和分析一些讓計算機可以自動“學習”的算法。即從數據中自動分析獲得規律，并利用規律對未知數據進行預測的算法。定義定義：“機器學習是對能通過經驗自動改進的計算機算法的研究”。定義定義：“機器學習是一種讓計算機在沒有事先明確地編程的情況下做出正確反應的科學” 。機器學習：定義第3頁/共48頁機器學習已經有了十分廣泛的應用，例如：數據挖掘、計算機視覺、自然語言處理、生物特征識

2、別、搜索引擎、醫學診斷、檢測信用卡欺詐、證券市場分析、DNA序列測序、語音和手寫識別、戰略游戲和機器人運用。機器學習：應用第4頁/共48頁機器學習：應用第5頁/共48頁監督學習無監督學習機器學習算法統計分類回歸分析聚類關聯規則機器學習算法分類第6頁/共48頁監督學習算法：統計分類第7頁/共48頁監督學習算法：回歸分析第8頁/共48頁監督學習算法特征n目標訓練集特征n目標特征n目標特征1特征1特征1監督學習算法：訓練/學習身高發長抽煙性別1.881.4cm是男1.6615.3cm否女1.7822.6cm否女第9頁/共48頁監督學習算法特征n測試集特征n特征n特征1特征1特征1結果目標目標目標監督

3、學習算法：預測身高發長抽煙1.660cm是1.765.1cm否1.5514.4cm否性別男男女第10頁/共48頁統計分類特征n測試集特征1結果離散值監督學習算法：分類？回歸？回歸分析特征n特征1連續值離散值連續值第11頁/共48頁決策樹KNN邏輯回歸監督學習算法樸素貝葉斯第12頁/共48頁神經網絡監督學習算法隨機森林SVM第13頁/共48頁算法優化AdaBoost遺傳算法第14頁/共48頁監督學習無監督學習機器學習算法統計分類回歸分析聚類關聯規則機器學習算法分類第15頁/共48頁無監督學習算法：聚類第16頁/共48頁無監督學習算法：關聯規則刮風降溫降雨冰雹1110110010001010011

4、11100刮風降溫降雨冰雹111011001000101001111100-監督-統計分類-無監督-關聯規則第17頁/共48頁無監督學習算法特征n訓練集特征n特征n特征1特征1特征1無監督學習算法：訓練/學習第18頁/共48頁監督學習算法特征n測試集特征n特征n特征1特征1特征1結果目標目標目標無監督學習算法：預測第19頁/共48頁無監督學習算法K-meansBIRCHApriori第20頁/共48頁研究方法概念學習資料第21頁/共48頁優化算法（變體/高級）基本算法程序實踐（樣本優化）容易理解的算法邏輯核心的數學原理特色/優缺點主要應用方向學習內容講課要求學習內容和講課要求其他第22頁/共4

5、8頁特征提取特征1樣本數據樣本數據樣本數據n預處理特征樣本集原始樣本集機器學習算法訓練預測輸出驗證集評價目標特征1n目標特征1n目標特征1n訓練集目標特征1n目標特征1n目標特征1n驗證集目標特征1n目標特征1n目標預測目標預測目標預測目標機器學習實施過程改進第23頁/共48頁特征不顯著怎么辦？-人腦戰勝電腦，分析并提取出樣本的數據特征時間用戶ID商品ID操作1月1日001001點擊1月2日002002收藏1月3日001001購買1月3日001004點擊1月5日002005點擊1月6日002006購買第24頁/共48頁特征提取特征1樣本數據樣本數據樣本數據n特征樣本集原始樣本集目標特征1n目標

6、特征1n目標特征提取統計分析變換特征運算時間用戶ID商品ID操作1月1日001001點擊1月2日002002收藏1月3日001001購買1月3日001004點擊1月5日002005點擊1月6日002006購買用戶ID商品ID點擊次數操作日期購買日期00100123300100413NULL00200212NULL00200515NULL002006166第25頁/共48頁噪聲太多導致算法過擬合怎么辦？-預處理，過濾噪聲年齡肝臟大小體重肝硬化231060kg否78865kg否36555kg否341380kg否13743kg否461175kg是22863kg否29859kg否581071kg否第2

7、6頁/共48頁特征1n預處理特征樣本集目標特征1n目標特征1n目標特征1n訓練集目標特征1n目標特征1n目標特征1n驗證集目標特征1n目標預處理過濾采樣劃分集合特征1n目標特征1n目標特征1n目標特征1n目標特征1n目標第27頁/共48頁單一算法受局限怎么辦？-算法迭代、融合-重新考慮新特征第28頁/共48頁訓練特征1n訓練集1目標特征1n目標特征1n目標算法融合：訓練特征1n訓練集2目標特征1n目標特征1n目標機器學習算法A預測特征1n訓練集2預測目標特征1n預測目標特征1n預測目標目標目標目標輸出第29頁/共48頁算法融合：訓練機器學習算法B特征1n訓練集2預測目標特征1n預測目標特征1n

8、預測目標目標目標目標訓練第30頁/共48頁算法A訓練算法融合算法B算法C算法D特征1n驗證集目標特征1n目標特征1n目標特征1n訓練集1目標特征1n目標特征1n目標特征1n訓練集2目標特征1n目標特征1n目標預測第31頁/共48頁特征提取特征1樣本數據樣本數據樣本數據n預處理特征樣本集原始樣本集機器學習算法訓練預測輸出驗證集評價目標特征1n目標特征1n目標特征1n訓練集目標特征1n目標特征1n目標特征1n驗證集目標特征1n目標特征1n目標預測目標預測目標預測目標機器學習實施過程改進第32頁/共48頁統計分析特征提取算法原理融合方法樣本構造理論實踐算法選擇第33頁/共48頁第34頁/共48頁優化

9、算法（變體/高級）基本算法程序實踐（樣本優化）容易理解的算法邏輯核心的數學原理特色/優缺點主要應用方向學習內容講課要求學習內容和講課要求其他第35頁/共48頁研究方法概念學習資料第36頁/共48頁機器學習，Mitchell 著, 機械工業出版社；機器學習實戰，Peter Harrington著；人民郵電出版社統計學完全教程， (美)活塞曼 著; 科學出版社參考書Machine Learning by Andrew Ng線上課程第37頁/共48頁/ml/數據集下載第38頁/共48頁ODPS平臺海量工業數據真實業務邏輯阿里巴巴大數據競賽入圍阿里星百

10、萬獎勵雙11線上實戰第39頁/共48頁第40頁/共48頁第41頁/共48頁監督學習算法特征n目標訓練集特征n目標特征n目標特征1特征1特征1監督學習算法：訓練/學習身高發長抽煙性別1.881.4cm是男1.6615.3cm否女1.7822.6cm否女第42頁/共48頁統計分類特征n測試集特征1結果離散值監督學習算法：分類？回歸？回歸分析特征n特征1連續值離散值連續值第43頁/共48頁無監督學習算法：聚類第44頁/共48頁研究方法概念學習資料第45頁/共48頁特征提取特征1樣本數據樣本數據樣本數據n預處理特征樣本集原始樣本集機器學習算法訓練預測輸出驗證集評價目標特征1n目標特征1n目標特征1n訓練