1、07.10.2020,1,1/,模式識別 Pattern Recognition Chapter I,07.10.2020,2,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,教材/參考文獻： 1鐘珞，潘昊，封筠，何平，模式識別，武漢：武漢大學出版社，2006年9月(ISBN： 730705230) 2李晶皎，朱志良，王愛俠等譯，Sergios Theodorodis, Konstantinos Koutrombas著，模式識別，北京：電子工業出版社，2004年8月(ISBN：7505399241) 3肖健華，智能模式識別

2、方法，廣州：華南理工大學出版社，2006年1月(ISBN：756232316X）,07.10.2020,3,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.1 模式識別是什么,例子1：醫生診病過程 1)測量病人的體溫和血壓，化驗血沉，詢問臨床表現； 2)通過綜合分析，抓住主要病癥； 3)醫生運用自己的知識、經驗，根據主要病癥、測量化驗結果，作出正確的診斷。 在模式識別技術中，常用的術語有：樣本、模式、特征、類型等等，對照醫生診病過程，有：,07.10.2020,4,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模

3、式識別,Pattern Recognition Ch. 1 導論,1.1 模式識別是什么？,a.樣本：醫院里的眾多患者，每個患者都是一個樣本； 單一樣本：醫生診斷的某一患者，就是樣本空間中的一個單一樣本； 樣本值：某一患者的化驗、檢查結果與表征現象。 b.模式：各樣本值按一定的數據準則綜合的結果； 模式樣本：具有某種模式的樣本； 模式采集：獲取某樣本的測量數值的過程； c.特征：患者某些具有顯著特征的化驗數據及表征； 特征選擇與提取：能表征(疾病)特異性的化驗結果與表征；,07.10.2020,5,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recogniti

4、on Ch. 1 導論,1.1 模式識別是什么？,d.判決：醫生運用知識、病例經驗綜合分析給出診斷； 判決準則/規則：醫生的知識 判決結果：將患者明確(或以概率)確定為某一種病癥(或多種/并發病癥)的患者(及病患嚴重程度) 事實上，最后的結果也成為分類。因此有預先知道類別(已知病癥)與未知類別(未知病癥)的區別。 模式識別：就是以計算機為工具、各種傳感器為信息來源，數據計算與處理為方法，對各種現象、事物、狀態等進行準確地分析、判斷識別與歸類。,07.10.2020,6,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.2

5、 模式識別做什么(應用領域)？,基于語音： 重點人物通信監控語音識別系統/規模音頻資料檢索 基于圖像： 光學字符識別(Optical Character Recognition OCR)/車牌識別(Vehicle License Plate Recognition VLPR)/人臉識別/指紋識別/簽名認證/支票認證/表情和手勢識別/農作物分類與害蟲識別/生物信息學：DNA識別/航空與衛星遙測遙感數據資源調查/軍用目標的圖像識別/基于圖形模式識別的機器人控制等 基于工程數據： 振動模式分析與故障診斷/石油鉆井數據分析與世故預報/基于狀態模式的智能控制/數據挖掘與知識發現等,07.10.2020,

6、7,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,由信息傳遞的雙向性可以理解， 其中的每一環節都不是孤立的和 單方向的，它們之間相互關聯和 依賴，在必要的時候需要循環、 反饋與迭代。,07.10.2020,8,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.1 線性與非線性分類 A. 線性分類,Fig.1.2 線性分類,Fig.1.3 非線性分類,B. 非線性分類,07.10.2020,9,

7、王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 A. 貝葉斯(Bayes)分類器,(Bayes公式),Fig. 1.4 Bayes分類,07.10.2020,10,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 B. 支持向量機(Support Vector Machines SVM)分類器,Fig.1.5 SVM分類,a) 快速求出基于邊界的最優分類,b)

8、 在凸集上求出最臨近邊界點,07.10.2020,11,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 C. 神經網絡(Neural Networks)分類器,Fig.1.6 NN分類,a) NN非線性特征抽取與共享,b) 三層前向神經網絡逼近非線性函數,07.10.2020,12,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 D. (模糊)聚類分析(Fu

9、zzy Classification)分類器,Fig.1.7 石油鉆井工作狀態模糊聚類,07.10.2020,13,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別的歷史、發展、現狀與展望,1929年 G. Tauschek發明閱讀機 ，能夠閱讀0-9的數字。 20世紀30年代 Fisher提出統計分類理論,奠定了統計模式識別的基礎。因此，在6070年代，統計模式識別發展很快，但由于被識別的模式愈來愈復雜，特征也愈多，就出現“維數災難”。但由于計算機運算速度的迅猛發展，這個問題得到一定克服。統計模式識別仍是

10、模式識別的主要理論。,07.10.2020,14,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別的歷史、發展、現狀與展望,上世紀50年代 Noam Chemsky 提出形式語言理論，美籍華人付京蓀提出句法結構模式識別； 60年代 L.A.Zadeh提出了模糊集理論，模糊模式識別理論得到了較廣泛的應用； 80年代 Hopfield提出神經元網絡模型理論，近些年人工神經元網絡在模式識別和人工智能上得到較廣泛的應用； 90年代 小樣本學習理論、支持向量機也受到了很大的重視。,07.10.2020,15,王杰(博

11、士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別的歷史、發展、現狀與展望,1973年 IEEE發起了第一次關于模式識別的國際會議“ICPR”，成立了國際模式識別協會-“IAPR”，每2年召開一次國際學術會議； 1977年 IEEE的計算機學會成立了模式分析與機器智能（PAMI）委員會，每2年召開一次模式識別與圖象處理學術會議； 國內的組織有電子學會，通信學會，自動化協會，中文信息學會.。,07.10.2020,16,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition

12、 Ch. 1 導論,1.4 模式識別的歷史、發展、現狀與展望,模式識別的應用領域更加廣泛： 生物、醫學、軍事、農業、工業、社會、教育、航天、航空、經濟、金融、生物認證、數字水印 模式識別的計算手段更加先進： 海量存儲技術、高速計算/并行計算技術、網格技術、網絡技術、新型前端器件(激光、紅外、MEMS、傳感器網絡) 模式識別的新型算法層出不窮： Computation with word(Zadeh)Soft Computation DNA Computation 國內外模式識別的學術活動從未間斷: 小波/模式識別國際會議、機器學習/模式識別國際會議、圖像處理/模式識別國際會議、數據挖掘/模式識別國際會議,07.10.2020,17,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別,怎么學？怎么考？,學會基本方法以