1、碩士研究生學(xué)位課程模式識別Pattern Recognition主講教師：陶青川使用教材：孫即祥等編著，現(xiàn)代模式識別，長沙， 國防科技大學(xué)出版社，模式識別的基本定義 模式(pattern) - 存在于時間，空間中可觀察 的事物，具有時間或空間分布的信息。 模式識別(Pattern Recognition) - 用計算機(jī)（機(jī)器系統(tǒng)）實(shí)現(xiàn)人對各種事物或現(xiàn)象的分析,描述,判斷,識別。模式識別與圖象識別，圖象處理的關(guān)系模式識別是模擬人的某些功能 模擬人的視覺: 計算機(jī)+光學(xué)系統(tǒng) 模擬人的聽覺: 計算機(jī)+聲音傳感器 模擬人的嗅覺和觸覺: 計算機(jī)+傳感器 基于統(tǒng)計方法的模式識別系統(tǒng)組成信息獲取預(yù)處理特征提

2、取和選取分類器設(shè)計分類決策（1 ）、信息獲取二維圖象 如文字、指紋、地圖、照片一維波形 如腦電圖、心電圖、機(jī)械震動波形物理參量和邏輯值通過測量、采樣和量化，可以用矩陣或向量表示二維圖象或一維波形（2）、預(yù)處理目的：去除噪聲，加強(qiáng)有用信息，復(fù)原信息預(yù)處理：包括AD,二值化，圖象的平滑，變換，增強(qiáng)，恢復(fù)，濾波等, 主要指圖象處理。（3）、特征提取和選取特征提取和選擇：對原始數(shù)據(jù)進(jìn)行變換，得到最能反映分類本質(zhì)的特征 測量空間：原始數(shù)據(jù)組成的空間 特征空間：分類識別賴以進(jìn)行的空間 模式表示：維數(shù)較高的測量空間-維數(shù)較低的特征空間例如，一幅64x64的圖象可以得到4096個數(shù)據(jù)，這種在測量空間的原始數(shù)據(jù)

3、通過變換獲得在特征空間最能反映分類本質(zhì)的特征。（4）、分類決策在特征空間中用統(tǒng)計方法把被識別對象歸為某一類別基本做法：在樣本訓(xùn)練集基礎(chǔ)上確定某個判決規(guī)則，使得按這種規(guī)則對被識別對象進(jìn)行分類時所造成的錯誤識別率最小或引起的損失最小當(dāng)務(wù)之急模式識別與人工智能需要更多的數(shù)學(xué)知識。簡單的寫程序的工作，將逐漸變?yōu)檐浖と说氖虑椤Ｐ畔⒖茖W(xué)面臨來自數(shù)學(xué)家與物理學(xué)家的嚴(yán)重生存挑戰(zhàn)補(bǔ)充數(shù)學(xué)也許是信息科學(xué)研究者的當(dāng)務(wù)之急。盡管數(shù)學(xué)不是萬能的，但是沒有數(shù)學(xué)是萬萬不能的！作業(yè)：上機(jī)作業(yè)題考試：閉卷考試（70)+平時成績（30）主要參考文獻(xiàn)1邊肇祺等，模式識別（第二版），北京，清華大學(xué)出版社，2000年1月.2楊光正等

4、，模式識別，合肥，中國科技大學(xué)出版社，2001年3 (美)Richard O.Duda Peter E.Hart Dovid G. Stork著 李宏東 姚天翔等譯，模式分類（第二版）（attern Classification Second Edition）北京，機(jī)械工業(yè)出版、 中信出版社（中英兩種版本） 2003.1973年 IEEE發(fā)起了第一次關(guān)于模式識別的國際會議“ICPR”，成立了國際模式識別協(xié)會-“IAPR”，每2年召開一次國際學(xué)術(shù)會議。1977年 IEEE的計算機(jī)學(xué)會成立了模式分析與機(jī)器智能（PAMI）委員會，每2年召開一次模式識別與圖象處理學(xué)術(shù)會議。國內(nèi)的組織有電子學(xué)會，通信學(xué)

5、會，自動化協(xié)會，中文信息學(xué)會.。CVPR: IEEE Conf on Comp Vision and Pattern Recognition (0.96)ICML: Intl Conf on Machine Learning (0.95)ICPR: Intl Conf on Pattern Recognition (0.76)關(guān)于模式識別的學(xué)術(shù)組織和重要會議課程主要內(nèi)容一、引論 模式識別的基本概念；模式識別系統(tǒng)；模式識別理論與技術(shù)；模式識別的發(fā)展和應(yīng)用；二、統(tǒng)計模式識別1聚類分析： 聚類分析的概念；模式相似性測度及聚類準(zhǔn)則函數(shù)；譜系聚類算法；動態(tài)聚類算法；最小張樹分類法；聚類有效性評價。2線性

6、判別函數(shù) 線性判別函數(shù)；Fisher線性判別；感知準(zhǔn)則函數(shù)和梯度下降法；最小均方誤差準(zhǔn)則函數(shù)及算法；廣義線性判別函數(shù)；二次判別函數(shù)；非線性分類器及分類方法。3統(tǒng)計決策 最小錯誤率的Bayes決策；最小風(fēng)險的Bayes決策；正態(tài)分布時的統(tǒng)計決策；最小最大損失決策；N-P（Neyman-Pearson）決策；Fisher準(zhǔn)則判別 4概率密度函數(shù)的估計 統(tǒng)計推斷概述；參數(shù)估計；非參數(shù)估計；錯誤率測試；平均損失及最小誤判概率的估計方法；經(jīng)驗風(fēng)險設(shè)計；隱馬爾可夫模型。5近鄰法 最近鄰法：K近鄰法；剪輯近鄰法；引入拒絕決策的近鄰法；近鄰法中最佳距離及其實(shí)際計算。一、智能科學(xué)人類的夢想 1. 1001夜的故

7、事：芝麻開門 2. 好萊塢大導(dǎo)演斯皮爾博格的大片：人工智能新版鐵臂阿童木的故事 3. 1997年美國微軟總裁比爾蓋茨在清華大學(xué)演講時播放的錄相電腦識別人體語言 4. 2001年中國電子工業(yè)博覽會（大連）：女機(jī)器人“溫文雅”。 模式識別（Pattern Recognition）是20世紀(jì)60年代初迅速發(fā)展起來的、與高新技術(shù)研究開發(fā)密切相關(guān)的一門新興學(xué)科。它所研究的理論與方法在很多科學(xué)和技術(shù)領(lǐng)域中得到了廣泛應(yīng)用，取得了一系列重大成果，為人類邁進(jìn)智能時代奠定了基礎(chǔ)。其研究方興未艾，前景誘人！二、人工智能 1 .定義（人工智能）：使機(jī)器具有人類智能活動的學(xué)科推理、學(xué)習(xí)、規(guī)劃、感知、識別、知識獲取、知識

8、搜索、其它博奕定理證明模式識別專家系統(tǒng)機(jī)器人學(xué)人 工 智 能哲學(xué)與認(rèn)知科學(xué)數(shù)學(xué)心理學(xué)計算機(jī)科學(xué)電子信息科學(xué)控制科學(xué)2. 分類 （1）專家系統(tǒng)：是使計算機(jī)具有某種專門知識或若干常識，并能綜合運(yùn)用這些知識，以便在某些特定領(lǐng)域內(nèi)代替或幫助專家從事某項工作的知識系統(tǒng)。人機(jī)接口知識工程師和領(lǐng)域?qū)＜抑?識 獲 取 機(jī) 制推 理 機(jī)解 釋 機(jī) 制用戶知識庫(動態(tài)庫)(2)模式識別： 20世紀(jì)60年代開始，美國科學(xué)家G .Tauschek提出光學(xué)模板匹配：20世紀(jì)60年代：數(shù)學(xué)發(fā)展統(tǒng)計決策理論，計算機(jī)技術(shù)發(fā)展，模式識別；代表人物：(美)付京蓀、黃煦濤20世紀(jì)80年代：中國模式識別開始（3）機(jī)器人：三、模式識別

9、技術(shù) 1. 模式：人類能用其感官直接或間接接收到的外界信息。可用本質(zhì)屬性（特征）或結(jié)構(gòu)信息（基元）表示。 2. 模式識別：是研究人類識別機(jī)理和實(shí)現(xiàn)實(shí)別功能的科學(xué)。聲信息模式信息光信息視覺能力圖像識別與理解，景像分析與識別聽覺能力語音識別與理解3. 模式識別技術(shù)過程 例1 指紋識別系統(tǒng) 指紋識別主要內(nèi)容：指紋圖象的獲取指紋圖象的增強(qiáng)指紋圖象的特征提取指紋的特征比對指紋紋理特征螺形、拱形、箕形等指紋紋線方向特征指紋細(xì)節(jié)特征端點(diǎn)、分叉點(diǎn)、斷點(diǎn)、橋點(diǎn)等指紋分類螺形、拱形、箕形等四川大學(xué)圖像信息研究所指紋識別采集方式：墨水涂印法活體采集法1、光學(xué)。2、超聲波。3、CMOS法4、熱敏法。5、聲波法。四川大

10、學(xué)圖像信息研究所指紋識別系統(tǒng)：四川大學(xué)圖像信息研究所RS232/485應(yīng)用：重要場所人物監(jiān)視檢測，如銀行、武器庫、海關(guān)等進(jìn)入/離開某個重要場所的人物、人數(shù)，如商場、車站、碼頭等身份認(rèn)證，如門禁、公安偵破等主要方面：人臉檢測人臉識別四川大學(xué)圖像信息研究所例2 人臉人像識別 人臉人像識別人臉檢測：16路界面四川大學(xué)圖像信息研究所人臉人像識別人臉檢測：實(shí)例四川大學(xué)圖像信息研究所場景 人物進(jìn)入場景 人臉檢測 人臉檢測定位1 人臉檢測定位2 人臉檢測定位3 人臉人像識別人臉識別：四川大學(xué)天思智能系統(tǒng)研究所主要流程 人臉人像識別人臉識別：四川大學(xué)天思智能系統(tǒng)研究所特征檢測 灰度分布特征特征模板人臉人像識人

11、臉識別應(yīng)用：四川大學(xué)通緝犯自動查詢系統(tǒng)四川大學(xué)天思智能系統(tǒng)研究所例3 字符識別 例4 身份識別 例5 目標(biāo)識別 模式識別系統(tǒng)組成框圖實(shí)現(xiàn)：待識別模式數(shù)據(jù)采集預(yù)處理特征基元提取與選擇決策識別輸出結(jié)果設(shè)計：訓(xùn)練模式數(shù)據(jù)采集預(yù)處理特征基元提取與選擇分類器設(shè)計4. 模式識別理論 （1）統(tǒng)計模式識別技術(shù) 定義：以統(tǒng)計決策理論為基礎(chǔ)，通過對表征模式本質(zhì)屬性的特征提取，把模式表為n維特征向量，再通過變換降低特征維數(shù)，從而將模式表為特征空間的一個點(diǎn)，運(yùn)用統(tǒng)計決策理論的各種方法，給出一個特征空間的劃分，使每個區(qū)域?qū)?yīng)一類模式，從而達(dá)到識別目的。這種方法也叫幾何模式識別。（2）句法模式識別技術(shù)定義：將模式的結(jié)構(gòu)信

12、息分解為基元及其關(guān)系（符號串、樹或關(guān)系圖），導(dǎo)出各類形式語言的模式文法，然后應(yīng)用形式語言學(xué)理論對模式進(jìn)行分類識別。這種方式又叫結(jié)構(gòu)模式識別。（3）模糊模式識別技術(shù) 定義：以模糊數(shù)學(xué)為基礎(chǔ)，把人類大腦的感覺、分析、推理、分類識別和理解的能力，用計算機(jī)來模擬實(shí)現(xiàn)。（4）智能模式識別技術(shù)定義：引入人工智能的理論與技術(shù)（主要是學(xué)習(xí)、知識表示、推理等技術(shù)），對模式進(jìn)行分類識別與理解的方法叫智能模式識別。通常有兩種方法：基于邏輯推理的智能模式識別基于人工神經(jīng)網(wǎng)絡(luò)的智能模式識別5. 模式識別技術(shù)應(yīng)用 （1）人的身份識別 1990年日本人像識別機(jī)，1秒內(nèi)從3500人中找出你要找的人 1997年 中國武漢市應(yīng)用指紋識別系統(tǒng)成功破案 美國日本已建立上千萬人指紋檔案，世界上最快指 紋識別系統(tǒng)可在0.1秒查證一個人的資料。 人臉識別 聲紋識別 步態(tài)識別（2）文字識別 模塊字典庫：印刷體文字，電腦可一目十行 手寫體字識別：（3）圖像與景物識別（4）語音識別 1997年IBM公司在中國開發(fā)了漢語語音識別系統(tǒng)，1998年又開發(fā)了上海話、四川話、廣東話等地方口語的語音識別系統(tǒng)，具有65000詞匯和糾錯功能，平均識別率95% 清華大學(xué)語音識別系統(tǒng)，可識別普通話、四川話、識別率98.73% 電話語音識別，通過自動語音交互應(yīng)答，自動識別用戶的付費(fèi)方式，美