1、l91 統計模式識別統計模式識別 l92 集群分類集群分類 l93 其他分類方法其他分類方法 l統計模式識別和句法統計模式識別和句法( (結構結構) )模式識別模式識別統計模式識別：根據統計規律進行推測、判斷統計模式識別：根據統計規律進行推測、判斷句法模式識別：按照句法分析方法進行判別句法模式識別：按照句法分析方法進行判別l有監督分類和無監督分類有監督分類和無監督分類有監督分類：有已知訓練樣本，要通過學習有監督分類：有已知訓練樣本，要通過學習無監督分類：沒有已知樣本，基于物以類聚來分類無監督分類：沒有已知樣本，基于物以類聚來分類l參數和非參數方法參數和非參數方法參數方法：可知函數形式，只要求出

2、其參數參數方法：可知函數形式，只要求出其參數非參數方法：沒有函數形式，通常用鄰近方法判斷非參數方法：沒有函數形式，通常用鄰近方法判斷l911 統計模式識別的基本概念統計模式識別的基本概念 l912 判別函數方法判別函數方法 l913 貝葉斯貝葉斯(Bayes)分類器分類器 l914 基于統計模式識別的遙感圖象分基于統計模式識別的遙感圖象分類類 l模式模式 物體較抽象的特征和描述物體較抽象的特征和描述l特征，特征矢量，特征空間特征，特征矢量，特征空間l模式分類模式分類 N N 維特征空間的劃分維特征空間的劃分將特征空間劃分成將特征空間劃分成 M M 個子空間個子空間各個類別均有它的樣本集合，樣本

3、有各個類別均有它的樣本集合，樣本有 N N 維特征。維特征。 每個樣本是每個樣本是 N N 維特征空間中的某一點。維特征空間中的某一點。分類是將全部樣本集合劃分成分類是將全部樣本集合劃分成 M M 個子集，個子集，也就是將也就是將 N N 維特征空間分成維特征空間分成 M M 個子空間。個子空間。TNxxxx),(21),(21M對一組給定的樣本集合，找出其最佳的類判決對一組給定的樣本集合，找出其最佳的類判決函數函數 ，作如下判決：作如下判決： 對于對于 有有 則作判決則作判決（表示屬于第（表示屬于第 i i 類）類）是是 N N 維矢量，維矢量， 表示類別，表示類別， i=1,2,M i=1

4、,2,M 。ji )()(xDxDjiixxiiDl線性判別函數線性判別函數l最小距離分類最小距離分類l分段線性判別函數（最近鄰域分類）分段線性判別函數（最近鄰域分類）lBayesBayes分類分類l集群方法集群方法l模糊分類模糊分類l人工神經網絡方法人工神經網絡方法 若若 則則Mi, 2 , 112211)(NiNiNiiiaxaxaxaxDxAxDii)(0)(xDiixD1(x)D2(x)D3(x)X2X1213xAxDijij)(判決函數：判決函數： 是權系數矩陣。是權系數矩陣。若對于所有的若對于所有的有有則判決則判決ijAji 0)(xDijix)()()(xDxDxDjiijD23

5、13X2X12D13D12令各類的重心（參考矢量）為令各類的重心（參考矢量）為對于輸入樣本，若距離對于輸入樣本，若距離 則則 舍去與類別無關的項，舍去與類別無關的項，可以得到以下判決函數可以得到以下判決函數：MRRR,21miniRxixiTiTiiTiRRxRRxxD)( R R1 R R3 X2 X1 R R2 x x 2 1 ijiRxxd min)(iNj, 2 , 1i判別函數判別函數 為為 類的一組點集。類的一組點集。判別函數可以取不同的形式，判別函數可以取不同的形式，比如：高次多項式，比如：高次多項式， 分段定義，分段定義， 貝葉斯分類器以概率統計理論為基礎，貝葉斯分類器以概率統

6、計理論為基礎，以最小分類誤差為準則，導出分類判決以最小分類誤差為準則，導出分類判決的準則。的準則。l1 1、分類準則、分類準則l2 2、實際使用中確定判決函數的一般方法、實際使用中確定判決函數的一般方法 設設 “ “模式樣本在某個類別中出現模式樣本在某個類別中出現” “把樣本判決為屬于某一類把樣本判決為屬于某一類” ” 互為獨立事件?；楠毩⑹录?。 令令 為第為第 i i 類概率密度函數，類概率密度函數， 為條件概率密度函數，為條件概率密度函數，由最佳判決規則可以導出由最佳判決規則可以導出BayesBayes分類的判決函數分類的判決函數: :)/(ixp)/()()(iiixppxD)(ip設

7、模式的概率密度函數是正態分布設模式的概率密度函數是正態分布, , 為：為：)/(ixp)()(21exp|)2(112/12/iiTiinmxCmxC其中其中 是均值，是均值， 是協方差矩陣。是協方差矩陣。常取正態分布的的對數作為判決函數：常取正態分布的的對數作為判決函數：除去那些與類別沒有關系的常數項，可得：除去那些與類別沒有關系的常數項，可得：imiCMi, 2 , 1)()(21|ln21)2ln(2)(ln)()/(ln)(1iiTiiiiiimxCmxCnPPxPxD)()(21|ln21)(ln)(1iiTiiiimxCmxCPxD132,23,13,22,212108,99,89

8、,98,97251111YEm954122YEm10551425111)1()1(1TTmmxxEc10551425122)2()2(2TTmmxxEc21ccc1455102351c令令iTiiTiimcmmcxcpxD1121ln21)(ln)(23371231952316021)(21111111xxmcmmcxxDTT236361238352363521)(21212212xxmcmmcxxDTT0)()(21xDxD4 . 974. 012xx由由得得)()(21|ln21)(ln)(1iiTiiiimxCmxCPxDl1. 1. 遙感簡介遙感簡介l2. 2. 遙感圖象分類遙感圖象分

9、類l遙感是一門研究電磁波輻射與地球表面物遙感是一門研究電磁波輻射與地球表面物質相互作用的機理和過程的科學。質相互作用的機理和過程的科學。l初期，遙感僅作為一種探測地球資源的技初期，遙感僅作為一種探測地球資源的技術手段?，F在，在信息系統技術支持下，術手段。現在，在信息系統技術支持下，獲得了十分廣泛的應用，有很廣闊的發展獲得了十分廣泛的應用，有很廣闊的發展前景。前景。l遙感是一個綜合的技術學科領域。它是遙感是一個綜合的技術學科領域。它是多種學科相互交叉、滲透的結果。多種學科相互交叉、滲透的結果。l把地表、地物作為研究對象，在時空的把地表、地物作為研究對象，在時空的不同尺度上研究它的各要素及其相互作

10、不同尺度上研究它的各要素及其相互作用。利用遙感技術獲得各種電磁波譜作用。利用遙感技術獲得各種電磁波譜作用于地物的信息，通過處理和分析，得用于地物的信息，通過處理和分析，得到定性和定量的結果。到定性和定量的結果。航空遙感航空遙感航天遙感航天遙感陸地衛星陸地衛星氣象衛星氣象衛星軍事衛星軍事衛星微小衛星微小衛星攝影機攝影機 雷達雷達攝像機攝像機多光譜掃描儀多光譜掃描儀成象光譜儀成象光譜儀微波輻射計微波輻射計輻射源方式輻射源方式主動式，被動式主動式，被動式遙感遙感成像方式成像方式攝影式，非攝影式攝影式，非攝影式遙感遙感光譜方式光譜方式可見光，多光譜可見光，多光譜遙感遙感紅外，微波，紫外紅外，微波，紫外

11、遙感遙感lLandset 多光譜掃描儀（多光譜掃描儀（MSS） 47 專題掃描儀（專題掃描儀（TM）lSPOT(Systeme Probatoire dObservation de la Terre) 14高分辨遙感器（高分辨遙感器（HRV）lERS, CBERS, JERSlRadarset雷達雷達lNOAA高分辨輻射計（高分辨輻射計（AVHRR)lIKONOSlSPIN-2L （Synthesize Aperture Radar) 全天候工作，一定的穿透能力，多極化方式等。全天候工作，一定的穿透能力，多極化方式等。 （Image Spectrometer) 極多的波段，光譜分辨率高，數據率

12、高。極多的波段，光譜分辨率高，數據率高。 衛星體積小，重量在衛星體積小，重量在500kg以下，軌道高度低于以下，軌道高度低于500Km。 多衛星組網，互為補充，功能更強，抗毀能力強。多衛星組網，互為補充，功能更強，抗毀能力強。1）特征抽取）特征抽取子集選擇子集選擇組合特征組合特征篩選特征篩選特征2）分類判決）分類判決訓練訓練 分級判決分級判決 誤差分析誤差分析歸一化差異歸一化差異植被植被指數指數NDVI (Normalized Difference Vegetation Index) NDVI=(IRR) / (IRR)歸一化差異水體指數歸一化差異水體指數 NDWI (Normalized D

13、ifference Water Index) NDWI= (GNIR) / (GNIR)222121D多維特征空間兩類的分離程度可以通過投影多維特征空間兩類的分離程度可以通過投影到一維特征空間的方法來獲得。到一維特征空間的方法來獲得。Fisher判據表明特征空間兩個類的分離程度，判據表明特征空間兩個類的分離程度，可以作為鑒別特征性能的度量?？梢宰鳛殍b別特征性能的度量。設各類分布為正態分布，一維特征空間中反設各類分布為正態分布，一維特征空間中反映兩類的分離程度映兩類的分離程度Fisher判據為：判據為：CH5CH8, CH10, CH13CH7, CH13CH7, CH8 鏡面 雪 雪 雪 雪

14、雪 反射 1 2 3 4 5作 樹 水物作 樹 水 鏡面 雪 雪 雪 雪 雪物 反射 1 2 3 4 5雪 雪 雪 1 2 3雪 3雪 1雪 2雪 5雪 4鏡面反射作物樹水疊合光譜圖疊合光譜圖l921 簡單集群方法簡單集群方法 l922 K-mean 方法方法 1 1）確定分類半徑，隨機取一點，作為第一類的中心；）確定分類半徑，隨機取一點，作為第一類的中心；2 2）對一個待分點，計算與中心點的距離）對一個待分點，計算與中心點的距離 d d1 1 ， 如果如果 d d1 1 T T 將該點分為這一類，將該點分為這一類， 如果如果 d d1 1 T T 該點則為另外一新類，該點則為另外一新類，且將

15、該點作為新一類的中心；且將該點作為新一類的中心；3 3）如同第二步，對每一個待分點，計算它與各類中心的）如同第二步，對每一個待分點，計算它與各類中心的距離距離 d di i ， 若若 d di i T T 將該點分給最靠近的那一類，將該點分給最靠近的那一類， 否則，取該點為新一類的中心；否則，取該點為新一類的中心；4 4）重復第步，直到所有的點分完。）重復第步，直到所有的點分完。1 1）選擇個初始分類中心）選擇個初始分類中心 ；2 2）使用最小距離法將所有樣本分類：）使用最小距離法將所有樣本分類：若若 則將則將 分為第分為第 i i 類類 ；3 3）根據第）根據第2 2步的分類結果，重新計算各

16、類重心，步的分類結果，重新計算各類重心，并將此作為各類新的中心；并將此作為各類新的中心；4 4）反復進行）反復進行2 2、3 3步，直到各類中心趨于穩定。步，直到各類中心趨于穩定。KZZZ,21| |ijxzxzxilK-mean算法需要預先確定類別的數目，最好有算法需要預先確定類別的數目，最好有一些先驗知識。一些先驗知識。l其分類結果基本不受分類中心的影響。其分類結果基本不受分類中心的影響。l分類的準確性仍與各類分布情況有關。分類的準確性仍與各類分布情況有關。l設定合理的條件，可以獲得更好的結果。如：先設定合理的條件，可以獲得更好的結果。如：先暫定一類別數，在聚類中心過于分散時，增加類暫定一

17、類別數，在聚類中心過于分散時，增加類別數，反之減少類別數。別數，反之減少類別數。l931 模糊聚類模糊聚類 l932 人工神經網絡方法人工神經網絡方法 模糊模糊ISODATA算法算法（Iterative Self Organizing Data Analysis Techniques A）將將N維特征空間的樣本集合分為維特征空間的樣本集合分為K類一般步驟：類一般步驟：）選一初始模糊分類矩陣）選一初始模糊分類矩陣 M M； ( (公式見后）公式見后）計算個模糊聚類中心）計算個模糊聚類中心 j=1,2,Kj=1,2,K；）修改分類矩陣）修改分類矩陣M M；）重復步驟）重復步驟2 2和和3 3，直到

18、各類中心趨于穩定。，直到各類中心趨于穩定。LiLimijimijjxZ11)()(1 1）初始模糊分類矩陣：）初始模糊分類矩陣：2 2）計算個模糊聚類中心：）計算個模糊聚類中心：3 3）修改分類矩陣：）修改分類矩陣：4）重復步驟）重復步驟23，直到類中心在給定精度中穩定。，直到類中心在給定精度中穩定。jiijZxdnLiijKjijij11011 ,0ijM樣本數樣本數類別數類別數), 1 ( m)(1112KkmikijijddkiikZxdkikiij010ikdLi, 2 , 11,2,jK有較好的收斂性。初始值的選取對結果影響有較好的收斂性。初始值的選取對結果影響較小。較小。要先確定所

19、分類別的數目。最好有一些先驗要先確定所分類別的數目。最好有一些先驗知識，否則先暫定一類別數，在聚類中心過知識，否則先暫定一類別數，在聚類中心過于分散時，增加類別數，反之減少類別數。于分散時，增加類別數，反之減少類別數。樣本點多，特征數多時，運算速度較慢。樣本點多，特征數多時，運算速度較慢。l人工神經網絡方法是從生物的神經系統得到啟人工神經網絡方法是從生物的神經系統得到啟發，是與傳統方法不同的模式識別方法。發，是與傳統方法不同的模式識別方法。l神經網絡的結構神經網絡的結構l處理單元處理單元l網絡連接網絡連接l輸入層、隱含層、輸出層輸入層、隱含層、輸出層l處理單元（處理單元（PE)l輸入向量與權向量相乘輸入向量與權向量相乘l再將各乘積累加再將各乘積累加l經過一激勵函數引入非線性變換經過一激勵函數引入非線性變換處理單元處理單元神經網絡神經網絡l在模式識別中，神經網絡分別輸入各對象特征向量在模式識別中，神經網絡分別輸入各對象特征向量的值，輸出則表明該輸入對象屬于哪一類的可能性的值，輸出則表明該輸入對象屬于哪一類的可能性最大。最大。l神經網絡的優點：神經網絡的優點：關于問題的知識不需要很多關于問題的