1、集成分類學習算法研究計算機軟件與理論，2011 ,碩士【摘要】分類是數據挖掘中的一項重要任務，分類是先通過類標號已 知的數據建立模型，然后對類標未知的樣本進行分類。分類正確率是 衡量一個分類器性能的重要指標，然而單個的分類器有時不能達到較 好的正確率，而集成學習的出現使得這一問題得到改善。集成分類學 習是指通過多個分類器來解決同一學習任務，能夠獲得比僅使用單一 分類器更好的性能。集成學習成為近年來機器學習領域的一個熱點方 向,由于其優良的特性，現已在多個領域得到應用，例如行星探測、字 符識別、生物認證、WebB 息過濾等。目前集成學習的研究內容主要 包括兩個方面：第一，個體學習器精度不能太低，

2、如果學習精度過低，將導致集成的精度不高；第二，個體學習器之間要有差異性，如果沒有 差異性,則集成是沒有意義的。目前已有多種產生差異性的方法，如:基于特征集技術，通過某種策略選取特征子集，可以通過不同的特征 集獲取個體間的差異性；基于數據技術，采用取樣技術獲取不同訓練 數據來獲得個體間差異性。 然而集成學習還存在著一些未解決的問題 如何設計差異性大的學習器，以及差異性的度量問題。通過對集成學 習的深入了解，本文把集成學習應用到分類過程中，在兩大經典算法 AdaBoost 和Bagging 的基更多還原El【Abstract Classification is an important task

3、in data mining. Firstly,the labeled data are used to makea model, then the model is used toclassify the uniabeled data. Accuracy isan important indicator of classificationperformanee, however,it is hard to achieve high accuracy by one learner, theemerge nee of en semble lear ning can gain better acc

4、uracy.Classification ensemble is a pattern which solves a learningtask using more than one classifier, and can achieve betterperformanee than a single classi.更多還原 G3【關鍵詞】分類；集成學習；AdaBoost; Baggi ng;重采樣；模 糊聚類；隸屬度；【Key words Classification ; Ensemble learning ； AdaBoost；Bagging ； Resample; Fuzzy cluste

5、ring； Membership；摘要 6-8ABSTRACT 8-9第一章 緒論 10-151.1 研究背景 10-111.2 國內外研究現狀 11-131.3 本文的主要研究內容 131.4 本文的組織結構 13-141.5 本章小結 14-15第二章分類算法理論基礎 15-232.1 分類方法概述 15-162.2 分類器設計過程 16-172.3 常用的分類算法研究 17-212.3.1 樸素貝葉斯算法 17232 KNN 算法(K-Nearest Neighbor) 17-182.3.3 支持向量機( SVM ) 18-192.3.4 神經網絡 19-202.3.5 決策樹算法 20-212.4 分類器性能評估方法 21-222.5 本章小結 22-23第三章 集成學習相關知識 23-333.1 集成學習的基本概念 23-243.2 集成學習的作用 24-253.3 集成學習的個體生成和結論合成 25-273.3.1 個體生成方式 25-263.3.2 結論合成方式 26-273.4 分類器的選擇準則 273.5 集成學習的主要算法介紹 27-303.5.1 Boosting 算法理論 27-293.5.2 Bagging 算法 2