論文題目：基于SVM的半監督遷移學習的算法研究

姓名：***年級：專業：指導教師：碩士研究生開題報告開題內容1算法的提出及研究意義2國內外同類技術研究現狀3研究內容與研究方法4技術路線5算法簡易描述碩士研究生開題報告

我們生活在大量數據日積月累的年代。每天，來自網絡、商業、社會、科學和工程、醫學以及我們日常生活的方方面面的數兆兆字節或數千兆兆字節的數據注入我們的計算機網絡、萬維網和各種數據存儲設備。世界范圍的商業活動產生了巨大的數據集，包括銷售事務、股票交易記錄、產品描述、促銷、公司利潤和業績以及顧客反饋。科學和工程實踐持續不斷地從遙感、過程測量、科學實驗、系統實施、工程觀測和環境監測中產生多達數千兆兆字節的數據。數據的爆炸式增長、廣泛可用和巨大數量使得我們的時代成為真正的數據時代。而將數據轉換成有價值的信息的其中一個重要的步驟是分類。分類可以從內容豐富、蘊含大量信息的數據庫中提取描述重要信息的數據類，從而作出智能的商務決策，其應用非常廣泛。然而針對不同類型的數據，分類的方法卻有很多，如貝葉斯分類，支持向量機(SVM)分類，C4.5等。

SVM是機器學習中的重要算法，近年來也得到了廣闊的發展，特別是在生物信息、文本分類等領域中。而基本的SVM算法是有監督的的學習算法，它是基于統計學習理論的原理性方法。其主要思想是：建立一個最優決策超平面，使得該平面兩側距平面最近的兩類樣本之間的距離最大化。從而

1算法的提出及研究意義碩士研究生開題報告1.1算法的提出

對分類問題提供良好的泛化能力，所采用的數據往往都需要滿足一定條件。

然而在傳統的SVM分類方法中，大部分都是有監督的，即用帶標簽的數據來訓練分類模型，并且只局限于目標數據域。然而，收集帶標簽的實例是非常困難且要耗費巨大的，不帶標簽的數據卻是相當巨大，很容易獲取。如果只有少量的帶標簽的數據和大量未標記的數據可用，那么半監督學習在一定程度上便能彌補因訓練數據不足而導致過擬化的分類誤區。很多機器學習的方法，無論是傳統的機器學習還是半監督學習問題，都是建立在一個共同假設：測試數據與訓練數據屬于統一數據分布與同一特征空間。一旦數據分布有差異，很多學習方法便無法表現的很好。重新標記大量數據，這樣的代價是昂貴的。基于這個局限，我們便引入了遷移學習，目的是從其他相關輔助數據域中遷移知識去幫助目標域中解決學習任務。因此，遷移學習的出現使的這些問題可以迎刃而解。遷移學習(TransferLearning)的目標是將從一個環境中學習的知識用來幫助新環境中的學習任務。如QiangYang等人遷移學習對于文本挖掘的應用。遷移學習不但解決了訓練數據匱乏的問題，而且在某種程度上可能充分的利用了數據的價值。于是我們提出了基于SVM的半監督遷移學習的算法。碩士研究生開題報告首先，相對于傳統SVM算法，基于SVM的半監督遷移學習算法很好的利用相關領域數據大量帶標簽的數據來幫助我們目標領域數據的分類萬挖掘，在某種程度上既提高了SVM分類器的準確率，又節約了大量的人力物力去標記樣本來滿足分類器訓練的要求。在Web領域方面，還能充分利用過時的數據來幫助新形成的領域進行分析。避免了數據的浪費。其次，結合半監督學習與遷移學習的算法是現今比較缺乏的研究方向，遷移學習方法理論上可以使得很多傳統的分類器的準確率得到進一步的提升，因而遷移學習的研究可以擴展到其他比較經典的數據挖掘算法中，來提高數據分析的準確率。

碩士研究生開題報告1.2研究意義2國內外研究現狀及分析碩士研究生開題報告

近幾年來，基于SVM分類算法的擴展越來越受到研究者的關注，隨著相關研究的不斷深入，與其他學習方法結合的SVM算法應運而生。目前，人們在基于SVM算法與各種學習技術相結合，提出了不同類型的基于SVM分類方法，以解決不同的實際問題。其方法也陸續被提了出來，像自訓練半監督SVM算法、局部化SVM優化方法以及跨域SVM算法方法等。目前遷移學習技術的發展勢頭強勁，不乏大量遷移學習分類的算法，如TrAdaboost、CDSVM已證實了這一點。究其原因主要是遷移學習在現實中有著廣泛的應用前景，如文本分類、Web挖掘、社交網絡分析、生物信息學等。SVM算法的難點在于優化SVM分類器目標函數找到支持向量來構建最優超平面。V.Vapnik提出了基本的SVM分類網絡，利用帶標簽數據進行有監督的訓練分類器，最終得到最優分類超平面。由于訓練數據與測試數據的分布不一致，訓練得到的分類器可能效果不怎么好。碩士研究生開題報告

傳統的SVM是有監督的學習方法。由于半監督學習方法的流行，于是半監督SVM的研究也被提出。如C.G.YuanqingLi、HuiqiLi和ZhengyangChin提出了半監督SVM算法，便很好的利用了測試集的未標記數據與帶標簽的訓練數據結合一起訓練分類器，不僅在一定程度上解決了訓練數據匱乏的問題，而且使分類器對測試數據分類更加準確。同時，YongMa和LiZhao[在此基礎上提出了一種改進的半監督SVM算法，它就是在SVM分類器目標函數優化時引入了類散度矩陣，使分類平面更加精確，但是計算量大大增大了。半監督SVM的簡易原理圖如下：帶標簽訓練集SVM分類器未標記測試集碩士研究生開題報告

遷移學習的出現，使的各類分類算法對于所面臨的數據匱乏問題得到了一種很好解決方案，由于半監督學習也只是在稍微緩解了帶標簽訓練數據不足的問題。遷移學習可以從其他相關數據域遷移大量帶標簽數據來幫助目標任務訓練分類器。遷移學習的出現吸引了越來越多研究人員的目光，也相繼在相關領域提出了基于傳統算法的遷移學習方法。對于傳統的SVM算法，出現了基于SVM的遷移學習方法。也相繼提出了有關基于SVM的遷移學習的相關理論與方法。目前，基于SVM的遷移學習已經被廣泛應用于文本分類、圖像識別和視頻識別等應用領域，這些應用領域都存在一個共同點：就是存在大量的未標簽數據或者很容易收集到海量的無標簽數據集，但標簽數據樣本卻往往異常匱乏，而且這些數據都是不斷自增的。基于SVM的遷移學習的研究有很多，像QiangYang等人遷移學習對于文本挖掘的應用，利用以前的文本數據對現在不斷出現的新的文本域數據進行分類。Jain.A等人提出的遷移學習利用合適的支持向量對圖像進行分類。近幾年，半監督學習方法和遷移學習方法也不斷被提出。像基于SVM的半監督學習方法提出了一種自訓練方式，這種方式使未標記的測試數據帶上初始標簽，可以與訓練集一起迭代訓練。使分類器的泛化誤差最小。而遷移學習也在不同的算法上都有應用，但是半監督與遷移學習結合在一起的方法較少，YuanShi等人提出了一種在半監督學習中擴展共同訓練的方法(COITL)，COITL很好的將半監督學習擴展到直導式遷移學習中。

碩士研究生開題報告下面對比一下傳統機器學習與遷移學習不同的學習過程，如下圖所示：

3研究內容與研究方法碩士研究生開題報告基于SVM的半監督遷移學習的算法，我們研究的內容及方法分為以下幾點：通過局部和全局的一致性學習(LLGC)方法完成對SVM分類器的構造；對輔助數據域進行預處理，選取能代表其數據域分類信息的一組支持向量；對傳統的SVM方法結合遷移過來的一組支持向量，利用近鄰影響權重構成基于SVM的遷移學習分類器；然后對此遷移分類器進行半監督迭代處理，形成我們提出的基于SVM的半監督遷移學習方法的分類器。碩士研究生開題報告再優化獲取構建最優分類超平面的支持向量；構建最終的分類決策函數，對測試數據進行預測，得到最終的預測準確率；碩士研究生開題報告4技術路線我們提出的基于SVM的半監督遷移學習算法的原理圖如下：

碩士研究生開題報告對于所提出的方法的目標優化函數定義如下：