版權說明：本文檔由用戶提供并上傳，收益歸屬內容提供方，若內容存在侵權，請進行舉報或認領
文檔簡介
用R實現隨機森林的分類與回歸第五屆中國R語言會議北京2012李欣海用R實現隨機森林的分類與回歸ApplicationsofRandomForestusingRClassificationandRegression李欣海中科院動物所郵件：lixh@//O>.主頁:////.博客：////.微博：////?第五屆中國R語言會議北京2012李欣海隨機森林簡介RandomForest////.an-introduction-to-data-mining-for-marketing-and-business-intelligence/RandomForestisanensembleclassifierthatconsistsofmanydecisiontreesItoutputstheclassthatisthemodeoftheclass'soutputbyindividualtreesBreiman2001Itdealswith“smallnlargep”-problems,high-orderinteractions,correlatedpredictorvariables.Breiman,L.2001.Randomforests.MachineLearning45:5-32.Beingcited6500timesuntil20123/25第五屆中國R語言會議北京2012李欣海隨機森林簡介History////.an-introduction-to-data-mining-for-marketing-and-business-intelligence/ThealgorithmforinducingarandomforestwasdevelopedbyLeoBreiman2001andAdeleCutler,and"RandomForests"istheirtrademarkThetermcamefromrandomdecisionforeststhatwasfirstproposedbyTinKamHoofBellLabsin1995ThemethodcombinesBreiman's"bagging"ideaandtherandomselectionoffeatures,introducedindependentlybyHo1995andAmitandGeman1997inordertoconstructacollectionofdecisiontreeswithcontrolledvariation.4/25第五屆中國R語言會議北京2012李欣海隨機森林簡介TreemodelsyB+Bx+Bx+Bx+￡i011i22i33iiClassificationtreeRegressiontreeCrawley2007TheRBookp691Crawley2007TheRBookp6945/25第五屆中國R語言會議北京2012李欣海隨機森林簡介Thestatisticalcommunityusesirrelevanttheory,questionableconclusions?DavidR.CoxEmanuelParzenBruceHoadleyBradEfronNOYES6/25第五屆中國R語言會議北京2012李欣海隨機森林簡介Ensembleclassifiers////.Treemodelsaresimple,oftenproducenoisybushyorweakstuntedclassifiersBaggingBreiman,1996:Fitmanylargetreestobootstrap-resampledversionsofthetrainingdata,andclassifybymajorityvoteBoostingFreund&Shapire,1996:Fitmanylargeorsmalltreestoreweightedversionsofthetrainingdata.ClassifybyweightedmajorityvoteRandomForestsBreiman1999:Fancierversionofbagging.IngeneralBoostingRandomForestsBaggingSingleTreeTrevorHastie.7/25第五屆中國R語言會議北京2012李欣海隨機森林簡介HowRandomForestWorks////.Ateachtreesplit,arandomsampleofmfeaturesisdrawn,andonlythosemfeaturesareconsideredforsplittingTypicallymsqrtporlogp,wherepisthenumberoffeaturesForeachtreegrownonabootstrapsample,theerrorrateforobservationsleftoutofthebootstrapsampleismonitored.Thisiscalledtheout-of-bagOOBerrorrateRandomforeststriestoimproveonbaggingby“de correlating”thetrees.Eachtreehasthesameexpectation.TrevorHastie,p21inTrees,Bagging,RandomForestsandBoosting8/25第五屆中國R語言會議北京2012李欣海隨機森林簡介RPackagesrandomForestrandomForestTitle:BreimanandCutler'srandomforestsforclassificationandregressionVersion:4.6-6Date:2012-01-06Author:FortranoriginalbyLeoBreimanandAdeleCutler,RportbyAndyLiawandMatthewWiener.ImplementationbasedonCARTtreesforvariablesofdifferenttypes.Biasedinfavorofcontinuousvariablesandvariableswithmanycategories.partycforestBasedonunbiasedconditionalinferencetrees.Forvariablesofdifferenttypes:unbiasedwhensubsampling.黃河渭河9/25第五屆中國R語言會議北京2012李欣海隨機森林:分類TOC\o"1-5"\h\z# # # # ############ ### # # # # # # ### # # ## ## ## # ### # # # # ############ #### # # # # # # ## # # ## ## ## # ##### # # # ############ ### # # # # # # ### # # ## ## ## # ### # # # # ############ #### # # # # # # ## # # ## ## ## # ##### # # # ############ ### # # # # # # ### # # ## ## ## # ### # # # # ############ #### # # # # # # ## # # ## ## ## # ##### # # # ############ ### # # # # # # ### # # ## ## ## # ########################################################################################TOC\o"1-5"\h\z# # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## ###### # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## #####寧夏#########################################################################青海TOC\o"1-5"\h\z# # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## ###### # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## #####朱?的分布################################################################################################################################山西#########################################################################TOC\o"1-5"\h\z# # # # ############ ### # # # # # # ### # # ## #### # # # # ############ #### # # # # # # ## # # ## ###### # # # ############ ### # # # # # # ### # # ## #### # # # # ############ #### # # # # # # ## # # ## ###### # # # ############ ### # # # # # # ### # # ## #### # # # # ############ #### # # # # # # ## # # ## ###### # # # ############ ### # # # # # # ### # # ## #### # # # # ############ #### # # # # # # ## # # ## ###########################################TOC\o"1-5"\h\z# # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ##### # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ##### # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ##### # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ####################################################################################甘肅############################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################陜西############################################################################################################河南#TOC\o"1-5"\h\z# # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## ###### # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## ###################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################
################################################################################## ############ #### # # # # # # ## # # ## #### ############ ### # # # # # # ### # # ## #### ############ #### # # # # # # ## # # ## #### ############ ### # # # # # # ### # # ## #### ############ #### # # # # # # ## # # ## #### ############ ### # # # # # # ### # # ## #### ############ #### # # # # # # ## # # ## #### ############ ### # # # # # # ### # # ## #### ############ #### # # # # # # ## # # ## #### ############ ### # # # # # # ### # # ## #### ############ #### # # # # # # ## # # ## #########################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################################四川##############################################################
############################################################################湖北#########################################################################TOC\o"1-5"\h\z# # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## ###### # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## ###### # # # ############ ### # # ## ## ### ## ## #### # # # # ############ #### # # ## ## ## ## ## ###### # # # ############ ### # # ## ## ### ## ## #################################################################TOC\o"1-5"\h\z# # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ##### # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ####重慶#################################################################################TOC\o"1-5"\h\z# # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ##### # # # ############ ### # # ## ## ### ## ## #### # ### # # # # ############ #### # # ## ## ## ## ## #### # ##### # # # ######### ### ### # # ## ## ### ######### ### # # # # ######### #### #### # # ## ## ## ########## ### # # # ######### ### ### # # ## ## ### ######### ####湖南湖南黃河漢江岷江嘉陵江10/25第五屆中國R語言會議北京2012李欣海隨機森林:分類DataLandFootprec_prec_prec_NestusexyElevAspectSlopePopGDPt_annt_jant_julyyearcoverprintannjanjulysite1107.50533.3929840.6729.62142.0202.95845615312.40.324.0金家河1107.54833.40913150.9019.01422.5261.97869615711.3-0.61981姚家溝1107.50533.3929840.6729.62142.0202.95845615312.40.324.0金家河1107.54833.40913150.9019.01422.5261.97869615711.3-0.61982姚家溝1107.50533.3929840.6729.62142.0202.95845615312.40.324.0金家河1107.54833.40913150.9019.01422.5261.97869615711.3-0.61983姚家溝1107.54833.40913150.9019.01422.5261.97869615711.3-0.61984姚家溝1107.40533.40610560.5411.4210.0200.98892716111.4-0.522.91984三岔河1107.40533.40610560.5411.4210.0200.98892716111.4-0.522.91985三岔河1107.54833.40913150.9019.01422.5261.97869615711.3-0.61985姚家溝0107.40032.7809800.4642.11145.8141.78927617013.01.324.003030107.43032.78015530.9729.614171.8324.76887516213.01.324.003040107.46032.78015340.5125.71412.7141.78886516214.02.1525.203050107.49032.7809960.7229.41476.1202.97886516212.40.823.403060107.52032.78011440.169.31429.3201.78956617512.40.823.403070107.58032.7809300.1335.722153.2294.76993718111.60.1522.503090107.61032.7808730.4031.91166.4292.97931617112.71.123.803100107.64032.78011470.5035.51146.8202.381041718912.71.103110107.67032.78016990.8921.11420.5201.781060819210.4-0.821.20312tableibis$useibis$use-as.factoribis$useibis$landcover-as.factoribis$landcover01253856011/25第五屆中國R語言會議北京2012李欣海隨機森林:分類MulticollinearityisapainVariablesinthetwo-principal-componentspace-50050306530643018biplotprincompibis[,2:16],corT301729713063306230602970306130582923296929243016y3057305930153056301430133055301230103011296829632966296730093005287729222965
溫馨提示
- 1. 本站所有資源如無特殊說明，都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等，如果需要附件，請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙，網頁內容里面會有圖紙預覽，若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間，僅對用戶上傳內容的表現方式做保護處理，對用戶上傳分享的文檔內容本身不做任何修改或編輯，并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容，請與我們聯系，我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
評論
0/150
提交評論