隨機森林算法處理不平衡數(shù)據(jù)的改進及其并行化.pdf

1、隨機森林(Random Forest)是用隨機的方式建立一個森林，森林里面有很多的決策樹組成，隨機森林的每一棵決策樹之間是沒有關(guān)聯(lián)的.每一棵決策樹的建立，采用的是隨機有放回采樣的過程，然后使用投票的形式進行分類和預(yù)測.該算法很好的解決了單分類器在性能上的瓶頸，因此被廣泛應(yīng)用在很多方面.當(dāng)然，該算法也存在一些有待完善的地方，針對隨機森林算法在處理不平衡數(shù)據(jù)集時運行效率低下的問題，本文提出一種新的處理不平衡問題的方法，同時隨著計算量呈現(xiàn)指數(shù)

2、值的增長，如何提高預(yù)測速度和縮短運行時間，本文根據(jù)隨機森林算法在構(gòu)建過程中的特點提出了并行化的思想.本文在詳細(xì)參考國內(nèi)外文獻的基礎(chǔ)上，主要從兩個方面對隨機森林進行優(yōu)化.
　　一、對數(shù)據(jù)預(yù)處理的研究，提出一種新的數(shù)據(jù)預(yù)處理方法.
　　針對隨機森林算法在處理不平衡數(shù)據(jù)集方面的缺點和SMOTE算法在選取樣本時存在一定的盲目性和容易邊緣化的問題，本文結(jié)合K-means算法，在SMOTE算法的基礎(chǔ)上，提出一種K SMOTE算法.K S

3、MOTE的主要思想是首先利用K-means方法找出原始負(fù)類的中心點，再根據(jù)SMOTE得出“新增負(fù)類”，將原始數(shù)據(jù)集中的負(fù)類全部替換為“新增負(fù)類”，再次利用SMOTE得出“新數(shù)據(jù)集”.實驗結(jié)果表明該方法在隨機森林算法上分類性能得到提升.
　　二、基于Mapreduce框架的隨機森林算法并行化研究.
　　隨著現(xiàn)代社會數(shù)據(jù)量呈指數(shù)增長，運用隨機森林算法進行分類，不但需要花費大量的時間，而且分類性能也低下.在此背景下，本文根據(jù)隨機森