基于選擇性集成的增量學習研究.pdf

1、近年來,物聯(lián)網(wǎng)、互聯(lián)網(wǎng)金融、云計算、移動通信等應用產(chǎn)生了大量的新數(shù)據(jù),這些數(shù)據(jù)具有快速到達和不斷變化的特點。因此,有效的利用這些數(shù)據(jù),并對其進行高效的分析,從而獲得有用的信息和知識,這對指導后續(xù)的決策是至關(guān)重要的。增量學習能夠很好的滿足這個需求,所謂增量學習是在學習新知識的同時盡量保留已學的知識,以達到不斷積累知識的目的。增量學習分為單分類器增量學習和集成式增量學習,其中集成式增量學習是將集成學習的思想引入到增量學習中,進而提高系統(tǒng)的泛

2、化能力。但這樣會出現(xiàn)一些問題:首先,隨著系統(tǒng)的不斷運行,集成分類器規(guī)模增大,導致系統(tǒng)預測性能的下降和開銷的增加,因此,從眾多基分類器中選出有用的分類器是很有必要的;其次,許多集成式增量學習算法采用正確率來衡量基分類器的性能,但在實際應用中,正確率暴露出許多的限制和不足,因此,尋找更好的方法來替代正確率具有十分重要的意義。
　　針對上述兩方面的問題,本文提出基于AUC(Area Under ROC Curve)方法的集成式增量學習算

3、法Learn++AUC,用于解決正確率不能完全準確衡量基分類器性能的問題;提出基于選擇性集成的Learn++AUC-OO算法,解決集成式增量學習會導致集成分類器規(guī)模增大、系統(tǒng)開銷增加的問題。本文主要工作和研究如下:
　　第一,介紹了增量學習相關(guān)技術(shù)。首先闡述了增量學習、集成學習、選擇性集成以及ROC技術(shù)和AUC方法的基本概念。然后列舉了國內(nèi)外發(fā)展的現(xiàn)狀,特別是對增量學習中Learn++算法的研究現(xiàn)狀作了詳細的論述。最后,回顧了集成

4、式增量學習和選擇性集成的經(jīng)典算法。
　　第二,針對采用正確率衡量分類器預測性能的限制和不足,在Learn++算法的基礎(chǔ)上提出基于AUC方法的Learn++AUC算法。Learn++AUC采用基分類器的AUC值作為其性能指標,使集成分類器的分類正確率得到提高。通過比較Learn++和Learn++AUC在UCI數(shù)據(jù)集上的分類正確率,驗證了Learn++AUC的有效性。
　　第三,針對集成式增量學習中集成分類器數(shù)量增加,導致預測