數(shù)據(jù)流分類技術(shù)研究.pdf

1、實(shí)際應(yīng)用領(lǐng)域中產(chǎn)生了大量的數(shù)據(jù)流,例如電子商務(wù)交易記錄,網(wǎng)絡(luò)搜索請求,電信通話記錄等,這些數(shù)據(jù)流中隱含著豐富的有價(jià)值的知識亟待挖掘。然而,由于數(shù)據(jù)流具有的快速性、無限性、連續(xù)性、多變性等特征,使得已有的分類方法面臨著巨大的挑戰(zhàn)。因此,開展數(shù)據(jù)流的分類方法研究具有重要的研究和應(yīng)用價(jià)值。
　　 傳統(tǒng)的分類方法多基于多遍掃描并存儲全部數(shù)據(jù)的方式,難以適應(yīng)數(shù)據(jù)流的環(huán)境。此外,實(shí)際領(lǐng)域數(shù)據(jù)流中客觀存在的概念漂移現(xiàn)象,以及概念漂移所具有的多

2、重性,是數(shù)據(jù)流分類過程中無法回避的問題。為此,本文開展數(shù)據(jù)流的分類研究,研究內(nèi)容涉及兩方面:(1)研究適應(yīng)于數(shù)據(jù)流環(huán)境的實(shí)時(shí)、低耗、抗噪的數(shù)據(jù)流分類方法:(2)數(shù)據(jù)流中有效的概念漂移處理方法。
　　 主要研究內(nèi)容如下:
　　 (1)基于UFFT和隨機(jī)決策樹,分別提出了數(shù)據(jù)流集成分類算法UFFT-WB和IRDTC-DS。UFFT通過增量統(tǒng)計(jì)的方法構(gòu)建決策樹,因而具有良好的時(shí)空性能,然而這種增量統(tǒng)計(jì)方法導(dǎo)致歷史數(shù)據(jù)對分類器的

3、影響過大。為此,在構(gòu)建UFFT集成分類器時(shí),通過刪除較差基分類器來減小過期歷史數(shù)據(jù)對當(dāng)前數(shù)據(jù)的影響,從而在保證時(shí)空性能的基礎(chǔ)上提高了算法的分類準(zhǔn)確率；由于隨機(jī)決策樹采用隨機(jī)方法選擇分裂屬性具有較高的時(shí)間效率,但對分類性能帶來一定的影響,為此在基于隨機(jī)決策樹的集成分類方法中提出了采用Hoeffding bounds確定連續(xù)屬性的分割閾值,引入樸素貝葉斯方法判斷葉子結(jié)點(diǎn)類別標(biāo)識等改進(jìn)措施,并實(shí)現(xiàn)了集成隨機(jī)決策樹的增量式構(gòu)建方法。理論分析與實(shí)

4、驗(yàn)表明:上述兩種集成分類方法是在保證時(shí)空性能的同時(shí)提高了分類精度,因而能有效處理數(shù)據(jù)流分類問題。
　　 (2)提出一種具有較強(qiáng)抗噪性的數(shù)據(jù)流混合集成分類方法WE-HG:針對單一模型集成分類方法可能導(dǎo)致分類誤差擴(kuò)大現(xiàn)象,難以適應(yīng)含噪數(shù)據(jù)流的分類,而AP,AE等集成方法雖采用了多模型的集成方法,也存在對當(dāng)前數(shù)據(jù)過擬合和時(shí)空性能不佳等問題。為此,論文提出基于WE框架的混合集成方法,通過構(gòu)建1個(gè)決策樹的集成分類器和1個(gè)相對全局的Na(i

5、)ve
　　 Bayes分類器進(jìn)行集成,利用全局的Na(i)ve Bayes提高整個(gè)分類器的抗噪性能。實(shí)驗(yàn)表明,與AP,AE和WE等集成方法相比,WE-HG在合理的時(shí)空開銷范圍內(nèi),能有效提高集成分類器的抗噪性能,因而是一種有效的數(shù)據(jù)流分類方法。
　　 (3)提出一種基于實(shí)例方法的、自適應(yīng)的概念漂移處理方法ACCD:基于“與當(dāng)前分類模型不適應(yīng)的實(shí)例可能代表了新概念的變化方向”這一假設(shè),在決策樹的集成分類模型基礎(chǔ)上,引入實(shí)例

6、加權(quán)方法,使得基分類器在構(gòu)建過程中更關(guān)注代表漂移方向的實(shí)例,從而使分類器能更快的擬合新概念。此外,針對實(shí)際應(yīng)用中存在的漸進(jìn)式和突變式概念漂移,為提高模型對不同概念漂移的適應(yīng)性,引入似然估計(jì)法區(qū)分?jǐn)?shù)據(jù)流中的漸變式和突變式概念漂移,并分別采用不同的基分類器更新策略。實(shí)驗(yàn)表明,該方法對突變式漂移能較快的收斂,而對漸變式概念漂移在其收斂過程中具有較高的分類精度,是一種有效的概念漂移處理方法。
　　 (4)提出一種基于概念漂移檢測的集成分