分類器優(yōu)化算法的研究.pdf

1、隨著國際互聯(lián)網(wǎng)的發(fā)展和大規(guī)模存儲的普遍應(yīng)用,數(shù)據(jù)挖掘作為對數(shù)據(jù)進行分析理解應(yīng)用的科學(xué),越來越受到重視.數(shù)據(jù)分類是數(shù)據(jù)挖掘的一個重要研究領(lǐng)域.近年來數(shù)據(jù)分類的理論研究和實際應(yīng)用都獲得了長足的進步,陸續(xù)出現(xiàn)了許多實用的分類模型和實現(xiàn)算法.在分類研究領(lǐng)域,組合分類器的優(yōu)化方法逐漸變得引人注目.組合分類器的代表算法有Bagging,AdaBoost和Arcing.三者算法新穎,績效突出,引起研究者的廣泛重視.對它們進行分析和比較對實際應(yīng)用的推廣

2、具有重要意義.該文在分類錯誤率、合并規(guī)模和算法相關(guān)度等方面對三個算法進行綜合對比,獲得了許多對實際應(yīng)用具有指導(dǎo)意義的結(jié)果.Bagging算法分類樣本形式簡單,對底層分類模型沒有特殊要求,適用范圍廣,其單個分類器的產(chǎn)生是獨立的,易于并行處理.其循環(huán)步長優(yōu)化設(shè)置為15左右.AdaBoost和Arcing屬于Booting算法，單個分類器的產(chǎn)生有順序依賴關(guān)系.由于采用了適應(yīng)性權(quán)重，兩者的優(yōu)化效果好于Bagging.AdaBoost算法形式復(fù)雜

3、，理論基礎(chǔ)深厚.Arcing方法權(quán)重更新模式簡潔清晰.與AdaBoost相比，兩者分類準(zhǔn)確度接近，而AdaBoost更適用于大規(guī)模數(shù)據(jù)庥，Arcing則在相對較小的數(shù)據(jù)集上表現(xiàn)出色.兩者的迭代步長優(yōu)化設(shè)置為25左右.除此分析比較以外，該文提出一種基于適應(yīng)性權(quán)重和限制目標(biāo)類權(quán)重擴張的AdaBoost改進算法.它通過避免在目標(biāo)類別上發(fā)生權(quán)重扭曲，有效地解決了在個別數(shù)據(jù)集上發(fā)生的退化問題.針對目標(biāo)類的權(quán)重限制設(shè)置，該文提出了兩種參考設(shè)置方式.