樸素貝葉斯分類器的集成學(xué)習(xí)方法研究.pdf

1、分類方法是機(jī)器學(xué)習(xí)、模式識(shí)別和數(shù)據(jù)挖掘等研究的核心問題，它在圖像識(shí)別、語音理解、自然語言處理、醫(yī)療診斷及Web頁面的分類日錄等領(lǐng)域具有廣泛的應(yīng)用。自20世紀(jì)90年代后，集成學(xué)習(xí)（Ensemble Learning）逐漸成為機(jī)器學(xué)習(xí)新的研究方向，它是通過將多個(gè)學(xué)習(xí)系統(tǒng)的學(xué)習(xí)結(jié)果以某種方式融合，以此來提高學(xué)習(xí)系統(tǒng)的性能。通常，集成學(xué)習(xí)主要用于不穩(wěn)定的學(xué)習(xí)算法，如決策樹、神經(jīng)網(wǎng)絡(luò)等。由于集成學(xué)習(xí)能夠提高學(xué)習(xí)系統(tǒng)的泛化能力，最近，人們開始將集成

2、學(xué)習(xí)用于穩(wěn)定的學(xué)習(xí)算法。
　　 本文研究了樸素貝葉斯分類器的集成方法。由于樸素貝葉斯是一種穩(wěn)定的學(xué)習(xí)方法，為了應(yīng)用集成學(xué)習(xí)，通過隨機(jī)Oracle方法破壞其穩(wěn)定性，利用熵差異性度量研究了樸素貝葉斯集成的差異性。在此基礎(chǔ)上，進(jìn)一步研究了基于選擇策略的樸素貝葉斯集成，提出了兩種基于Oracle的樸素貝葉斯選擇性集成算法，實(shí)驗(yàn)驗(yàn)證了這些算法的分類性能，結(jié)果表明該學(xué)習(xí)算法顯著提高了樸素貝葉斯分類的正確率，同時(shí)也表明這些算法在一定程度上優(yōu)于