加權(quán)貝葉斯增量學(xué)習(xí)中文文本分類研究.pdf

1、伴隨著現(xiàn)代信息技術(shù)的高速發(fā)展，尤其是因特網(wǎng)的普及應(yīng)用，網(wǎng)絡(luò)上爆炸式增長的數(shù)據(jù)信息，該如何對(duì)這些信息進(jìn)行合理自動(dòng)的處理，保留住那些有效的大型文本數(shù)據(jù)集合就成為了當(dāng)今一個(gè)非常重要的研究課題。
　　 本文討論了中文文本分類的文本預(yù)處理技術(shù)、向量空間模型、自動(dòng)分詞策略等，并且通過大量的實(shí)驗(yàn)研究了信息增益(IG)、互信息(MI)、交叉熵(CE)、X～2統(tǒng)計(jì)(CHI)以及文本證據(jù)權(quán)這5種不同的特征選擇算法對(duì)分類算法性能表現(xiàn)的影響。
　

2、　 在諸多文本分類算法中樸素貝葉斯算法由于其健壯性和簡單性一直都處于業(yè)界重點(diǎn)研究的行列。在條件獨(dú)立性假設(shè)前提下傳統(tǒng)的樸素貝葉斯分類器往往都默認(rèn)數(shù)據(jù)集中所有特征權(quán)值都是相等的，可事實(shí)上并非如此，不同的特征屬性對(duì)于不同類別的數(shù)據(jù)集所表現(xiàn)出來的影響力必然是不一樣的，為此，本文便提出了一個(gè)權(quán)均值的概念，是指屬于同一類別但非同一文本的同一特征項(xiàng)權(quán)值總和在該類別中的平均值，本文用此權(quán)均值來對(duì)樸素貝葉斯的性能加以提升;當(dāng)面臨有大量新增數(shù)據(jù)到來，傳統(tǒng)

3、的貝葉斯方法就需要重新把之前的所有樣本數(shù)據(jù)都全部重新學(xué)習(xí)一次，這樣不僅會(huì)耗費(fèi)大量時(shí)間而且操作起來也相當(dāng)麻煩，為此我們便引入了一種增量學(xué)習(xí)的方法，其學(xué)習(xí)的過程就是通過使每一次對(duì)測(cè)試集分類損失最小化的原則來選取每一次的新增樣本直至新增樣本集為空，由于這種增量學(xué)習(xí)的方法我們只需要少量的基礎(chǔ)訓(xùn)練樣本集就能實(shí)現(xiàn)對(duì)文本的分類。綜合上述兩種方案，本文提出了一種基于加權(quán)貝葉斯的增量學(xué)習(xí)方法并通過大量實(shí)驗(yàn)對(duì)這這種所提方法的分類性能進(jìn)行驗(yàn)證。實(shí)驗(yàn)證明，該加