IB方法在垃圾郵件過(guò)濾問(wèn)題中的應(yīng)用研究.pdf

1、IB方法是一種基于信息論的數(shù)據(jù)分析方法,其將數(shù)據(jù)模式分析視為一個(gè)數(shù)據(jù)壓縮的過(guò)程。若給定源變量與相關(guān)變量的聯(lián)合概率分布,IB方法在對(duì)源變量進(jìn)行壓縮的同時(shí),可使得壓縮變量最大化地保存相關(guān)變量的信息,進(jìn)而有效的發(fā)現(xiàn)數(shù)據(jù)集內(nèi)所隱含的內(nèi)在模式。IB方法被廣泛應(yīng)用于需進(jìn)行特征提取和信息壓縮的領(lǐng)域,且均得到了較好的結(jié)果。
　　 垃圾郵件問(wèn)題是困擾人們?nèi)粘Ｉ詈蛯W(xué)習(xí)的嚴(yán)重網(wǎng)絡(luò)問(wèn)題,給人們帶來(lái)了很多不便。目前常用的垃圾郵件過(guò)濾方法由于沒(méi)有充分考慮

2、到不平衡類(lèi)特征描述特殊化的問(wèn)題,不能很好的對(duì)作為稀有類(lèi)的垃圾郵件進(jìn)行特征提取,因此難以得到優(yōu)秀的過(guò)濾效果。如果使用已有算法提高垃圾郵件類(lèi)的分類(lèi)準(zhǔn)確率,就要以犧牲召回率為代價(jià),反之亦然,因此構(gòu)建一個(gè)最大化準(zhǔn)確率和召回率的模型是垃圾郵件過(guò)濾算法的一個(gè)主要挑戰(zhàn)。
　　 針對(duì)垃圾郵件過(guò)濾過(guò)程中召回率、準(zhǔn)確率不能同時(shí)提升的問(wèn)題,本文提出了基于IB方法的單類(lèi)垃圾郵件過(guò)濾算法。該算法將垃圾郵件過(guò)濾問(wèn)題轉(zhuǎn)化為單類(lèi)分類(lèi)問(wèn)題進(jìn)行求解,并使用基于IB

3、方法的信息損失函數(shù)對(duì)單類(lèi)進(jìn)行特征提取。將垃圾郵件過(guò)濾問(wèn)題轉(zhuǎn)化為單類(lèi)分類(lèi)分類(lèi)問(wèn)題,使訓(xùn)練數(shù)據(jù)來(lái)源于單一數(shù)據(jù)源,能夠有效地避免噪聲對(duì)訓(xùn)練過(guò)程的影響;使用IB方法對(duì)垃圾郵件類(lèi)進(jìn)行特征提取,利用互信息可以提取與垃圾郵件相關(guān)性最高的一些屬性特征,并為垃圾郵件類(lèi)構(gòu)造高效的壓縮代表,解決了稀有類(lèi)描述高度特殊化的難題。為了驗(yàn)證基于IB方法的單類(lèi)垃圾郵件過(guò)濾方法的有效性,本文將其與樸素貝葉斯分類(lèi)器以及Logitboosting方法在Ling-Spam數(shù)據(jù)