基于數(shù)據(jù)挖掘技術(shù)的垃圾文本識別研究.pdf

1、隨著Web2.0應(yīng)用的深入發(fā)展，互聯(lián)網(wǎng)已經(jīng)進(jìn)入了一個全民創(chuàng)造信息的時代，但同時也是一個信息泛濫的時代。文本、視訊等技術(shù)的日新月異極大擴(kuò)展了我們創(chuàng)造內(nèi)容的能力；論壇、微博等用戶原創(chuàng)型應(yīng)用又提供了眾多信息分享的平臺。這些極大地豐富了網(wǎng)絡(luò)中原創(chuàng)文本內(nèi)容，但在吸引眾多用戶瀏覽和分享的同時，也吸引了垃圾信息的發(fā)布。不論出于商業(yè)利益或者政治目的，這些行為導(dǎo)致很多論壇、熱點(diǎn)博客的回復(fù)區(qū)、個人空間的留言板、微博的私信中等幾乎所有支持文本發(fā)布功能并能吸引

2、公眾注意力的地方都充斥著垃圾信息。此類信息多以文本內(nèi)容的形式出現(xiàn)，如何挖掘出其中潛藏的，沒有價值的信息，保持?jǐn)?shù)據(jù)的有效性和可用性，為用戶提供一個干凈的網(wǎng)絡(luò)環(huán)境，是當(dāng)前迫切需要解決的重要問題。
　　本文提出了垃圾文本定義和垃圾文本識別概念，分析了垃圾文本形式、危害、防范方法及通用識別方法。在Hadoop集群構(gòu)建的實(shí)驗(yàn)平臺上，基于某公司的真實(shí)數(shù)據(jù)集，展開了將文本挖掘和用戶行為挖掘應(yīng)用于垃圾文本識別的一系列研究。通過對相關(guān)算法的改進(jìn)提出

3、了：顧盼算法，解決了熱詞問題，有效降低屬性間依賴關(guān)系，提升了樸素貝葉斯算法的整體性能；往返折半逼近算法，可快速將屬性子集大小逼近理想狀況；擇優(yōu)算法，解決了掩飾性垃圾文本較難識別的問題，有效提升了模型的召回率；首尾哈希算法，有效解決大規(guī)模長文本匹配中計算、存儲代價過高問題。
　　最后，從實(shí)驗(yàn)結(jié)果數(shù)據(jù)分析，上述算法在模型性能提升上均有較明顯效果。論文還對文本挖掘與用戶行為挖掘性能差異研究分析，論述了二者結(jié)合使用的可能性。論文還實(shí)現(xiàn)了部