基于網(wǎng)頁分塊的論壇爬蟲關(guān)鍵技術(shù)研究.pdf

1、伴隨著Web2.0技術(shù)的發(fā)展，作為一種典型的用戶創(chuàng)建內(nèi)容的應(yīng)用，網(wǎng)絡(luò)論壇在全世界非常流行。每天有無數(shù)個(gè)針對(duì)能夠想象到的所有話題或問題的頁面被互聯(lián)網(wǎng)用戶創(chuàng)建，因此論壇數(shù)據(jù)實(shí)際上已成為承載人類知識(shí)的巨大數(shù)據(jù)集。隨著網(wǎng)絡(luò)論壇信息量的增大，論壇網(wǎng)頁收集工具的精確性和高效性都面臨著巨大的挑戰(zhàn)。在這種形勢(shì)下，迫切需要開發(fā)一套高效的論壇爬蟲系統(tǒng)。
　　本文圍繞著論壇爬蟲這一前沿技術(shù)，通過深入研究網(wǎng)絡(luò)論壇的特征，網(wǎng)絡(luò)爬蟲的工作原理和相關(guān)技術(shù)的基礎(chǔ)

2、上，把網(wǎng)頁分塊的思想引入到論壇爬蟲的爬行策略中以及在各種論壇中如何實(shí)現(xiàn)對(duì)不同論壇服務(wù)器的爬行，本文的主要成果可歸納為以下幾個(gè)方面：
　　本文在對(duì)網(wǎng)絡(luò)論壇進(jìn)行大量調(diào)研和深入分析的基礎(chǔ)上,歸納總結(jié)出論壇的基本特征；接著對(duì)現(xiàn)有爬蟲爬行論壇時(shí)遇到的問題進(jìn)行了分析，找出了引起這些問題的根源；為了解決這些問題，在主題爬蟲的一些爬行策略啟發(fā)下，把網(wǎng)頁分塊思想引入到論壇爬蟲中，并提出一些優(yōu)化論壇爬蟲的方法。
　　本文研究了網(wǎng)頁分塊的一些算法

3、，提出了適合論壇頁面的分塊算法——基于論壇頁面結(jié)構(gòu)的垂直分塊算法(WPS-VSA)。實(shí)驗(yàn)表明，這種算法有較好的通用性，而且對(duì)論壇頁面有很高的頁面分塊精度。
　　本文研究了網(wǎng)絡(luò)爬蟲的一些爬行策略，提出了適合大部分網(wǎng)絡(luò)論壇的通用論壇爬行算法——基于頁面分塊的論壇爬行算法(WPS-FCA)。利用此算法可以在線過濾無效頁面的鏈接；同時(shí)利用論壇頁面的特征解決了頁面翻頁問題，為那些利用論壇網(wǎng)頁內(nèi)容的數(shù)據(jù)挖掘應(yīng)用打下了良好的基礎(chǔ)。實(shí)驗(yàn)表明，這種