基于隱馬爾科夫模型的網(wǎng)絡輿情挖掘.pdf

1、互聯(lián)網(wǎng)飛速發(fā)展，網(wǎng)民規(guī)模不斷增加，新型媒體不斷涌現(xiàn)，使得網(wǎng)絡輿情成為一股強大的輿論力量，影響著社會熱點事件的發(fā)展，如果不能正確的引導，將嚴重威脅到社會公共安全。所以，挖掘網(wǎng)絡輿情，將對搭建文明網(wǎng)絡，穩(wěn)定社會秩序，促進國家發(fā)展做出貢獻。網(wǎng)絡輿情挖掘大致包括輿情采集、話題發(fā)現(xiàn)和分析預測三步。其中，網(wǎng)絡輿情數(shù)據(jù)的采集是重中之重，因為只有及時地采集到真實、可靠、完整的網(wǎng)絡輿情數(shù)據(jù)，才能保證之后的深入分析真實、可靠、具有實際指導意義。本文主要研究

2、的就是網(wǎng)絡輿情數(shù)據(jù)采集技術(shù)，在分析了網(wǎng)絡輿情及其來源的特點后，針對現(xiàn)有的網(wǎng)絡輿情信息的采集技術(shù)存在的不足提出了改進方法。
　　 首先，網(wǎng)絡輿情采集的工作是采集到同一主題事件網(wǎng)民言論，可以采用主題爬蟲來實現(xiàn)。主題爬蟲能夠提取相關(guān)URL鏈接，預測下一步爬取的鏈接，從而有效地抓取與目標主題相關(guān)度高的網(wǎng)頁，但是現(xiàn)有的主題爬蟲在及時性和完整性上達不到輿情分析的要求，本文通過文獻學習，理論上認識到使用隱馬爾科夫模型(Hidden Marko

3、v Model，HMM)指導網(wǎng)絡輿情采集是可行的，并對現(xiàn)有HMM爬蟲進行分析，針對其不足，從網(wǎng)頁訓練集聚類策略、主題相關(guān)度判別算法和HMM建模方式三個方面提出了改進的方法，用來提高HMM爬蟲的性能。
　　 其次，網(wǎng)絡輿情的棲息地是微博、博客、論壇和新聞評論這樣的新型網(wǎng)絡載體，大多都采用了異步交互的AJAX技術(shù)來提高用戶體驗，導致傳統(tǒng)爬蟲無法采集到這些動態(tài)生成的信息，大大降低了網(wǎng)絡輿情采集的覆蓋率，為了解決這一問題，本文在HMM爬

4、蟲中增加了AJAX頁面爬取單元，用以完成AJAX頁面的網(wǎng)絡輿情采集工作，完成了本文AHMM(AjaxHMM)爬蟲的設計。
　　 最后，研究了開源系統(tǒng)Nutch，將改進后的能夠爬取AJAX頁面的HMM爬蟲(AHMMCrawler)和Nutch系統(tǒng)結(jié)合使用，替換掉Nutch系統(tǒng)原有的爬蟲系統(tǒng)，搭建了實驗模型，列出了實驗環(huán)境和詳細的實驗步驟，進行了對比實驗，驗證了本文理論的準確性和有效性，證明了本文設計AHMM爬蟲不但具有重要的理論價