基于機器學習的大規(guī)模文本分類.pdf

1、文本分類問題是指自動地將文本按照預定義的類別體系劃分到正確的類別中，它是智能信息處理領域中一個重要的研究方向。隨著信息技術的發(fā)展，特別是20世紀90年代基于機器學習的文本分類方法的逐漸成熟，文本自動分類技術在自然語言處理、信息組織、內容過濾等領域中開始被廣泛地應用。目前，互聯網上可獲得的信息越來越多，如何幫助人們快速、準確且全面地獲取他們所需要的信息顯得非常重要，文本分類技術是解決這一問題的有效手段之一。
　　文本分類問題經過大約

2、二十年的研究，其基礎技術已經比較成熟，包括樣本表示、分類器、性能評估指標等。然而，現實應用中的大規(guī)模文本分類問題與普通的分類問題相比，自身還具有一些明顯的特點，例如：訓練樣本數量大，預定義類別多，單個樣本擁有不止一個類別標號。此外，人們閱讀文本是為了獲取信息，然而大規(guī)模文本集合中各個文本的質量往往參差不齊，倘若自動地對文本的質量加以分類，就能夠幫助人們更高效地獲取信息。
　　本論文圍繞著基于機器學習的大規(guī)模文本分類這個課題，分別從

3、海量樣本分類、海量類別分類、多標號分類、以及文本質量分類這四個方面開展了研究工作。本論文的主要工作和創(chuàng)新點體現在如下四個方面：
　　1.本論文提出最小最大模塊化極限學習機算法來提升原極限學習機模型處理海量樣本分類問題的能力。極限學習機是一種新型的神經網絡分類器，具有訓練速度快、人工干預少、泛化性能高等特點，但由于計算復雜度較高和內存需求較大，不適用于海量樣本分類問題。本論文提出的新算法充分利用了最小最大模塊化網絡框架的特性，集成了

4、相關研究中對它的多種改進，并且采用交叉驗證和格點搜索來自動地完成參數和組件配置的優(yōu)化。實驗結果表明新算法使得極限學習機模型處理海量樣本分類問題的能力得到較大提升，訓練時間和內存開銷都有了明顯的降低，同時分類準確率得到一定程度的提高。
　　2.本論文提出基于元學習的層次化分類算法來提高海量類別問題的分類準確率。傳統的層次化分類算法雖然能夠比較快速地處理海量類別分類問題，但由于在它的分類過程中存在著“誤差擴散”現象，分類準確率偏低。本

5、論文提出的新算法利用元學習技術來緩解這種“誤差擴散”現象，同時保留傳統層次化分類算法處理海量類別分類問題的高效性。實驗結果表明新算法不僅能夠顯著地提高分類準確率，而且將計算復雜度維持在與傳統算法相同的數量級上。
　　3
　　本論文提出變閾值標號選擇策略來更好地解決多標號分類問題。標號選擇策略是指在多標號分類問題中，如何利用基分類器輸出的信心指數來準確地決定最終的預測類標。本論文提出的新策略融合了目前兩種主要的標號選擇策略“閾

6、值策略”和“排序策略”。實驗結果表明該策略在多標號分類問題中不僅能夠取得較高的分類準確率，而且在不同的分類數據集和分類器模型上都具有良好的魯棒性。
　　4.本論文研究了文本質量的自動分類方法，即任給一篇文本，系統將自動地判斷出它的質量高低。該課題的實際意義在于它能從大規(guī)模文本數據集中識別出高質量文本，從而有效地幫助用戶獲取信息。本論文采用監(jiān)督學習的框架，總結并擴展了一系列與文本質量相關的特征，以便更好地對文本質量進行自動分類。本論