基于信息熵的粗糙集約簡與支持向量機相結(jié)合的分類問題研究.pdf

1、隨著科技的快速發(fā)展,各行各業(yè)涌現(xiàn)出大量的數(shù)據(jù)信息。如何從這些數(shù)據(jù)中快速獲取有用的知識、提取有效的分類方法是目前機器學習面臨的主要問題。粗糙集理論方法是一種能有效地分析和處理不精確、不一致、不完整等各種不確定信息的數(shù)據(jù)分析工具,已經(jīng)成功應(yīng)用于機器學習、模式識別、決策支持、知識發(fā)現(xiàn)、故障診斷等領(lǐng)域。知識約簡作為粗糙集應(yīng)用的關(guān)鍵技術(shù),是該理論的核心問題之一,能夠?qū)?shù)據(jù)進行快速有效的處理。
　　Vapnik等人提出的支持向量機是一種新的機

2、器學習理論,集成了最大間隔超平面、Mercer核、凸二次規(guī)劃、稀疏解和松弛變量等多項技術(shù),其主要借助于最優(yōu)化方法來解決機器學習問題。由于該理論具有全局最優(yōu)、結(jié)構(gòu)簡單、推廣能力強等優(yōu)點,近些年得到了廣泛地研究并被應(yīng)用于數(shù)據(jù)分類、模式識別等領(lǐng)域。由于大多數(shù)的多類分類問題最終都可以轉(zhuǎn)化為兩類分類問題,因此支持向量機的原始問題也只涉及兩類分類問題。
　　通過對以上兩種理論的學習研究,結(jié)合它們的優(yōu)點,設(shè)計了一種基于信息熵的粗糙集約簡與支持向

3、量機相結(jié)合分類算法,并將該算法應(yīng)用到本文的分類系統(tǒng)中,實驗結(jié)果顯示該算法在分類的準確率和速率方面都有所提高。本文主要工作如下:
　　1.通過對粗糙集約簡方法的研究,選擇基于信息熵的啟發(fā)式約簡方法作為本文所提算法屬性約簡的工具。
　　2.在粗糙集區(qū)分矩陣的基礎(chǔ)上,提出一種新的粗糙集對象約簡算法。
　　3.設(shè)計了一種基于信息熵的粗糙集約簡與支持向量機相結(jié)合的分類算法。該算法采用粗糙集屬性約簡理論對支持向量機數(shù)據(jù)特征進行選擇