基于決策樹(shù)ID3算法的改進(jìn)研究.pdf

1、數(shù)據(jù)挖掘是利用分析工具從大量的、有噪聲的、模糊的、不完全的、隨機(jī)的數(shù)據(jù)中，提取出隱含在其中、事先未知、但又潛在有用的知識(shí)和信息的過(guò)程，建立數(shù)據(jù)間關(guān)系模型，并用其做出預(yù)測(cè)。分類(lèi)挖掘是數(shù)據(jù)挖掘中最重要的技術(shù)之一，是數(shù)據(jù)挖掘中的一個(gè)重要課題，而分類(lèi)技術(shù)中的決策樹(shù)方法又是重點(diǎn)研究的方向。它能夠直接體現(xiàn)數(shù)據(jù)的特點(diǎn)，便于理解，具有較好的分類(lèi)預(yù)測(cè)能力，并能方便提取決策規(guī)則。
　　目前，很多學(xué)者已經(jīng)提出了許多利用決策樹(shù)對(duì)大規(guī)模數(shù)據(jù)集進(jìn)行分類(lèi)的算法

2、，其中以Quinlan于1986年提出的ID3算法最為典型。該算法有兩大主要缺點(diǎn)：1、算法往往偏向于選擇取值較多的屬性，而屬性較多的屬性卻不總是最優(yōu)的屬性。2、ID3算法只能處理離散屬性，對(duì)于連續(xù)型的屬性，在分類(lèi)前需要對(duì)其進(jìn)行離散化。
　　為了解決這些問(wèn)題，本文使用增益比率的概念和將連續(xù)屬性的取值分區(qū)成兩個(gè)區(qū)間的方法，在ID3算法的基礎(chǔ)上提出了改進(jìn)算法，并用Java這種完全面向?qū)ο蟮母呒?jí)語(yǔ)言實(shí)現(xiàn) ID3算法及改進(jìn)算法，通過(guò)仿真實(shí)驗(yàn)