基于GEP的kNN算法改進(jìn)研究.pdf

1、預(yù)測建模是數(shù)據(jù)挖掘中的一項(xiàng)重要任務(wù)。現(xiàn)在很多企業(yè)使用預(yù)測技術(shù)來改善商業(yè)決策、提高生產(chǎn)率、檢測疾病、預(yù)測天氣等等。kNN算法是預(yù)測建模最簡單最有效的算法。k NN算法是基于實(shí)例的學(xué)習(xí)，使用算法時(shí)我們必須有接近測試樣本數(shù)據(jù)的訓(xùn)練樣本數(shù)據(jù)。由于k NN算法具有準(zhǔn)確率高、對離群點(diǎn)不敏感、對數(shù)據(jù)無假定輸入要求等優(yōu)點(diǎn)，在分類、回歸、聚類等領(lǐng)域中得到了廣泛的研究與應(yīng)用，現(xiàn)已成為數(shù)據(jù)挖掘十大算法之一。然而， k NN算法在一些應(yīng)用中也存在缺點(diǎn)。例如，多

2、數(shù)類偏向、最優(yōu)k值難以確定、維數(shù)災(zāi)難等。為此，專家學(xué)者們提出了一些新算法和改進(jìn)算法來解決k NN算法存在的問題。
　　針對以上問題，本文基于QENN算法提出了RBQENN算法，解決了k NN算法對不平衡數(shù)據(jù)分類時(shí)的多數(shù)類偏向問題。針對RBQENN算法的最優(yōu)參數(shù)難以確定問題，本文提出了基于GEP的參數(shù)優(yōu)化方法來解決。此外，本文還引入GEP作為特征選擇方法解決RBQENN算法的維數(shù)災(zāi)難問題。本文將每個(gè)算法都跟其它算法進(jìn)行了對比實(shí)驗(yàn)來證

3、明提出算法的有效性。
　　本文主要工作包括：
　　（1）針對k NN算法在對不平衡數(shù)據(jù)分類時(shí)的多數(shù)類偏向問題，引入 QENN算法，提出RBQENN算法，該算法只選取超球半徑內(nèi)的訓(xùn)練樣本作為最近鄰，并通過實(shí)驗(yàn)證明RBQENN算法在分類性能和回歸性能上優(yōu)于k NN算法和QENN算法。
　?。?）針對RBQENN算法的參數(shù)優(yōu)化問題，本文提出了基于GEP的RBQENN算法參數(shù)優(yōu)化方法，該方法利用GEP算法在RBQENN算法參數(shù)