神經(jīng)網(wǎng)絡(luò)集成算法設(shè)計及分析.pdf

1、神經(jīng)網(wǎng)絡(luò)集成是目前國際機器學(xué)習(xí)和神經(jīng)計算界的一個相當(dāng)活躍的研究熱點，對該問題的研究不僅有助于科學(xué)家對機器學(xué)習(xí)和神經(jīng)計算的深入研究，還有助于普通工程技術(shù)人員利用神經(jīng)網(wǎng)絡(luò)來解決真實世界中的問題。對神經(jīng)網(wǎng)絡(luò)集成實現(xiàn)方法的研究主要集中在兩個方面，即怎樣將多個神經(jīng)網(wǎng)絡(luò)的輸出結(jié)論進行結(jié)合以及如何生成集成中的個體網(wǎng)絡(luò)。 研究表明，組成集成的個體神經(jīng)網(wǎng)絡(luò)之間的差異性是集成有效的主要原因，只有集成中各個體神經(jīng)網(wǎng)絡(luò)產(chǎn)生的錯誤表現(xiàn)一定程度的差異性，即

2、它們產(chǎn)生的錯誤分布在不同的數(shù)據(jù)空間，一個神經(jīng)網(wǎng)絡(luò)產(chǎn)生的錯誤才能夠被集成中其它的神經(jīng)網(wǎng)絡(luò)補償，集成才會有效。從集成差異性的角度，集成中個體神經(jīng)網(wǎng)絡(luò)生成分為兩種方法：直接生成方法、過產(chǎn)生和選擇方法。過產(chǎn)生和選擇方法先生成一組規(guī)模較大的神經(jīng)網(wǎng)絡(luò)，然后基于某種準(zhǔn)則進行神經(jīng)網(wǎng)絡(luò)選擇形成集成，使得集成中神經(jīng)網(wǎng)絡(luò)具有差異性。 本文把神經(jīng)網(wǎng)絡(luò)用于模式分類問題，對集成中個體神經(jīng)網(wǎng)絡(luò)產(chǎn)生以及它們結(jié)論結(jié)合方法進行了研究。 基于模糊聚類思想，提

3、出了一種神經(jīng)網(wǎng)絡(luò)集成方法。利用隸屬度函數(shù)，構(gòu)造了一個分布函數(shù)，根據(jù)分布函數(shù)對訓(xùn)練數(shù)據(jù)進行抽樣，用所抽得的數(shù)據(jù)作為個體神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本訓(xùn)練多個神經(jīng)網(wǎng)絡(luò)構(gòu)成神經(jīng)網(wǎng)絡(luò)集成。理論分析和實驗結(jié)果表明，該方法對模式分類能取得較好的效果。 另外，基于模糊聚類思想，提出了一種加權(quán)神經(jīng)網(wǎng)絡(luò)集成的方法，該方法計算每個測試樣本分別到每個模糊聚類中心的距離，并用這個距離估計該樣本屬于各類的隸屬度，然后對每個神經(jīng)網(wǎng)絡(luò)的輸出結(jié)果用求得的隸屬度進行加權(quán)結(jié)合

4、。 基于模式特征數(shù)據(jù)聚類，提出了一種選擇性神經(jīng)網(wǎng)絡(luò)集成方法，通過聚類把模式特征空間劃分成不相交的區(qū)域，對于初始神經(jīng)網(wǎng)絡(luò)集合，各區(qū)域給出神經(jīng)網(wǎng)絡(luò)的刪除分值，各神經(jīng)網(wǎng)絡(luò)總分值確定它的刪除優(yōu)先級別，由刪除優(yōu)先級別選擇一組神經(jīng)網(wǎng)絡(luò)組成集成。理論分析和實驗結(jié)果表明，基于聚類選擇的神經(jīng)網(wǎng)絡(luò)集成方法能夠更好的對模式進行分類?；谏窠?jīng)網(wǎng)絡(luò)間的差異性，提出了一種選擇性神經(jīng)網(wǎng)絡(luò)集成方法。該方法利用差異性度量，選擇滿足一定條件的個體神經(jīng)網(wǎng)絡(luò)組成神經(jīng)網(wǎng)