微分進(jìn)化神經(jīng)網(wǎng)絡(luò)算法研究.pdf

1、神經(jīng)網(wǎng)絡(luò)是由大量的采用交互式連接的神經(jīng)元組成的復(fù)雜網(wǎng)絡(luò)，能夠模擬大腦的并行處理和非線性運(yùn)算等特征。它具有強(qiáng)大的自組織、自適應(yīng)和自學(xué)習(xí)能力，目前已廣泛應(yīng)用于故障診斷、模式識(shí)別、水文預(yù)測(cè)等領(lǐng)域。權(quán)值訓(xùn)練和結(jié)構(gòu)優(yōu)化是影響神經(jīng)網(wǎng)絡(luò)性能的重要的兩個(gè)方面，而傳統(tǒng)的BP學(xué)習(xí)算法具有搜索速度慢、易陷入局部最優(yōu)等缺點(diǎn)。近年來，進(jìn)化算法以其良好的魯棒性和并行計(jì)算等優(yōu)點(diǎn)，已越來越多的應(yīng)用到了神經(jīng)網(wǎng)絡(luò)權(quán)值訓(xùn)練和結(jié)構(gòu)優(yōu)化中。
　　微分進(jìn)化算法作為進(jìn)化算法中

2、的一種，具有算法簡(jiǎn)單、全局優(yōu)化能力強(qiáng)、魯棒性好等特點(diǎn)，能夠處理非線性、不可微、多極值等優(yōu)化問題。同時(shí)，微分進(jìn)化算法也存在著局部搜索能力弱、搜索效率低、后期收斂速度慢等缺點(diǎn)。本文在分析微分進(jìn)化算法原理的基礎(chǔ)上提出了改進(jìn)的微分進(jìn)化算法，并利用改進(jìn)的微分進(jìn)化算法對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行了權(quán)值訓(xùn)練和結(jié)構(gòu)優(yōu)化的研究。最后，將微分進(jìn)化神經(jīng)網(wǎng)絡(luò)應(yīng)用到了模擬電路故障診斷中，驗(yàn)證算法的有效性和實(shí)用價(jià)值。
　　本文主要研究?jī)?nèi)容和成果如下：
　　(1)針對(duì)

3、微分進(jìn)化算法局部搜索能力不強(qiáng)、后期收斂速度慢的特點(diǎn)，對(duì)微分進(jìn)化算法的變異策略進(jìn)行了分析，提出了基于混合變異策略的微分進(jìn)化算法(MDE)。使大部分個(gè)體在廣大范圍內(nèi)搜索以保持其全局性，少部分個(gè)體在最優(yōu)解附近搜索，增強(qiáng)其局部搜索能力。實(shí)驗(yàn)結(jié)果表明改進(jìn)后的算法具有更強(qiáng)的局部搜索能力和更快的收斂速度，能處理更復(fù)雜的問題。
　　(2)針對(duì)神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化的非線性度較高、易陷入局部最優(yōu)的特點(diǎn)，提出了基于改進(jìn)微分進(jìn)化算法的神經(jīng)網(wǎng)絡(luò)權(quán)值訓(xùn)練方法。同

4、時(shí)，使用該算法與BP算法、PSO算法和DE算法對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練并進(jìn)行了比較，測(cè)試結(jié)果表明MDE算法在訓(xùn)練速度和精度上要優(yōu)于其它三種算法。
　　(3)針對(duì)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化較為復(fù)雜的特點(diǎn)，提出了基于改進(jìn)微分進(jìn)化算法的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化方法。采用算法嵌套的方法，對(duì)隱層節(jié)點(diǎn)數(shù)和權(quán)值進(jìn)行同時(shí)優(yōu)化。仿真結(jié)果表明，MDE算法能有效的優(yōu)化網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)，提高網(wǎng)絡(luò)的泛化性能。
　　(4)將微分進(jìn)化算法與神經(jīng)網(wǎng)絡(luò)相結(jié)合并應(yīng)用于模擬電路的故障診斷