幾類神經(jīng)網(wǎng)絡的分析與優(yōu)化及其應用研究.pdf

1、人工神經(jīng)網(wǎng)絡是人工智能研究領(lǐng)域的重要分支之一，在控制、預測、優(yōu)化、系統(tǒng)辨識、信號處理和模式識別等方面有廣泛的應用。本文分析和研究了幾類主要的神經(jīng)網(wǎng)絡模型：進化神經(jīng)網(wǎng)絡、Integrate-and-Fire神經(jīng)網(wǎng)絡以及細胞神經(jīng)網(wǎng)絡，并將其應用于函數(shù)逼近、模式識別、數(shù)據(jù)分類和圖像處理。論文的主要研究工作可概括為以下幾個方面：
　　 1.對無約束全局優(yōu)化問題，分別將高斯變異和正交雜交用于差分進化算法的變異算子和雜交算子中，給出了一種插

2、值局部搜索算子，提出了嵌入正交雜交和局部搜索的差分進化算法。對20個標準測試函數(shù)作了數(shù)值實驗。與文獻中其它差分進化算法的比較結(jié)果表明了算法的有效性。
　　 由預估-校正法確定前饋神經(jīng)網(wǎng)絡結(jié)構(gòu)的情況下，將改進的差分進化算法和Levenberg-Marquardt(LM)算法相結(jié)合，提出了一種混合訓練算法，優(yōu)化前饋神經(jīng)網(wǎng)絡的權(quán)值和閾值。將該進化神經(jīng)網(wǎng)絡應用于函數(shù)逼近、模式分類和識別問題。
　　 2.對同時含有二進制變量和實數(shù)

3、變量的非線性優(yōu)化問題，采用二進制和實數(shù)混合編碼，在差分進化變異算子中引入異或邏輯運算處理二進制變量，將正交雜交引入到雜交算子中，提出了一種協(xié)同二進制--實數(shù)差分進化算法。對該算法作了大量的數(shù)值測試，并與文獻中已有的進化算法作了比較，結(jié)果表明了該算法性能優(yōu)良。
　　 將改進的協(xié)同二進制--實數(shù)差分進化算法和尺度化共軛梯度反向傳播算法相結(jié)合，構(gòu)成兩階段訓練算法，同時優(yōu)化前饋神經(jīng)網(wǎng)絡的結(jié)構(gòu)和權(quán)值。將該進化神經(jīng)網(wǎng)絡應用于函數(shù)逼近和模式分

4、類問題。
　　 3.對含有二進制變量和整數(shù)變量的非線性離散優(yōu)化問題，采用二進制和整數(shù)混合編碼，分別將異或邏輯運算和正交雜交引入到離散差分進化算法的變異算子和雜交算子中，提出了一種協(xié)同二進制--整數(shù)差分進化算法，對該算法作了大量的數(shù)值測試，并與文獻中已有算法作了比較，結(jié)果表明了該算法的有效性。
　　 采用協(xié)同二進制--整數(shù)差分進化算法，同時進化前饋神經(jīng)網(wǎng)絡的結(jié)構(gòu)和整數(shù)權(quán)值。將該進化神經(jīng)網(wǎng)絡應用于函數(shù)逼近和模式分類問題。

5、r>　　 4.針對Lapicque提出的Integrate-and-Fire(IF)模型，給出了一種新的側(cè)抑制連接的IF網(wǎng)絡模型，并討論了其輸入--輸出關(guān)系。與以往的IF模型相比，此模型的活動方程被大大簡化了。其運行結(jié)果很好地擬合了神經(jīng)細胞的生理特性，尤其是該模型較好地匹配了突觸連接的非線性特性。對其點火機制進行了改進，采用異步點火法，這使得網(wǎng)絡的適應性有了很大的提高。
　　 討論了指數(shù)衰減閾值對高斯白噪聲刺激下的IF神經(jīng)元的

6、影響，主要研究了對點火脈沖時間間隔的均值和標準差的影響。結(jié)果顯示當閾值衰減緩慢時，不論神經(jīng)元的點火頻率何時與衰減頻率相當，脈沖時間間隔的變化系數(shù)都能達到最小值。通過改變噪聲強度或者輸入電流而改變點火頻率也可以產(chǎn)生同樣的影響。分析了在神經(jīng)元點火后重新設置膜電位所引起的誤差。
　　 5.提出了一種具有經(jīng)典條件反射行為的認知模型，該模型以IF神經(jīng)元為基本元素，互聯(lián)形成具有反射弧結(jié)構(gòu)的神經(jīng)網(wǎng)絡，能充分表現(xiàn)經(jīng)典條件反射對時間的依賴性。計算

7、機仿真顯示IF模型能成功地模擬習得、遺忘、刺激間隔效應、阻止和二階條件反射等現(xiàn)象。
　　 6.提出了一種具有暫態(tài)混沌的細胞神經(jīng)網(wǎng)絡，該網(wǎng)絡是利用歐拉算法將模型的狀態(tài)方程轉(zhuǎn)化為離散形式，并引入一項負的自反饋而形成的。對單個神經(jīng)元的仿真發(fā)現(xiàn)該模型具有分叉和混沌的特性。在函數(shù)優(yōu)化中，該網(wǎng)絡首先經(jīng)過一個倍周期倒分叉過程進行混沌搜索，然后進行類似Hopfield網(wǎng)絡的梯度搜索。由于它利用了混沌搜索固有的隨機性和軌道遍歷性，因而具有較強的全