基于改進AGP算法的神經網(wǎng)絡結構優(yōu)化研究.pdf

1、隨著社會的不斷進步,工業(yè)快速的發(fā)展,使得神經網(wǎng)絡在生活中許多領域得到了廣泛的應用,不過在很多領域,神經網(wǎng)絡的應用并不能完全發(fā)揮網(wǎng)絡的性能,比如說,網(wǎng)絡不能得到很好的泛化,擬合精度低,收斂速度慢,訓練時間比較長,誤差值偏大。近年來,人們發(fā)現(xiàn)自適應調整網(wǎng)絡結構影響著整個網(wǎng)絡的性能和效率,所以優(yōu)化神經網(wǎng)絡結構是當前的一個亟待解決的問題。為此科學家們提出了一些新算法和改進算法來最大化的發(fā)揮網(wǎng)絡性能。
　　針對以上的不足,本文基于張米娜的A

2、GP算法提出了改進AGP算法,新型剪枝算法以及新型增長算法。其中新型剪枝算法采用基于貢獻值與輸出連接的權重來修剪節(jié)點,新型增長算法就是采用基于貢獻值的方差相關度差異程度對節(jié)點進行增長,而改進AGP算法就是先用新型剪枝算法進行精簡結構,如果不能達到網(wǎng)絡性能要求,那么就采用新型增長算法進行增加節(jié)點,如果還不能滿足要求,這時網(wǎng)絡訓練就會迭代,直到滿足網(wǎng)絡的性能要求。為了檢驗本文提出的算法是否有效,本文對每個算法都跟其他算法做了對比實驗仿真,并

3、且將AGP算法應用到了交通運輸能力以及國內旅游總產值預測方面,仿真實驗表明本文提出的新算法能夠在實際應用中獲得了預期的效果,在訓練時間、收斂速度、泛化能力以及誤差等方面顯示了其優(yōu)越性。
　　本文的研究工作主要有以下幾點:
　　第一,本文系統(tǒng)的描述了剪枝算法、構造法以及混合算法的國內外研究現(xiàn)狀以及一些不足,并對每個算法的潛在應用以及分類作了詳細介紹。
　　第二,對神經網(wǎng)絡基礎知識進行了簡單的介紹(包括簡介、發(fā)展史、結構特

4、征以及應用),分析了BP算法,并闡述了BP的核心思想。
　　第三,分析了影響網(wǎng)絡性能的因素,包括訓練時間、收斂速度、泛化能力以及誤差等方面。
　　第四,基于以上不足,提出了一種基于貢獻值與輸出連接的權重來修剪節(jié)點的新型剪枝算法,提高了修剪的效率的同時,也保證了網(wǎng)絡的性能。本文提出了新型增長算法,它是基于貢獻值的方差相關度,直接復制那些相關度高的節(jié)點,不但使得網(wǎng)絡收斂速度加快,而且也防止會出現(xiàn)過度擬合現(xiàn)象,并且做了相關對比實驗