版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
1、眾所周知,神經(jīng)網(wǎng)絡(luò)具有良好的系統(tǒng)辨識能力,但BP、SVM等傳統(tǒng)神經(jīng)網(wǎng)絡(luò)存在許多缺陷,如易收斂到局部最小點(diǎn)、收斂速度慢甚至不能收斂、過擬合問題、最優(yōu)的網(wǎng)絡(luò)隱層節(jié)點(diǎn)數(shù)不能確定等。此外,目前人工神經(jīng)網(wǎng)絡(luò)僅僅能夠逼近連續(xù)系統(tǒng),而對于非線性混合系統(tǒng)則無法逼近。針對上述問題,本文圍繞近年來發(fā)展起來的極限學(xué)習(xí)理論展開研究,重點(diǎn)研究基于極限學(xué)習(xí)理論的連續(xù)系統(tǒng)和混合系統(tǒng)辨識新理論與新方法。本文主要研究成果如下:
1.提出混合混沌優(yōu)化極限學(xué)習(xí)
2、機(jī)算法
傳統(tǒng)的極限學(xué)習(xí)理論認(rèn)為,影響單隱層前饋神經(jīng)網(wǎng)絡(luò)收斂性能的只有網(wǎng)絡(luò)輸出權(quán)值,而與隱層神經(jīng)元的輸入權(quán)值與閾值參數(shù)沒有關(guān)系。可是,由于網(wǎng)絡(luò)輸出權(quán)值是通過最小二乘法計算而獲得的,所以這確保了其為廣義系統(tǒng)最小二乘解中的最小解。這一計算方法一方面提高了極限學(xué)習(xí)機(jī)的學(xué)習(xí)速度,可另一方面卻直接導(dǎo)致了大量“無用神經(jīng)元”的出現(xiàn)。特別是對于增量型極限學(xué)習(xí)機(jī),由于HuangGB等人已經(jīng)證明具有k+1個神經(jīng)元的極限學(xué)習(xí)機(jī)輸出誤差小于等于第k
3、次迭代(具有k個神經(jīng)元)所獲得的輸出誤差,因此減小網(wǎng)絡(luò)誤差的唯一途徑就是不斷地遞增極限學(xué)習(xí)機(jī)中的隱層神經(jīng)元數(shù)目。但隨著神經(jīng)元數(shù)量的增加,這些神經(jīng)元所對應(yīng)的網(wǎng)絡(luò)輸出權(quán)值也將逐漸減小,結(jié)果使得這些神經(jīng)元對網(wǎng)絡(luò)終端輸出影響很小,便出現(xiàn)了“無用神經(jīng)元”。此外,若一個極限學(xué)習(xí)機(jī)具有k個神經(jīng)元,則需要進(jìn)行k次的迭代計算?;谏鲜鲈?,為了降低網(wǎng)絡(luò)復(fù)雜度,提高極限學(xué)習(xí)機(jī)學(xué)習(xí)效率,降低計算耗時,本文在通過大量的對比實(shí)驗(yàn)以及理論分析的基礎(chǔ)上,證明了極限學(xué)
4、習(xí)機(jī)的收斂速度與神經(jīng)元的輸入權(quán)值與閾值依然存在聯(lián)系,即若選取出神經(jīng)元的輸入權(quán)值與閾值的最優(yōu)值將大大提高極限學(xué)習(xí)機(jī)的學(xué)習(xí)效率。在該思想指導(dǎo)下,結(jié)合混沌優(yōu)化方法與類電磁優(yōu)化方法的互補(bǔ)特性,以及貪婪搜索與人工情感的互補(bǔ)特性,提出了基于混合混沌優(yōu)化方法的極限學(xué)習(xí)機(jī)算法。實(shí)驗(yàn)顯示這種方法可以很好的壓縮極限學(xué)習(xí)機(jī)神經(jīng)元數(shù)量,簡化網(wǎng)絡(luò)結(jié)構(gòu),且收斂速度有了明顯提高。
2.提出雙端增量型極限學(xué)習(xí)機(jī)算法
基于上述證明的極限學(xué)習(xí)機(jī)
5、中隱層神經(jīng)元參數(shù)的優(yōu)劣將極大的影響網(wǎng)絡(luò)收斂速度,本文構(gòu)建了誤差雙向反饋的雙端極限學(xué)習(xí)算法。不同于傳統(tǒng)的極限學(xué)習(xí)算法中隨機(jī)選取隱層神經(jīng)元參數(shù),該算法僅僅通過隨機(jī)方式生成第奇數(shù)個神經(jīng)元參數(shù),而通過反向反饋誤差計算第偶數(shù)個神經(jīng)元參數(shù)。本文證明了所提算法的收斂性,并通過理論分析獲得了一個重要的輸出權(quán)值——誤差橢圓方程。通過該橢圓方程從理論上證明了所提出的雙端極限學(xué)習(xí)機(jī)能夠僅僅使用兩個神經(jīng)元(迭代兩次)就可以以零誤差地逼近任意連續(xù)系統(tǒng)。實(shí)驗(yàn)結(jié)果顯
6、示,該算法能夠在訓(xùn)練的初始階段就獲得“極限”的系統(tǒng)辨識結(jié)果,同其他極限學(xué)習(xí)算法相比,該算法的學(xué)習(xí)速度是傳統(tǒng)增量型極限學(xué)習(xí)機(jī)學(xué)習(xí)速度的幾十到幾百倍。
3.提出基于連續(xù)系統(tǒng)辨識的父代子代漸進(jìn)學(xué)習(xí)機(jī)算法
通過大量實(shí)驗(yàn)與理論分析,本文首先分析了神經(jīng)網(wǎng)絡(luò)實(shí)際應(yīng)用中的誤差下界,然后提出了神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識中的極限誤差概念,并定性的指出不論使用何種單神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法如BP、SVM或者極限學(xué)習(xí)機(jī)(SVM已經(jīng)被證明僅是極限學(xué)習(xí)機(jī)
7、的某種特例)等,對于同一實(shí)際系統(tǒng),其系統(tǒng)辨識的極限誤差趨于同一水平。本文利用上述所提出的雙端極限學(xué)習(xí)機(jī)構(gòu)造一個多神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)系統(tǒng)以降低神經(jīng)網(wǎng)絡(luò)極限誤差,并將其命名為父代子代漸進(jìn)學(xué)習(xí)機(jī)。該算法根據(jù)“父代子代生長原則”將訓(xùn)練集中樣本分類成c個子系統(tǒng),并通過c個雙端極限學(xué)習(xí)機(jī)對連續(xù)系統(tǒng)進(jìn)行辨識。實(shí)驗(yàn)結(jié)果顯示,所提算法獲得的測試誤差是目前已存的其他神經(jīng)網(wǎng)絡(luò)算法其極限誤差的二分之一到三分之一。換言之,父代子代漸進(jìn)學(xué)習(xí)機(jī)能夠提供其他單神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)所
8、完全無法獲得的連續(xù)系統(tǒng)辨識精度。
4.提出基于混合系統(tǒng)辨識的漸進(jìn)學(xué)習(xí)機(jī)算法
混合系統(tǒng)在自然界中普遍存在且若能獲得混合系統(tǒng)的辨識模型,則可以很確切的描述出跳變或者非連續(xù)的行為方式,對某些連續(xù)與非連續(xù)部分高度關(guān)聯(lián)的系統(tǒng)而言,如機(jī)器人、化學(xué)加工等都能夠發(fā)揮巨大的作用。可是由于混合系統(tǒng)既包括連續(xù)變量過程,又包括跳變過程,且它們又交互作用,目前沒有針對一般混合系統(tǒng),特別是非線性混合系統(tǒng)的辨識方法。本文將基于神經(jīng)網(wǎng)絡(luò)的系
9、統(tǒng)辨識從連續(xù)系統(tǒng)推廣到混合系統(tǒng),提出了通用的非線性混合系統(tǒng)辨識算法——漸進(jìn)學(xué)習(xí)機(jī)。該算法首先分類混合系統(tǒng)中哪些訓(xùn)練樣本屬于同一最大連續(xù)子系統(tǒng),再訓(xùn)練每一個子連續(xù)系統(tǒng),最終辨識整個混合系統(tǒng)。實(shí)驗(yàn)結(jié)果顯示,相比于傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)只能辨識連續(xù)系統(tǒng),該算法可以辨識任意非線性混合系統(tǒng),包括隨機(jī)切換系統(tǒng)、分段連續(xù)系統(tǒng)等各種混合系統(tǒng),從而將神經(jīng)網(wǎng)絡(luò)的應(yīng)用從連續(xù)系統(tǒng)擴(kuò)充到了混合系統(tǒng),極大的豐富和發(fā)展了神經(jīng)網(wǎng)絡(luò)系統(tǒng)辨識的理論與方法體系。
5.
10、極限學(xué)習(xí)機(jī)在除冰機(jī)器人控制系統(tǒng)中的應(yīng)用
電力線路結(jié)冰或積雪常會引起線路的斷線、倒桿、倒塔、斷電和信號阻斷等事故,給電力系統(tǒng)的安全穩(wěn)定運(yùn)行造成巨大威脅。目前,基本上仍采用人工沿輸電線逐塔巡視的作業(yè)方式,作業(yè)勞動強(qiáng)度大、費(fèi)用高且危險性大。隨著機(jī)器人被廣泛應(yīng)用各種領(lǐng)域,近10年來,機(jī)器人來替代人力進(jìn)行高壓輸電線路上的故障探測與定位,線路除冰等工作已越來越受到廣泛關(guān)注。這種新技術(shù)具有功耗小、成本低、效率高、人員無傷亡、無需停電等優(yōu)
11、點(diǎn)??墒怯捎诟邏狠旊娋€路作業(yè)機(jī)器人不同于一般的工業(yè)機(jī)器人,其運(yùn)行過程中必須保證機(jī)器人的重力平衡,還必須考慮機(jī)器人受到的摩擦力,在越障、爬坡、下坡、破冰時受到的阻力以及在大風(fēng)、冰凍等惡劣天氣下外界施加的阻力等不確定因素,因此除冰機(jī)器人的動力學(xué)模型是一種典型的高復(fù)雜度、非線性連續(xù)系統(tǒng)??墒?,傳統(tǒng)的辨識方法無法獲得良好的辨識精度,從而使得除冰機(jī)器人難于精確控制,這大大的阻礙了高壓輸電線路作業(yè)機(jī)器人的實(shí)際應(yīng)用。針對上述問題,本文結(jié)合雙端極限學(xué)習(xí)
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 眾賞文庫僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 基于極限學(xué)習(xí)機(jī)的設(shè)備故障預(yù)測方法及應(yīng)用研究.pdf
- 基于鎖相環(huán)的過程辨識方法及應(yīng)用研究.pdf
- 基于分?jǐn)?shù)低階循環(huán)相關(guān)的系統(tǒng)辨識及應(yīng)用研究.pdf
- 基于改進(jìn)極限學(xué)習(xí)機(jī)的復(fù)雜工業(yè)過程故障預(yù)測方法應(yīng)用研究.pdf
- 基于主成分估計的極限學(xué)習(xí)機(jī)及其應(yīng)用研究.pdf
- 人水關(guān)系的和諧辨識方法及應(yīng)用研究.pdf
- 多變量系統(tǒng)辨識方法的研究及應(yīng)用.pdf
- 基于極限學(xué)習(xí)機(jī)的脈沖星信號辨識.pdf
- 基于流形學(xué)習(xí)的降維方法及應(yīng)用研究.pdf
- 軌道-車輛系統(tǒng)輪軌力辨識及應(yīng)用研究.pdf
- 基于極限學(xué)習(xí)機(jī)對衛(wèi)星鐘差預(yù)報的應(yīng)用研究.pdf
- 基于層次聚類的集成學(xué)習(xí)方法及應(yīng)用研究.pdf
- 基于極限學(xué)習(xí)機(jī)對衛(wèi)星鐘差預(yù)報的應(yīng)用研究
- 一種基于極限學(xué)習(xí)機(jī)的分類器及其應(yīng)用研究.pdf
- 基于Volterra級數(shù)的非線性系統(tǒng)辨識及其應(yīng)用研究.pdf
- 基于穩(wěn)健估計的極限學(xué)習(xí)機(jī)方法研究.pdf
- 極限編程方法在實(shí)施CMM中的應(yīng)用研究.pdf
- 基于EMD的相空間重構(gòu)極限學(xué)習(xí)機(jī)的短期氣象要素預(yù)測方法及其應(yīng)用研究.pdf
- 基于多模型值的LPV模型辨識及應(yīng)用研究.pdf
- 基于子空間方法的系統(tǒng)辨識在回轉(zhuǎn)窯窯溫建模中的應(yīng)用研究.pdf
評論
0/150
提交評論