基于Elman網(wǎng)絡(luò)與GPU加速的時間序列預(yù)測.pdf

1、準(zhǔn)確快速地預(yù)測時間序列是近年來研究的熱點(diǎn)問題。由于神經(jīng)網(wǎng)絡(luò)可以任意映射復(fù)雜的非線性關(guān)系，且具有很強(qiáng)的記憶能力、容錯能力、魯棒性以及良好的自學(xué)習(xí)能力，使其受到越來越多的關(guān)注，而基于神經(jīng)網(wǎng)絡(luò)的時間序列預(yù)測技術(shù)也被廣泛應(yīng)用于各個領(lǐng)域，解決了許多實(shí)際工業(yè)問題。
　　Elman網(wǎng)絡(luò)作為遞歸神經(jīng)網(wǎng)絡(luò)的典型代表，內(nèi)部包含反饋回路，可適應(yīng)動態(tài)系統(tǒng)的時變特性，比僅能反映系統(tǒng)輸入-輸出映射關(guān)系的前饋神經(jīng)網(wǎng)絡(luò)更適合解決動態(tài)系統(tǒng)問題。然而由于其結(jié)構(gòu)復(fù)雜，

2、現(xiàn)有的基于梯度下降法的建模方法存在收斂速度慢、容易陷入局部最優(yōu)解等問題?；跀U(kuò)展卡爾曼濾波(EKF)的方法雖然提高了收斂速度，但算法中雅克比矩陣的計算通常比較復(fù)雜且耗時。本文提出一種用圖形處理器(GPU)加速實(shí)現(xiàn)基于EKF的Elman網(wǎng)絡(luò)并行建模方法，首先根據(jù)Elman網(wǎng)絡(luò)的結(jié)構(gòu)特性和并行建模的需求，提出了一種求解雅克比矩陣的方法，該方法能夠推導(dǎo)出其解的矩陣表達(dá)式，并可以直接針對原始網(wǎng)絡(luò)求解，省去了將遞歸網(wǎng)絡(luò)轉(zhuǎn)化為前饋網(wǎng)絡(luò)，從而簡化了建

3、模過程并有利于其并行實(shí)現(xiàn)。鑒于GPU高浮點(diǎn)計算能力及工業(yè)應(yīng)用對實(shí)時性要求較高，本文用GPU加速Elman網(wǎng)絡(luò)的建模過程，將網(wǎng)絡(luò)訓(xùn)練中邏輯分支簡單、計算復(fù)雜度高的任務(wù)用GPU實(shí)現(xiàn)，而將邏輯性強(qiáng)的事務(wù)處理和串行計算用CPU實(shí)現(xiàn)，通過GPU和CPU的協(xié)同合作提高網(wǎng)絡(luò)建模效率。
　　為驗(yàn)證本文方法的有效性，用含有高斯白噪聲的Mackey-Glass時間序列和實(shí)際工業(yè)數(shù)據(jù)進(jìn)行了實(shí)驗(yàn)，并與幾種常用的時間序列預(yù)測方法作對比。實(shí)驗(yàn)結(jié)果表明，本文方