基于ELM神經(jīng)網(wǎng)絡的研究與應用.pdf

1、神經(jīng)網(wǎng)絡在機器學習及模式識別領域占了很大的一席之地。傳統(tǒng)的誤差反向傳播神經(jīng)網(wǎng)絡(Error Back Propagation，BP)存在諸如容易陷入局部最小點、收斂速度慢及過擬合等問題。而極限學習機(Extreme Learning Machine，ELM)因其高效快速并且泛化性能好的特點得到了國內(nèi)外廣大學者的關注、研究及應用。
　　隨著信息技術的發(fā)展，大數(shù)據(jù)已成為社會研究的熱點之一?？茖W技術的進步使人們獲取得到的這些數(shù)據(jù)呈現(xiàn)出結

2、構復雜、數(shù)量龐大、維數(shù)更多的特點。并且這些數(shù)據(jù)具有時效性，需要及時地處理和分析，獲取數(shù)據(jù)背后的信息和價值。因此對這些數(shù)據(jù)的處理分析充滿著挑戰(zhàn)，高維數(shù)據(jù)的可視化顯得尤其重要。
　　基于近期熱門的極限學習機神經(jīng)網(wǎng)絡，分別采用多維尺度分析(Multidimensional Scaling，MDS)、Pearson相關性、Spearman相關性代替常用的均方誤差(Mean Square Error，MSE)改變網(wǎng)絡的學習規(guī)則，實現(xiàn)高維數(shù)據(jù)

3、投影到2-維平面的數(shù)據(jù)可視化。將所提方法與近期流行的隨機鄰域嵌入(StochasticNeighbor Embedding，SNE)及其改進的t-SNE方法進行對比分析，并通過局部連續(xù)元準則(the local continuity meta-criterion，LCMC)進行質(zhì)量評測，結果表明:在ELM上改進的數(shù)據(jù)可視化結果及計算性能明顯優(yōu)于SNE及t-SNE方法;而在提出的三種學習規(guī)則中，基于MDS的ELM可視化效果最好。
　

4、　在圖像識別上，目前流行的算法主要采用卷積神經(jīng)網(wǎng)絡(convolutionalneuralnetworks，CNN)進行特征提取和分類，這樣的方法通常在大且復雜的神經(jīng)網(wǎng)絡上取得較好的效果，并且在卷積神經(jīng)網(wǎng)絡上全連接層形成的分類器采用梯度下降法進行訓練其泛化能力受到了限制。由于卷積神經(jīng)網(wǎng)絡自身有很強的識別能力，而極限學習機具有良好的泛化性能。因此，先利用卷積神經(jīng)網(wǎng)絡進行圖像的特征提取，再利用極限學習機作為分類器，建立一種基于CNN-ELM