云環(huán)境下的極速學習機研究.pdf

1、極速學習機是一種用來求解單隱層神經(jīng)網(wǎng)絡的快速學習方法。它只需要設置網(wǎng)絡的隱層節(jié)點個數(shù)，隨機生成輸入層與隱層之間的權值和隱層的偏置權值，且在算法執(zhí)行過程中不需要再做調整，最后只需求解一個最小范數(shù)最小二乘問題。因此，極速學習機算法具有訓練參數(shù)少、學習速度快和泛化性能好等優(yōu)點。雖然極速學習機算法有眾多的優(yōu)點，但是與傳統(tǒng)的機器學習算法都存在一個很現(xiàn)實的問題，即在如今互聯(lián)網(wǎng)高速發(fā)達的時代，數(shù)據(jù)量也是以指數(shù)級增長，傳統(tǒng)的機器學習算法由于受到機器內存

2、的限制，不能有效地處理大規(guī)模的數(shù)據(jù)。針對以上問題，本文提出將極速學習機和當下流行的云計算平臺相結合，利用云環(huán)境這個大規(guī)模并行處理系統(tǒng)來為極速學習機提供所需的存儲和計算空間，使極速學習機實現(xiàn)高效地處理大規(guī)模數(shù)據(jù)的目的。
　　本研究提出了一個基于Hadoop分布式計算平臺的極速學習機分類算法。根據(jù)極速學習機的基本步驟，先是確定隱層的節(jié)點個數(shù)和隨機給輸入權值和隱層偏置值賦值，接著由樣本值和上一步的結果計算得到隱層輸出矩陣，最后由隱層輸出

3、矩陣和樣本值得到最后的輸出權值。每個步驟對應一個 MapReduce作業(yè)實現(xiàn)，每個MapReduce作業(yè)的輸出為下一個作業(yè)的輸入，以此類推。利用了Hadoop平臺出色的并行處理能力，解決了傳統(tǒng)極速學習機分類算法在面對大規(guī)模數(shù)據(jù)時，效率低下和內存耗盡的問題?；谝陨系乃惴ㄌ岢鲆粋€基于Hadoop分布式計算平臺的極速學習機分類改進算法?？紤]到MapReduce作業(yè)中的map與reduce的計算時間、兩者之間的通信時間和網(wǎng)絡延遲，通過將極速學