核極限學(xué)習(xí)機(jī)的理論與算法及其在圖像處理中的應(yīng)用.pdf

1、基于數(shù)據(jù)的機(jī)器學(xué)習(xí)方法以客觀存在的事物為對(duì)象，研究數(shù)據(jù)的客觀規(guī)律，實(shí)現(xiàn)數(shù)據(jù)的分類和預(yù)測(cè)。極限學(xué)習(xí)機(jī)作為一類機(jī)器學(xué)習(xí)方法，以簡(jiǎn)單易用、有效的單隱層前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，受到越來越多的研究者關(guān)注。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法（如BP算法）需要人為設(shè)置大量的網(wǎng)絡(luò)訓(xùn)練參數(shù)，并且容易產(chǎn)生局部最優(yōu)解。極限學(xué)習(xí)機(jī)只需要設(shè)置網(wǎng)絡(luò)的隱層節(jié)點(diǎn)個(gè)數(shù)，在算法執(zhí)行過程中不需要調(diào)整網(wǎng)絡(luò)的輸入權(quán)值以及隱元的偏置，可以產(chǎn)生唯一的最優(yōu)解，因此它具有學(xué)習(xí)速度快且泛化性能好的優(yōu)點(diǎn)

2、。核極限學(xué)習(xí)機(jī)是將核函數(shù)引入到極限學(xué)習(xí)機(jī)中，可以得到最小平方優(yōu)化解，具有更穩(wěn)定的、更好的泛化性能。
　　本文在前人研究工作的基礎(chǔ)上，基于核極限學(xué)習(xí)機(jī)的框架，提出了若干有效的優(yōu)化算法，研究了核極限學(xué)習(xí)機(jī)在圖像處理中的應(yīng)用。論文的主要工作包括以下幾個(gè)方面:
　　(1)基于傳統(tǒng)的極限學(xué)習(xí)機(jī)，提出了極限學(xué)習(xí)機(jī)快速稀疏近似算法。對(duì)于大規(guī)模數(shù)據(jù)集，極限學(xué)習(xí)機(jī)的快速稀疏算法將求解核矩陣的逆轉(zhuǎn)化為迭代運(yùn)算，通過求解規(guī)模相對(duì)較小的線性方程組完

3、成對(duì)極限學(xué)習(xí)機(jī)的訓(xùn)練，降低了求解核矩陣逆的復(fù)雜度，提高了計(jì)算效率。仿真試驗(yàn)表明，該算法在大規(guī)模數(shù)據(jù)分類和回歸問題表現(xiàn)出有效性。
　　(2)本文提出了基于多核學(xué)習(xí)的極限學(xué)習(xí)機(jī)分類器設(shè)計(jì)的方法。單核不能滿足如數(shù)據(jù)異構(gòu)、數(shù)據(jù)不規(guī)則、樣本不平坦等情況下的應(yīng)用需求。該方法在多核框架下，將核的權(quán)系數(shù)通過特征映射到新的特征空間，并通過學(xué)習(xí)得到優(yōu)化的權(quán)系數(shù)，實(shí)現(xiàn)了多核分類器的設(shè)計(jì)。在標(biāo)準(zhǔn)數(shù)據(jù)集中將不同優(yōu)化核的算法QCQP和SILP進(jìn)行比較，實(shí)驗(yàn)結(jié)

4、果表明多核學(xué)習(xí)的極限學(xué)習(xí)機(jī)有更好的分類效果。
　　(3)提出一種基于進(jìn)化極限學(xué)習(xí)機(jī)的人臉性別識(shí)別算法。通過對(duì)人臉的曲波變換提取特征系數(shù)，用雙向增長(zhǎng)的主元分析方法對(duì)高維樣本空間壓縮降維，采用進(jìn)化極限學(xué)習(xí)機(jī)進(jìn)行訓(xùn)練和分類測(cè)試，最后得到分類結(jié)果。在標(biāo)準(zhǔn)人臉庫(kù)中，相比傳統(tǒng)的人臉性別識(shí)別方法，該算法具有運(yùn)行速度快，分類精度高的優(yōu)點(diǎn)。
　　(4)實(shí)現(xiàn)了基于稀疏編碼和核極限學(xué)習(xí)機(jī)的圖像超分辨率復(fù)原的方法。基于核學(xué)習(xí)的圖像超分辨復(fù)原包括兩個(gè)

5、階段:訓(xùn)練階段和測(cè)試階段。在訓(xùn)練階段中，通過核極限學(xué)習(xí)機(jī)將低分辨率圖像映射到高分辨率圖像，得到耦合字典的稀疏系數(shù)。在測(cè)試階段中，通過耦合字典的稀疏系數(shù)，用核極限學(xué)習(xí)機(jī)對(duì)低分辨率圖像進(jìn)行重構(gòu)，得到復(fù)原后的超分辨圖像。該算法克服了稀疏字典學(xué)習(xí)的計(jì)算瓶頸問題，同時(shí)有效改進(jìn)了圖像復(fù)原質(zhì)量。
　　(5)將核極限學(xué)習(xí)機(jī)作為分類器應(yīng)用到鋼球表面缺陷檢測(cè)系統(tǒng)。由于鋼球非常小，表面光滑反光強(qiáng)，不容易定位，傳統(tǒng)的采用人工檢測(cè)方法其穩(wěn)定性和精確性難以保