基于稀疏編碼的圖像分類研究.pdf

1、特征表示問題是機(jī)器學(xué)習(xí)領(lǐng)域的基本問題，作為一種特征表示方法，稀疏編碼可以對數(shù)據(jù)特征進(jìn)行有效表示。
　　現(xiàn)存的稀疏編碼方法一般采用L1范數(shù)約束編碼的稀疏性。但是，L1范數(shù)的微分性質(zhì)決定了基于L1范數(shù)的模型迭代優(yōu)化過程不能捕獲梯度方向上細(xì)粒度的參數(shù)值，進(jìn)而影響目標(biāo)函數(shù)的平滑性和穩(wěn)定性，最終影響編碼的表示能力，在分類應(yīng)用上，表現(xiàn)為基于該編碼的分類精度不高?；诔蛎婕s束的稀疏濾波方法使用先行后列的雙重約束，會導(dǎo)致誤差反向傳播到L1層之后

2、，繼續(xù)向前傳播需要進(jìn)行兩次微分，增加了一倍的計(jì)算量。另外，稀疏濾波方法采用的L1范數(shù)約束和其他所有使用L1范數(shù)約束的方法一樣，都會受制于該范數(shù)的微分特性。稀疏濾波方法本身已經(jīng)不是一種稀疏編碼方法，無法從編碼驗(yàn)證原始信號和編碼后的信號之間的差異。
　　在本文中，作者提出了G超球面約束稀疏編碼，G函數(shù)的梯度全局相關(guān)性能在迭代優(yōu)化過程中，迫使目標(biāo)函數(shù)在梯度方向細(xì)粒度變化。同時(shí)，超球面的幾何特性保證了稀疏約束的局部性，可以抵消G函數(shù)的梯度

3、全局過相關(guān)而導(dǎo)致的負(fù)面影響。除此之外，作者證明了G函數(shù)與L1范數(shù)，以及G函數(shù)與L無窮范數(shù)之間的緊密關(guān)系。通過分析G函數(shù)的Hessian矩陣正定性，保證了使用G函數(shù)約束的目標(biāo)函數(shù)的收斂性。作為探索性研究，作者分析了稀疏編碼與圖像信號的幅頻特征之間的密切關(guān)系，并定量分析了這種關(guān)系在不同圖像數(shù)據(jù)集上的圖像。實(shí)驗(yàn)表明，作者提出的G超球面約束稀疏編碼方法在圖像分類準(zhǔn)確率上的表現(xiàn)優(yōu)于使用L1范數(shù)約束的經(jīng)典稀疏編碼，同樣優(yōu)于基于超球面約束的稀疏濾波。