基于矩陣恢復(fù)問題的黎曼流形上的牛頓法和改進(jìn)的奇異值閾值算法.pdf

1、本文研究低秩矩陣的恢復(fù)問題，其在推薦系統(tǒng)、計(jì)算機(jī)視覺等領(lǐng)域得到了廣泛的關(guān)注。它是通過給定矩陣的部分元素，然后求出矩陣中所有未知的元素。這本身是帶約束的最優(yōu)化問題，但也可以看成是黎曼流形上的無約束問題。目前，解決低秩矩陣恢復(fù)問題的方法有很多，如奇異值閾值算法(SVT)、黎曼流形上的共軛梯度算法(LRGeomCG)、APG算法等，各有各的優(yōu)勢以及使用的領(lǐng)域。當(dāng)矩陣的規(guī)模不太大時(shí)，SVT算法是比較高效的，但閾值的選取仍有改進(jìn)的地方;當(dāng)矩陣規(guī)模

2、很大時(shí)，LRGeomCG算法的效率很高，但它的一個(gè)缺點(diǎn)是事先得給出待恢復(fù)矩陣的秩或者秩的估計(jì)值。另外，對于在黎曼流形上解決低秩矩陣恢復(fù)問題的其他最優(yōu)化方法也值得探討。所以本文針對這些方面，對已有的算法進(jìn)行了改進(jìn)和補(bǔ)充。具體來說，本文的創(chuàng)新有以下幾點(diǎn):
　　1.在第三章3，針對低秩矩陣恢復(fù)問題，提出在秩為k的矩陣空間上應(yīng)用牛頓法，即運(yùn)用黎曼流形上的牛頓法加以解決，其中最關(guān)鍵的步驟是推導(dǎo)出目標(biāo)函數(shù)的Riemannian-Hessian

3、算子。在此基礎(chǔ)上，我們推導(dǎo)出黎曼流形上其他優(yōu)化方法的具體過程:梯度下降法、擬牛頓法。這樣一來針對矩陣恢復(fù)問題，得出了常用的黎曼流形的最優(yōu)化方法（文章中統(tǒng)稱為LRGeom算法），我們可以根據(jù)自身的需要加以選用。
　　2.在黎曼流形上的最優(yōu)化方法中，我們是在秩為k的矩陣空間中進(jìn)行求解的，但問題是矩陣的秩是未知的，在第四章4中我們提出使用Opt-Space算法和黎曼流形上的最優(yōu)化方法加以結(jié)合，克服這個(gè)缺點(diǎn)。并與SVT算法加以比較，給出了