分布式網(wǎng)絡中的隨機優(yōu)化算法研究.pdf

1、本文研究分布式網(wǎng)絡中的優(yōu)化問題,并采用隨機優(yōu)化算法來進行有效求解。具體而言,網(wǎng)絡中的節(jié)點都有本地的目標函數(shù)與約束,我們的目的在于優(yōu)化全局的目標函數(shù),使得整個網(wǎng)絡的效用最大化。分布式網(wǎng)絡按照信息處理方式可以分為有中心分布式計算與無中心分布式計算兩大類,其在魯棒性、工作時長、通信代價、存儲代價等方面各有優(yōu)缺點。本文對這兩種分布式計算方式都有研究。具體包括:
　　本文對無中心分布式一致優(yōu)化問題進行了研究,研究的具體內(nèi)容為網(wǎng)絡中的節(jié)點包含

2、復雜約束的情形,其中的復雜約束為多個簡單約束的交集。本文在前人提出的集中式的梯度投影法,以及分布式的隨機梯度投影法的基礎上,提出了兩種分布式的原對偶分離投影算法。二者的不同點在于對于約束的處理方式,一種是確定性的處理,即每次迭代中都處理所有的約束;一種是隨機性的處理,即每次迭代中都隨機性挑選某個約束進行處理。這兩種算法采用分離投影的方式,解決了復雜約束投影難以計算的問題,同時采用原對偶的方法,提高了算法的收斂精度與速度。且本文對確定性算

3、法進行了理論分析,證明了其收斂性。在數(shù)值實驗中,也證明了兩種算法的有效性。
　　本文對于有中心分布式的計算方式也進行了研究,研究的具體內(nèi)容為社交網(wǎng)絡中的符號網(wǎng)絡的鏈路預測問題。針對該問題本文采用了低秩矩陣分解的問題模型來有效減少網(wǎng)絡的參數(shù),且適應于大數(shù)據(jù)的情況。同時我們提出了兩種分布式的異步隨機梯度下降算法來進行有效的求解。二者的不同點在于異步的完全程度,一種是部分異步的,即每個節(jié)點異步地處理隨機平均分配的多個目標函數(shù),而后再進行