凸優(yōu)化問(wèn)題幾類束方法對(duì)偶問(wèn)題的研究.pdf

1、對(duì)于無(wú)約束優(yōu)化問(wèn)題，在迫近束方法思想基礎(chǔ)上，相關(guān)文獻(xiàn)從對(duì)偶空間角度通過(guò)求解帶有二次項(xiàng)的原問(wèn)題的等價(jià)穩(wěn)定子問(wèn)題，得到了原問(wèn)題近似解的表達(dá)形式以及與其解相關(guān)的重要性質(zhì).這些重要結(jié)果都成為此后我們進(jìn)一步深入研究非光滑優(yōu)化束方法的理論基礎(chǔ).本文中，我們繼續(xù)以迫近束方法的思想為基礎(chǔ)，將無(wú)約束優(yōu)化問(wèn)題等價(jià)于一系列帶有特殊范數(shù)標(biāo)準(zhǔn)的二次規(guī)劃子問(wèn)題來(lái)求解，從對(duì)偶空間角度，運(yùn)用對(duì)偶定理將原問(wèn)題的求解轉(zhuǎn)化為其對(duì)偶問(wèn)題的求解，仍然從問(wèn)題的解的表達(dá)形式入手，不

2、僅研究其解的表達(dá)形式，而且也得到了與解有關(guān)的重要性質(zhì).鑒于許多帶有約束的優(yōu)化問(wèn)題都可以轉(zhuǎn)化為無(wú)約束優(yōu)化問(wèn)題進(jìn)行求解，本文又針對(duì)帶有非光滑約束的優(yōu)化問(wèn)題，單純應(yīng)用迫近束方法從對(duì)偶角度對(duì)其進(jìn)行研究.進(jìn)一步，在迫近束方法的思想基礎(chǔ)上將水平束方法與其結(jié)合，應(yīng)用雙穩(wěn)定束方法來(lái)解決此約束優(yōu)化問(wèn)題.從其對(duì)偶問(wèn)題的角度，研究其解的形式及相關(guān)性質(zhì)，發(fā)現(xiàn)不但解的表示形式不盡相同，且其與之前迭代點(diǎn)的次梯度的凸組合有關(guān)，而且次梯度值和額定下降都與單純用迫近束方

3、法從對(duì)偶問(wèn)題角度解無(wú)約束優(yōu)化問(wèn)題時(shí)有相類似的性質(zhì).
　　本論文主要從對(duì)偶空間角度應(yīng)用不同類型的束方法，以研究無(wú)約束優(yōu)化問(wèn)題得到的重要結(jié)果為理論依據(jù)，研究帶有約束的非光滑優(yōu)化問(wèn)題.全文分為三個(gè)部分，其主要內(nèi)容如下:
　　第一章，首先結(jié)合非光滑優(yōu)化問(wèn)題的歷史背景與研究現(xiàn)狀對(duì)束方法的重要性以及發(fā)展歷程進(jìn)行介紹.目標(biāo)函數(shù)的非光滑性使優(yōu)化問(wèn)題的求解面臨重重困難，為克服計(jì)算上以及理論分析上的障礙，許多方法應(yīng)運(yùn)而生，束方法就是其中之一.我

4、們將分別對(duì)最速下降法、黑盒子方法和一般束方法如何求解無(wú)約束優(yōu)化問(wèn)題的基本思想進(jìn)行介紹，為第二章和第三章中問(wèn)題的深入研究做理論鋪墊.
　　第二章，首先介紹非光滑迫近束方法的提出及其基本思想.本章中，將主要運(yùn)用迫近束方法思想，將無(wú)約束原始問(wèn)題轉(zhuǎn)化成一系列二次懲罰子問(wèn)題來(lái)求解，從對(duì)偶空間角度，對(duì)懲罰子問(wèn)題展開(kāi)研究，并在其對(duì)偶空間內(nèi)展開(kāi)相關(guān)性質(zhì)的探討與證明，驗(yàn)證是否可以刻畫(huà)原問(wèn)題與對(duì)偶問(wèn)題之間的關(guān)系，以得到與前人文章中相類似的子問(wèn)題最優(yōu)解

5、的具體表達(dá)形式.進(jìn)一步，總結(jié)出問(wèn)題最優(yōu)解與之前迭代點(diǎn)的次梯度的凸組合之間的關(guān)系，及次梯度和額定下降的相關(guān)性質(zhì).其次，我們繼續(xù)使用迫近束方法，應(yīng)用上述思想，將帶有約束的非光滑優(yōu)化問(wèn)題進(jìn)行等價(jià)變換，應(yīng)用指示函數(shù)方法將約束優(yōu)化問(wèn)題轉(zhuǎn)化為無(wú)約束優(yōu)化問(wèn)題，得到相類似的重要結(jié)論.
　　第三章，主要介紹非光滑雙穩(wěn)定束方法的提出及其基本思想的運(yùn)用.首先，我們運(yùn)用迫近束方法和水平束方法的思想，將以非光滑凸函數(shù)為目標(biāo)函數(shù)，以非空閉凸集為約束集合的原始

6、優(yōu)化問(wèn)題轉(zhuǎn)化成一系列帶有水平約束的二次規(guī)劃子問(wèn)題來(lái)求解，并進(jìn)一步應(yīng)用指示函數(shù)方法將約束優(yōu)化問(wèn)題轉(zhuǎn)化為無(wú)約束優(yōu)化問(wèn)題.接下來(lái)我們繼續(xù)針對(duì)雙穩(wěn)定性束方法，類似地，從對(duì)偶空間角度，找到懲罰子問(wèn)題的對(duì)偶問(wèn)題，并在其對(duì)偶空間里展開(kāi)相關(guān)性質(zhì)的探討與證明，驗(yàn)證是否可以深入刻畫(huà)原問(wèn)題與對(duì)偶問(wèn)題之間的關(guān)系，從而得到與第二章中相類似的問(wèn)題最優(yōu)解的具體表達(dá)形式.最后，找出了原問(wèn)題的最優(yōu)解與之前迭代點(diǎn)的次梯度的凸組合之間的關(guān)系，以及次梯度和額定下降的相關(guān)性質(zhì).