粒子群優(yōu)化算法及差分進(jìn)化算法研究.pdf

1、最優(yōu)化是目前科學(xué)計(jì)算中較為重要的研究分支，隨著科技的發(fā)展，工程技術(shù)領(lǐng)域諸如通訊系統(tǒng)、自動(dòng)控制、電力系統(tǒng)、機(jī)械工程、土木工程、生物工程、化學(xué)工程等產(chǎn)生了諸多復(fù)雜的最優(yōu)化問題，例如非線性控制問題，神經(jīng)網(wǎng)絡(luò)訓(xùn)練問題，文本聚類問題、多參數(shù)調(diào)優(yōu)問題、交通路線規(guī)劃問題等?；趥鹘y(tǒng)的優(yōu)化算法（如解析法，數(shù)值分析法）解決這類優(yōu)化問題時(shí)經(jīng)常面臨著求解時(shí)間長，求解精度低，甚至無法求解的情況，因此基于群智能優(yōu)化的隨機(jī)優(yōu)化算法不斷被提出。群智能優(yōu)化的方法共包括

2、兩種類型:一種是通過模擬自然界生物群體社會(huì)行為（如覓食，筑巢，遷徙）進(jìn)行解空間搜索的群智能優(yōu)化算法，例如粒子群優(yōu)化算法(PSO)，蟻群優(yōu)化算法(ACO)等;另一種群智能優(yōu)化算法是通過模擬大自然物種進(jìn)化過程（如變異，交叉，選擇）進(jìn)行解空間搜索的群智能優(yōu)化算法，例如差分進(jìn)算法(DE)，遺傳算法(GA)等?；谌后w智能的優(yōu)化算法克服了傳統(tǒng)算法在求解問題時(shí)條件要求較高的局限性，且算法搜索過程不依賴搜索問題的具體信息，具有計(jì)算復(fù)雜度低等特點(diǎn)。

3、r>　　粒子群優(yōu)化算法是一種模擬鳥類群體社會(huì)行為的智能搜索算法，算法具有結(jié)構(gòu)簡單，控制參數(shù)少，全局尋優(yōu)能力突出等優(yōu)點(diǎn)，但是該算法的理論研究基礎(chǔ)目前仍然不夠完善，算法在搜索過程中也存在過早收斂或陷入局部極優(yōu)的問題。差分進(jìn)化算法是一類新型進(jìn)化計(jì)算的優(yōu)化算法，算法結(jié)構(gòu)簡單，參數(shù)較少，搜索穩(wěn)定，易于實(shí)現(xiàn)等優(yōu)點(diǎn)，但是算法性能對(duì)參數(shù)的依賴度較高，而且在搜索過程中出現(xiàn)種群多樣性差，過早收斂或搜索停滯現(xiàn)象。為解決上述算法中存在的典型問題，本文在分析算法

4、基本原理和收斂性的基礎(chǔ)上提出了多種新的智能群優(yōu)化算法模型，這些模型在一定程度上改善了算法過早收斂和種群多樣性差問題，提高了算法全局搜索和局部搜索能力，本文主要研究貢獻(xiàn)如下:
　　(1)采用矩陣分析方法對(duì)標(biāo)準(zhǔn)PSO算法的收斂性（Convergence）進(jìn)行了理論分析，并通過實(shí)驗(yàn)進(jìn)行了仿真驗(yàn)證。文中首先給出了粒子群算法的基本原理，然后對(duì)標(biāo)準(zhǔn)PSO算法進(jìn)行了位置收斂分析和速度收斂性分析，并推導(dǎo)出了標(biāo)準(zhǔn)PSO算法一般性收斂模型，在該收斂模

5、型的基礎(chǔ)上又分析了多種經(jīng)典PSO算法的收斂性。最后通過實(shí)驗(yàn)仿真驗(yàn)證了該收斂框架模型的準(zhǔn)確性。
　　(2)提出了基于中心-離散學(xué)習(xí)的新型粒子群優(yōu)化算法(CDPSO算法)。算法中提出了兩種不同的學(xué)習(xí)策略:中心學(xué)習(xí)策略和離散學(xué)習(xí)策略。其中中心學(xué)習(xí)(Centralized Learning)是根據(jù)真實(shí)社會(huì)群體中普通個(gè)體效仿精英個(gè)體進(jìn)行深入學(xué)習(xí)的特點(diǎn)而設(shè)計(jì)的一種上層深度搜索策略;離散學(xué)習(xí)（Decentralized Learning）則是根

6、據(jù)社會(huì)群體中個(gè)體進(jìn)行隨機(jī)分布式學(xué)習(xí)特點(diǎn)而設(shè)計(jì)的一種底層廣度搜索策略。粒子個(gè)體在迭代過程中采用周期輪換方式將這兩種策略進(jìn)對(duì)粒子位置進(jìn)行協(xié)同優(yōu)化，算法在搜索過程中較好地平衡了全局搜索和局部搜索能力。
　　(3)提出了基于隨機(jī)維度劃分和算子隨機(jī)分配策略的協(xié)同優(yōu)化算法(VCPSO算法)。算法首先通過隨機(jī)維度劃分方法將粒子的位置向量隨機(jī)地劃分為多個(gè)不同長度的子向量，然后再為每一個(gè)子向量隨機(jī)分配一種學(xué)習(xí)算子用以指導(dǎo)該子向量內(nèi)各參數(shù)值的更新。這

7、種隨機(jī)維度劃分和隨機(jī)學(xué)習(xí)的策略將傳統(tǒng)PSO算法全維度單一學(xué)習(xí)模式擴(kuò)展到多個(gè)子維度多學(xué)習(xí)模式，算法有效解決了傳統(tǒng)算法在搜索過程中存在的種群多樣性差以及過早收斂的問題。基于隨機(jī)維度劃分與學(xué)習(xí)的模型在本質(zhì)上是一種新的優(yōu)化模型，模型中的學(xué)習(xí)算子可以進(jìn)行靈活擴(kuò)展，將隨機(jī)維度劃分的思想引入到優(yōu)化領(lǐng)域的工作尚屬首次。
　　(4)在標(biāo)準(zhǔn)差分進(jìn)化的算法原理基礎(chǔ)上，采用泛函分析中的隨機(jī)壓縮算子理論對(duì)差分進(jìn)化算法進(jìn)行了理論分析，并給出了DE算法漸進(jìn)收斂

8、的一般性證明。首先將DE算法的變異操作和交叉操作合并成為差分算子操作，DE算法的貪婪選擇操作可被看做為一種選擇算子，因此DE算法中個(gè)體的一次迭代可以視為差分算子和選擇算子在空間內(nèi)進(jìn)行解空間的一種映射。由于貪婪選擇機(jī)制，種群個(gè)體的適應(yīng)度迭代序列呈現(xiàn)單調(diào)非遞增趨勢，故可以將DE的一次迭代看成為一種隨機(jī)壓縮算子，根據(jù)隨機(jī)壓縮定理推導(dǎo)出DE算法具有漸進(jìn)收斂性。
　　(5)提出了基于自適應(yīng)混合策略的新型差分進(jìn)化算法(CBDE算法)。針對(duì)DE

9、算法子搜索過程中存在的早熟收斂現(xiàn)象提出了基于不同優(yōu)化算法的混合協(xié)同優(yōu)化的概念，設(shè)計(jì)了一種基于差分進(jìn)化算法和骨干粒子群算法的新型變異策略“DE-BB”策略，該策略充分利用了骨干粒子群算法較好的深度挖掘能力以及差分進(jìn)化算法搜索穩(wěn)定，效率高的優(yōu)點(diǎn)。此外，針對(duì)DE算法在進(jìn)化過程中可能出現(xiàn)的搜索停滯現(xiàn)象，引入了個(gè)體監(jiān)督機(jī)制，算法通過監(jiān)督當(dāng)前目標(biāo)向量適應(yīng)度更新的情況進(jìn)行學(xué)習(xí)策略地更改或相應(yīng)策略參數(shù)地調(diào)整。算法增強(qiáng)了種群的多樣性，提高了DE算法的全局