今天小編來給大家分享一些關(guān)于優(yōu)化方法的理論體系 有哪些方面方面的知識(shí)吧，希望大家會(huì)喜歡哦

1、一維優(yōu)化方法

2、多維無約束優(yōu)化方法

3、多維有約束優(yōu)化方法

4、線性優(yōu)化方法

5、多目標(biāo)優(yōu)化方法

6、離散變量?jī)?yōu)化方法

7、基于其他理論的優(yōu)化方法

8、常見的優(yōu)化算例

9、主要文獻(xiàn)

方法/步驟

（一）一維優(yōu)化方法。主要有以下三類：1）基于盲人探路思想的試探法。以步長(zhǎng)加倍策略將極值點(diǎn)確定在距離當(dāng)前點(diǎn)單步步長(zhǎng)之內(nèi)，再以步長(zhǎng)減半策略，使當(dāng)前點(diǎn)接近于極值點(diǎn)。主要有確定極值點(diǎn)所在區(qū)間的進(jìn)退法（應(yīng)用推論1）、一維盲人探路法（在進(jìn)退法基礎(chǔ)上增加一個(gè)模塊）、一階導(dǎo)數(shù)符號(hào)法（應(yīng)用推論2）等。2）區(qū)間削去法。比較區(qū)間內(nèi)兩點(diǎn)的目標(biāo)函數(shù)值或計(jì)算一點(diǎn)的導(dǎo)數(shù)符號(hào)，根據(jù)單峰假設(shè)將極值點(diǎn)所在區(qū)間削短。主要有對(duì)稱等比例、對(duì)稱變比例區(qū)間分割法、平分法、切線交點(diǎn)法、自適應(yīng)二分法等。3）擬合函數(shù)尋點(diǎn)法。主要是二次擬合函數(shù)法（拋物線法）、三角擬合函數(shù)法、二次擬合函數(shù)定點(diǎn)法、一次擬合導(dǎo)函數(shù)法等。

（二）多維無約束優(yōu)化方法。主要有：1）負(fù)梯度方向法及基于盲人探路思想的折線負(fù)梯度方向法。2）多維二階近似式方向法及其近似算法。3）坐標(biāo)系擬均勻變換法，也稱為坐標(biāo)變換法，包括局部坐標(biāo)系的建立。4）獲得共軛方向的方法，主要有定義法、幾何法、待定系數(shù)法、兩次同方向?qū)?yōu)獲得法、連續(xù)兩次沿負(fù)梯度方向?qū)?yōu)獲得法（四尋法、六尋法、三尋法）等。5）共軛方向輪換法，主要有幾何法、待定系數(shù)法、正交向量組法等，包括方向組的概念。6）尋優(yōu)方向的數(shù)值算法實(shí)現(xiàn)，基于二次函數(shù)假設(shè)的數(shù)值偏導(dǎo)數(shù)、方向?qū)?shù)計(jì)算式，構(gòu)造二階偏導(dǎo)數(shù)矩陣法、大步長(zhǎng)探測(cè)等算法實(shí)例。7）擬合函數(shù)法，主要有多維二次擬合函數(shù)法和線性擬合梯度法。8）不求偏導(dǎo)數(shù)的方向組輪換法，主要有坐標(biāo)方向輪換法、自適應(yīng)坐標(biāo)下降法、經(jīng)典Powell基本算法和改進(jìn)算法、構(gòu)造共軛方向法等。9）無界多面體變形法，也稱為單形替換法或單純形法，與多維有約束復(fù)合形法的尋優(yōu)思想相同。

（三）多維有約束優(yōu)化方法。主要有：1）可行域內(nèi)直接求解法，主要包括網(wǎng)格法、有界多面體變形法（復(fù)合形法）、隨機(jī)方向法等。2）優(yōu)選可用方向法，尋優(yōu)到約束邊界之后，尋優(yōu)最好的方向繼續(xù)尋優(yōu)，是船到橋頭自然直的正確思路。3）半步法，沒有尋優(yōu)到約束邊界的時(shí)候采用無約束優(yōu)化方法，尋到之后退半步重新選擇新的尋優(yōu)方向，是未雨抽聊的研究思路。4）化簡(jiǎn)法，主要有基于二階近似式構(gòu)造尋優(yōu)方向法、基于一階近似式線性化法。5）構(gòu)造無約束優(yōu)化問題序列法，采用加權(quán)組合的方式將目標(biāo)函數(shù)和約束函數(shù)轉(zhuǎn)化為無約束優(yōu)化問題，權(quán)按照一定規(guī)律變化，從而構(gòu)造出一系列的無約束優(yōu)化方法，主要有圍墻法（內(nèi)點(diǎn)懲罰函數(shù)法，須加固圍墻）和土堆法（外點(diǎn)懲罰函數(shù)法）。

（四）線性優(yōu)化方法。對(duì)于目標(biāo)函數(shù)和約束函數(shù)均為設(shè)計(jì)變量線性函數(shù)的優(yōu)化問題，其約束邊界和目標(biāo)函數(shù)等值線均為直線，可行點(diǎn)的集合構(gòu)成一個(gè)凸集，且為凸多面體。如果存在最優(yōu)點(diǎn)，則必為該凸集的某個(gè)頂點(diǎn)。尋找最優(yōu)點(diǎn)就是在該凸多面體上確定最優(yōu)的頂點(diǎn)。主要方法為單純形法，在可行域多面體的某一個(gè)頂點(diǎn)出發(fā)，逐漸滑向更好的頂點(diǎn)，最終獲得最優(yōu)點(diǎn)。

（五）多目標(biāo)優(yōu)化方法。主要有以下幾類：1）窮舉類方法。直接求出所有分目標(biāo)函數(shù)的最優(yōu)點(diǎn)，然后在各個(gè)目標(biāo)之間進(jìn)行協(xié)調(diào)，使其相互間作出適當(dāng)“讓步”，以便獲得整體最優(yōu)方案，選擇較好的設(shè)計(jì)點(diǎn)?；蛘吡谐鏊蟹桨福捎脤＜以u(píng)議、領(lǐng)導(dǎo)拍板等方式確定最優(yōu)方案。2）直接重構(gòu)單目標(biāo)函數(shù)法。直接由各分目標(biāo)函數(shù)構(gòu)造一個(gè)新的目標(biāo)函數(shù)，從而將多目標(biāo)的優(yōu)化問題轉(zhuǎn)化為單目標(biāo)的。如主要目標(biāo)法、線性加權(quán)組合法、取最大分目標(biāo)函數(shù)值法、分目標(biāo)乘除法、分層序列法等，其中線性加權(quán)組合法最具有實(shí)用性。3）間接重構(gòu)單目標(biāo)函數(shù)法。將原分目標(biāo)函數(shù)適當(dāng)處理后構(gòu)造一個(gè)新的目標(biāo)函數(shù)。如理想點(diǎn)法、功率系數(shù)法（幾何平均法）、協(xié)調(diào)曲線法等。

（六）離散變量?jī)?yōu)化方法。主要有三類：1）按連續(xù)變量處理法。取得最優(yōu)點(diǎn)后，再圓整。離散變量依次確定，原優(yōu)化問題依次降維。2）隨機(jī)法。根據(jù)實(shí)際情況隨機(jī)確定一些設(shè)計(jì)點(diǎn)，然后從中選取最優(yōu)點(diǎn)。或者在初始點(diǎn)周圍以隨機(jī)方式尋找多個(gè)設(shè)計(jì)點(diǎn)，取其最優(yōu)者作為當(dāng)前點(diǎn)繼續(xù)尋優(yōu)。3）窮舉法。如分支定界法、網(wǎng)格法。

（七）基于其他理論的優(yōu)化方法。實(shí)際上，存在很多不能由標(biāo)準(zhǔn)數(shù)學(xué)模型描述的優(yōu)化問題，其數(shù)學(xué)模型的建立與評(píng)價(jià)均沒有固定的模式，可行域不連續(xù)，甚至只是一些零散的可行點(diǎn)，并且各可行點(diǎn)的優(yōu)劣難以用統(tǒng)一的標(biāo)準(zhǔn)衡量，比如旅行商最佳路徑問題、背包問題等。在日常生活當(dāng)中也存在著類似的問題，如股市運(yùn)作，何時(shí)何股入市最優(yōu)；戰(zhàn)爭(zhēng)發(fā)起，何時(shí)何地以什么方式最有利；個(gè)人學(xué)習(xí)計(jì)劃，先學(xué)習(xí)還是先工作，學(xué)什么課程做什么工作最好。借用其他學(xué)科的理論知識(shí)，可發(fā)展一些優(yōu)化方法，如遺傳算法、神經(jīng)網(wǎng)絡(luò)算法、基于知識(shí)的專家系統(tǒng)算法、蟻群算法、模擬退火算法、分形與混沌算法等。這些方法均以全域優(yōu)化問題為研究對(duì)象，基于概率論和隨機(jī)理論，使多個(gè)盲人按相同規(guī)律尋求全域極值點(diǎn)，因此也稱為智能優(yōu)化算法。其共同特點(diǎn)是“無序中尋求有序，偶然中探索必然”。

（八）常見的優(yōu)化算例。1）一維單峰函數(shù)。用于一維優(yōu)化方法的檢驗(yàn)。2）二維二次函數(shù)?？衫L圖直觀地表示尋優(yōu)過程，，檢驗(yàn)算法最直接有效。因?yàn)閮?yōu)化方法都是在單峰假設(shè)下提出來的，即假設(shè)目標(biāo)函數(shù)為二次函數(shù)，檢驗(yàn)結(jié)果可信。3）多維二次函數(shù)。構(gòu)造共軛方向的優(yōu)化方法對(duì)于二維優(yōu)化問題效果明顯，但是需要在多維設(shè)計(jì)空間當(dāng)中檢驗(yàn)。4）復(fù)雜函數(shù)。最典型的是Rosenbrock函數(shù)，由于存在一個(gè)彎彎的峽谷，成為許多優(yōu)化方法的滑鐵盧。5）目標(biāo)函數(shù)沒有數(shù)學(xué)表達(dá)式的優(yōu)化問題。如目標(biāo)函數(shù)的求取需要借助于其他計(jì)算算法。6）抽象優(yōu)化問題。設(shè)計(jì)變量沒有優(yōu)選值問題、目標(biāo)函數(shù)和約束函數(shù)難以用數(shù)學(xué)表達(dá)式表示。比如背包問題、旅行商問題、交通信號(hào)燈規(guī)劃問題等。對(duì)于這些問題，窮舉法是最可靠的算法。

（九）主要文獻(xiàn)。上述綜述主要是基于一下創(chuàng)新性文獻(xiàn)而完成的：[1] 例證多維二階近似式法的適用性[J]. 德州學(xué)院學(xué)報(bào), 2017,33(6):12-14.[2] 多維二次擬合函數(shù)優(yōu)化方法[J]. 甘肅科學(xué)學(xué)報(bào), 2017, 29(5):26-28.[3] 基于目標(biāo)函數(shù)梯度向量的相鄰方向共軛法[J].甘肅科學(xué)學(xué)報(bào),2017,29(05):15-21.[4] 目標(biāo)函數(shù)優(yōu)化的切線交點(diǎn)法[J]. 機(jī)械設(shè)計(jì)與研究(核心), 2017, 33(2):17-19,24.[5] The program verification of the three-seeking and six-seeking method based on the conjugate direction[A]. . 2017 5th International Conference on Machinery, Materials and Computing Technology(ICMMCT2017), March 25-26, 2017 Beijing, China. Advances in Engineering, volume 126, pp109-114.[6] 基于盲人探路尋優(yōu)思想的二階近似式定點(diǎn)法研究[J]. 中國(guó)石油大學(xué)學(xué)報(bào)（自然科學(xué)版）, 2017, 41(1): 144-149.[7] 盲人探路負(fù)梯度方向法[J]. 甘肅科學(xué)學(xué)報(bào), 2016, 28(5):116-122.[8] Blind-walking optimization method[J]. Journal of Networks, 2010, 5(12):1458-1466.[9] 優(yōu)化方法[M]. 東南大學(xué)出版社, 2009.10[10] 隨機(jī)方向法改進(jìn)及其驗(yàn)證[J]. 計(jì)算機(jī)仿真, 2009, 26(1):189-192.[11] 具有畸形約束極值點(diǎn)問題的優(yōu)化[J]. 中國(guó)科技論文在線學(xué)報(bào), 2008, 3(8):562-565.[12] 形象化教學(xué)方法在“機(jī)械優(yōu)化設(shè)計(jì)”課程中的應(yīng)用[J]. 中國(guó)石油大學(xué)學(xué)報(bào)(社科版), 2008, 25(S): 90-92[13] 加固圍墻的內(nèi)點(diǎn)懲罰函數(shù)法防越界驗(yàn)證[J]. 機(jī)械設(shè)計(jì), 2007, 24(S):111-112.[14]連續(xù)負(fù)梯度方向獲得共軛方向的六尋優(yōu)化方法[J]. 計(jì)算機(jī)科學(xué)與探索, 2019, 13(0).

本文到此結(jié)束，希望對(duì)大家有所幫助。

版權(quán)說明：本文由用戶上傳，如有侵權(quán)請(qǐng)聯(lián)系刪除！

標(biāo)簽：