《全局最最佳化——基於遞歸深度群體搜尋的新方法》是清華大學出版社於2021年出版的書籍。
基本介紹
- 中文名:全局最最佳化——基於遞歸深度群體搜尋的新方法
- 作者:劉群鋒 嚴圓
- 出版社:清華大學出版社
- ISBN:9787302581871
內容簡介
本書介紹全局最佳化算法的基本理論和研究進展,特別聚焦於最近幾年提出的基於遞歸深度群體搜尋的一類新方法,並詳細介紹遞歸深度群體搜尋技術在確定性全局最佳化和智慧型最佳化算法中的具體套用。在確定性全局最佳化中,以DIRECT算法為例,深入介紹了遞歸深度群體搜尋的設計原則與技巧;在智慧型最佳化中,以粒子群最佳化算法為例,介紹了遞歸深度搜尋和群體搜尋的融合方法及性能提升。本書提供了全局最佳化算法從入門到精通的各種材料,包括基本概念、基本理論、算法設計原則與技巧、國際通用的測試函式館、主流的測試數據分析方法和技術。因此,本書適合於對全局最佳化算法有興趣的高年級本科生、研究生、研究人員以及工程技術人員。
目 錄
第1部分 全局最最佳化問題、算法與遞歸深度群體搜尋技術
第1章 全局最最佳化問題與算法簡介 3
1.1 最最佳化問題 3
1.1.1 最最佳化模型 3
1.1.2 最最佳化問題的基本理論 4
1.1.3 最最佳化算法簡介 6
1.2 全局最最佳化問題 8
1.2.1 全局最最佳化問題的理論困境: 全局最優性條件的缺失 9
1.2.2 全局最最佳化問題的數值困境: 計算複雜度的挑戰 9
1.2.3 全局最最佳化問題的數值困境: 問題維數的詛咒 11
1.3 全局最最佳化算法簡介 12
1.3.1 確定性全局最佳化算法 12
1.3.2 隨機性全局最最佳化算法 14
第2章 遞歸深度群體搜尋技術 18
2.1 全局最最佳化的漸近無效現象 18
2.1.1 漸近無效的一個實例 18
2.1.2 漸近無效的普遍性 20
2.2 遞歸深度群體搜尋技術 22
2.2.1 遞歸深度的技術淵源: 數值代數中的多重格線法 23
2.2.2 全局最最佳化中的群體搜尋技術 27
2.2.3 遞歸深度群體搜尋的實現方法 29
2.3 本書後續內容安排 32
第2部分 遞歸深度群體搜尋技術在確定性全局最最佳化算法中的套用
第3章 穩健DIRECT算法 37
3.1 DIRECT 算法 37
3.1.1 Lipschitz 最佳化與Lipschitz 常數 37
3.1.2 抽樣與分割 39
3.1.3 區域選擇 41
3.1.4 DIRECT 算法的全局收斂性 43
3.1.5 DIRECT 算法的代碼獲取 45
3.2 DIRECT 算法的一些變化 45
3.2.1 區域大小 45
3.2.2 分割方式 45
3.2.3 動態平衡參數 46
3.3 DIRECT 算法對目標函式線性校正的敏感性 46
3.3.1 敏感性的理論證據 46
3.3.2 敏感性的數值證據 48
3.4 穩健DIRECT 算法 48
3.4.1 對潛最優區域的重新定義 48
3.4.2 穩健性的證明 49
3.5 數值實驗 50
第4章 基於遞歸深度群體搜尋的穩健DIRECT算法 54
4.1 DIRECT 算法的漸近無效行為 54
4.1.1 強最優超矩形 55
4.1.2 漸近無效性的證據與分析 55
4.2 引進兩水平深度搜尋策略 56
4.2.1 兩重格線方法 57
4.2.2 兩水平深度搜尋策略 58
4.2.3 RDIRECT-b 算法 60
4.3 數值實驗(一) 61
4.3.1 對問題(4.1)的測試結果 62
4.3.2 對Jones 測試集的測試結果 62
4.3.3 RDIRECT-b 算法的參數靈敏度分析 64
4.3.4 在Hedar 測試集上的測試結果 67
4.4 引進遞歸深度技術產生多水平搜尋 69
4.4.1 多重格線方法 69
4.4.2 MrDIRECT算法 71
4.5 數值實驗(二) 72
4.5.1 對問題(4.1)的測試結果 72
4.5.2 對Hedar 測試集的測試結果 73
4.5.3 MrDIRECT 算法的參數靈敏度分析 75
4.5.4 GKLS 測試集上的數值結果 78
4.6 結論 81
第5章 DIRECT 算法漸近無效現象的消除 82
5.1 DIRECT 算法漸近無效的兩大內因 82
5.1.1 再探DIRECT 算法的漸近無效現象 83
5.1.2 第一個內因: 平衡機制 84
5.1.3 第二個內因: 參數? 84
5.2 MrDIRECT 算法與漸近無效行為的第一個內因 85
5.2.1 在問題(4.1)上的測試 86
5.2.2 Shubert 型測試集的測試 87
5.2.3 數據結果的解釋 88
5.3 MrDIRECT 算法的改進與漸近無效行為的第二個內因 90
5.3.1 問題(4.1)中的測試結果 90
5.3.2 Shubert 型測試集上的測試結果 91
5.3.3 整個Hedar 測試集上的比較 92
5.4 改進MrDIRECT 算法的數值實驗 93
5.4.1 Hedar 測試集的測試 93
5.4.2 再看Shubert 問題 94
5.4.3 GKLS 測試集和CEC 測試集上的數值比較 95
5.5 總結 99
第6章 遞歸深度群體搜尋技術的更一般套用與探討 101
6.1 基於分割的全局最佳化算法 101
6.1.1 PGO 算法框架 101
6.1.2 PGO 算法的收斂性 103
6.2 基於遞歸深度群體搜尋的一般分割式全局最佳化算法 105
6.2.1 基於兩水平分割的GOMP-T 算法 105
6.2.2 基於多水平分割的GOMP 算法 106
6.2.3 GOMP 算法的收斂性 108
6.3 遞歸深度搜尋與深度學習 110
6.3.1 深度學習簡介 110
6.3.2 深度搜尋與深度學習的聯繫與區別 111
6.4 搜尋深度對算法的影響 113
6.5 數值結果分析 115
第3部分 遞歸深度群體搜尋技術在智慧型最佳化算法中的套用
第7章 粒子群最佳化算法 119
7.1 粒子群最佳化算法 119
7.1.1 群體智慧型最佳化簡介 119
7.1.2 原始粒子群最佳化算法 119
7.1.3 經典粒子群最佳化算法 121
7.2 粒子群最佳化算法的研究進展簡介 121
7.2.1 動態方程的變化 121
7.2.2 拓撲選擇與最佳化 122
7.2.3 理論研究進展 124
第8章 粒子群最佳化算法的穩定性分析 126
8.1 穩定性分析的一個綜述 126
8.2 弱停滯性假設 129
8.2.1 粒子分類和知識傳播 129
8.2.2 占優粒子的領導行為 130
8.3 二階穩定性分析 132
8.3.1 穩定性定義 132
8.3.2 計算E[R2(t)] 134
8.3.3 參數的穩定域 136
8.4 比較和討論 137
8.5 數值實驗 139
8.5.1 算法配置和測試問題 139
8.5.2 數據分析技術 141
8.5.3 穩定性和效率 143
8.5.4 “最佳” 參數設定 146
8.5.5 測試問題的影響 146
8.6 總結與展望 149
第9章 粒子群最佳化算法的拓撲最佳化分析 150
9.1 拓撲最佳化研究回顧 151
9.1.1 靜態拓撲最佳化的現有工作 151
9.1.2 結論 152
9.2 基於正則圖的粒子群最佳化及其拓撲最佳化 153
9.2.1 正則拓撲的生成 153
9.2.2 平均路徑長度和平均聚類係數 154
9.2.3 正則拓撲的參數最佳化 160
9.3 數值實驗 162
9.3.1 實驗設定 162
9.3.2 數據分析技術 164
9.3.3 給定粒子數情況下的最優度數 165