《非線性規劃（第2版）》是清華大學出版社出版的圖書，作者是Dimitri P. Bertsekas。
基本介紹
- 書名：非線性規劃（第2版）
- 作者：Dimitri P. Bertsekas
- 譯者：宋士吉、張玉利、賈慶山
- ISBN：9787302310815
- 定價：79元
- 裝幀：平裝
內容簡介,圖書目錄,
內容簡介
本書涵蓋了非線性規劃的主要內容，包括無約束最佳化、凸最佳化、拉格朗日乘子理論和算法、對偶理論和方法等，並包含了大量的實際套用案例.本書從無約束最佳化問題入手，通過直觀分析和嚴謹證明給出了無約束最佳化問題的最優性條件，並討論了梯度法、牛頓法、共軛方向法等實用算法.進而本書將無約束最佳化問題的最優性條件和算法推廣到具有凸集約束的最佳化問題中，進一步討論了處理約束問題的可行方向法、條件梯度法、梯度投影法、雙矩陣投影法、坐標塊下降法等算法.拉格朗日乘子理論和算法是非線性規劃的核心內容之一，也是本書的重點.本書中的第3、4章詳盡地論述了這方面的內容.本書首先從等式約束最佳化問題最優解的必要條件入手，給出了拉格朗日乘子理論最基本的形式，然後給出了等式約束最佳化問題最優解的充分條件以及不等式約束最佳化問題的充分條件和必要條件.拉格朗日乘子算法的引入則基於將約束最佳化問題轉化為無約束最佳化問題和求解最優性條件對應的方程組兩個角度展開，分別討論了障礙函式法、懲罰函式法、序貫二次規劃法、拉格朗日法和原始對偶內點法等方法.本書的另一個重點是對偶理論和方法.本書第5章從幾何的角度闡述了拉格朗日對偶理論和Fenchel對偶理論，並討論了離散最佳化及拉格朗日鬆弛方法；本書最後一章則詳細討論了求解對偶問題的相關概念和方法，包括次梯度、對偶上升方法、次梯度方法、割平面方法和分解方法等.
本書將深層次的最佳化理論分析與實用的計算方法密切結合，以解決各種不同類型的最佳化問題.與其他闡述最佳化理論和方法的書籍相比，本書具有如下幾個特點.首先，本書內容完備，自成體系.本書的附錄部分提供了關於矩陣分析、凸分析和線性搜尋等內容的數學基礎知識，同時閱讀本書時也不需要讀者提前掌握線性規劃、網路最佳化等其他相關知識內容.其次，本書層次清晰，由淺入深，易於掌握.對於理論性很強的定理命題，本書都首先給出直觀的解釋，或者進行啟發式的思維引導，最後再給出嚴謹的數學證明.本書整體內容上，按照從無約束最佳化問題到約束最佳化問題、從拉格朗日乘子理論到具體算法、從對偶理論到其求解方法的順序安排，組織結構合理.最後，本書對很多內容的介紹視角獨
特、頗具特色.比如本書中採用大量圖片對抽象問題進行直觀說明，採用幾何角度對對偶理論進行闡釋說明，同時本書多處對線性規劃和非線性規劃的聯繫進行了深入的分析和比較.
本書可以作為高年級本科生、研究生運籌最佳化類課程教材或者相關研究者、工程師的工具參考書.近十年來，本書譯者一直在清華大學自動化系主講的清華大學研究生精品課程就以本書為主要教材.在授課過程中，利用從幾何直觀到定性分析，再到數學推導的講解方法，能夠很好地幫助學生深刻理解複雜定理的內涵實質，同時結合本書提供的眾多實際套用案例，可以激發學生學習抽象數學理論的興趣和能動性.教學實踐表明，本書對研究生的科研與實際工作都發揮了很大的指導作用.
本書將深層次的最佳化理論分析與實用的計算方法密切結合，以解決各種不同類型的最佳化問題.與其他闡述最佳化理論和方法的書籍相比，本書具有如下幾個特點.首先，本書內容完備，自成體系.本書的附錄部分提供了關於矩陣分析、凸分析和線性搜尋等內容的數學基礎知識，同時閱讀本書時也不需要讀者提前掌握線性規劃、網路最佳化等其他相關知識內容.其次，本書層次清晰，由淺入深，易於掌握.對於理論性很強的定理命題，本書都首先給出直觀的解釋，或者進行啟發式的思維引導，最後再給出嚴謹的數學證明.本書整體內容上，按照從無約束最佳化問題到約束最佳化問題、從拉格朗日乘子理論到具體算法、從對偶理論到其求解方法的順序安排，組織結構合理.最後，本書對很多內容的介紹視角獨
特、頗具特色.比如本書中採用大量圖片對抽象問題進行直觀說明，採用幾何角度對對偶理論進行闡釋說明，同時本書多處對線性規劃和非線性規劃的聯繫進行了深入的分析和比較.
本書可以作為高年級本科生、研究生運籌最佳化類課程教材或者相關研究者、工程師的工具參考書.近十年來，本書譯者一直在清華大學自動化系主講的清華大學研究生精品課程就以本書為主要教材.在授課過程中，利用從幾何直觀到定性分析，再到數學推導的講解方法，能夠很好地幫助學生深刻理解複雜定理的內涵實質，同時結合本書提供的眾多實際套用案例，可以激發學生學習抽象數學理論的興趣和能動性.教學實踐表明，本書對研究生的科研與實際工作都發揮了很大的指導作用.
圖書目錄
第 1章無約束最佳化
1.1最優性條件
1.1.1主要的最優性條件
1.2梯度方法的收斂性
1.2.1下降方向和步長準則
1.2.2收斂結果
1.3梯度方法的收斂速率
1.3.1局部分析方法
1.3.2條件數的作用
1.3.3關於收斂速率的結論
1.4牛頓方法及其變形
1.5最小二乘問題
1.5.1高斯-牛頓方法
1.5.2增量梯度法
1.5.3高斯-牛頓法的增量形式
1.6共軛方向法
1.7擬牛頓法
1.8非求導方法
1.8.1坐標下降法
1.8.2直接搜尋法
1.9離散時間最優控制問題
1.10一些實用的指導準則
1.11注釋和參考資料
第 2章凸集最佳化
2.1約束最佳化問題
2.1.1最優解的充要條件
2.1.2最優解的存在性
2.2可行方向法和條件梯度法
2.2.1下降方向和步長規則
2.2.2條件梯度法
2.3梯度投影法
2.3.1基於投影方法的可行方向和步長規則
2.3.2收斂性分析
2.4雙矩陣投影方法
2.5流型子最佳化方法
2.6線性規劃的仿射變換
2.7坐標塊下降方法
2.8注釋和參考資料
第 3章拉格朗日乘子理論
3.1等式約束最佳化問題的必要條件
3.1.1懲罰法
3.1.2消元法
3.1.3拉格朗日函式
3.2等式約束最佳化問題的充分條件和靈敏度分析
3.2.1增廣的拉格朗日方法
3.2.2可行方向法
3.2.3靈敏度
3.3不等式約束最佳化問題
3.3.1 Karush-Kuhn-Tucker最優性條件
3.3.2轉化為等式約束處理
3.3.3二階充分條件和靈敏度
3.3.4充分性條件及拉格朗日最小化
3.3.5 Fritz John最優性條件
3.3.6深化和精練
3.4線性約束和對偶性
3.4.1凸目標函式和線性約束
3.4.2對偶理論：針對簡單等式約束的最佳化問題
3.5注釋和參考資料
第 4章拉格朗日乘子算法
4.1障礙函式法和內點法
4.1.1線性規劃與對數障礙方法
4.2懲罰法和增廣的拉格朗日方法
4.2.1二次罰函式方法
4.2.2乘子方法 ——主要思想
4.2.3乘子方法的收斂性分析
4.2.4對偶性和二階乘子方法
4.2.5指數乘子方法
4.3精確懲罰 ——序貫二次規劃
4.3.1不可微精確罰函式
4.3.2可微精確罰函式
4.4拉格朗日方法和原始-對偶內點法
4.4.1一階方法
4.4.2等式約束問題的類牛頓方法
4.4.3全局收斂性
4.4.4原始-對偶內點法
4.4.5不同方法的比較
4.5注釋和參考資料
第 5章對偶性與凸規劃
5.1對偶問題
5.1.1幾何乘子
5.1.2弱對偶定理
5.1.3原問題和對偶問題最優解的性質
5.1.4原問題不可行或最優值無界的情形
5.1.5對等式約束的處理
5.1.6可分問題及其幾何結構
5.1.7有關對偶性的其他問題
5.2凸目標函式 ——線性約束問題
5.3凸目標函式 ——凸約束問題
5.4共軛函式及 Fenchel對偶
5.4.1單值規劃的對偶性
5.4.2網路最佳化
5.4.3博弈和最小化最大值定理
5.4.4原函式
5.4.5從對偶的角度看罰函式方法
5.4.6最近鄰和熵最小化算法
5.5離散最佳化及其對偶
5.5.1離散最佳化問題的舉例
5.5.2分枝定界
5.5.3拉格朗日鬆弛
5.6注釋和參考資料
第 6章對偶方法
6.1對偶微分及次梯度
6.2可微對偶問題的對偶上升方法
6.2.1二次規劃的坐標上升法
6.2.2嚴格凸的可分問題
6.2.3劃分和對偶嚴格凹性
6.3不可微最佳化方法
6.3.1次梯度方法
6.3.2近似次梯度法和增量次梯度法
6.3.3割平面方法
6.3.4上升法和近似上升法
6.4分解方法
6.4.1耦契約束的拉格朗日鬆弛
6.4.2基於約束右側常數分解的方法
6.5注釋和參考資料
附錄 A數學背景
A.1向量和矩陣
A.2範數、數列、極限和連續性
A.3方陣和特徵值
A.4對稱和正定矩陣
A.5導數
A.6壓縮映射
附錄 B凸分析
B.1凸集和凸函式
B.2分離超平面
B.3錐和多面體的凸性
B.4極點
B.5可微性問題
附錄 C線性搜尋方法
C.1三次插值法
C.2二次插值法
C.3黃金分割法
附錄 D牛頓法的運用
D.1 Cholesky分解
D.2改進牛頓法的套用
參考文獻
1.1最優性條件
1.1.1主要的最優性條件
1.2梯度方法的收斂性
1.2.1下降方向和步長準則
1.2.2收斂結果
1.3梯度方法的收斂速率
1.3.1局部分析方法
1.3.2條件數的作用
1.3.3關於收斂速率的結論
1.4牛頓方法及其變形
1.5最小二乘問題
1.5.1高斯-牛頓方法
1.5.2增量梯度法
1.5.3高斯-牛頓法的增量形式
1.6共軛方向法
1.7擬牛頓法
1.8非求導方法
1.8.1坐標下降法
1.8.2直接搜尋法
1.9離散時間最優控制問題
1.10一些實用的指導準則
1.11注釋和參考資料
第 2章凸集最佳化
2.1約束最佳化問題
2.1.1最優解的充要條件
2.1.2最優解的存在性
2.2可行方向法和條件梯度法
2.2.1下降方向和步長規則
2.2.2條件梯度法
2.3梯度投影法
2.3.1基於投影方法的可行方向和步長規則
2.3.2收斂性分析
2.4雙矩陣投影方法
2.5流型子最佳化方法
2.6線性規劃的仿射變換
2.7坐標塊下降方法
2.8注釋和參考資料
第 3章拉格朗日乘子理論
3.1等式約束最佳化問題的必要條件
3.1.1懲罰法
3.1.2消元法
3.1.3拉格朗日函式
3.2等式約束最佳化問題的充分條件和靈敏度分析
3.2.1增廣的拉格朗日方法
3.2.2可行方向法
3.2.3靈敏度
3.3不等式約束最佳化問題
3.3.1 Karush-Kuhn-Tucker最優性條件
3.3.2轉化為等式約束處理
3.3.3二階充分條件和靈敏度
3.3.4充分性條件及拉格朗日最小化
3.3.5 Fritz John最優性條件
3.3.6深化和精練
3.4線性約束和對偶性
3.4.1凸目標函式和線性約束
3.4.2對偶理論：針對簡單等式約束的最佳化問題
3.5注釋和參考資料
第 4章拉格朗日乘子算法
4.1障礙函式法和內點法
4.1.1線性規劃與對數障礙方法
4.2懲罰法和增廣的拉格朗日方法
4.2.1二次罰函式方法
4.2.2乘子方法 ——主要思想
4.2.3乘子方法的收斂性分析
4.2.4對偶性和二階乘子方法
4.2.5指數乘子方法
4.3精確懲罰 ——序貫二次規劃
4.3.1不可微精確罰函式
4.3.2可微精確罰函式
4.4拉格朗日方法和原始-對偶內點法
4.4.1一階方法
4.4.2等式約束問題的類牛頓方法
4.4.3全局收斂性
4.4.4原始-對偶內點法
4.4.5不同方法的比較
4.5注釋和參考資料
第 5章對偶性與凸規劃
5.1對偶問題
5.1.1幾何乘子
5.1.2弱對偶定理
5.1.3原問題和對偶問題最優解的性質
5.1.4原問題不可行或最優值無界的情形
5.1.5對等式約束的處理
5.1.6可分問題及其幾何結構
5.1.7有關對偶性的其他問題
5.2凸目標函式 ——線性約束問題
5.3凸目標函式 ——凸約束問題
5.4共軛函式及 Fenchel對偶
5.4.1單值規劃的對偶性
5.4.2網路最佳化
5.4.3博弈和最小化最大值定理
5.4.4原函式
5.4.5從對偶的角度看罰函式方法
5.4.6最近鄰和熵最小化算法
5.5離散最佳化及其對偶
5.5.1離散最佳化問題的舉例
5.5.2分枝定界
5.5.3拉格朗日鬆弛
5.6注釋和參考資料
第 6章對偶方法
6.1對偶微分及次梯度
6.2可微對偶問題的對偶上升方法
6.2.1二次規劃的坐標上升法
6.2.2嚴格凸的可分問題
6.2.3劃分和對偶嚴格凹性
6.3不可微最佳化方法
6.3.1次梯度方法
6.3.2近似次梯度法和增量次梯度法
6.3.3割平面方法
6.3.4上升法和近似上升法
6.4分解方法
6.4.1耦契約束的拉格朗日鬆弛
6.4.2基於約束右側常數分解的方法
6.5注釋和參考資料
附錄 A數學背景
A.1向量和矩陣
A.2範數、數列、極限和連續性
A.3方陣和特徵值
A.4對稱和正定矩陣
A.5導數
A.6壓縮映射
附錄 B凸分析
B.1凸集和凸函式
B.2分離超平面
B.3錐和多面體的凸性
B.4極點
B.5可微性問題
附錄 C線性搜尋方法
C.1三次插值法
C.2二次插值法
C.3黃金分割法
附錄 D牛頓法的運用
D.1 Cholesky分解
D.2改進牛頓法的套用
參考文獻
