《正交約束最佳化問題的非光滑算法》是依託復旦大學，由楊衛紅擔任項目負責人的面上項目。
基本介紹
- 中文名：正交約束最佳化問題的非光滑算法
- 依託單位：復旦大學
- 項目類別：面上項目
- 項目負責人：楊衛紅
項目摘要,結題摘要,
項目摘要
本項目主要研究正交約束最佳化問題的非光滑算法和有約束的正交約束最佳化問題。正交約束最佳化問題在數據科學、統計學、分子模擬、電子結構計算等領域上有著重要套用。目前，信賴域算法在正交約束問題的無約束光滑問題計算效果非常良好。但是因為很多實際套用問題都是非光滑的並且帶有約束，研究非光滑算法和約束流形最佳化問題成為必需。本項目的一個研究目標是非光滑算法，本項目將以歐式空間的(1)信賴域算法(2)束方法(3)次梯度算法為基礎，把這些歐式空間的理論和算法推廣到正交流約束最佳化問題的非光滑算法。因為稀疏主成分分析和稀疏線性判別分析等統計模型都是非光滑的，本項目還要將這些算法套用到這些模型中。另一個研究目標是研究有約束的正交約束最佳化問題。鑒於信賴域方法目前是無約束光滑流形最佳化問題中計算效果最好的，同時歐式空間帶約束的信賴域方法已經存在，本項目致力於把歐式空間帶約束的信賴域方法推廣到正交約束最佳化問題。
結題摘要
目前流形最佳化的研究是國內外最佳化工作者研究的熱點之一。本項目主要研究正交約束這種特殊的流形上的最佳化問題，給出正交流形上的光滑問題與非光滑問題的快速算法和收斂性的理論分析。本項目同時也研究一般性的黎曼流形上的算法和理論分析。本項目得到的主要成果包括以下幾個方面：1. 特殊正交約束流形上的理論與算法，其中包括信賴域問題、多個球面約束問題、Stiefel 流形上的跡商求和問題與線性相應問題。信賴域子問題是球面上的二次規劃，球面約束是最經典的正交流形。對於信賴域問題的 Lanczos 算法，我們給出了理論分析，根據分析給出一個新的終止條件，在此條件下，信賴域算法的收斂速度得到很大提升。對於多個球面的約束，我們給出了一個濾子積極集算法，在一定條件下證明了算法的超線性收斂性。數值實驗表明，這個算法是一個高效穩定的算法。對於Stiefel 流形上的跡商求和問題，我們給出了一個自適應疊代格式，並且證明了算法的收斂性。數值實驗表明，這個目前跡商求和問題的速度最快的算法。線性回響問題在分子結構計算這個方向有著重要的套用，我們給出了這個問題子空間算法的一個Ritz 值逼近結果。2. 一般性黎曼流形上的非光滑最佳化理論分析與子空間算法。對於一般性的黎曼流形，我們給出了非光滑最佳化問題的最優性條件。在另一篇論文中，我們給出了一個黎曼流形上的有限記憶體秩1信賴域子空間算法。3.對於大型二階錐互補問題，我們證明了矩陣分裂算法的線性收斂。數值實驗表明，我們的矩陣分裂算法是目前速度最快的算法。如果問題是大型稀疏的，我們給出了Krylov 子空間算法，這個算法進而對一般的非線性最佳化問題的Krylov 子空間算法，都有一定的啟發。我們還對擬凸二階錐互補問題的解集，進行分析並給出了一些有趣的結果。4. 對一類凸最佳化問題，我們證明了 ADMM 的線性收斂。這類凸最佳化問題包括了分片二次規劃、稀疏二次規劃等一系列問題。
