共軛梯度法新算法及其推廣

共軛梯度法新算法及其推廣

《共軛梯度法新算法及其推廣》是依託北京郵電大學,由寇彩霞擔任項目負責人的青年科學基金項目。

基本介紹

  • 中文名:共軛梯度法新算法及其推廣
  • 項目類別:青年科學基金項目
  • 項目負責人:寇彩霞
  • 依託單位:北京郵電大學
項目摘要,結題摘要,

項目摘要

共軛梯度法因其存儲需求小的優點被廣泛的套用於圖像重構、最優控制以及大氣預測等諸多領域。隨著計算機的發展,在諸多套用領域經常出現未知量越來越大,結構越來越複雜,約束條件數量龐大的大規模光滑的和非光滑的最佳化問題。這使得我們對共軛梯度算法的設計提出了新的要求。本項目主要目標是設計最優意義下的共軛梯度法新算法以及新算法從無約束到盒子約束、從光滑到非光滑的推廣。..具體的主要研究:(1)從共軛梯度方向同負梯度方向的夾角最小出發設計該意義下最優的共軛梯度算法,以及借鑑其他最優性質的擬牛頓法來設計其他最優意義的共軛梯度算法;(2)從子空間的角度研究共軛梯度法,設計子空間極小共軛梯度法,並結合非單調Barzilai-Borwein技術,自適應的將子空間和非單調技術結合來加速算法的效率;(3)將上述光滑的無約束最佳化算法推廣至盒子約束問題以及非光滑的情形。

結題摘要

共軛梯度算法是上個世界經典的十三個數值算法之一,其計算量小,存儲需求小的特點被越來越多的人所關注,用於求解圖像處理、大數據分析等中的大規模最佳化問題。本項目主要目標是設計用於大規模問題求解的共軛梯度法新算法以及推廣至帶約束的最佳化問題求解。 本項目主要研究最佳化算法的設計,提出了如下兩個算法:基於子空間方法,將子空間思想同共軛梯度算法結合,加入了Barzilai- Borwein技術來加速算法,提出了一類Barzilai- Borwein共軛梯度算法。證明了方法的理論收斂性,數值實驗演示該類算法是求解大規模問題的一個有力工具; 對帶有一般非線性等式約束的最佳化問題,提出了一個柔性罰函式的增廣拉格朗日方法,該方法能有效避免罰因子趨於無窮大的缺陷,同時避免了約束不相容問題。證明了該算法的理論收斂性,同時數值實驗實現能夠處理Lancelot軟體不能求解的很多難問題。本項目同時將提出的新算法編程實現可以方便調用的算法包,供學者和工程師使用。 本項目立足於數值算法的設計和算法的編程實現,所取得的研究成果具有很強的科學意義和實用價值。首先,提出的BB共軛梯度新方法對大規模最佳化算法的研究以及套用都是一個重要的研究結果。其次,我們提出的柔性罰函式的增廣拉格朗日方法研究也是一個開創性的工作,對約束最佳化問題的求解有一定的促進作用。此外,新的算法都發布了相應的算法包,這對最最佳化方法在實際套用中起到了積極的推動作用。

相關詞條

熱門詞條

聯絡我們