極值搜尋算法

極值搜尋算法是由Tsien教授於1954年提出的一種自適應控制方法。極值搜尋算法理論是自適應控制中非常有前景的研究領域。該理論在實際控制領域中也得到成功的套用。

基本介紹

• 中文名：極值搜尋算法
• 外文名：Extreme Value Search Algorithm

產生與發展

極值搜尋算法是由Tsien教授於1954年提出的一種自適應控制方法。直至20世紀80年代，線性自適應控制理論取得重大突破後，極值搜尋算法以其對控制對象的性能指標具有優越的極值搜尋能力，再次受到人們的重視。1992 年極值搜尋算法首次採用周期信號與滑模控制相結合，隨後Drakunov 採用正弦函式作為激勵信號，成功地將滑模極值搜尋算法運用到 ABS（Automative Brake Systems）中。1995 年Astrom和Wittenmark就預 言：極值搜尋算法理論將成為自適應控制中非常有前景的研究領域。隨後，該理論在實際控制領域中得到成功的套用。 在實際控制系統中，由於控制系統參數的不確定性和實時變化的特點，使得參考量與輸出量之間的函式關係很難被知曉，然而採用極值搜尋控制算法則可以獲得期望的目標。針對極值搜尋算法對控制條件的嚴格限制，1999年，M.Krstic提出了快速自適應極值搜尋算法理論，通過加入動態補償裝置，則可以提高反饋環節的幅值裕度和相角裕度，對控制條件具有更大的開放性，大大提高系統的反應速度，較普通極值搜尋算法具有更好的動態性能。 2000年，Banavar 利用準確地掌握性能函式的梯度最佳化極值搜尋算法，同年 Speyer 採用有限的參數和自適應裝置估計出性能函式的近似表示形式。Rotea和Walsh 分別成功地在連續時間和離散時間系統中運用多變數極值搜尋算法。2002年，Y. Pan，U.Ozguner和T. Acarman 證明了帶有滑模控制的極值搜尋算法的穩定性，其中被控系統的控制性能由預先設定的滑動模式所決定，不會受到參數的不確定性和外部干擾的影響，確保系統以一個預先設定的速度收斂到極值，因而滑模極值搜尋算法是一個很有發展空間的研究領域。 縱觀極值搜尋算法理論的發展，已經由最初的單變數極值搜尋算法理論發展到多變數極值搜尋算法理論，涉及連續時間和離散時間的系統，然而該控制理論套用的範圍還是比較有限，針對極值搜尋算法理論的不足，文獻又提出了退火回歸神經網路極值搜尋算法，從而極大地推廣了極值搜尋算法的套用範圍，並且簡化了系統的穩定性分析。

單變數理論

最初的極值搜尋算法理論所研究的對象主要是單變數的極值搜尋問題，所謂單變數極值搜尋問題是指在變數的搜尋過程中只需要對一個變數的極值尋優。由於受到自適應控制理論知識匱乏的限制，使得極值搜尋算法的研究一直處於停滯不前，直到關於極值搜尋算法的穩定性分析得到首次公開發表後，對於極值搜尋算法的研究才進入第二個春天，在 ACC 2000 上發表了多篇關於極值搜尋算法的文章。但是在設計過程中為了保證系統的性能，極值搜尋算法有一套很嚴格的設計準則，雖然存在了很多的限制條件，然而對這些限制條件的進一步深入研究工作已激勵起當時科研先驅們投入到 一種新的有意義的工作中。因而，隨後陸續成功的將極值搜尋算法套用到軸向氣流壓縮機、汽車點火系統、麵粉發酵過程等工程中，使得在 20 世紀 90 年代末極值搜尋算法理論取得了突飛猛進的發展。

當系統輸出與待搜尋變數之間存在最大值或最小值關係時，即可以用某種損失函式表示時，運用單變數極值搜尋算法可以在沒有準確知道或者不知曉損失函式表示形式和待搜尋變數時，仍能使系統輸出取得最大值或最小值。類似於MRAS設計方法中的梯度法，首先引入損失函式，通過濾波環節， 得到損失函式的梯度，使待搜尋變數沿著損失函式的負梯度方向變化，可以輕鬆地使損失函式得到最大值或最小值。當然，自適應增益的取值範圍取決於輸入信號和過程增益的大小，超過限度的自適應增益會造成系統的不穩定，這給單變數極值搜尋算法設計帶來很大障礙。

文獻首次對一般非線性對象的極值搜尋控制穩定性作出了深入地分析，而文獻則提出了在單變數極值搜尋算法中加入動態補償裝置，既可以保證系統穩定性，同時也加快了系統的收斂速度， 而且消除了自適應增盈較小的要求。動態補償裝置的作用相當於在比例環節中加入微分器，從而提高了系統的阻尼；加入動態補償裝置也即增加了系統的相角裕度和幅值裕度。但是它們的分析僅僅局限於系統參數是定步長變化的情況，並且其分析結果會導致一個很困難的設計方法。2002 年，Krstic.M和 Ariyur提出了一種更為系統的設計方法，解決了一系列的遺留問題，尤其消除了控制對象的輸出動態必須是嚴格真和系統控制頻率必須慢的嚴格要求。針對系統在加入動態補償裝置後對系統的正弦輸入信號的頻率提出了嚴格的限制，為了更好地滿足系統的設計需要，文獻和提出了RBFNN快速極值搜尋算法設計理論，從而為設計極值搜尋控制器拓寬了視野。

多變數理論

所謂多變數極值搜尋算法問題是指在變數的搜尋過程中需要同時對多個變數的極值尋優。Rotea 和 Walsh 首次分別研究多變數極值搜尋算法，提出了一個簡單模型，適用於一般的定參數對象的線上最佳化問題，同時要求控制對象的輸出動態是嚴格真的。由於受到該算法穩定性的要求，迫使系統只能採用較慢頻率的作用力，從而導致了系統收斂速度較慢。但是以上幾種算法都缺少一種系統的設計方法用於分析多變數的極值搜尋問題。 在 2002 年，Krstic通過運用平均化方法，將多變數極值搜尋算法的套用範圍推廣至變參數系統，同時消除了對系統穩定性的嚴格要求。 多變數極值搜尋算法是採用不同的濾波器得到各自變數的梯度，再將積分後的各變數值經過綜合、 解調後作為系統的控制量，由於損失函式對於每個搜尋變數的梯度都是不同的，因而分離搜尋變數時要防止相互間的干擾。這種控制算法最近幾年才發展起來，在能量儲藏調節輪等機械裝置上有所套用， 文獻將多變數極值搜尋算法套用於無人機緊密編隊飛行中。

滑模理論

1974 年，Korovin和 Utkin 提出了滑模靜態最最佳化非線性程式算法，這是首次將滑模控制與最最佳化算法相結合，這種最最佳化算法可以在不知曉參考函式梯度的情況下，運用滑模控制，使得控制對象輸出跟蹤單調遞減參考函式取得最優值。然而隨後滑模控制並沒有廣泛的運用到最最佳化控制中，直到1992年由Drakunov和Özgüner 首次將滑模控制與極值搜尋算法相結合，並採用周期激勵信號，成功地運用到實際系統，隨後在 1995年，Drakunov 成功地在輸入量不可測和損失函式不可知的情況下，採用正弦信號作為激勵信號，將滑模極值搜尋 算法運用到ABS系統中。2000 年 Haskara 通過在系統反饋中引入一個自由參數，利用雙時間軸滑模控制完成了系統性能的最最佳化。 滑模極值搜尋算法繼承了滑模控制的優點，具有收斂速度可以預先設定、魯棒性強、不受參數不確定和外界干擾的特點。但是區別於單純滑模控制只有惟一的滑模線，滑模極值搜尋算法擁有一系列的滑模線，如此設計可以保證無論系統的初始狀態如何都可以在有限的時間內到達滑模線。

斜率理論

斜率搜尋算法是針對自適應非線性模型的一種新的設計方法，主要考慮到實際系統中參考輸入和系統輸出之間映射的極點很容易受到有限干擾的影響，從而導致系統的不穩定。該算法可以控制系統的輸出收斂於參考輸入和系統輸出之間映射的斜率上的任一點。實際上，斜率搜尋算法是極值搜尋算法的進一步推廣，因此它也可以搜尋到參考輸入和系統輸出之間映射的斜率為零的極點。

離散時間理論

離散時間的極值搜尋算法是最近幾年才研究的一種最佳化算法，因而還有許多方面需要探索。2001年，M. Krstic.、K. B. Ariyur 和 J. S. Lee 提出一類離散時間系統極值搜尋控制的穩定性問題，此類系統是由動態線性輸入和帶有極值的靜態非線性組而成，採用雙時間軸一般原理得到一個充足條件，在此條件下輸出信號漸近收斂到極至的極小鄰域內。2002年，Y. D. Pan 和 U. Ozguner總結出了 3 種離散時間的極值搜尋算法，第一種是通過最小方差估計實現，第二種的極值點估計是通過近似靜態為拋物線，第三種的極值點估計是通過近似靜態為橢圓，通過仿真證實所提出的算法都具有可行性。

分析證明

文獻和首次對極值搜尋算法的穩定性進行了分析，但他們的穩定性證明都經過了複雜的數學公式轉換及假設條件的限制，對研究極值搜尋問題產生了一定難度，同時針對在一般極值搜尋算法理論中，系統都存在控制量須來回切換和輸出存在“顫動”現象的問題，文獻提出將回歸神經網路與極值搜尋問題相結合的方法。首先將極值搜尋控制問題轉化為求解損失函式的斜率為零的點，然後構造出回歸神經網路，通過回歸神經網路尋找到此 點，並將控制對象穩定在此點上。由於利用退火回歸神經網路尋求最優點的過程中，摒棄了極值搜尋算法原有的正弦激勵信號，從而較好地解決了系統輸出的“顫動”問題，消除了控制量的來回切換，同 時系統具有更好的動態性能，且極大簡化了極值搜尋算法的穩定性分析，同時將退火回歸神經網路極值搜尋算法的套用推廣至多變數極值搜尋算法中。