基本介紹
- 中文名：代理模型
- 外文名：Surrogate model
- 分類：機器學習
簡介,目標,代理模型分類,一致性,套用,參看,
簡介
大多數工程設計問題，需要模擬實驗來評估採用不同設計參數時的目標函式和約束函式。 例如，為了找到最佳的機翼形狀，常常針對不同的形狀參數（長度，曲率，材料等）模擬機翼周圍的氣流。對於許多實際問題，單次模擬可能需要數分鐘、數小時、甚至數天才能完成。 因此，類似設計最佳化、設計空間搜尋、靈敏性分析和假設分析這種，需要數千、甚至數百萬次模擬的任務，直接對原模型求解將是不可能的。
改善這種情況的一個辦法就是使用近似模型（被稱為代理模型，回響曲面模型，元模型或模擬器）來模擬高精度模擬模型。代理模型的計算結果與原模型非常接近，但是求解計算量較小。代理模型採用一個數據驅動的、自下而上的辦法來建立。一般假定原模擬過程的內部精確處理過程未知（有時也可能已知），但是該模型的輸入-輸出行為則非常重要。通過在仔細選擇的有限個點（輸入）計算原模型的回響（輸出），從而建立代理模型。這一過程也被稱為行為建模或者黑箱模型，但是這兩個名字會造成歧義。如果只涉及唯一的變數，這一過程也被稱為曲線擬合。
雖然使用代理模型來代替實驗和模擬在工程設計中非常常見，代理模型也可被用於許多其他實驗或求解計算量較大的科學領域。
目標
此方法面臨的主要挑戰是：如何使用儘可能少的高精度模型求解來建立一個儘可能精確的代理模型。這一過程包括三個互相交織步驟。
- 抽樣選擇(也稱為順序設計,最佳實驗設計(OED),或主動學習)
- 建立代理模式和最佳化模型參數(偏差方差權衡)
- 代理模型準確性評估
代理模型的準確性跟設計空間的採樣點（高精度模擬實驗）的個數與位置有關。不同的實驗設計（DOE）技術可以滿足不同的誤差要求，特別是數據噪聲或者不合適的代理模型造成的誤差。
代理模型分類
最重用的代理模型有多項式回響曲面法，克里金法，梯度增強克里金法（GEK），支持向量機，空間映射，和人工神經網路。對於某些特定的問題，其具體的目標函式並沒有先驗知識，因此無法知道哪種代理模型最準確。另外，對於給定的代理模型，如何獲得該模型精確性的可靠估計並無定規。對於其他物理特性已知的許多其他問題，基於物理特性的代理模型，例如空間映射，將是最有效的。
這裡有最近關於基於代理模型的進化最佳化技術的回顧。亞斯-桑切斯評價了近二十年以來代理模型的發展與工程套用。
一致性
近來提出的基於比較的代理模型（例如排序支持向量機）進化算法，例如CMA-ES，允許保留代理模型協助的最佳化器的某些一致性：
- 函式單調變換的一致性（縮放）
- 搜尋空間正交變換的一致性(旋轉)。
套用
設計最佳化與設計空間逼近（也成為模擬）這兩個代理模型的典型套用之間，有很大的不同。
基於代理模型的最佳化，基於有限預算下高精度模型的實驗模擬，來建立初步代理模型。然後採用此代理模型預測的性能更好的點來進一步實驗模擬。此過程一般採用如下的搜尋/更新步驟。
- 初步選擇採樣點(高精度模型求解)
- 建立代理模型
- 搜尋代理模型(可以深度搜尋此模型，例如使用遺傳算法，因為它求解簡單)
- 在搜尋得到的點來求解原高精度模型，並將結果加入到採樣點
- 重複步驟2到4，直到時間用盡或者設計已經“足夠好”
根據所使用的代理模型的類型和求解問題的複雜性，該過程可能收斂至一個局部或者全局最優點，也有可能無法找到最優點。
而對於設計空間逼近，感興趣的並非找到最優的參數向量，而是系統的全局行為。這時，代理模型需要不斷調整，以保證在全部參數空間，代理模型與高精度模型都儘可能接近。這樣的代理模型是深入了解系統全局行為的一種有效且廉價的手段。最佳化仍然可作為一個後處理步驟，儘管此時找到的最優點因為沒有更新過程（見上文）可能無法被驗證。
參看
- 直線逼近
- 梯度增強克里金(GEK)
- OptiY
- 空間映射
- 代理終點
- 代理數據
- 適應逼近
- 計算機實驗
