保序回歸

保序回歸（isotonic regression）或“單調回歸（monotonic regression）”是回歸分析的一種，是在單調的函式空間內對給定數據進行非參數估計的回歸模型。

保序回歸在觀念上是尋找一組非遞減的片段連續線性函式（piecewise linear continuous functions），即保序函式，使其與樣本儘可能的接近。在計算中，保序回歸是一個二次規劃問題，即尋找一組保序函式是其對樣本的估計值與樣本的真實值間的離差平方和達到最小。

保序回歸的套用包括多維標度、偏斜數據下分類器的校準以及其它因變數被限定為單調變化的情形。

基本介紹

• 中文名：保序回歸
• 外文名：isotonic regression
• 類型：回歸模型，非參數模型
• 提出者：H. D. Brunk，R. E. Barlow 等 
• 提出時間：1969-1972年 

理論

給定學習樣本，保序回歸是一個加權最小二乘的二次規劃問題：

式中為一組權重，要求必須為正值且個數與樣本數相同，因此保序回歸是非參數模型，其目標函式的複雜度與樣本量有關。

套用

保序回歸可以在有足量樣本的支持下對分類器進行校準，並因此被套用於廣告排序，質量控制等現實問題。一些數值分析工具，例如Python下的Scikit-learn提供了封裝的保序回歸工具。