基於逼近的Boosting算法及其在回歸中的套用

基於逼近的Boosting算法及其在回歸中的套用

《基於逼近的Boosting算法及其在回歸中的套用》是依託杭州師範大學,由趙易擔任項目負責人的青年科學基金項目。

基本介紹

  • 中文名:基於逼近的Boosting算法及其在回歸中的套用
  • 項目類別:青年科學基金項目
  • 項目負責人:趙易
  • 依託單位:杭州師範大學
項目摘要,結題摘要,

項目摘要

Boosting 集成學習算法是一類可提高任意給定學習算法準確度的方法,過去的10 多年來在模式識別領域已取得卓越成效。其基本思想就是通過產生若干簡單的、精度比隨機猜測略好的粗糙估計集成構造出一個高精度估計。相比在模式識別(分類問題)中的廣泛套用,這類算法在非參數學習的回歸問題中無論是理論還是套用都相對較少。本項目從逼近的角度,將Boosting算法從分類問題推廣到一些回歸問題,利用該算法構造基於一般及特殊函式空間“弱學習器”的逼近函式,並實現對回歸函式的近似。本項目主要研究 1.結合Boosting 等算法設計具體構造步驟,確定適用於一般函式空間的擬合、疊代方式,2.利用參數光滑化技巧討論不同情況下疊代次數的確定,3.將構造方式用於感知器、神經網路等在內的幾種不同套用類型,對其進行誤差分析並研究最優階成立條件。項目對於Boosting算法在非參數回歸問題中的研究具有理論與實際的雙重意義。

結題摘要

Boosting 集成學習算法是一類可提高任意給定學習算法準確度的方法,過去的10 多年來 在模式識別領域已取得卓越成效。本項目展開了對各類基函式的研究,涵蓋三角級數、有理函式、有理雙線性函式、核函式等;以上述基函式作為弱學習器,利用Boosting算法等集成方法構造了基於各類基函式的逼近函式,並設計具體算法步驟,包括擬合疊代方式的選擇、疊代次數的確定、光滑參數的選取等;進而討論並研究構造函式對回歸函式的逼近性質與逼近度等問題。項目對於Boosting算法在非參數回歸等問題中的研究具有理論與實際的雙重意義。

熱門詞條

聯絡我們