《基於核函式的正則化學習算法:逼近性及稀疏性研究》是依託復旦大學,由石磊擔任項目負責人的青年科學基金項目。
基本介紹
- 中文名:基於核函式的正則化學習算法:逼近性及稀疏性研究
- 依託單位:復旦大學
- 項目類別:青年科學基金項目
- 項目負責人:石磊
項目摘要,結題摘要,
項目摘要
學習理論開始於經典的統計學習理論和支持向量機的研究,其目的是藉助隨機樣本重構潛在的函式關係或者函式特徵,進而刻畫數據產生的機制或者數據的組織結構。基於核函式的正則化算法,因為良好的逼近性質和可執行性,是學習理論中研究最廣泛的一類算法。本項目的核心內容是利用逼近論的方法對基於核函式構造的樣本依賴假設空間中的一些正則化算法的漸近性質進行深入的理論研究,包括算法的逼近性質和解的稀疏表示。具體來說,本項目將研究L1係數正則化算法和基於經驗特徵的正則化算法。逼近論,小波分析中的思想將被用於算法的設計和理論分析。本項目的研究有助於提高人們對現有算法的理解,並為設計新的學習算法提供線索。
結題摘要
學習理論的數學基礎是再生核Hilbert空間理論以及逼近論,前者提供理論框架,後者提供算法分析的數學工具。算法分析的基本思想是建立數據分析模型的樣本誤差和逼近誤差分解,兩者的估計都涉及對逼近論中經典課題的研究。學習理論研究的一個重要問題是數據分析算法的相容性以及學習率,這為算法在實際套用中的表現提供了理論依據。本項目的核心內容是研究學習理論中基於核函式的正則化算法。項目始終按照計畫展開工作,在項目資助下,已在套用數學和機器學習領域的國際權威期刊,如Adv. Comput. Math.,IEEE Trans. Pattern Anal. Machine Intelligence,J. Machine Learning Research等雜誌上發表多篇高質量的學術論文,並於2014年在復旦大學成功舉行了學習理論及其相關領域的國際學術研討會。