對一系列高維學習算法的理論研究

《對一系列高維學習算法的理論研究》是依託浙江師範大學，由向道紅擔任項目負責人的青年科學基金項目。

基本介紹

• 中文名：對一系列高維學習算法的理論研究
• 項目類別：青年科學基金項目
• 項目負責人：向道紅
• 依託單位：浙江師範大學

項目摘要

隨著大型計算與信息技術的飛速發展，在諸如基因序列分析，網際網路檔案排序以及圖像處理等領域中我們越來越多地面對如何分析和處理高維海量數據的巨大挑戰。在學習理論中也相應地產生了一系列新的研究課題，比如數據降維，特徵提取，流形學習以及算法的稀疏性等。本項目的目標是研究由伸縮運算元所產生的一系列學習算法。把伸縮運算元引進到學習理論中的目的在於當伸縮參數變化的時候，我們通過不同頻率的成分學習函式的特徵和數據的多尺度結構。這個想法在小波分析中已經用於信號處理和圖像壓縮。主要工具是徑向基函式以及再生核希爾伯特空間。這一系列算法涵蓋分類，最小二乘回歸(least square regression)，分位數回歸（quantile regression），聚類(clustering)等問題。因此我們相信我們的研究將在生物信息，特徵提取，金融等方面有著重要的套用，同時亦可完善機器學習的理論體系。

結題摘要

始於支持向量機的學習理論中有很多學習算法可以歸結為由伸縮運算元所產生的。當伸縮參數變化時，我們可以通過不同頻率的成分學習數據間潛在的函式關係和數據的多尺度結構。本項目利用逼近論的方法對這一系列學習算法的漸近性質進行深入的理論研究。主要包括：研究伸縮運算元在logistic損失函式所生成的分類學習算法中的套用；分析假設空間基於變尺度高斯核生成的再生核希爾伯特空間的條件分位數回歸算法；結合條件分位數回歸中pinball損失函式的特點，研究由變尺度不敏感損失函式所生成的支持向量回歸算法，揭示變尺度不敏感損失函式對算法設計所起的重要作用；利用最佳化方法研究係數正則化算法的逼近性質。本項目的研究不僅有助於提高人們對現有算法的理解，並為設計新的學習算法提供線索。