《稀疏性保持的降維技術及其拓展研究》是依託南京航空航天大學，由陳松燦擔任項目負責人的面上項目。
基本介紹
- 中文名：稀疏性保持的降維技術及其拓展研究
- 項目類別：面上項目
- 項目負責人：陳松燦
- 依託單位：南京航空航天大學
項目摘要,結題摘要,
項目摘要
高維數據的湧現是模式識別面臨的極大挑戰，降維技術已成為處理高維數據，克服維數災難的重要途徑。研究表明降維算法可歸結於圖的構造及其嵌入方式。然而現有多數降維算法均基於最近鄰準則建圖，如LPP及其變體。雖然這類算法在很多實際問題中取得了較傳統方法（如PCA、LDA）更好的性能，但導致了諸如近鄰數選擇、噪聲敏感及無法自然地結合領域先驗知識等問題。本項目旨在提出一種新的降維框架：稀疏性保持降維技術，並對此進行一系列的拓展研究。主要研究內容和目標為（1）將稀疏表示引入圖的構造，設計稀疏保持投影（SPP）算法，以克服LPP等的不足；（2）半監督化SPP，期望藉助儘可能少的無標樣本提升監督算法（如LDA）的性能；（3）設計自教（self-taught）降維技術，克服傳統降維方法獨立同分布假設的限制；（4）將上述思想融入分類器的設計，以發展出稀疏保持的正則化分類算法；（5）套用上述算法於單幅圖像人臉識別等問題。
結題摘要
高維數據的湧現是模式識別面臨的極大挑戰，降維已成為處理高維數據，克服“維數災難”和確保學習算法良好泛化性能的重要技術。研究表明降維算法可歸為圖的構造及其嵌入方式。因此基於圖的降維方法的質量取決於所建圖的質量。然而現有多數降維算法均基於最近鄰準則建圖，如著名的局部性保持投影及其變體。雖然這類算法在很多實際問題中已取得成功，但導致了諸如近鄰數選擇、噪聲敏感、鄰域自適應性缺乏及難以自然結合領域知識等問題。本項目在提出的稀疏性降維框架基礎上，展開了一系列以基於圖的降維研究，同時涉及分類、特徵稀疏化和套用性方面的拓展研究。取得了如下主要成果：1. 在稀疏建圖及降維方面，（1.1）分別提出了樣本依賴、圖最佳化、稀疏約束圖最佳化和近鄰域自適應的建圖和降維法SLPP、GoLPP、GODRSC和AN；所建圖擁有稀疏性或/和數據依賴性或/和自適應性，彌補了先前方法的不足；（1.2）分別提出了（半）監督化稀疏判別分析SPDA和局部性（蘊含了稀疏性）結構驅動的判別分析框架；（1.3）揭示出了基於局部保持投影法的兩面性和有效性前提；（1.4）分別發展出了新的稀疏最佳化算法SCIHTBB和匹配追蹤稀疏最佳化算法CSMP。2. 在分類學習方面，（2.1）針對支持向量機（SVM）設計上對信息的欠利用，先藉助圖獲得對數據知識的深層刻畫，後將其以正則化項嵌入目標函式，由此分別發展出了全局與局部相結合的SVM、結合了特徵判別性結構圖的FDSVM、一個結構正則化的大間隔框架及其結構正則化SVM，發展和彌補了ECOC多類分類機設計中對信息的欠利用; （2.2）利用數據局部性，分別提出了一個（半）監督的分類和聚類同時學習算法和一個修正聚類假設的半監督分類學習算法；（2.3）發展出了適合大規模數據的核學習算法，通過將期望子核作為邊界條件，結合BCD最佳化實現；3. 在特徵稀疏化方面，（3.1）提出了分別基於穩定性準則和局部正則化推廣誤差界的選擇方法；（3.2）發展出了大相關分析投影算法，通過大相關達到特徵稀疏化；4。在套用層面；開展了用局部性相關分析的感測器節點定位；圖最佳化的圖像片權重設計實現非局部均值去噪濾波器；提出了一種特徵採樣和特徵融合的局部子圖像人臉識別方法。共發表論文27篇，其中SCI期刊19篇（IEEE T. 4篇，PR 4篇），A類會議2篇；培養博士生9人，其中楊波的博士論文獲2012年江蘇省優博論文獎。
