《稀疏正則化方法研究》是依託西北大學，由張海擔任項目負責人的面上項目。
基本介紹
- 中文名：稀疏正則化方法研究
- 項目類別：面上項目
- 項目負責人：張海
- 依託單位：西北大學
項目摘要,結題摘要,
項目摘要
高維、海量數據處理是當今各個學科所面臨的突出問題, 如何從中選取特徵（即決定這些數據的本質要素）是機器學習等領域所關注的基本問題. 眾所周知，該問題對應於求解一個稀疏問題. 本項目研究的目的在於：通過新的集中不等式，初步建立稀疏正則化方法框架；在算法實現方面，對非凸的稀疏學習模型，從運算元論角度統一研究閾值疊代方法，給出高效的閾值疊代算法. 研究稀疏機器學習算法的差異，建立有理論支撐的稀疏正則化相變方法，最終建立可評價稀疏機器學習算法的實驗平台；在套用方面，研究稀疏信號壓縮問題，研究信號的稀疏表示，採樣矩陣的設計以及更稀疏的壓縮感知策略.在變數選擇領域，以芳香基化合物為研究背景研究化合物因子的選擇問題.
結題摘要
高維、海量數據處理是當今各個學科所面臨的突出問題, 如何從中選取特徵. 眾所周知，該問題對應於求解一個稀疏問題. 本項目基於求解稀疏問題開展了：(1)稀疏機器學習的理論及算法. 研究了L1/2正則化理論分析及閾值疊代算，從閾值疊代的角度給出了其高效快速解法，證明了L1/2正則化顯示解的存在定理.給出L1/2正則化方法緊的非漸近界估計，給出其高維的統計性質分析，結果顯示，在弱的條件下，L1/2正則化方法的解與Oracle解是同階的. 同時基於相變工具分析了L1/2正則化方法的代表性；(2)建立稀疏正則化方法比較平台. 提出了稀疏正則化研究的相變框架，通過相變方法研究正則化的稀疏信號重建能力，所得研究架構為比較不同稀疏正則化方法的稀疏重建能力提供了實驗工具及平台；(3) 研究具有組結構的正則化方法.研究了高維組結構的SCAD的Oracle性，通過實驗驗證具有組結構的SCAD的有效性；(4)研究非凸正則化方法的套用. 研究了有噪聲的壓縮感知，提出了基於SCAD罰函式的壓縮感知策略，並給出了一種高效的閾值疊代算法，從理論上證明算法的有效性，通過大量實驗驗證基於SCAD罰函式的壓縮感知策略解的稀疏性及穩健性.進一步給出基於 AMP (Approximate Message Passing) 改進的 SCAD 閾值疊代算法及收斂性分析，結果可推廣到其它非凸閾值疊代算法；(5)研究稀疏網路的數據分析. 研究了基於稀疏先驗的高斯圖模型，提出一種分層懲罰連線單個圖模型估計的多圖模型，給出了新模型的高維統計性質，估計了新模型的參數，並證明了其估計的相合性及稀疏性. 研究在無標度先驗下， 圖模型的結構學習問題. 提出新的正則化模型，其懲罰項為Log型和Lp型懲罰函式的複合，使用重賦權疊代算法求解該模型，實驗表明，所提出的新模型有效、實用，其在參數估計和結構學習方面均有良好效果. 給出了隨機塊模型的變分估計及最大似然估計的漸近正態性分析.
