關於多種神經網路集成剪枝方法的綜合研究

關於多種神經網路集成剪枝方法的綜合研究

《關於多種神經網路集成剪枝方法的綜合研究》是依託南京航空航天大學,由戴群擔任項目負責人的青年科學基金項目。

基本介紹

  • 中文名:關於多種神經網路集成剪枝方法的綜合研究
  • 項目類別:青年科學基金項目
  • 項目負責人:戴群
  • 依託單位:南京航空航天大學
項目摘要,結題摘要,

項目摘要

神經網路集成是用於提高學習機精確度的著名方法,有效的集成系統是由精確且多樣化的成員網路集合構成的,很多情況下,由原集成系統的一個適當的子集所構成的新系統較原系統性能更優,而如何選擇此適當的子集則是個難解的複雜問題。本項目擬結合機器學習、神經網路和模式識別領域的知識和方法,研究解決上述問題,即:研究集成系統剪枝方法的設計問題,也稱為:選擇性集成系統的構建問題。具體而言,項目擬針對現有方法的不足,構建一個新穎的n位二元編碼ICBP集成系統,並在此基礎上綜合研究多種新型的集成系統剪枝方法,包括基於遺傳算法、粒子群最佳化算法、聚類、半正定規劃,以及粗糙集理論的集成系統剪枝方法。本研究有助於降低學習模型的複雜度,提高系統的推廣性能,避免過擬合的發生,同時緩解集成系統在大規模真實世界套用中所面臨的龐大的存儲空間和冗長的計算時間兩方面的嚴重問題,因此,本項目的研究工作具有重要的理論意義和實際價值。

結題摘要

集成學習方法由於其良好的性能表現,近年來成為機器學習和模式識別領域的熱門研究課題,且被成功地套用於多個領域,如人臉識別、光學字元識別、科學圖像分析、醫學診斷、時間序列預測等。我們對集成學習方法進行了深入研究。首先,我們研究了一種多樣化神經網路集成系統的構建方法;第二,研究了集成剪枝算法及其在模式分類問題中的套用,提出了多個新穎且高效的算法,包括:競爭性的基於交叉驗證方法的集成剪枝(CEPCV)算法;基於回溯法的集成剪枝算法;高效的“一條路逕往返兩次搜尋”的集成剪枝(OPTT)算法;新穎的基於隨機化貪婪選擇策略和投票機制的集成剪枝(RGSS&B-EP)算法;基於貪心隨機自適應搜尋過程的貪婪剪枝(GraspEnS)算法;第三,研究了集成剪枝算法及其在時間序列預測問題中的套用;最後,將對集成學習的研究與對其他經典神經網路模型的研究結合起來,力圖進一步提高模型的泛化性能及魯棒性,更好地滿足實際套用問題的需求。

相關詞條

熱門詞條

聯絡我們