脈衝神經網路的新結構與學習算法研究

《脈衝神經網路的新結構與學習算法研究》是依託大連理工大學,由楊潔擔任醒目負責人的青年科學基金項目。

基本介紹

• 中文名：脈衝神經網路的新結構與學習算法研究
• 依託單位：大連理工大學
• 項目類別：青年科學基金項目
• 項目負責人：楊潔

項目摘要

脈衝神經網路由於對生物神經系統的高度仿真性已經受到越來越多的關注，被稱為第三代神經網路。本項目旨在研究新的脈衝神經網路結構和更好的學習算法。首先，針對我們最近提出的一種新的網路結構,研究如何將脈衝激發強度(即狀態函式x(t)達到閾值時的導數)嵌入到脈衝網路的網路構造與運行機制中去，探索脈衝激發強度對突觸後神經元信息處理能力的影響程度與影響方式，同時進一步探尋其它影響脈衝激發因素，使脈衝神經網路在不影響訓練精度前提下減小網路規模,改善推廣精度。其次，結合申請者主持的前一個國家自然科學基金的工作,研究脈衝神經網路的模糊化問題，提出幾種基於s-t模的模糊脈衝神經網路結構,從而擴展脈衝神經網路的信息處理能力。另外，我們已經證明傳統BP算法也完全適用於脈衝神經網路，希望以此為基礎,對脈衝神經網路的BP算法及其它學習算法進行分析與比較,探討適用於脈衝神經網路的更高效的學習算法。

結題摘要

脈衝神經網路是一種對生物神經系統高度仿真的網路，目前已經受到越來越多的關注，被稱為第三代神經網路。然而脈衝網路在計算過程中需要大量的計算，而且精確性極易受到網路結構的影響。本項目的研究計畫是通過研究網路的性能提出新的脈衝神經網路結構和更好的學習算法。在具體的研究工作中，針對脈衝網路分類能力的魯棒性，我們目前已經取得了一些成果並發表在國際期刊上。我們通過在脈衝神經網路的輸入信號中加入了兩種典型的擾動，正弦擾動與高斯擾動，來研究網路分類能力的魯棒性，這方面的研究在當前的脈衝網路研究中比較少。一系列數值試驗表明，在脈衝神經網路的輸入信號受到一定干擾的情況下，它的分類能力不會發生大的變化，但是對干擾具有一定的敏感性。另外，我們提出了基於極端學習機和L_1/2正則化的學習方法來修剪雙並聯神經網路的隱層節點數目，希望能將這一結果套用到脈衝網路中。在本項目的資助下我們的第三項工作是提出了用蟻群算法以提高測地線的精度，這一結果也已發表為論文。