基本介紹
- 中文名：具有時序處理能力的Spiking-Deep Learning（脈衝深度學習）方法研究
- 依託單位：電子科技大學
- 項目類別：面上項目
- 項目負責人：屈鴻
項目摘要,結題摘要,
項目摘要
具有用深度構建的分區域工作機制和具有時間特性的Spiking發放機制是生物大腦系統中常見的信息表示和處理方式。目前對Deep Learning的研究，多數是借鑑於生物視覺認知系統的分區機制，而缺少對神經元信息表示方法的模仿，不能充分的表示時間特徵，從而導致很難用以解決具有高度時序特性的數據問題。本課題在分析神經科學、機器學習最新研究成果的基礎上，研究具有高度時序表征能力的Deep Learning模型。具體而言，是在現有Deep Learning分層模型的基礎上，綜合考慮神經系統的Spiking信息表示方式、神經元的Spiking時間編碼機制、生物認知的STDP學習規則，研究探索既能高度模仿大腦深度層次結構、又具有良好的時間特徵表示能力的時空結合的Deep Learning新模型和算法。從而為Deep Learning在高維時序大數據處理問題中的套用提供理論保障。
結題摘要
本課題在神經科學、認知科學最新研究成果基礎上，利用機器學習理論方法，研究具有高度時序表征能力的深度學習計算模型。具體而言，是在現有深度學習分層模型的基礎上，綜合考慮神經系統的脈衝信息表示方式、神經元的脈衝時間編碼機制、生物認知的STDP學習規則，研究探索既能高度模仿大腦深度層次結構、又具有良好的時間特徵表示能力的時空結合的深度學習新模型和算法，從而為深度學習在高維時序大數據處理問題中的套用提供理論保障。本課題研究具有時序處理能力的Spiking-Deep Learning模型，主要的完成情況概述如下：
(1) 通過分析現有脈衝驅動學習算法的局限性，我們提出了基於膜電壓驅動的Spiking神經網路學習算法，該學習策略不僅符合生物認知行為規則，而且顯著的提高了Spiking神經網路學習的準確性和高效性(提高近兩個數量級)。
(2) 改進傳統基於神經元的聚合-標籤學習算法(Aggregate-Label Learning),並提出適用於Spiking深度網路模型的聚合標籤學習算法，該算法可以顯著提高聚合-標籤學習算法的實際套用能力。
(3)為了提高Spiking神經網路學習算法的魯棒性，首次引入了動態閾值的權重調整策略。提高了Spiking神經網路學習算法的魯棒性。
(4) 借鑑生物聽覺系統編碼機制，提出基於閾值驅動的高效語音信號編碼方法。同時，依據Spiking神經元膜電壓的動態特性，提出了實時動態的解碼策略。整合前面兩個研究成果，提出了基於Spiking的類腦語音信號處理模型。
(5) 借鑑人腦多模態信息處理機制，提出了適用於多模態信息處理的Spiking深度網路模型。該模型可以高效的處理視覺和聽覺信息等多模態信息。
