支持片上學習的大規模脈衝神經網路晶片關鍵技術研究

支持片上學習的大規模脈衝神經網路晶片關鍵技術研究

《支持片上學習的大規模脈衝神經網路晶片關鍵技術研究》是依託浙江大學,由馬德擔任項目負責人的面上項目。

基本介紹

  • 中文名:支持片上學習的大規模脈衝神經網路晶片關鍵技術研究
  • 依託單位:浙江大學
  • 項目負責人:馬德
  • 項目類別:面上項目
項目摘要,結題摘要,

項目摘要

脈衝神經網路具有高度的生物真實性,其高能效比的優勢使其成為類腦計算晶片的研究熱點。但目前的脈衝神經網路晶片均不支持線上學習且神經元規模擴展性受到限制,本項目擬提出一種基於片上網路的線上自學習大規模脈衝神經網路架構,該架構以支持層次化功耗管理的神經元簇為通信節點,支持突觸權重的低精度線性和高精度非線性量化,實現神經網路精度與存儲資源的平衡,片上網路以動態參考原點和相對定址方式索引目標神經元,使神經元間互連距離和擴展性不受地址位寬約束;最後,提出了基於脈衝序列視窗和脈衝反向傳播技術的STDP學習規則,分別解決了傳統STDP學習規則時間視窗內脈衝數量無法確定和前後突觸脈衝的空間跨度大的問題。

結題摘要

本項目提出了一種基於片上網路的線上自學習大規模脈衝神經網路架構,該架構採用全局異步局部同步的通信方式,提升架構的高度可擴張性同時保證了局部的脈衝事件處理性能。採用基於事件驅動工作機理和層次化功耗管理機制,保證無脈衝事件驅動的神經元處於休眠狀態,實現晶片的極低級功耗,並自主定義了一套高穩定性的晶片間神經脈衝事件異步通信協定,支持多片晶片的級聯,支持用戶構建千萬級神經元類腦計算系統。此外,片上網路以動態參考原點和相對定址方式索引目標神經元,使神經元間互連距離和擴展性不受地址位寬約束,並結合神經脈衝事件的重排序和壓縮技術,減少數據傳輸頻寬,提高脈衝時間傳輸的實時性;提出了基於存儲共享的突觸架構,支持突觸權重的低精度線性和高精度非線性量化,實現神經網路精度與存儲資源的平衡。最後,提出了基於脈衝序列視窗和脈衝反向傳播技術的STDP學習規則,分別解決了傳統STDP學習規則時間視窗內脈衝數量無法確定和前後突觸脈衝的空間跨度大的問題。

熱門詞條

聯絡我們