《基於深度神經網路稀疏性的異構計算訪存最佳化方法研究》是依託北京航空航天大學，由楊建磊擔任項目負責人的青年科學基金項目。
基本介紹
- 中文名：基於深度神經網路稀疏性的異構計算訪存最佳化方法研究
- 依託單位：北京航空航天大學
- 項目負責人：楊建磊
- 項目類別：青年科學基金項目
- 批准號：61602022
- 申請代碼：F0204
- 負責人職稱：副教授
- 研究期限：2017-01-01 至 2019-12-31
- 支持經費：20（萬元）
項目摘要
基於神經網路的深度學習技術在大數據智慧型信息處理領域中占有至關重要的地位。然而，隨著數據規模的急劇增長，基於通用處理器的計算機系統上運行大規模深度學習算法的效率較低，難以滿足不同場景下各種套用在功耗和性能等方面的需求。本項目基於深度神經網路的稀疏化特徵，重點研究其在異構計算系統上的高效能訪存最佳化方法，以緩解所面臨的記憶體瓶頸問題。首先，利用深度神經網路模型拓撲連線和特徵映射的稀疏性，探究針對異構硬體最佳化實現的網路模型稀疏化原理，探索基於硬體約束的稀疏化網路模型學習機制；然後，採用劃分和聚類的方法將稀疏化模型參數形成局部稠密塊，從而降低數據存儲訪問時頻寬限制的影響；最後，通過監測模型特徵映射的稀疏性，動態調整任務調度及執行緒壓縮，進一步提高數據訪存效率，最佳化整個系統的性能。充分挖掘深度神經網路稀疏化特徵，面向異構硬體提升系統訪存效率，對深度學習加速器研究領域具有重要的科學意義。
