《深度信念神經網路及三維目標識別》是依託北京理工大學,由劉明擔任項目負責人的青年科學基金項目。
基本介紹
- 中文名:深度信念神經網路及三維目標識別
- 依託單位:北京理工大學
- 項目負責人:劉明
- 項目類別:青年科學基金項目
項目摘要,結題摘要,
項目摘要
深度信念神經網路是近幾年來神經計算領域取得的突破性研究成果,自2006年出現以來,在文字識別,文檔分類,語音分析,圖像識別等領域都取得了顯著優於傳統算法的研究成果,是目前神經計算領域的前沿課題和研究熱點。三維目標識別作為機器視覺研究的重要分支,是實現場景識別及複雜背景下三維目標定位識別的基礎,具有廣闊的套用前景。本項目一方面將深入研究深度信念神經網路模型的基本原理和方法,充分總結和借鑑包括生物神經學領域的新觀點新發現,力求進一步的改進和創新,另一方面將探索深度信念神經網路層內神經元的規整化方法以實現神經網路的結構簡化;還將借鑑生物神經學原理研究深度信念神經網路的局部自組織規劃生長方法,使其配置結構根據特定需要而趨於合理;此外將探討生物神經學領域的基本問題,解釋人眼及人腦可能的工作機制,並探索以圖像神經網路技術實現分散式三維目標識別的技術途徑。
結題摘要
近年來隨著大規模並行計算技術和人工智慧領域的發展,深度學習技術獲得了飛速的發展,出現了卷積神經網路,深度信念神經網路,自動編碼器神經網路等多個深度網路結構,其性能表現顯著優於傳統由人工設計為主導的特徵提取與圖像分析算法。在這一背景下,我們展開了對深度學習圖像處理算法的相關研究。課題主要研究內容包括:對卷積神經網路工作機制的研究、神經網路層內特徵規劃方法的研究、神經網路動態生長方法的研究以及神經網路套用適應性研究幾個方面。取得了如下主要進展 (1)建立了基於GPU系統的神經網路訓練測試平台,實現了基於深度神經網路的圖像分類與目標檢測實時處理。 (2)實現了基於Topographic方法的神經網路層內特徵規劃與結構化方法,並基於該方法進行沿特徵方向進行pooling的深度網路結構與算法研究 (3)提出能夠對網路結構生長過程監督的超神經網路概念,通過超神經網路獲取網路結構的合理初值,加快網路構建速度。 (4)在深度神經網路套用方面開展大量工作實現了基於深度神經網路的目標檢測,圖像邊緣提取,圖像恢復及波前編碼等套用,拓展了其在相關領域的套用範圍。 獲得了如下的關鍵認識: (1)深度神經網路能夠通過基於對FPGA編程的方式獲得高效率的執行,FPGA容量限制仍是限制其套用的重要瓶頸。 (2)層特徵規劃本身並不能對網路的性能有提升作用,與特徵方向pooling有效結合才能發揮其優勢。 (3)採取以網路來生成網路這樣的超神經網路,可能是生物神經系統工作的核心機制,同時這種機制可能具有嵌套結構,即每個層次的結構都由更高層次監督產生。此外,隨著層次提高,每個層次所需的訓練數據量也呈指數提升,由於所需數據量巨大,最高層次的超神經結構必然是由遺傳進化獲得的。 (4)樣本選擇對於訓練效率具有重要作用,合理選擇那些接近於分類超平面邊界的樣本能夠減少不必要的訓練,顯著提高訓練效率。而確定哪些樣本接近於最終的分類超平面可以通過控制樣本的信噪比來實現。 綜上,本課題圍繞深度學習對其工作機理和套用方法進行了深度研究,具有理論意義和使用價值。