《自最佳化卷積神經網路及其套用研究》是依託南京理工大學，由許春燕擔任項目負責人的青年科學基金項目。
基本介紹
- 中文名：自最佳化卷積神經網路及其套用研究
- 項目類別：青年科學基金項目
- 項目負責人：許春燕
- 依託單位：南京理工大學
項目摘要,結題摘要,
項目摘要
隨著大數據的廣泛套用及計算機運算能力的高速發展，基於卷積神經網路的深度學習算法在機器學習和計算機視覺領域得到了廣泛套用。卷積神經網路通過最小化目標損失函式，使用反向傳播算法不斷調整參數權重和偏置，學習網路模型參數。但是現有的卷積神經網路，沒有很好地考慮深度學習過程中的視覺信息互動關係，不能進一步提高卷積神經網路的辨別能力。因此，本項目將基於長短時記憶模型和自反饋機制，研究深度視覺信息內部的互動模式，構建自最佳化卷積神經網路模型。主要研究內容包括：（1）基於長短時記憶模型的視覺特徵圖譜最佳化算法研究；（2）卷積神經網路中的高層語義信息挖掘算法研究；（3）基於視覺信息互動的自最佳化卷積神經網路模型框架研究；（4）基於自最佳化卷積神經網路模型的行車環境感知算法研究。本項目研究成果不僅具有重要的理論意義，而且在行車環境感知等計算機視覺領域具有廣闊的套用前景。
結題摘要
隨著多媒體和網路通訊技術的迅猛發展，有效數據分析和處理技術需求與日俱增。於此同時，深度學習算法在模式識別和機器學習等領域得到了廣泛的關注。本課題針對深度神經網路模型中的自最佳化算法和套用問題開展深入研究，其主要成果包括：在神經網路的自最佳化方面，不斷地提取高層語義信息（如軟標籤、目標分割區域等），利用自反饋機制來指導網路模型的最佳化學習過程，進一步提高神經網路模型的辨別能力；引入基於長短時記憶模型的循環網路模組，不斷挖掘有意義的知識信息，遺忘無意義的信息，以提升網路的性能；也可以構建面向特定困難問題挖掘的目標損失函式，自適應地發現並解決那些預測/判別中的困難問題，以實現端到端的神經網路模型最佳化。在神經網路模型間的互動最佳化方面，獲取有意義的語義特徵表示，在多個網路模型間互動傳播學習到的經驗知識，以同時最佳化多個神經網路模型；在任務間的遞歸互動最佳化方面，不斷挖掘那些有意義的知識/模式信息，在相關任務間進行循環互動，並引入注意力機制，在同一個網路模型中實現跨尺度/跨任務間的最佳化學習。基於以上深度神經網路模型的最佳化理論和算法，主要在圖像識別、深度預測、場景分割、圖像恢復、人體再識別、目標識別和檢測等問題上驗證有效性，並取得了不錯的效果。因此本課題深入研究深度神經網路模型的最佳化，為提升智慧型感知理解能力提供新的解決思路和理論依據，能夠推動數據智慧型分析和信息安全等領域的進步。此外，該項目順利完成了預期的主要內容和目標，共發表了27篇論文和公開1項專利成果。截止目前，所發表論文的Google引用次數累計達117次。
