深度學習、最佳化與識別

《深度學習、最佳化與識別》是2017年清華大學出版社出版的圖書，作者是焦李成、趙進、楊淑媛、劉芳。

基本介紹

• 中文名：深度學習、最佳化與識別
• 作者：焦李成、趙進、楊淑媛、劉芳
• 類別：計算機/網路類圖書
• 出版社：清華大學出版社
• 出版時間：2017年05月01日
• 開本：32 開
• 裝幀：平裝
• ISBN：9787302473671 

內容簡介

深度神經網路是近年來受到廣泛關注的研究方向，它已成為人工智慧2.0的主要組成部分。本書系統地論述了深度神經網路基本理論、算法及套用。全書共十六章，分為兩個部分；第一部分（第一章到第十章）系統論述了理論及算法，包括深度前饋神經網路、深度卷積神經網路、深度堆疊神經網路、深度遞歸神經網路、深度生成網路、深度融合網路等；第二部分（第十一章到第十五章）論述了常用的深度學習平台，以及在高光譜圖像、自然圖像、SAR與極化SAR影像等領域的套用；第十六章為總結與展望，給出了深度學習發展的歷史圖、前沿方及最新進展。每章都附有相關閱讀材料及仿真代碼，以便有興趣的讀者進一步鑽研探索。本書可為高等院校計算機科學、電子科學與技術、信息科學、控制科學與工程、人工智慧等領域的研究人員提供參考，以及作為相關專專業本科生及研究生教學參考書，同時可供深度學習及其套用感興趣的研究人員和工程技術人員參考。

作者簡介

焦李成，男，漢族，1959年10月生，1992年起任西安電子科技大學教授。現任智慧型感知與計算國際聯合研究中心主任、智慧型感知與圖像理解教育部重點實驗室主任、智慧型感知與計算國際合作聯合實驗室主任、“智慧型信息處理科學與技術”高等學校學科創新引智基地（“111計畫”）主任、教育部科技委國際合作部學部委員、中國人工智慧學會副理事長、IET西安分會主席、IEEE西安分會獎勵委員會主席、IEEE計算智慧型協會西安分會主席、IEEE GRSS西安分會主席，IEEE TGRS副主編、教育部創新團隊首席專家。國務院學位委員會學科評議組成員、教育部本科教學水平評估專家。1991年被批准為享受國務院政府津貼的專家，1996年首批入選國家“百千萬”人才工程（第一、二層次）。當選為全國模範教師、陝西省師德標兵和曾任第八屆全國人大代表。焦李成教授的主要研究方向為智慧型感知與計算、圖像理解與目標識別、深度學習與類腦計算，培養的十餘名博士獲全國優秀博士學位論文獎、提名獎及陝西省優秀博士論文獎。研究成果獲包括國家自然科學獎二等獎及省部級一等獎以上科技獎勵十餘項，出版學術專著十餘部，五次獲國家優秀科技圖書獎勵及全國首屆三個一百優秀圖書獎。

目錄

目錄

第1章深度學習基礎

1.1數學基礎

1.1.1矩陣論

1.1.2機率論

1.1.3最佳化分析

1.1.4框架分析

1.2稀疏表示

1.2.1稀疏表示初步

1.2.2稀疏模型

1.2.3稀疏認知學習、計算與識別的範式

1.3機器學習與神經網路

1.3.1機器學習

1.3.2神經網路

參考文獻

第2章深度前饋神經網路

2.1神經元的生物機理

2.1.1生物機理

2.1.2單隱層前饋神經網路

2.2多隱層前饋神經網路

2.3反向傳播算法

2.4深度前饋神經網路的學習範式

參考文獻

第3章深度卷積神經網路

3.1卷積神經網路的生物機理及數學刻畫

3.1.1生物機理

3.1.2卷積流的數學刻畫

3.2深度卷積神經網路

3.2.1典型網路模型與框架

3.2.2學習算法及訓練策略

3.2.3模型的優缺點分析

3.3深度反卷積神經網路

3.3.1卷積稀疏編碼

3.3.2深度反卷積神經網路

3.3.3網路模型的性能分析與套用舉例

3.4全卷積神經網路

3.4.1網路模型的數學刻畫

3.4.2網路模型的性能分析及套用舉例

參考文獻

第4章深度堆疊自編碼網路

4.1自編碼網路

4.1.1逐層學習策略

4.1.2自編碼網路

4.1.3自編碼網路的常見範式

4.2深度堆疊網路

4.3深度置信網路/深度玻爾茲曼機網路

4.3.1玻爾茲曼機/受限玻爾茲曼機

4.3.2深度玻爾茲曼機/深度置信網路

參考文獻

第5章稀疏深度神經網路

5.1稀疏性的生物機理

5.1.1生物視覺機理

5.1.2稀疏性回響與數學物理描述

5.2稀疏深度網路模型及基本性質

5.2.1數據的稀疏性

5.2.2稀疏正則

5.2.3稀疏連線

5.2.4稀疏分類器設計

5.2.5深度學習中關於稀疏的技巧與策略

5.3網路模型的性能分析

5.3.1稀疏性對深度學習的影響

5.3.2對比試驗及結果分析

參考文獻

第6章深度融合網路

6.1深度SVM網路

6.1.1從神經網路到SVM

6.1.2網路模型的結構

6.1.3訓練技巧

6.2深度PCA網路

6.3深度ADMM網路

6.4深度極限學習機

6.4.1極限學習機

6.4.2深度極限學習機

6.5深度多尺度幾何網路

6.5.1深度脊波網路

6.5.2深度輪廓波網路

6.6深度森林

6.6.1多分辨特性融合

6.6.2級聯特徵深度處理

參考文獻

第7章深度生成網路

7.1生成式對抗網路的基本原理

7.1.1網路模型的動機

7.1.2網路模型的數學物理描述

7.2深度卷積對抗生成網路

7.2.1網路模型的基本結構

7.2.2網路模型的性能分析

7.2.3網路模型的典型套用

7.3深度生成網路模型的新範式

7.3.1生成式對抗網路的新範式

7.3.2網路框架的性能分析與改進

7.4套用驅動下的兩種新生成式對抗網路

7.4.1堆疊生成式對抗網路

7.4.2對偶學習範式下的生成式對抗網路

7.5變分自編碼器

參考文獻

第8章深度復卷積神經網路與深度二值神經網路

8.1深度復卷積神經網路

8.1.1網路模型構造的動機

8.1.2網路模型的數學物理描述

8.2深度二值神經網路

8.2.1網路基本結構

8.2.2網路的數學物理描述

8.2.3討論

參考文獻

第9章深度循環和遞歸神經網路

9.1深度循環神經網路

9.1.1循環神經網路的生物機理

9.1.2簡單的循環神經網路

9.1.3深度循環神經網路的數學物理描述

9.2深度遞歸神經網路

9.2.1簡單的遞歸神經網路

9.2.2深度遞歸神經網路的優勢

9.3長短時記憶神經網路

9.3.1改進動機分析

9.3.2長短時記憶神經網路的數學分析

9.4典型套用

9.4.1深度循環神經網路的套用舉例

9.4.2深度遞歸神經網路的套用舉例

參考文獻

第10章深度強化學習

10.1深度強化學習簡介

10.1.1深度強化學習的基本思路

10.1.2發展歷程

10.1.3套用新方向

10.2深度Q網路

10.2.1網路基本模型與框架

10.2.2深度Q網路的數學分析

10.3套用舉例——AlphaGo

10.3.1AlphaGo原理分析

10.3.2深度強化學習性能分析

參考文獻

第11章深度學習軟體仿真平台及開發環境

11.1Caffe平台

11.1.1Caffe平台開發環境

11.1.2AlexNet神經網路學習

11.1.3AlexNet神經網路套用於圖像分類

11.2TensorFlow平台

11.2.1TensorFlow平台開發環境

11.2.2深度卷積生成式對抗網DCGAN

11.2.3DAN套用於樣本擴充

11.3MXNet平台

11.3.1MXNet平台開發環境

11.3.2VGGNET深度神經網路學習

11.3.3圖像分類套用任務

11.4Torch 7平台

11.4.1Torch 7平台開發環境

11.4.2二值神經網路

11.4.3二值神經網路套用於圖像分類

11.5Theano平台

11.5.1Theano平台開發環境

11.5.2遞歸神經網路

11.5.3LSTM套用於情感分類任務

參考文獻

第12章基於深度神經網路的SAR/PolSAR影像地物分類

12.1數據集及研究目的

12.1.1數據集特性分析

12.1.2基本數據集

12.1.3研究目的

12.2基於深度神經網路的SAR影像地物分類

12.2.1基於自適應自編碼和超像素的SAR圖像分類

12.2.2基於卷積中層特徵學習的SAR圖像分類

12.3基於第一代深度神經網路的PolSAR影像地物分類

12.3.1基於稀疏極化DBN的極化SAR地物分類

12.3.2基於深度PCA網路的極化SAR影像地物分類

12.4基於第二代深度神經網路的PolSAR影像地物分類

12.4.1基於深度復卷積網路的PolSAR影像地物分類

12.4.2基於生成式對抗網的PolSAR影像地物分類

12.4.3基於深度殘差網路的PolSAR影像地物分類

參考文獻

第13章基於深度神經網路的SAR影像的變化檢測

13.1數據集特點及研究目的

13.1.1研究目的

13.1.2數據基本特性

13.1.3典型數據集

13.2基於深度學習和SIFT特徵的SAR圖像變化檢測

13.2.1基本方法與實現策略

13.2.2對比試驗結果分析

13.3基於SAE的SAR圖像變化檢測

13.3.1基本方法與實現策略

13.3.2實驗結果和分析

13.4基於CNN的SAR圖像變化檢測

13.4.1基本方法與實現策略

13.4.2對比試驗結果分析

參考文獻

第14章基於深度神經網路的高光譜圖像分類與壓縮

14.1數據集及研究目的

14.1.1高光譜遙感技術

14.1.2高光譜遙感的研究目的

14.1.3常用的高光譜數據集

14.2基於深度神經網路的高光譜影像的分類

14.2.1基於堆疊自編碼的高光譜影像的分類

14.2.2基於卷積神經網路的高光譜影像的分類

14.3基於深度神經網路的高光譜影像的壓縮

14.3.1基於深度自編碼網路的高光譜圖像壓縮方法

14.3.2實驗設計及分類結果

參考文獻

第15章基於深度神經網路的目標檢測與識別

15.1數據特性及研究目的

15.1.1研究目的

15.1.2常用數據集

15.2基於快速CNN的目標檢測與識別

15.2.1RCNN

15.2.2Fast RCNN

15.2.3Faster RCNN

15.2.4對比實驗結果與分析

15.3基於回歸學習的目標檢測與識別

15.3.1YOLO

15.3.2SSD

15.3.3對比實驗結果與分析

15.4基於學習搜尋的目標檢測與識別

15.4.1基於深度學習的主動目標定位

15.4.2AttentionNet

15.4.3對比實驗結果與分析

參考文獻

第16章總結與展望

16.1深度學習發展歷史圖

16.1.1從機器學習、稀疏表示學習到深度學習

16.1.2深度學習、計算與認知的範式演進

16.1.3深度學習形成脈絡

16.2深度學習的套用介紹

16.2.1目標檢測與識別

16.2.2超分辨

16.2.3自然語言處理

16.3深度神經網路的可塑性

16.3.1旋轉不變性

16.3.2平移不變性

16.3.3多尺度、多分辨和多通路特性

16.3.4稀疏性

16.4基於腦啟發式的深度學習前沿方向

16.4.1生物神經領域關於認知、識別、注意等的最新研究進展

16.4.2深度神經網路的進一步研究方向

16.4.3深度學習的可拓展性

參考文獻

附錄A基於深度學習的常見任務處理介紹

附錄B代碼介紹