深度學習與MindSpore實踐

《深度學習與MindSpore實踐》是2020年3月清華大學出版社出版的圖書，作者是陳雷。

基本介紹

• 中文名：深度學習與MindSpore實踐
• 作者：陳雷
• 出版社：清華大學出版社
• 出版時間：2020年3月
• 定價：79 元
• ISBN：9787302546610

內容簡介

本書系統介紹了深度學習理論，並基於MindSpore AI計算框架進行實踐。全書共分十四章，內容涵蓋了深度學習概況、理論基礎、深度神經網路、卷積神經網路、無監督學習、深度強化學習、自動化機器學習、端雲聯合訓練、可視化、數據準備等內容。為便於讀者學習，書中還給出了基於MindSpore實現的關於深度學習的開發實例以及線上資源。本書可以作為普通高等學校人工智慧、智慧型科學與技術、計算機科學與技術、電子信息工程、自動化等專業的本科生及研究生教材，也適合作為從事深度學習相關工作的軟體開發工程師與科研人員的學習、參考用書。

圖書目錄

第1章引言00

1.1人工智慧的歷史變遷00

1.2什麼是深度學習00

1.3深度學習的現實套用00

1.3.1自動語音識別00

1.3.2圖像識別00

1.3.3自然語言處理00

1.3.4其他領域00

1.4本書的組織架構00

1.5MindSpore簡介00

1.5.1編程簡單00

1.5.2端雲協同0

1.5.3調試輕鬆0

1.5.4性能卓越0

1.5.5開源開放0

第2章深度學習基礎知識0

2.1回歸問題算法0

2.2梯度下降算法0

2.3分類問題算法0

2.4過擬合與欠擬合0

第3章深度神經網路0

3.1前向網路0

3.2反向傳播0

3.3泛化能力0

3.4用MindSpore實現簡單神經網路0

3.4.1各層參數說明0

3.4.2詳細步驟0

第4章深度神經網路的訓練0

4.1深度學習系統面臨的主要挑戰0

4.1.1大數據集需求0

4.1.2硬體需求0

4.1.3過擬合0

4.1.4超參數最佳化0

4.1.5不透明性0

4.1.6缺少靈活性0

4.2正則化0

4.2.1L2範數正則化0

4.2.2L1範數正則化0

4.3Dropout0

4.4自適應學習率0

4.4.1AdaGrad0

4.4.2RMSProp0

4.4.3Adam0

4.5批標準化0

4.6用MindSpore 實現深度神經網路0

4.6.1各層參數說明0

4.6.2詳細步驟0

第5章卷積神經網路0

5.1卷積操作0

5.2池化0

5.3殘差網路0

5.4套用：圖片分類0

5.5用MindSpore實現基於卷積神經網路圖片分類0

5.5.1載入MindSpore模組0

5.5.2定義ResNet網路結構0

5.5.3設定超參數0

5.5.4導入數據集0

5.5.5訓練模型0

第6章循環神經網路0

6.1循環神經網路概述0

6.2深度循環神經網路0

6.3長期依賴的挑戰0

6.4長短期記憶網路和門控循環神經網路0

6.4.1長短期記憶網路0

6.4.2門控循環神經網路0

6.5套用：文本預測0

6.6用MindSpore實現基於長短期記憶網路的文本預測0

6.6.1載入MindSpore模組0

6.6.2數據準備0

6.6.3定義網路0

6.6.4參數介紹0

6.6.5訓練模型0

參考文獻0

第7章無監督學習： 詞向量0

7.1Word2Vec0

7.1.1提出背景0

7.1.2發展現狀0

7.1.3技術原理0

7.1.4技術難點0

7.1.5套用場景0

7.1.6框架模組0

7.2GloVe0

7.2.1提出背景0

7.2.2發展現狀0

7.2.3技術原理0

7.2.4技術難點0

7.2.5套用場景

7.2.6框架模組

7.3Transformer

7.3.1提出背景

7.3.2發展現狀

7.3.3技術原理

7.3.4技術難點

7.3.5套用場景

7.3.6框架模組

7.4BERT

7.4.1提出背景

7.4.2發展現狀

7.4.3技術原理

7.4.4技術難點

7.4.5套用場景

7.4.6框架模組

7.5詞向量典型生成算法對比

7.6套用：自動問答

7.6.1自動問答的相關概念

7.6.2傳統的自動問答方法

7.6.3基於深度學習的自動問答方法

7.7用MindSpore 實現基於BERT的自動問答

7.7.1數據集準備

7.7.2訓練BERT網路

參考文獻

第8章無監督學習： 圖向量

8.1圖向量簡介

8.2DeepWalk算法

8.2.1DeepWalk算法原理

8.2.2DeepWalk算法實現

8.3LINE算法

8.3.1LINE算法原理

8.3.2LINE算法實現

8.4Node2Vec算法

8.4.1Node2Vec算法原理

8.4.2Node2Vec算法實現

8.5GCN算法

8.5.1GCN算法原理

8.5.2GCN算法實現

8.6GAT算法

8.6.1GAT算法原理

8.6.2GAT算法實現

8.7套用：推薦系統

8.7.1工業界中的推薦系統

8.7.2推薦系統中的圖神經網路模型

參考文獻

第9章無監督學習： 深度生成模型

9.1變分自編碼器

9.1.1提出背景

9.1.2發展現狀

9.1.3技術原理

9.1.4技術難點

9.1.5套用場景

9.2生成對抗網路

9.2.1提出背景

9.2.2發展現狀

9.2.3技術原理

9.2.4技術難點

9.2.5套用場景

9.2.6框架模組

9.3套用：數據增強

9.3.1數據增強的定義

9.3.2數據增強的目的

9.3.3傳統數據增強的方法

9.3.4基於深度學習的數據增強方法

9.4用MindSpore實現基於生成對抗網路的數據增強

參考文獻

第10章深度強化學習

10.1強化學習基本概念

10.1.1基礎概念與理論

10.1.2馬爾可夫決策過程

10.1.3貝爾曼方程

10.2基本求解方法

10.2.1動態規劃法

10.2.2蒙特卡羅法

10.2.3時間差分法

10.3深度強化學習算法

10.3.1DQN算法

10.3.2DDPG算法

10.3.3A3C算法

10.4最新套用

10.4.1推薦系統

10.4.2博弈遊戲

10.5用MindSpore實現基於DQN的博弈遊戲

參考文獻

第11章自動化機器學習

11.1AutoML框架

11.1.1NAS算法

11.1.2超參調優

11.2現有AutoML系統介紹

11.2.1AutoWeka/AutoSklearn/HyperOpt

11.2.2Microsoft NNI

11.3元學習

11.3.1學習最佳化器

11.3.2學習參數初始化

11.3.3學習損失函式

11.3.4學習度量

11.4用MindSpore實現AutoML

參考文獻

第12章端雲協同

12.1端側推理

12.2端雲遷移學習

12.3端雲聯邦學習

12.3.1聯邦平均

12.3.2梯度壓縮

12.4端雲協同框架

參考文獻

第13章深度學習可視化

13.1深度學習可視化概述

13.1.1數據分析

13.1.2模型建立與理解

13.1.3訓練

13.1.4評估

13.2MindSpore可視化實踐

13.2.1可視化流程

13.2.2數據集可視化

13.2.3模型與訓練可視化

13.2.4Summary匯總數據格式

參考文獻

第14章深度學習的數據準備

14.1數據格式概述

14.2深度學習中的數據格式

14.2.1原始輸入

14.2.2標註信息

14.3常用的深度學習數據格式

14.3.1TFRecord格式

14.3.2LMDB存儲

14.3.3Rec格式

14.3.4MindSpore數據格式

14.3.5MindSpore數據集

14.4使用MindSpore數據格式進行訓練數據準備

14.4.1MindSpore數據格式生成

14.4.2MindSpore數據格式統計與檢索

14.4.3MindSpore數據格式訓練數據讀取

附錄A中、英文對照辭彙表

附錄BMindSpore白皮書

參考文獻