深度學習:從入門到實戰

深度學習:從入門到實戰

《深度學習:從入門到實戰》是2018年中國鐵道出版社出版的圖書。

基本介紹

  • 中文名:深度學習:從入門到實戰
  • 作者:高志強黃劍李永劉明明
  • 類別:程式設計
  • 出版社:中國鐵道出版社
  • 出版時間:2018年
  • 開本:16 開
  • 裝幀:平裝-膠訂
  • ISBN:9787113244286
內容簡介,圖書目錄,作者簡介,

內容簡介

深度學習:從入門到實戰摒棄了枯燥的理論推導,以大量實戰套用案例及知識模組等內容幫助機器學習領域的初、中級程式設計師踏實通過深度學習的技術門檻,切實提升開發技能,積累開發經驗。實戰套用案例豐富,深入淺出地解析深度學習的方法論和深度學習實戰套用是本書的一大特色,全書詳細講述了深度學習中涉及的神經網路基礎知識、方法論解析與核心技術;同時從12個落地實踐角度闡述了深度學習的實踐套用。此外,本書中所有案例的代碼程式均可以運行,讀者按照相應說明,即可得到預期效果,希望本書的努力可以為讀者在深度學習領域提供一定幫助,這就是我們的動力與追求。

圖書目錄

第1篇深度學習入門篇
第0章引言:從人工智慧到深度學習2
0.1 人工智慧與機器學習 2
0.1.1 人工智慧 3
【知識擴容】大數據帶來的挑戰 4
0.1.2 機器學習 4
【認知提升】細說圖靈測試希紙旬 5
【新觀點】機器學習適合做什麼 6
0.2 機器學習的模式 7
【知識擴容】人工智慧學派之爭 8
0.3 深度學習 9
【案例0-1】天氣預報深度神經網路 9
【認知提升】說文解字“深度學習” 11
【應知應會】深度與學習 12
【實踐】減小損失函式的方凝局只訂法 12
0.4 溫故知新 13
0.5 停下來,思考一下 14
第1章深度學習入門基礎 16
1.1 數學基礎 16
1.1.1 矩陣論基礎 17
【案例1-1】像指揮官一樣對矩陣進行“排兵布陣” 18
1.1.2 機率論基礎與重要結論 19
【應知應會】MATLAB中機率論基本命令 21
1.2 機器學習基礎 21
1.2.1 監督學習 22
【應知應會】數據挖掘與機器學習 22
1.2.2 無監督學習 23
【案例1-2】“無監督學習”中的k-means聚類 24
1.3 神經網路基礎 26
1.3.1 生物神經網路 26
【認知提升】探索初級視覺皮層的啟示 26
1.3.2 人工神經網路與神經辯紙擊元模型 27
【知識擴容】Walter Pitts其人 27
1.4 化理論基礎 28
1.4 1 化問題 29
1.4.2 多目標最佳化問題 30
1.4.3 群智慧型最佳化方法 31
【案例1-3】指揮“群智慧型團隊”逐漸逼近問題解 32
1.5 溫故知新 35
1.6 停下來,思考一下 36
第2章神經網路原理與實現 38
2.1 線性問題與感知機 38
2.2 多層前饋神經網路與BP算法 41
2.2.1 多層前饋神經網路 41
【案例2-1】具有異或邏輯的感知機 42
2.2.2 多層前饋神經網路的訓練 43
【案例2-2】訓練前饋神經網路 47
【應知應會】梯度下降算法 47
2.3 其他神經網路 48
2.3.1 徑向基函式網路 48
2.3.2 自組織映射網路 49
【案例2-3】用SOM網路聚類Iris數據 49
2.3.3 深度神經網路 50
2.4 溫故知新 53
2.5 停下來,思考一下 53
第2篇深度學習方法論解析篇
第3章卷積神經網路(CNN) 58
3.1 卷積神經網路入門 58
3.1.1 生嚷祝凝物機理 59
3.1.2 拓撲結構 61
【知識擴容】圖像處理中的全連線網路與卷積網路 63
3.1.3 卷積神經網路的特點 63
3.2 卷積神經網路的關鍵技術64
3.2.1 卷積 65
【案例3-1】利用圖像的卷積操作對6×6的單通道圖像進行瘦身 66
【知識擴容】多通道卷積 67
【案例3-2】構建基本CNN 68
【認知提升】不同角度看“卷積” 68
3.2.2 池化 69
【實踐】小技巧總結 71
【案例3-3】在Keras框架中實現MaxPooling 71
【知識擴容】VGG卷積神經網路 72
【案例3-4】揭開VGG和GoogLeNet的“廬山真面目” 73
【認知提升】GoogleNet的Inception結構 75
3.2.3 扁平化 75
【案例3-5】實現圖像特徵矩陣的扁平化操作 76
3.2.4 關鍵技術小結 76
【新觀點】卷積神經網路發展方向 77
3.3 綜合案例:三步教你構建手寫字識別神經網路 78
【應知應會】Adam最佳化照凝勸算法 79
【知識擴容】CNN在自然語言處理中的套用 81
3.4 溫故知新慨仔 82
3.5 停下來,思考一下 82
第4章生成式對抗網路(GAN) 84
4.1 生成式對抗網路基本原理84
4.1.1 GAN的核心思想少芝汽嚷 84
【認知提升】GAN與博弈理論 85
4.1.2 GAN數學描述 86
【認知提升】“囚徒困境”博弈模型 86
4.1.3 GAN的網路結構與核心技術 87
4.1.4 GAN的改進模型 90
【案例4-1】ACGAN基於TensorFlow框架的實現(圖像為64×64單通道數據) 91
【認知提升】博弈理論與多目標最佳化 98
4.2 GAN套用 99
4.2.1 數據缺失 100
4.2.2 多標籤預測 101
4.2.3 根據環境生成相應數據 102
4.2.4 數據特徵表示 103
4.2.5 圖像檢索 104
4.2.6 文本到圖像翻譯 104
4.2.7 醫學方面 105
4.3 綜合案例:動手構建生成式對抗網路 106
4.3.1 基於MATLAB的GAN 106
4.3.2 基於TensorFlow的GAN 108
4.4 溫故知新 115
4.5 停下來,思考一下 115
第5章循環神經網路(RNN) 117
5.1 循環神經網路基本原理117
5.1.1 問題背景 118
【案例5-1】詞性標註(我學習循環神經網路) 118
【應知應會】one-hot編碼 119
【認知提升】神經網路的記憶問題 120
5.1.2 循環神經網路基本思想 120
【實踐】RNN的梯度爆炸和消失問題 123
5.2 LSTM網路基本原理 124
5.2.1 LSTM的關鍵技術 124
【知識擴容】遞歸神經網路(Recursive Neural Network,RNN) 128
5.2.2 LSTM的套用 128
【應知應會】自然語言處理 129
5.3 綜合案例:基於LSTM的語音預測 130
5.3.1 載入數據 130
5.3.2 定義網路結構 130
5.3.3 網路訓練及評估 131
【應知應會】深度學習代碼一般結構 132
5.4 綜合案例:基於循環神經網路的手寫數字識別 132
5.4.1 數據準備及參數設定 132
5.4.2 網路構建 133
5.4.3 網路訓練 134
5.5 綜合案例:基於LSTM的自然語言處理 135
5.5.1 數據收集及編碼 135
5.5.2 構建LSTM模型 136
5.5.3 模型訓練 137
5.5 溫故知新 137
5.6 停下來,思考一下 138
第3篇深度學習實戰篇
第6章深度學習主流工具及框架 142
6.1 MATLAB基本語法與深度學習工具箱 142
6.1.1 MATLAB簡介 142
6.1.2 MATLAB安裝 143
6.1.3 MATLAB常用語法 146
6.1.4 基於MATLAB的深度學習工具箱 149
【案例6-1】基於MATLAB的AlexNet模型初探 151
【案例6-2】用安裝好的深度學習工具箱中的卷積神經網路做mnist
手寫數字識別,來驗證工具箱的有效性 152
6.2 Python基本語法、庫與開發工具 153
6.2.1 Python簡介 153
6.2.2 Python安裝 153
6.2.3 Python常用語法 155
【應知應會】Python常見錯誤提示及原因 156
6.2.4 常用Python庫 157
6.2.5 常用Python開發工具 161
【知識擴容】PyCharm常用快捷鍵 162
【案例6-3】Python送你聖誕帽 163
6.3 Caffe框架及環境搭建 165
6.3.1 Caffe簡介 165
6.3.2 Caffe環境搭建 166
【案例6-4】手寫體數字識別 167
6.4 TensorFlow框架及環境搭建 167
6.4.1 TensorFlow簡介 167
6.4.2 TensorFlow與Keras框架的關係 168
6.4.3 Windows 10上TensorFlow的環境搭建 169
6.5 其他常用框架 177
6.5.1 微軟CNTK 177
6.5.2 MXNet 178
6.5.3 Torch 178
6.5.4 Theano 179
6.6 溫故知新 180
6.7 停下來,思考一下 180
第7章 AlexNet關鍵技術與實戰 182
7.1 剖析AlexNet網路結構 182
【知識擴容】ImageNet與李飛飛 186
7.2 AlexNet關鍵技術 187
7.2.1 ReLU激活函式 187
7.2.2 標準化 187
【應知應會】激活函式的“飽和”與“不飽和” 188
【認知提升】馬太效應、二八定律、長尾理論 188
7.2.3 Dropout 189
7.2.4 多GPU 190
【應知應會】CUDA 190
7.3 AlexNet與LeNet對比 191
7.4 CNN通用架構 191
7.5 綜合案例:基於AlexNet的深度學習實戰 192
7.5.1 靜態圖像分類 192
7.5.2 用AlexNet做特徵提取(feature extraction) 194
7.5.3 用AlexNet做遷移學習 197
7.5.4 卷積神經網路的特徵可視化 200
7.6 溫故知新 209
7.7 停下來,思考一下 210
第8章將手寫體識別進行到底 211
8.1 手寫體識別“江湖地位”211
8.2 手寫數字識別 212
8.2.1 手寫數字的無監督學習 213
【應知應會】稀疏表示 213
【應知應會】無監督學習中的自動編碼器 219
8.2.2 手寫數字的全連線神經網路識別 219
【應知應會】softmax函式介紹 220
【認知提升】熵 220
8.2.3 手寫數字的卷積神經網路識別 221
8.3 手寫漢字識別 229
8.3.1 數據讀取及預處理 229
【實踐】數據讀取 231
8.3.2 卷積神經網路構建 231
8.3.3 網路模型訓練及結果可視化 233
8.4 綜合案例:手寫數字旋轉角度識別 234
8.4.1 數據載入 235
8.4.2 網路構建 235
8.4.3 網路訓練 236
8.4.4 測試預測精度 236
8.4.5 殘差展示 237
8.4.6 偏轉角度矯正及可視化 237
8.5 溫故知新 238
8.6 停下來,思考一下 239
第9章基於深度學習的視頻檢測 240
9.1 人物監控視頻問題研究意義及現狀 240
9.1.1 研究意義 240
9.1.2 國內外研究現狀 242
9.2 研究情況介紹 244
9.2.1 研究內容 244
9.2.2 研究目標及關鍵科學問題 244
【案例9-1】基於Python庫的人臉識別 245
9.3 綜合案例:基於深度學習的人臉視頻檢測 247
9.3.1 環境準備 247
9.3.2 數據處理 248
9.3.3 模型訓練 250
9.3.4 監控代碼 255
9.4 綜合案例:基於深度學習的物體視頻檢測 256
9.4.1 AlexNet回顧 256
9.4.2 入門版 257
9.4.3 初級版 258
9.4.4 加強版 259
9.4.5 升級版 260
9.4.6 豪華版 261
【案例9-2】讓手機當網路攝像頭 262
9.5 溫故知新 262
9.6 停下來,思考一下 263
第10章基於深度學習的信息隱藏 264
10.1 數字圖像隱寫分析研究現狀及意義 264
10.1.1 研究意義 267
10.1.2 研究現狀 268
10.1.3 潛在的套用 268
10.2 數字圖像隱寫分析概述 270
【案例10-1】基於四叉樹編碼的空間域高保真可逆信息隱藏 271
10.3 基於ACGAN的無載體信息隱藏 272
10.3.1 生成式對抗網路回顧 272
【應知應會】零和博弈 272
10.3.2 基於ACGAN的信息隱藏關鍵技術 274
10.4 綜合案例:ACGAN信息隱藏實戰 276
10.4.1 方案概述 276
【認知提升】可逆信息隱藏 277
10.4.2 隱藏算法與提取算法的實現 278
10.4.3 性能分析 286
10.4.3 可靠性 287
10.4.4 安全性 287
10.5 溫故知新 288

作者簡介

高志強,軍隊指揮學武警信息化研究方向博士,畢業於中國人民武裝警察部隊工程大學,武警部隊首屆軍事大數據工程專業籌備組成員。作為骨幹成員參與研製多項武警部隊信息化裝備及平台系統,參與國家自然科學基金2項、陝西省自然科學基金1項。主要研究方向:深度學習、大數據與智慧型計算、面向大數據開放與治理的差分隱私保護數據發布關鍵技術研究及套用、粒子群最佳化算法等。
黃劍,現為武警工程大學教員,技術十一級,少校警銜,主要研究領域包括,武警信息化,軍隊指揮學,軍事智慧型系統。 李永,男,博士,碩士生導師,武警工程大學計算機基礎教研室副主任。2011年12 月獲國防科大計算機科學與技術博士學位。中國計算機學會會員。研究領域為機器學習,模式識別、圖像處理和國產自主可控軟體套用。長期從事《程式設計基礎》、《高級人工智慧》、《計算機邏輯學》、《資料庫基礎》等計算機領域教學工作,發表論文20 余篇。曾獲武警部隊科技進步一等獎和軍隊教學成果三等獎。 劉明明,男,碩士學歷,武警工程大學教員。研究方向為信息隱藏,深度學習。
2.2.2 多層前饋神經網路的訓練 43
【案例2-2】訓練前饋神經網路 47
【應知應會】梯度下降算法 47
2.3 其他神經網路 48
2.3.1 徑向基函式網路 48
2.3.2 自組織映射網路 49
【案例2-3】用SOM網路聚類Iris數據 49
2.3.3 深度神經網路 50
2.4 溫故知新 53
2.5 停下來,思考一下 53
第2篇深度學習方法論解析篇
第3章卷積神經網路(CNN) 58
3.1 卷積神經網路入門 58
3.1.1 生物機理 59
3.1.2 拓撲結構 61
【知識擴容】圖像處理中的全連線網路與卷積網路 63
3.1.3 卷積神經網路的特點 63
3.2 卷積神經網路的關鍵技術64
3.2.1 卷積 65
【案例3-1】利用圖像的卷積操作對6×6的單通道圖像進行瘦身 66
【知識擴容】多通道卷積 67
【案例3-2】構建基本CNN 68
【認知提升】不同角度看“卷積” 68
3.2.2 池化 69
【實踐】小技巧總結 71
【案例3-3】在Keras框架中實現MaxPooling 71
【知識擴容】VGG卷積神經網路 72
【案例3-4】揭開VGG和GoogLeNet的“廬山真面目” 73
【認知提升】GoogleNet的Inception結構 75
3.2.3 扁平化 75
【案例3-5】實現圖像特徵矩陣的扁平化操作 76
3.2.4 關鍵技術小結 76
【新觀點】卷積神經網路發展方向 77
3.3 綜合案例:三步教你構建手寫字識別神經網路 78
【應知應會】Adam最佳化算法 79
【知識擴容】CNN在自然語言處理中的套用 81
3.4 溫故知新 82
3.5 停下來,思考一下 82
第4章生成式對抗網路(GAN) 84
4.1 生成式對抗網路基本原理84
4.1.1 GAN的核心思想 84
【認知提升】GAN與博弈理論 85
4.1.2 GAN數學描述 86
【認知提升】“囚徒困境”博弈模型 86
4.1.3 GAN的網路結構與核心技術 87
4.1.4 GAN的改進模型 90
【案例4-1】ACGAN基於TensorFlow框架的實現(圖像為64×64單通道數據) 91
【認知提升】博弈理論與多目標最佳化 98
4.2 GAN套用 99
4.2.1 數據缺失 100
4.2.2 多標籤預測 101
4.2.3 根據環境生成相應數據 102
4.2.4 數據特徵表示 103
4.2.5 圖像檢索 104
4.2.6 文本到圖像翻譯 104
4.2.7 醫學方面 105
4.3 綜合案例:動手構建生成式對抗網路 106
4.3.1 基於MATLAB的GAN 106
4.3.2 基於TensorFlow的GAN 108
4.4 溫故知新 115
4.5 停下來,思考一下 115
第5章循環神經網路(RNN) 117
5.1 循環神經網路基本原理117
5.1.1 問題背景 118
【案例5-1】詞性標註(我學習循環神經網路) 118
【應知應會】one-hot編碼 119
【認知提升】神經網路的記憶問題 120
5.1.2 循環神經網路基本思想 120
【實踐】RNN的梯度爆炸和消失問題 123
5.2 LSTM網路基本原理 124
5.2.1 LSTM的關鍵技術 124
【知識擴容】遞歸神經網路(Recursive Neural Network,RNN) 128
5.2.2 LSTM的套用 128
【應知應會】自然語言處理 129
5.3 綜合案例:基於LSTM的語音預測 130
5.3.1 載入數據 130
5.3.2 定義網路結構 130
5.3.3 網路訓練及評估 131
【應知應會】深度學習代碼一般結構 132
5.4 綜合案例:基於循環神經網路的手寫數字識別 132
5.4.1 數據準備及參數設定 132
5.4.2 網路構建 133
5.4.3 網路訓練 134
5.5 綜合案例:基於LSTM的自然語言處理 135
5.5.1 數據收集及編碼 135
5.5.2 構建LSTM模型 136
5.5.3 模型訓練 137
5.5 溫故知新 137
5.6 停下來,思考一下 138
第3篇深度學習實戰篇
第6章深度學習主流工具及框架 142
6.1 MATLAB基本語法與深度學習工具箱 142
6.1.1 MATLAB簡介 142
6.1.2 MATLAB安裝 143
6.1.3 MATLAB常用語法 146
6.1.4 基於MATLAB的深度學習工具箱 149
【案例6-1】基於MATLAB的AlexNet模型初探 151
【案例6-2】用安裝好的深度學習工具箱中的卷積神經網路做mnist
手寫數字識別,來驗證工具箱的有效性 152
6.2 Python基本語法、庫與開發工具 153
6.2.1 Python簡介 153
6.2.2 Python安裝 153
6.2.3 Python常用語法 155
【應知應會】Python常見錯誤提示及原因 156
6.2.4 常用Python庫 157
6.2.5 常用Python開發工具 161
【知識擴容】PyCharm常用快捷鍵 162
【案例6-3】Python送你聖誕帽 163
6.3 Caffe框架及環境搭建 165
6.3.1 Caffe簡介 165
6.3.2 Caffe環境搭建 166
【案例6-4】手寫體數字識別 167
6.4 TensorFlow框架及環境搭建 167
6.4.1 TensorFlow簡介 167
6.4.2 TensorFlow與Keras框架的關係 168
6.4.3 Windows 10上TensorFlow的環境搭建 169
6.5 其他常用框架 177
6.5.1 微軟CNTK 177
6.5.2 MXNet 178
6.5.3 Torch 178
6.5.4 Theano 179
6.6 溫故知新 180
6.7 停下來,思考一下 180
第7章 AlexNet關鍵技術與實戰 182
7.1 剖析AlexNet網路結構 182
【知識擴容】ImageNet與李飛飛 186
7.2 AlexNet關鍵技術 187
7.2.1 ReLU激活函式 187
7.2.2 標準化 187
【應知應會】激活函式的“飽和”與“不飽和” 188
【認知提升】馬太效應、二八定律、長尾理論 188
7.2.3 Dropout 189
7.2.4 多GPU 190
【應知應會】CUDA 190
7.3 AlexNet與LeNet對比 191
7.4 CNN通用架構 191
7.5 綜合案例:基於AlexNet的深度學習實戰 192
7.5.1 靜態圖像分類 192
7.5.2 用AlexNet做特徵提取(feature extraction) 194
7.5.3 用AlexNet做遷移學習 197
7.5.4 卷積神經網路的特徵可視化 200
7.6 溫故知新 209
7.7 停下來,思考一下 210
第8章將手寫體識別進行到底 211
8.1 手寫體識別“江湖地位”211
8.2 手寫數字識別 212
8.2.1 手寫數字的無監督學習 213
【應知應會】稀疏表示 213
【應知應會】無監督學習中的自動編碼器 219
8.2.2 手寫數字的全連線神經網路識別 219
【應知應會】softmax函式介紹 220
【認知提升】熵 220
8.2.3 手寫數字的卷積神經網路識別 221
8.3 手寫漢字識別 229
8.3.1 數據讀取及預處理 229
【實踐】數據讀取 231
8.3.2 卷積神經網路構建 231
8.3.3 網路模型訓練及結果可視化 233
8.4 綜合案例:手寫數字旋轉角度識別 234
8.4.1 數據載入 235
8.4.2 網路構建 235
8.4.3 網路訓練 236
8.4.4 測試預測精度 236
8.4.5 殘差展示 237
8.4.6 偏轉角度矯正及可視化 237
8.5 溫故知新 238
8.6 停下來,思考一下 239
第9章基於深度學習的視頻檢測 240
9.1 人物監控視頻問題研究意義及現狀 240
9.1.1 研究意義 240
9.1.2 國內外研究現狀 242
9.2 研究情況介紹 244
9.2.1 研究內容 244
9.2.2 研究目標及關鍵科學問題 244
【案例9-1】基於Python庫的人臉識別 245
9.3 綜合案例:基於深度學習的人臉視頻檢測 247
9.3.1 環境準備 247
9.3.2 數據處理 248
9.3.3 模型訓練 250
9.3.4 監控代碼 255
9.4 綜合案例:基於深度學習的物體視頻檢測 256
9.4.1 AlexNet回顧 256
9.4.2 入門版 257
9.4.3 初級版 258
9.4.4 加強版 259
9.4.5 升級版 260
9.4.6 豪華版 261
【案例9-2】讓手機當網路攝像頭 262
9.5 溫故知新 262
9.6 停下來,思考一下 263
第10章基於深度學習的信息隱藏 264
10.1 數字圖像隱寫分析研究現狀及意義 264
10.1.1 研究意義 267
10.1.2 研究現狀 268
10.1.3 潛在的套用 268
10.2 數字圖像隱寫分析概述 270
【案例10-1】基於四叉樹編碼的空間域高保真可逆信息隱藏 271
10.3 基於ACGAN的無載體信息隱藏 272
10.3.1 生成式對抗網路回顧 272
【應知應會】零和博弈 272
10.3.2 基於ACGAN的信息隱藏關鍵技術 274
10.4 綜合案例:ACGAN信息隱藏實戰 276
10.4.1 方案概述 276
【認知提升】可逆信息隱藏 277
10.4.2 隱藏算法與提取算法的實現 278
10.4.3 性能分析 286
10.4.3 可靠性 287
10.4.4 安全性 287
10.5 溫故知新 288

作者簡介

高志強,軍隊指揮學武警信息化研究方向博士,畢業於中國人民武裝警察部隊工程大學,武警部隊首屆軍事大數據工程專業籌備組成員。作為骨幹成員參與研製多項武警部隊信息化裝備及平台系統,參與國家自然科學基金2項、陝西省自然科學基金1項。主要研究方向:深度學習、大數據與智慧型計算、面向大數據開放與治理的差分隱私保護數據發布關鍵技術研究及套用、粒子群最佳化算法等。
黃劍,現為武警工程大學教員,技術十一級,少校警銜,主要研究領域包括,武警信息化,軍隊指揮學,軍事智慧型系統。 李永,男,博士,碩士生導師,武警工程大學計算機基礎教研室副主任。2011年12 月獲國防科大計算機科學與技術博士學位。中國計算機學會會員。研究領域為機器學習,模式識別、圖像處理和國產自主可控軟體套用。長期從事《程式設計基礎》、《高級人工智慧》、《計算機邏輯學》、《資料庫基礎》等計算機領域教學工作,發表論文20 余篇。曾獲武警部隊科技進步一等獎和軍隊教學成果三等獎。 劉明明,男,碩士學歷,武警工程大學教員。研究方向為信息隱藏,深度學習。

相關詞條

熱門詞條

聯絡我們