內容簡介
本書通過一個貫穿始終的套用案例——圖像風格遷移,全面系統地介紹智慧型計算系統的軟硬體技術棧,涵蓋神經網路基礎算法、深度學習編程框架、智慧型晶片體系結構、智慧型程式語言等
《智慧型計算系統》首先概述人工智慧和智慧型計算系統(第1章);接下來介紹完成套用所必要的神經網路和深度學習算法知識(第2、3章);然後介紹支撐算法在智慧型晶片上運行的編程框架(第4、5章);再往下是智慧型晶片,即引導學生設計一款滿足圖像風格遷移套用需求的深度學習處理器(第6、7章);接下來介紹如何利用智慧型程式語言BCL提升開發智慧型套用的效率(第8章);最後以具體實驗把所學知識點串聯起來,打通知識結構的“任督二脈”(第9章)。
圖書目錄
序言一
序言二
前 言第1章 概述1
1.1 人工智慧1
1.1.1 什麼是人工智慧1
1.1.2 人工智慧的發展歷史1
1.1.3 人工智慧的主要方法4
1.2 智慧型計算系統8
1.2.1 什麼是智慧型計算系統8
1.2.2 為什麼需要智慧型計算系統8
1.2.3 智慧型計算系統的發展8
1.3 驅動範例11
1.4 本章小結13
習題13
第2章 神經網路基礎14
2.1 從機器學習到神經網路14
2.1.1 基本概念14
2.1.2 線性回歸15
2.1.3 感知機17
2.1.4 兩層神經網路——多層感知機19
2.1.5 深度學習(深層神經網路)20
2.1.6 神經網路發展歷程21
2.2 神經網路訓練23
2.2.1 正向傳播24
2.2.2 反向傳播25
2.3 神經網路設計原則27
2.3.1 網路的拓撲結構27
2.3.2 激活函式27
2.3.3 損失函式30
2.4 過擬合與正則化32
2.4.1 過擬合33
2.4.2 正則化34
2.5 交叉驗證37
2.6 本章小結39
習題39
第3章 深度學習41
3.1 適合圖像處理的卷積神經網路41
3.1.1 卷積神經網路的組成42
3.1.2 卷積層43
3.1.3 池化層48
3.1.4 全連線層49
3.1.5 softmax層50
3.1.6 卷積神經網路總體結構50
3.2 基於卷積神經網路的圖像分類算法52
3.2.1 AlexNet53
3.2.2 VGG56
3.2.3 Inception59
3.2.4 ResNet66
3.3 基於卷積神經網路的圖像目標檢測算法69
3.3.1 評價指標69
3.3.2 RCNN系列72
3.3.3 YOLO78
3.3.4 SSD81
3.3.5 小結83
3.4 序列模型:循環神經網路83
3.4.1 RNN84
3.4.2 LSTM88
3.4.3 GRU89
3.4.4 小結90
3.5 生成對抗網路91
3.5.1 模型組成91
3.5.2 GAN訓練92
3.5.3 GAN結構94
3.6 驅動範例96
3.6.1 基於卷積神經網路的圖像風格遷移算法96
3.6.2 實時圖像風格遷移算法98
3.7 本章小結100
習題100
第4章 編程框架使用101
4.1 為什麼需要編程框架101
4.2 編程框架概述102
4.2.1 通用編程框架概述102
4.2.2 TensorFlow概述102
4.3 TensorFlow編程模型及基本用法103
4.3.1 計算圖104
4.3.2 操作105
4.3.3 張量106
4.3.4 會話110
4.3.5 變數114
4.3.6 占位符116
4.3.7 佇列117
4.4 基於TensorFlow實現深度學習預測117
4.4.1 讀取輸入樣本118
4.4.2 定義基本運算單元118
4.4.3 創建神經網路模型122
4.4.4 計算神經網路模型輸出123
4.5 基於TensorFlow實現深度學習訓練123
4.5.1 載入數據123
4.5.2 模型訓練129
4.5.3 模型保存135
4.5.4 圖像風格遷移訓練的實現137
4.6 本章小結139
習題139
第5章 編程框架機理141
5.1 TensorFlow設計原則141
5.1.1 高性能141
5.1.2 易開發142
5.1.3 可移植142
5.2 TensorFlow計算圖機制142
5.2.1 一切都是計算圖143
5.2.2 計算圖本地執行150
8.1.4 小結233
8.2 智慧型計算系統抽象架構234
8.2.1 抽象硬體架構234
8.2.2 典型智慧型計算系統235
8.2.3 控制模型236
8.2.4 計算模型236
8.2.5 存儲模型237
8.3 智慧型編程模型238
8.3.1 異構編程模型239
8.3.2 通用智慧型編程模型242
8.4 智慧型程式語言基礎247
8.4.1 語法概述247
8.4.2 數據類型248
8.4.3 宏、常量與內置變數250
8.4.4 I/O操作語句250
8.4.5 標量計算語句252
8.4.6 張量計算語句252
8.4.7 控制流語句252
8.4.8 串列程式示例253
8.4.9 並行程式示例254
8.5 智慧型套用編程接口255
8.5.1 Kernel函式接口255
8.5.2 運行時接口257
8.5.3 使用示例259
8.6 智慧型套用功能調試262
8.6.1 功能調試方法262
8.6.2 功能調試接口266
8.6.3 功能調試工具269
8.6.4 精度調試方法272
8.6.5 功能調試實踐272
8.7 智慧型套用性能調優280
8.7.1 性能調優方法280
8.7.2 性能調優接口282
8.7.3 性能調優工具286
8.7.4 性能調優實踐287
8.8 基於智慧型程式語言的系統開發294
8.8.1 高性能庫運算元開發294
8.8.2 編程框架運算元開發300
8.8.3 系統開發與最佳化實踐304
習題321
第9章 實驗323
9.1 基礎實驗:圖像風格遷移323
9.1.1 基於智慧型程式語言的運算元實現323
9.1.2 圖像風格遷移的實現326
9.1.3 風格遷移實驗的操作步驟330
9.2 拓展實驗:物體檢測333
9.2.1 基於智慧型程式語言的運算元實現333
9.2.2 物體檢測的實現337
9.3 拓展練習337
附錄A 計算機體系結構基礎340
附錄B 實驗環境說明345
參考文獻348
後記356
作者簡介
陳雲霽 中國科學院計算技術研究所研究員、博導、智慧型處理器研究中心主任,中國科學院大學崗位教授,教育部高等學校計算機類專業教學指導委員會計算機系統專委會委員。他帶領其團隊研製了國際上首個深度學習處理器晶片“寒武紀1號”。他的研究成果已經套用在近億台智慧型手機和伺服器中。他的學術論文多次獲得計算機體系結構*級國際會議最佳論文獎,受到上百個國際知名機構跟蹤引用。因此,他被Science雜誌刊文評價為深度學習處理器研究的“先驅”和“*領者”。
他曾獲國家傑出青年科學基金、中國青年科技獎、全國創新爭先獎、教育部“青年長江學者”、國家自然科學基金委“優秀青年基金”、國家萬人計畫“青年拔尖人才”,並被《MIT科技評論》評為全球35位傑出青年創新者(2015年度)。他還是北京智源人工智慧研究院智慧型體系結構與晶片方向首席科學家。
李玲 中科院軟體所研究員、博導,CCF高級會員。研究方向為智慧型計算及視頻處理。在相關領域發表多篇CCF A類期刊和會議論文,獲得了CCF A類會議MICRO’14的*佳論文獎(這是50年來*一一次美國以外的國家在該會議上獲此獎)。作為負責人主持過多項國家自然科學基金項目、國家重點研發計畫課題等。
李威 中科院計算所副研究員。研究方向為高性能智慧型計算系統設計技術,先後參與了多項國家重點研發計畫項目、國家科技重大專項項目、863項目、中科院國際合作項目等。作為核心成員參與了多款深度學習處理器的研發,發表或錄用學術論文近30篇,申請專利近20項。
郭崎 中科院計算所研究員。長期從事智慧型計算系統相關研究。在ISCA、MICRO、HPCA、IJCAI等國際會議及ACM/IEEE彙刊上發表學術論文多篇。授權發明專利多項,曾入選國家知識產權局“百件優秀中國專利”。先後入選中國科協首屆“青年人才托舉工程”、中科院青年創新促進會、國家“萬人計畫”青年拔尖人才。
杜子東 中科院計算所副研究員。長期從事人工智慧和計算機體系結構交叉研究,他在深度學習處理器方向做出了多項有國際影響力的研究成果。他在中國計算機學會認定的*級會議/期刊(CCF A類)上發表了近20篇論文,曾獲得ASPLOS’14最佳論文獎(這是亞洲機構首次獲計算機體系結構領域的頂級國際會議最佳論文獎),入選IEEE Micro雜誌評選的國際計算機體系結構領域年度十佳論文。
專家推薦
培養具有系統思維的人工智慧人才必須要有好的教材。在中國乃至整個國際上,對當代人工智慧計算系統進行全局系統介紹的教材十分稀少。因此,這本《智慧型計算系統》教材就顯得尤為及時和重要。
原中國科大計算機系主任,首屆全國高校教學名師
懂不懂系統知識帶來的工作成效差別巨大。這本教材以“圖像風格遷移”這一具體的智慧型套用為牽引,對智慧型計算系統的軟硬體技術棧各層的奧妙和相互聯繫進行精確、扼要的介紹,使學生對系統全貌有一個深刻印象。
中科院大學計算機學院院長,中國計算機學會名譽理事長
計算所的學科優勢是計算機系統與算法。計算所智慧型處理器中心在智慧型方向打通了系統與算法,再將這些科研優勢輻射到教學,寫出了這本代表計算所學派特色的教材。讀者從中不僅能學到知識,也能一窺計算所做學問的方法。
中科院計算所所長,國家智慧型計算機研發中心主任
作為北京智源研究院智慧型體系結構方向首席科學家,陳雲霽領銜編寫的這本教材,深入淺出地介紹了當代智慧型計算系統軟硬體技術棧,其系統性、全面性在國內外都非常難得,值得每位人工智慧方向的同學閱讀。
北京智源人工智慧研究院理事長,源碼資本合伙人
《智慧型計算系統》是首部致力於培養人工智慧計算系統思維能力的優秀教材,使學生能夠融會貫通地理解智慧型計算系統的完整軟硬體技術體系,在科研道路上擁有更寬廣的發展空間。
中科院上海分院副院長,中國神經科學學會理事長
這本教材深層次、全棧性的解析了AI的關鍵理論和技術,又通過一個圖像風格遷移的實例生動地演示了AI的實踐。《智慧型計算系統》是本好書,尤其適合作為本科高年級/研究生教材和科技人員的參考書,我大力推薦。
原百度公司總裁,清華大學智慧型科學講席教授
本書對人工智慧軟硬體技術棧(包括智慧型算法、智慧型編程框架、智慧型晶片結構、智慧型程式語言等)進行了全方位、系統性的介紹,非常適合培養學生的系統思維。到目 前為止,國內外少有同類書。
清華大學計算機系教授,原中國計算機學會理事長
本書覆蓋了神經網路基礎算法、深度學習編程框架、晶片體系結構等,是國內首本關於深度學習計算系統的書籍。主要作者是寒武紀深度學習處理器基礎研究的開拓者,基於*流科研水平成書,值得期待。
南京大學人工智慧學院院長,南京大學計算機系主任
(專家評語順序不分先後,按專家姓氏音序排列)