《深入淺出圖神經網路：GNN原理解析》是一部從原理、算法、實現、套用4個維度詳細講解圖神經網路的著作，由機械工業出版社出版。
基本介紹
- 中文名：深入淺出圖神經網路：GNN原理解析
- 作者：劉忠雨、李彥霖、周洋
- 出版社：機械工業出版社
- 出版時間：2019年12月
- 頁數：224 頁
- 定價：89 元
- 開本：16 開
- 裝幀：平裝
- ISBN：978-7-111-64363-0
內容簡介,作者簡介,目錄,
內容簡介
這是一本從原理、算法、實現、套用4個維度詳細講解圖神經網路的著作，在圖神經網路領域具有重大的意義。
本書作者是圖神經網路領域的資深技術專家，作者所在的公司極驗也是該領域的領先者。本書是作者和極驗多年研究與實踐經驗的總結，內容系統、紮實、深入淺出，得到了白翔、俞棟等多位學術界和企業界領朵駝軍人物的高度評價及強烈推薦。
全書共10章：
第1～4章全面介紹了圖、圖數據、卷積神經網路以及表示學習等基礎知識，是閱讀本書的預備知識；
第5～6章從理論的角度出發，講解了圖信號處理和圖卷積神經網路，深入剖析了圖卷積神經網路的性質，並提供了GCN實現節點分類的實例；
第7～9章全面講解了圖神經網路的各種變體及範式、圖分類機制及其實踐，以及基於GNN的圖表示學習；
第10章介紹了圖神經網路的最新研究和套用察辨滲。
作者簡介
劉忠雨
畢業於華中科技大學，資深圖神經網路技術專家，極驗科技人工智慧實驗室主任和首席技術官。在機器學習、深度學習以及圖學習領域有6年以上的算法架構和研發經驗，主導研發了極驗行為驗證、深知業務風控、疊圖等產品，極驗科技目前服務於全球 26萬家企業。
李彥霖
畢業於武漢大學，極驗人工智慧實驗室技術專家。一直從事戀臘擊蒸機器學習、深度學習、圖學習領域的研究工作。在深度神經網路算法研發、圖神經網路在計算機視覺以及風控中的套用等領域實踐經驗豐富。
周洋
工學博士，畢業於武漢大學，目前在華中師範大學任教。曾受邀到北卡羅萊納大學訪學，長期在大數據挖掘前沿領域進行探索和研究，並套用於地理時空大數據、交通地理等諸多方向，已發表SCI&SSCI及核心期刊論文10餘篇。
目錄
前言
第1章 圖的概述 1
1.1 圖的基本定義 1
1.1.1 圖的基本類型 2
1.1.2 鄰居和度 4
1.1.3 子圖與路徑 4
1.2 圖的存儲與遍歷 5
1.2.1 鄰接矩陣與關聯矩陣 5
1.2.2 圖的遍歷 6
1.3 圖數據的套用場景 7
1.4 圖數據深度學習 10
1.5 參考文獻 13
第2章 神經網路基礎 17
2.1 機器學習基本概念 17
2.1.1 機器學習分類 17
2.1.2 機器學習流程概述 18
2.1.3 常見的損失函式 21
2.1.4 梯度下降算法 23
2.2 神經網路 25
2.2.1 神經元 25
2.2.2 多層感知器 27
2.3 激活函式 29
2.3.1 S型激活函式 30
2.3.2 ReLU及其變種 30
2.4 訓練神經網路 33
2.4.1 神經櫃祖嚷網路的運行過程 34
2.4.2 反榜邀想向傳播 34
2.4.3 最佳化困境 36
2.5 參考文獻 38
第3章 卷積神經網路 39
3.1 卷積與池化 39
3.1.1 信號處理中的卷積 39
3.1.2 深度學習中的卷積操作 42
3.1.3 池化 46
3.2 卷積神經網路 46
3.2.1 卷積神經網路的結構 47
3.2.2 卷積神經網路的己謎凶特點 49
3.3 特殊的卷積形式 51
3.3.1 1×1卷積 51
3.3.2 轉置卷積 52
3.3.3 空洞卷積 54
3.3.4 分組卷積 55
3.3.5 深度可分離卷積 55
3.4 卷積網路在圖像分類中的套用 56
3.4.1 VGG 56
3.4.2 Inception系列 57
3.4.3 ResNet 60
3.5 參考文獻 62
第4章 表示學習 65
4.1 表示學習 65
4.1.1 表示學習的意義 65
4.1.2 離散表示與分散式表示 66
4.1.3 端到端學習是一種強大的表示學習方法 68
4.2 基於重構損失的方法—自編碼器 69
4.2.1 自編碼器 69
4.2.2 正則自編碼器 71
4.2.3 芝罪少拒變分自編碼器 72
4.3 基於對比損失的方法—Word2vec 75
4.4 參考文獻 79
第5章 圖信號處理與圖卷積神經網路 81
5.1 矩陣乘法的三種方式 81
5.2 圖信號與圖的拉普拉斯矩陣 83
5.3 圖傅立葉變換 85
5.4 圖濾波器 90
5.4.1 空域角度 93
5.4.2 頻域角度 94
5.5 圖卷積神經網路 96
5.6 GCN實戰 101
5.7 參考文獻 109
第6章 GCN的性質 111
6.1 GCN與CNN的聯繫 111
6.2 GCN能夠對圖數據進行端對端學習 115
6.3 GCN是一個低通濾波器 120
6.4 GCN的問題—過平滑 122
6.5 參考文獻 127
第7章 GNN的變體與框架 129
7.1 GraphSAGE 129
7.1.1 採樣鄰居 130
7.1.2 聚合鄰居 131
7.1.3 GraphSAGE算法過程 132
7.2 GAT 134
7.2.1 注意力機制 134
7.2.2 圖注意力層 137
7.2.3 多頭圖注意力層 138
7.3 R-GCN 140
7.3.1 知識圖譜 140
7.3.2 R-GCN 141
7.4 GNN的通用框架 143
7.4.1 MPNN 143
7.4.2 NLNN 146
7.4.3 GN 147
7.5 GraphSAGE實戰 148
7.6 參考文獻 153
第8章 圖分類 155
8.1 基於全局池化的圖分類 155
8.2 基於層次化池化的圖分類 156
8.2.1 基於圖坍縮的池化機制 157
8.2.2 基於TopK的池化機制 165
8.2.3 基於邊收縮的池化機制 168
8.3 圖分類實戰 169
8.4 參考文獻 177
第9章 基於GNN的圖表示學習 179
9.1 圖表示學習 180
9.2 基於GNN的圖表示學習 182
9.2.1 基於重構損失的GNN 183
9.2.2 基於對比損失的GNN 184
9.3 基於圖自編碼器的推薦系統 188
9.4 參考文獻 195
第10章 GNN的套用簡介 197
10.1 GNN的套用簡述 197
10.2 GNN的套用案例 199
10.2.1 3D視覺 199
10.2.2 基於社交網路的推薦系統 203
10.2.3 視覺推理 205
10.3 GNN的未來展望 208
10.4 參考文獻 209
附錄A 符號聲明 211
2.4.1 神經網路的運行過程 34
2.4.2 反向傳播 34
2.4.3 最佳化困境 36
2.5 參考文獻 38
第3章 卷積神經網路 39
3.1 卷積與池化 39
3.1.1 信號處理中的卷積 39
3.1.2 深度學習中的卷積操作 42
3.1.3 池化 46
3.2 卷積神經網路 46
3.2.1 卷積神經網路的結構 47
3.2.2 卷積神經網路的特點 49
3.3 特殊的卷積形式 51
3.3.1 1×1卷積 51
3.3.2 轉置卷積 52
3.3.3 空洞卷積 54
3.3.4 分組卷積 55
3.3.5 深度可分離卷積 55
3.4 卷積網路在圖像分類中的套用 56
3.4.1 VGG 56
3.4.2 Inception系列 57
3.4.3 ResNet 60
3.5 參考文獻 62
第4章 表示學習 65
4.1 表示學習 65
4.1.1 表示學習的意義 65
4.1.2 離散表示與分散式表示 66
4.1.3 端到端學習是一種強大的表示學習方法 68
4.2 基於重構損失的方法—自編碼器 69
4.2.1 自編碼器 69
4.2.2 正則自編碼器 71
4.2.3 變分自編碼器 72
4.3 基於對比損失的方法—Word2vec 75
4.4 參考文獻 79
第5章 圖信號處理與圖卷積神經網路 81
5.1 矩陣乘法的三種方式 81
5.2 圖信號與圖的拉普拉斯矩陣 83
5.3 圖傅立葉變換 85
5.4 圖濾波器 90
5.4.1 空域角度 93
5.4.2 頻域角度 94
5.5 圖卷積神經網路 96
5.6 GCN實戰 101
5.7 參考文獻 109
第6章 GCN的性質 111
6.1 GCN與CNN的聯繫 111
6.2 GCN能夠對圖數據進行端對端學習 115
6.3 GCN是一個低通濾波器 120
6.4 GCN的問題—過平滑 122
6.5 參考文獻 127
第7章 GNN的變體與框架 129
7.1 GraphSAGE 129
7.1.1 採樣鄰居 130
7.1.2 聚合鄰居 131
7.1.3 GraphSAGE算法過程 132
7.2 GAT 134
7.2.1 注意力機制 134
7.2.2 圖注意力層 137
7.2.3 多頭圖注意力層 138
7.3 R-GCN 140
7.3.1 知識圖譜 140
7.3.2 R-GCN 141
7.4 GNN的通用框架 143
7.4.1 MPNN 143
7.4.2 NLNN 146
7.4.3 GN 147
7.5 GraphSAGE實戰 148
7.6 參考文獻 153
第8章 圖分類 155
8.1 基於全局池化的圖分類 155
8.2 基於層次化池化的圖分類 156
8.2.1 基於圖坍縮的池化機制 157
8.2.2 基於TopK的池化機制 165
8.2.3 基於邊收縮的池化機制 168
8.3 圖分類實戰 169
8.4 參考文獻 177
第9章 基於GNN的圖表示學習 179
9.1 圖表示學習 180
9.2 基於GNN的圖表示學習 182
9.2.1 基於重構損失的GNN 183
9.2.2 基於對比損失的GNN 184
9.3 基於圖自編碼器的推薦系統 188
9.4 參考文獻 195
第10章 GNN的套用簡介 197
10.1 GNN的套用簡述 197
10.2 GNN的套用案例 199
10.2.1 3D視覺 199
10.2.2 基於社交網路的推薦系統 203
10.2.3 視覺推理 205
10.3 GNN的未來展望 208
10.4 參考文獻 209
附錄A 符號聲明 211
