基本介紹
- 中文名：圖表示學習
- 作者：【美】William Hamilton
- 譯者：AI TIME
- 出版社：電子工業出版社
- 出版時間：2021年5月
- 頁數：208 頁
- 定價：109 元
- 開本：16 開
- ISBN：9787121410772
內容簡介,圖書目錄,作者簡介,
內容簡介
討論圖表示學習的目標及圖論和網路分析的關鍵方法論，介紹並回顧了學習節點嵌入的方法。
圖書目錄
第一部分 背景介紹
第1 章 引言 ............................................................................................... 2
1.1 什麼是圖 .......................................................................................... 3
1.1.1 多關係圖 .............................................................................. 4
1.1.2 特徵信息 .............................................................................. 5
1.2 圖機器學習 ...................................................................................... 6
1.2.1 節點分類 .............................................................................. 7
1.2.2 關係預測 .............................................................................. 9
1.2.3 聚類和社區發現 ................................................................. 11
1.2.4 圖的分類、回歸與聚類 ..................................................... 11
第2 章 背景與傳統方法 ............................................................................ 13
2.1 圖統計特徵與核方法 ..................................................................... 14
2.1.1 節點層面的統計特徵 ......................................................... 14
2.1.2 圖層面的特徵和圖核 ......................................................... 20
2.2 鄰域重疊檢測 ................................................................................ 23
2.2.1 局部重疊測量 ..................................................................... 25
2.2.2 全局重疊測量 ..................................................................... 26
2.3 圖的拉普拉斯矩陣和圖的譜方法 .................................................. 32
2.3.1 圖的拉普拉斯矩陣 ............................................................. 32
2.3.2 圖割與圖聚類 ..................................................................... 35
2.3.3 廣義譜聚類 ........................................................................ 40
2.4 面向表示學習 ................................................................................ 41
第二部分 節點嵌入
第3 章 鄰域節點重構 ................................................................................ 44
3.1 編碼-解碼框架 ............................................................................... 45
3.1.1 編碼器 ................................................................................ 46
3.1.2 解碼器 ................................................................................ 47
3.1.3 編碼-解碼模型的最佳化 ........................................................ 48
3.1.4 編碼-解碼方法小結 ............................................................ 48
3.2 基於因式分解的方法 ..................................................................... 49
3.3 隨機遊走嵌入表示 ......................................................................... 52
3.4 shallow embedding 的局限性 ......................................................... 56
第4 章 多關係數據及知識圖譜 .................................................................. 58
4.1 重建多關係數據 ............................................................................. 59
4.2 損失函式 ........................................................................................ 60
4.3 多關係解碼器 ................................................................................ 64
4.4 解碼器的性能表征 ......................................................................... 68
第三部分 圖神經網路（GNN）
第5 章 圖神經網路（GNN）模型 .............................................................. 72
5.1 神經訊息傳遞 ................................................................................ 74
5.1.1 訊息傳遞框架概述 ............................................................. 74
5.1.2 動機和思想 ........................................................................ 76
5.1.3 基本的GNN ....................................................................... 77
5.1.4 自環訊息傳遞 ..................................................................... 79
5.2 廣義鄰域聚合 ................................................................................ 80
5.2.1 鄰域歸一化 ........................................................................ 81
5.2.2 集合聚合操作 ..................................................................... 83
5.2.3 鄰域注意力模型 ................................................................. 86
5.3 廣義的更新方法 ............................................................................. 89
5.3.1 拼接和跳躍連線 ................................................................. 92
5.3.2 門控更新函式 ..................................................................... 94
5.3.3 跳躍知識連線 ..................................................................... 95
5.4 邊特徵和多元關係GNN ................................................................ 96
5.4.1 關係GNN ........................................................................... 96
5.4.2 注意力機制和特徵拼接 ..................................................... 98
5.5 圖池化 ............................................................................................ 99
5.6 通用的訊息傳遞方法 ................................................................... 102
第6 章 圖神經網路（GNN）的實現 ......................................................... 104
6.1 套用和損失函式 ........................................................................... 104
6.1.1 用於節點分類的GNN ...................................................... 105
6.1.2 用於圖分類的GNN .......................................................... 107
6.1.3 用於關係預測的GNN ...................................................... 108
6.1.4 預訓練GNN ..................................................................... 108
6.2 效率問題和節點採樣 ................................................................... 110
6.2.1 圖級別的實現方法 ........................................................... 110
6.2.2 子採樣和小批量 ............................................................... 111
6.3 參數共享與正則化 ....................................................................... 112
第7 章 圖神經網路（GNN）的理論動機 .................................................. 114
7.1 GNN 與圖卷積 ............................................................................. 115
7.1.1 卷積與傅立葉變換 ........................................................... 115
7.1.2 從時間信號到圖信號 ....................................................... 118
7.1.3 譜圖卷積 .......................................................................... 124
7.1.4 卷積啟發的GNN ............................................................. 129
7.2 GNN 和機率圖模型 ..................................................................... 135
7.2.1 分布的希爾伯特空間嵌入 ................................................ 135
7.2.2 圖作為圖模型 ................................................................... 136
7.2.3 嵌入平均場推斷 ............................................................... 137
7.2.4 更一般的GNN 和PGM ................................................... 141
7.3 GNN 與圖同構 ............................................................................. 141
7.3.1 圖同構 .............................................................................. 142
7.3.2 圖同構與表示能力 ........................................................... 143
7.3.3 WL 算法 ........................................................................... 143
7.3.4 GNN 和WL 算法 ............................................................. 145
7.3.5 超越WL 算法 .................................................................. 148
第四部分 生成圖模型
第8 章 傳統圖生成方法 .......................................................................... 158
8.1 傳統方法概述 .............................................................................. 159
8.2 ERDÖS–RÉNYI 模型 .................................................................. 159
8.3 隨機塊模型 .................................................................................. 160
8.4 優先連結模型 .............................................................................. 161
8.5 傳統套用 ...................................................................................... 163
第9 章 深度生成模型 .............................................................................. 165
9.1 VAE 方法 ..................................................................................... 166
9.1.1 節點級隱表示 ................................................................... 169
9.1.2 圖級別的隱表示 ............................................................... 172
9.2 對抗方法 ...................................................................................... 176
9.3 自回歸模型 .................................................................................. 178
9.3.1 邊依賴建模 ...................................................................... 178
9.3.2 循環圖生成模型 ............................................................... 179
9.4 圖生成的評估 .............................................................................. 184
9.5 分子圖生成 .................................................................................. 185
後記 .......................................................................................................... 187
致謝 .......................................................................................................... 190
作者簡介
威廉·漢密爾頓（William Hamilton）是麥吉爾大學（McGill University）計算機科學系的助理教授，也是加拿大高等研究院（Canadian Institute for Advanced Research, CIFAR）AI 方向的主席、GraphSAGE 的作者。他專注於圖表示學習及其在計算社會科學和生物學中的套用。近年來，他在機器學習和網路科學領域的頂級會議發表了20 多篇關於圖表示學習的論文，並且參與組織了關於該主題的幾次大型研討會，分享了多份重磅教程。
他的工作獲得了多個獎項的認可，其中包括2017 年美國科學院Cozzarelli最佳論文獎和2018 年史丹福大學計算機科學系Arthur Samuel 最佳博士論文獎等。
譯者簡介
AI TIME是 2019年由清華大學人工智慧研究院張鈸院士和清華大學計算機系唐傑教授、李涓子教授等人聯合發起的圈子。AI TIME是一個開放、包容的組織，專注於探索AI科學、發揚科學思辨精神。我們邀請各界人士辯論AI本質，介紹學術前沿、展示研究機構風采，鼓勵所有參與者用辯論的形式，平等、自由、充分地交流，探討人工智慧和人類未來之間的矛盾，探索人工智慧領域的未來。
