《ODPS權威指南：阿里大數據平台套用開發實踐》是2020年3月人民郵電出版社出版的圖書，作者是李妹芳。
基本介紹
- 中文名：ODPS權威指南：阿里大數據平台套用開發實踐
- 作者：李妹芳
- ISBN：9787115372413
- 頁數：342頁
- 定價：69元
- 出版社：人民郵電出版社
- 出版時間：2020年3月
- 裝幀：平裝
- 開本：16開
內容簡介,圖書目錄,
內容簡介
ODPS（Open Data Processing Service）是阿里巴巴自主研發的海量數據處理和分析的服務平台，主要套用於數據分析、海量數據統計、數據挖掘、機器學習和商業智慧型等領域。目前，ODPS不僅在阿里內部得到廣泛套用，享有很好的口碑，正逐步走向第三方開放市場。
本書是學習和掌握ODPS的專業指南，作者來自阿里ODPS團隊。全書共13章，主要內容包括：ODPS入門、整體架構、數據通道、MapReduce編程、SQL查詢分析、安全，以及基於真實數據的各種場景分析實戰。本書基於很多範例解析，通過在各種套用場景下的示例來說明如何通過ODPS完成各種需求，以期引導讀者從零開始輕鬆掌握和使用ODPS。同時，本書不局限於示例分析，也致力於提供更多關於大數據處理的編程思想和經驗分享。書中所有示例代碼都可以在作者提供的網站上免費下載。
本書適合想要了解和使用ODPS的讀者閱讀學習，對於從事大數據存儲和套用以及分散式計算的專業人士來說，也是很好的參考資料。
圖書目錄
前言 7
第 1章 ODPS概述 9
1.1 引言 9
1.2 初識ODPS 9
1.2.1 背景和挑戰 9
1.2.2 為什麼做ODPS 10
1.2.3 ODPS是什麼 10
1.2.4 ODPS做什麼 11
1.3 基本概念 11
1.3.1 賬號（Account） 12
1.3.2 項目空間（Project） 13
1.3.3 表（Table） 13
1.3.4 分區（Partition） 14
1.3.5 任務（Task）、作業（Job）和作業實例（Instance） 14
1.3.6 資源（Resource） 14
1.4 套用開發模式 15
1.4.1 RESTful API 15
1.4.2 ODPS SDK 18
1.4.3 ODPS CLT 18
1.4.4 管理控制台 18
1.4.5 IDE 18
1.5 一些典型場景 19
1.5.1 阿里金融數據倉庫 19
1.5.2 CNZZ數據倉庫 19
1.5.3 支付寶賬號影響力圈 19
1.5.4 阿里金融水文衍生算法 19
1.5.5 阿里媽媽廣告CTR預估 20
1.6 現狀和前景 20
1.7 小結 21
第 2章 ODPS入門 22
2.1 準備工作 22
2.1.1 創建雲賬號 22
2.1.2 開通ODPS服務 24
2.2 使用管理控制台 24
2.3 配置ODPS客戶端 26
2.3.1 下載和配置CLT 26
2.3.2 準備dual表 28
2.3.3 CLT運行模式 30
2.3.4 下載和配置dship 30
2.3.5 通過dship上傳下載數據 31
2.4 網站日誌分析實例 32
2.4.1 場景和數據說明 32
2.4.2 需求分析 33
2.4.3 數據準備 33
2.4.4 創建表並添加分區 34
2.4.5 數據解析和導入 35
2.4.6 數據加工 39
2.4.7 數據分析 43
2.4.8 自動化運行 47
2.4.9 套用數據集市 49
2.4.10 結果導出 51
2.4.11 結果展現 51
2.4.12 刪除數據 53
2.5 小結 53
第3章 收集海量數據 54
3.1 DSHIP工具 54
3.2 收集WEB日誌 56
3.2.1 場景和需求說明 56
3.2.2 問題分析和設計 56
3.2.3 實現說明 57
3.2.4 進一步探討 59
3.2.5 為什麼這么難 61
3.3 MYSQL數據同步到ODPS 61
3.3.1 場景和需求說明 61
3.3.2 問題分析和實現 61
3.3.3 進一步探討 63
3.4 下載結果表 63
3.5 小結 63
第4章 使用SQL處理海量數據 64
4.1 ODPS SQL是什麼 64
4.2 入門示例 64
4.2.1 場景說明 64
4.2.2 簡單的DDL操作 64
4.2.3 生成數據 68
4.2.4 單表查詢 69
4.2.5 多表連線JOIN 71
4.2.6 高 級查詢 79
4.2.7 多表關聯UNION ALL 87
4.2.8 多路輸出（MULTI-INSERT） 88
4.3 網站日誌分析 88
4.3.1 準備數據和表 89
4.3.2 維度表 89
4.3.3 訪問路徑分析 96
4.3.4 TopK查詢 97
4.3.5 IP黑名單 98
4.4 天貓品 牌預測 103
4.4.1 主題說明和前期準備 103
4.4.2 理解數據 104
4.4.3 兩個簡單的實踐 106
4.4.4 問題分析和算法設計 108
4.4.5 生成特徵 109
4.4.6 抽取正負樣本 111
4.4.7 生成模型 114
4.4.8 驗證模型 115
4.4.9 預測結果 118
4.4.10 進一步探討 118
4.5 小結 118
第5章 SQL進階 120
5.1 UDF是什麼 120
5.2 入門示例 120
5.3 實際套用案例 122
5.3.1 URL解碼 122
5.3.2 簡單的LBS套用 123
5.3.3 網站訪問日誌UserAgent解析 125
5.4 SQL實現原理 129
5.4.1 詞法分析 130
5.4.2 語法分析 130
5.4.3 邏輯分析 130
5.4.4 物理分析 136
5.5 SQL調優 137
5.5.1 數據傾斜 137
5.5.2 一些最佳化建議 140
5.5.3 一些注意事項 141
5.6 小結 141
第6章 通過TUNNEL遷移數據 142
6.1 ODPS TUNNEL 是什麼 142
6.2 入門示例 142
6.2.1 下載和配置 142
6.2.2 準備數據 142
6.2.3 上傳數據 143
6.2.4 下載數據 148
6.3 TUNNEL原理 149
6.3.1 數據如何傳輸 149
6.3.2 客戶端和服務端如何互動 150
6.3.3 如何實現高並發 151
6.4 從HADOOP遷移到ODPS 151
6.4.1 問題分析 151
6.4.2 客戶端實現和分析 152
6.4.3 Mapper實現和分析 155
6.4.4 編譯和運行 157
6.4.5 進一步探討 159
6.5 一些注意點 159
6.6 小結 160
第7章 使用MAPREDUCE處理數據 161
7.1 MAPREDUCE編程模型 161
7.2 MAPREDUCE套用場景 163
7.3 初識ODPS MAPREDUCE 164
7.4 入門示例 165
7.4.1 準備工作 165
7.4.2 問題分析 165
7.4.3 代碼實現和分析 166
7.4.4 運行和輸出分析 169
7.4.5 擴展：使用Combiner？ 171
7.5 TOPK查詢 173
7.5.1 場景和數據說明 174
7.5.2 問題分析 174
7.5.3 具體實現分析 175
7.5.4 運行和結果輸出 179
7.5.5 擴展：忽略Stop Words 180
7.5.6 擴展：數據和任務統計 182
7.5.7 擴展： MR2模型 184
7.6 SQL和MAPREDUCE，用哪個？ 186
7.7 小結 186
第8章 MAPREDUCE進階 187
8.1 再談SHUFFLE & SORT 187
8.2 好友推薦 188
8.2.1 場景和數據說明 188
8.2.2 問題定義和分析 189
8.2.3 代碼實現 190
8.3 LBS套用探討：周邊定位 193
8.3.1 場景和數據說明 193
8.3.2 問題定義和分析 194
8.3.3 代碼實現和分析 195
8.3.4 運行和測試 199
8.4 MAPREDUCE調試 200
8.4.1 帶bug的代碼 200
8.4.2 通過本地模式調試 201
8.4.3 通過Counter調試 201
8.4.4 通過log調試 202
8.5 一些注意點 203
8.6 小結 204
第9章 機器學習算法 205
9.1 初識ODPS算法 205
9.2 入門示例 205
9.2.1 通過CLT統計分析 205
9.2.2 通過XLab統計分析 207
9.3 幾個經典的算法 209
9.3.1 邏輯回歸 209
9.3.2 隨機森林 210
9.4 天貓品 牌預測 211
9.4.1 邏輯回歸 211
9.4.2 隨機森林 218
9.4.3 腳本實現和自動化 228
9.4.4 進一步探討 231
9.5 小結 232
第 10章 使用SDK訪問ODPS服務 233
10.1 主要的PACKAGE和接口 233
10.1.1 主要的Package 233
10.1.2 核心接口 233
10.2 入門示例 233
10.3 基於ECLIPSE外掛程式開發 235
10.4 小結 236
第 11章 ODPS賬號、資源和數據管理 237
11.1 許可權管理 237
11.1.1 賬號授權 237
11.1.2 角色（Role）授權 240
11.1.3 ACL授權特點 241
11.1.4 簡單的Policy授權 242
11.1.5 Role Policy 243
11.1.6 ACL授權和Policy授權小結 245
11.2 資源管理 245
11.2.1 Project內的資源管理 246
11.2.2 跨Project的資源共享 246
11.3 數據管理 247
11.3.1 表生命周期 248
11.3.2 數據歸併（Merge） 249
11.3.3 數據保護（Project Protection） 249
11.4 小結 251
第 12章 深入了解ODPS 253
12.1 體系架構 253
12.1.1 客戶端 254
12.1.2 接入層 254
12.1.3 邏輯層 254
12.1.4 存儲/計算層 255
12.2 執行流程 256
12.2.1 提交作業 256
12.2.2 運行作業 256
12.2.3 查詢作業狀態 256
12.2.4 執行邏輯圖 256
12.3 底層數據存儲 257
