Hadoop數據分析

Hadoop數據分析

《Hadoop數據分析》是2020年3月人民郵電出版社出版的圖書,作者是[美]班傑明·班福特、[美]珍妮·基姆。

基本介紹

  • 書名:Hadoop數據分析
  • 作者:[美]班傑明·班福特、[美]珍妮·基姆
  • ISBN:9787115479648
  • 頁數:211頁
  • 定價:69元
  • 出版社:人民郵電出版社
  • 出版時間:2020年3月
  • 裝幀:平裝
  • 開本:16開
內容簡介,圖書目錄,

內容簡介

通過提供分散式數據存儲和並行計算框架,Hadoop已經從一個集群計算的抽象演化成了一個大數據的作業系統。本書旨在通過以可讀且直觀的方式提供集群計算和分析的概覽,為數據科學家深入了解特定主題領域鋪平道路,從數據科學家的視角介紹Hadoop集群計算和分析。本書分為兩大部分,* 一部分從非常高的層次介紹分散式計算,討論如何在集群上運行計算;* 二部分則重點關注數據科學家應該了解的工具和技術,意在為各種分析和大規模數據管理提供動力。

圖書目錄

前言 ix
* 一部分 分散式計算入門
* 1章 數據產品時代 2
1.1 什麼是數據產品 2
1.2 使用Hadoop構建大規模數據產品 4
1.2.1 利用大型數據集 4
1.2.2 數據產品中的Hadoop 5
1.3 數據科學流水線和Hadoop生態系統 6
1.4 小結 8
* 2 章 大數據作業系統 9
2.1 基本概念 10
2.2 Hadoop架構 11
2.2.1 Hadoop集群 12
2.2.2 HDFS 14
2.2.3 YARN 15
2.3 使用分散式檔案系統 16
2.3.1 基本的檔案系統操作 16
2.3.2 HDFS檔案許可權 18
2.3.3 其他HDFS接口 19
2.4 使用分散式計算 20
2.4.1 MapReduce:函式式編程模型 20
2.4.2 MapReduce:集群上的實現 22
2.4.3 不止一個MapReduce:作業鏈 27
2.5 向YARN 提交MapReduce 作業 28
2.6 小結 30
第3 章 Python 框架和Hadoop Streaming 31
3.1 Hadoop Streaming 32
3.1.1 使用Streaming在CSV 數據上運行計算 34
3.1.2 執行Streaming作業 38
3.2 Python 的MapReduce框架 39
3.2.1 短語計數 42
3.2.2 其他框架 45
3.3 MapReduce進階 46
3.3.1 combiner 46
3.3.2 partitioner 47
3.3.3 作業鏈 47
3.4 小結 50
第4 章 Spark記憶體計算 52
4.1 Spark基礎 53
4.1.1 Spark棧 54
4.1.2 RDD 55
4.1.3 使用RDD 編程 56
4.2 基於PySpark的互動性Spark 59
4.3 編寫Spark應用程式 61
4.4 小結 67
第5 章 分散式分析和模式 69
5.1 鍵計算 70
5.1.1 複合鍵 71
5.1.2 鍵空間模式 74
5.1.3 pair與stripe 78
5.2 設計模式 80
5.2.1 概要 81
5.2.2 索引 85
5.2.3 過濾 90
5.3 邁向* 後一英里分析 95
5.3.1 模型擬合 96
5.3.2 模型驗證 97
5.4 小結 98
* 二部分 大數據科學的工作流和工具
第6 章 數據挖掘和數據倉 102
6.1 Hive 結構化數據查詢 103
6.1.1 Hive 命令行接口(CLI) 103
6.1.2 Hive 查詢語言 104
6.1.3 Hive 數據分析 108
6.2 HBase 113
6.2.1 NoSQL 與列式資料庫 114
6.2.2 HBase 實時分析 116
6.3 小結 122
第7 章 數據採集 123
7.1 使用Sqoop 導入關係數據 124
7.1.1 從MySQL 導入HDFS 124
7.1.2 從MySQL 導入Hive 126
7.1.3 從MySQL 導入HBase 128
7.2 使用Flume 獲取流式數據 130
7.2.1 Flume 數據流 130
7.2.2 使用Flume 獲取產品印象數據 133
7.3 小結 136
第8 章 使用高 級API 進行分析 137
8.1 Pig 137
8.1.1 Pig Latin 138
8.1.2 數據類型 142
8.1.3 關係運算符 142
8.1.4 用戶定義函式 143
8.1.5 Pig 小結 144
8.2 Spark 高 級API 144
8.2.1 Spark SQL 146
8.2.2 DataFrame 148
8.3 小結 153
第9 章 機器學習 154
9.1 使用Spark 進行可擴展的機器學習 154
9.1.1 協同過濾 156
9.1.2 分類 161
9.1.3 聚類 163
9.2 小結 166
* 10 章 總結:分散式數據科學實戰 167
10.1 數據產品生命周期 168
10.1.1 數據湖泊 169
10.1.2 數據採集 171
10.1.3 計算數據存儲 172
10.2 機器學習生命周期 173
10.3 小結 175
附錄A 創建Hadoop 偽分散式開發環境 176
附錄B 安裝Hadoop 生態系統產品 184
術語表 193
關於作者 211
關於封面 211

相關詞條

熱門詞條

聯絡我們