Spark快速大数据分析

Spark快速大数据分析
分享
扫描下方二维码分享到微信
打开微信,点击右上角”+“,
使用”扫一扫“即可将网页分享到朋友圈。
作者: [美] (Holden Karau) , [美] (Andy Konwinski) , [美] (Patrick Wendell) , [加拿大] (Matei Zaharia) ,
2015-09
版次: 1
ISBN: 9787115403094
定价: 59.00
装帧: 平装
开本: 16开
纸张: 胶版纸
页数: 210页
字数: 343千字
正文语种: 简体中文
原版书名: Learning Spark: Lightning-Fast Big Data Analysis
400人买过
  •   《Spark快速大数据分析》由 Spark 开发者及核心成员共同打造,讲解了网络大数据时代应运而生的、能高效迅捷地分析处理数据的工具——Spark,它带领读者快速掌握用 Spark 收集、计算、简化和保存海量数据的方法,学会交互、迭代和增量式分析,解决分区、数据本地化和自定义序列化等问题。
      Holden Karau,是Databricks的软件开发工程师,活跃于开源社区。她还著有《Spark快速数据处理》。

      Andy Konwinski,是Databricks联合创始人,Apache Spark项目技术专家,还是Apache Mesos项目的联合发起人。

      Patrick Wendell,是Databricks联合创始人,也是Apache Spark项目技术专家。他还负责维护Spark核心引擎的几个子系统。

      Matei Zaharia,是Databricks的CTO,同时也是Apache Spark项目发起人以及Apache基金会副主席。
    推荐序  xi
    译者序  xiv
    序  xvi
    前言  xvii
    第1章 Spark数据分析导论  1
    1.1 Spark是什么  1
    1.2 一个大一统的软件栈  2
    1.2.1 Spark Core  2
    1.2.2 Spark SQL  3
    1.2.3 Spark Streaming  3
    1.2.4 MLlib  3
    1.2.5 GraphX  3
    1.2.6 集群管理器  4
    1.3 Spark的用户和用途  4
    1.3.1 数据科学任务  4
    1.3.2 数据处理应用  5
    1.4 Spark简史  5
    1.5 Spark的版本和发布  6
    1.6 Spark的存储层次  6
    第2章 Spark下载与入门  7
    2.1 下载Spark  7
    2.2 Spark中Python和Scala的shell  9
    2.3 Spark 核心概念简介  12
    2.4 独立应用  14
    2.4.1 初始化SparkContext  15
    2.4.2 构建独立应用  16
    2.5 总结  19
    第3章 RDD编程  21
    3.1 RDD基础  21
    3.2 创建RDD  23
    3.3 RDD操作  24
    3.3.1 转化操作  24
    3.3.2 行动操作  26
    3.3.3 惰性求值  27
    3.4 向Spark传递函数  27
    3.4.1 Python  27
    3.4.2 Scala  28
    3.4.3 Java  29
    3.5 常见的转化操作和行动操作  30
    3.5.1 基本RDD  30
    3.5.2 在不同RDD类型间转换  37
    3.6 持久化( 缓存)  39
    3.7 总结  40
    第4章 键值对操作  41
    4.1 动机  41
    4.2 创建Pair RDD  42
    4.3 Pair RDD的转化操作  42
    4.3.1 聚合操作  45
    4.3.2 数据分组  49
    4.3.3 连接  50
    4.3.4 数据排序  51
    4.4 Pair RDD的行动操作  52
    4.5 数据分区(进阶)  52
    4.5.1 获取RDD的分区方式  55
    4.5.2 从分区中获益的操作  56
    4.5.3 影响分区方式的操作  57
    4.5.4 示例:PageRank  57
    4.5.5 自定义分区方式  59
    4.6 总结  61
    第5章 数据读取与保存  63
    5.1 动机  63
    5.2 文件格式  64
    5.2.1 文本文件  64
    5.2.2 JSON  66
    5.2.3 逗号分隔值与制表符分隔值  68
    5.2.4 SequenceFile  71
    5.2.5 对象文件  73
    5.2.6 Hadoop输入输出格式  73
    5.2.7 文件压缩  77
    5.3 文件系统  78
    5.3.1 本地/“常规”文件系统  78
    5.3.2 Amazon S3  78
    5.3.3 HDFS  79
    5.4 Spark SQL中的结构化数据  79
    5.4.1 Apache Hive  80
    5.4.2 JSON  80
    5.5 数据库  81
    5.5.1 Java数据库连接  81
    5.5.2 Cassandra  82
    5.5.3 HBase  84
    5.5.4 Elasticsearch  85
    5.6 总结  86
    第6章 Spark编程进阶  87
    6.1 简介  87
    6.2 累加器  88
    6.2.1 累加器与容错性  90
    6.2.2 自定义累加器  91
    6.3 广播变量  91
    6.4 基于分区进行操作  94
    6.5 与外部程序间的管道  96
    6.6 数值RDD 的操作  99
    6.7 总结  100
    第7章 在集群上运行Spark  101
    7.1 简介  101
    7.2 Spark运行时架构  101
    7.2.1 驱动器节点  102
    7.2.2 执行器节点  103
    7.2.3 集群管理器  103
    7.2.4 启动一个程序  104
    7.2.5 小结  104
    7.3 使用spark-submit 部署应用  105
    7.4 打包代码与依赖  107
    7.4.1 使用Maven构建的用Java编写的Spark应用  108
    7.4.2 使用sbt构建的用Scala编写的Spark应用  109
    7.4.3 依赖冲突   111
    7.5 Spark应用内与应用间调度  111
    7.6 集群管理器  112
    7.6.1 独立集群管理器  112
    7.6.2 Hadoop YARN  115
    7.6.3 Apache Mesos  116
    7.6.4 Amazon EC2  117
    7.7 选择合适的集群管理器  120
    7.8 总结  121
    第8章 Spark调优与调试  123
    8.1 使用SparkConf配置Spark  123
    8.2 Spark执行的组成部分:作业、任务和步骤  127
    8.3 查找信息  131
    8.3.1 Spark网页用户界面  131
    8.3.2 驱动器进程和执行器进程的日志  134
    8.4 关键性能考量  135
    8.4.1 并行度  135
    8.4.2 序列化格式  136
    8.4.3 内存管理  137
    8.4.4 硬件供给  138
    8.5 总结  139
    第9章 Spark SQL  141
    9.1 连接Spark SQL  142
    9.2 在应用中使用Spark SQL  144
    9.2.1 初始化Spark SQL  144
    9.2.2 基本查询示例  145
    9.2.3 SchemaRDD  146
    9.2.4 缓存  148
    9.3 读取和存储数据  149
    9.3.1 Apache Hive  149
    9.3.2 Parquet  150
    9.3.3 JSON  150
    9.3.4 基于RDD  152
    9.4 JDBC/ODBC服务器  153
    9.4.1 使用Beeline  155
    9.4.2 长生命周期的表与查询  156
    9.5 用户自定义函数  156
    9.5.1 Spark SQL UDF  156
    9.5.2 Hive UDF  157
    9.6 Spark SQL性能  158
    9.7 总结  159
    第10章 Spark Streaming  161
    10.1 一个简单的例子  162
    10.2 架构与抽象  164
    10.3 转化操作  167
    10.3.1 无状态转化操作  167
    10.3.2 有状态转化操作  169
    10.4 输出操作  173
    10.5 输入源  175
    10.5.1 核心数据源  175
    10.5.2 附加数据源  176
    10.5.3 多数据源与集群规模  179
    10.6 24/7不间断运行  180
    10.6.1 检查点机制  180
    10.6.2 驱动器程序容错  181
    10.6.3 工作节点容错  182
    10.6.4 接收器容错  182
    10.6.5 处理保证  183
    10.7 Streaming用户界面  183
    10.8 性能考量  184
    10.8.1 批次和窗口大小  184
    10.8.2 并行度  184
    10.8.3 垃圾回收和内存使用  185
    10.9 总结  185
    第11章 基于MLlib的机器学习  187
    11.1 概述  187
    11.2 系统要求  188
    11.3 机器学习基础  189
    11.4 数据类型  192
    11.5 算法  194
    11.5.1 特征提取  194
    11.5.2 统计  196
    11.5.3 分类与回归  197
    11.5.4 聚类  202
    11.5.5 协同过滤与推荐  203
    11.5.6 降维  204
    11.5.7 模型评估  206
    11.6 一些提示与性能考量  206
    11.6.1 准备特征  206
    11.6.2 配置算法  207
    11.6.3 缓存RDD以重复使用  207
    11.6.4 识别稀疏程度  207
    11.6.5 并行度  207
    11.7 流水线API  208
    11.8 总结  209
    作者简介  210
    封面介绍  210
  • 内容简介:
      《Spark快速大数据分析》由 Spark 开发者及核心成员共同打造,讲解了网络大数据时代应运而生的、能高效迅捷地分析处理数据的工具——Spark,它带领读者快速掌握用 Spark 收集、计算、简化和保存海量数据的方法,学会交互、迭代和增量式分析,解决分区、数据本地化和自定义序列化等问题。
  • 作者简介:
      Holden Karau,是Databricks的软件开发工程师,活跃于开源社区。她还著有《Spark快速数据处理》。

      Andy Konwinski,是Databricks联合创始人,Apache Spark项目技术专家,还是Apache Mesos项目的联合发起人。

      Patrick Wendell,是Databricks联合创始人,也是Apache Spark项目技术专家。他还负责维护Spark核心引擎的几个子系统。

      Matei Zaharia,是Databricks的CTO,同时也是Apache Spark项目发起人以及Apache基金会副主席。
  • 目录:
    推荐序  xi
    译者序  xiv
    序  xvi
    前言  xvii
    第1章 Spark数据分析导论  1
    1.1 Spark是什么  1
    1.2 一个大一统的软件栈  2
    1.2.1 Spark Core  2
    1.2.2 Spark SQL  3
    1.2.3 Spark Streaming  3
    1.2.4 MLlib  3
    1.2.5 GraphX  3
    1.2.6 集群管理器  4
    1.3 Spark的用户和用途  4
    1.3.1 数据科学任务  4
    1.3.2 数据处理应用  5
    1.4 Spark简史  5
    1.5 Spark的版本和发布  6
    1.6 Spark的存储层次  6
    第2章 Spark下载与入门  7
    2.1 下载Spark  7
    2.2 Spark中Python和Scala的shell  9
    2.3 Spark 核心概念简介  12
    2.4 独立应用  14
    2.4.1 初始化SparkContext  15
    2.4.2 构建独立应用  16
    2.5 总结  19
    第3章 RDD编程  21
    3.1 RDD基础  21
    3.2 创建RDD  23
    3.3 RDD操作  24
    3.3.1 转化操作  24
    3.3.2 行动操作  26
    3.3.3 惰性求值  27
    3.4 向Spark传递函数  27
    3.4.1 Python  27
    3.4.2 Scala  28
    3.4.3 Java  29
    3.5 常见的转化操作和行动操作  30
    3.5.1 基本RDD  30
    3.5.2 在不同RDD类型间转换  37
    3.6 持久化( 缓存)  39
    3.7 总结  40
    第4章 键值对操作  41
    4.1 动机  41
    4.2 创建Pair RDD  42
    4.3 Pair RDD的转化操作  42
    4.3.1 聚合操作  45
    4.3.2 数据分组  49
    4.3.3 连接  50
    4.3.4 数据排序  51
    4.4 Pair RDD的行动操作  52
    4.5 数据分区(进阶)  52
    4.5.1 获取RDD的分区方式  55
    4.5.2 从分区中获益的操作  56
    4.5.3 影响分区方式的操作  57
    4.5.4 示例:PageRank  57
    4.5.5 自定义分区方式  59
    4.6 总结  61
    第5章 数据读取与保存  63
    5.1 动机  63
    5.2 文件格式  64
    5.2.1 文本文件  64
    5.2.2 JSON  66
    5.2.3 逗号分隔值与制表符分隔值  68
    5.2.4 SequenceFile  71
    5.2.5 对象文件  73
    5.2.6 Hadoop输入输出格式  73
    5.2.7 文件压缩  77
    5.3 文件系统  78
    5.3.1 本地/“常规”文件系统  78
    5.3.2 Amazon S3  78
    5.3.3 HDFS  79
    5.4 Spark SQL中的结构化数据  79
    5.4.1 Apache Hive  80
    5.4.2 JSON  80
    5.5 数据库  81
    5.5.1 Java数据库连接  81
    5.5.2 Cassandra  82
    5.5.3 HBase  84
    5.5.4 Elasticsearch  85
    5.6 总结  86
    第6章 Spark编程进阶  87
    6.1 简介  87
    6.2 累加器  88
    6.2.1 累加器与容错性  90
    6.2.2 自定义累加器  91
    6.3 广播变量  91
    6.4 基于分区进行操作  94
    6.5 与外部程序间的管道  96
    6.6 数值RDD 的操作  99
    6.7 总结  100
    第7章 在集群上运行Spark  101
    7.1 简介  101
    7.2 Spark运行时架构  101
    7.2.1 驱动器节点  102
    7.2.2 执行器节点  103
    7.2.3 集群管理器  103
    7.2.4 启动一个程序  104
    7.2.5 小结  104
    7.3 使用spark-submit 部署应用  105
    7.4 打包代码与依赖  107
    7.4.1 使用Maven构建的用Java编写的Spark应用  108
    7.4.2 使用sbt构建的用Scala编写的Spark应用  109
    7.4.3 依赖冲突   111
    7.5 Spark应用内与应用间调度  111
    7.6 集群管理器  112
    7.6.1 独立集群管理器  112
    7.6.2 Hadoop YARN  115
    7.6.3 Apache Mesos  116
    7.6.4 Amazon EC2  117
    7.7 选择合适的集群管理器  120
    7.8 总结  121
    第8章 Spark调优与调试  123
    8.1 使用SparkConf配置Spark  123
    8.2 Spark执行的组成部分:作业、任务和步骤  127
    8.3 查找信息  131
    8.3.1 Spark网页用户界面  131
    8.3.2 驱动器进程和执行器进程的日志  134
    8.4 关键性能考量  135
    8.4.1 并行度  135
    8.4.2 序列化格式  136
    8.4.3 内存管理  137
    8.4.4 硬件供给  138
    8.5 总结  139
    第9章 Spark SQL  141
    9.1 连接Spark SQL  142
    9.2 在应用中使用Spark SQL  144
    9.2.1 初始化Spark SQL  144
    9.2.2 基本查询示例  145
    9.2.3 SchemaRDD  146
    9.2.4 缓存  148
    9.3 读取和存储数据  149
    9.3.1 Apache Hive  149
    9.3.2 Parquet  150
    9.3.3 JSON  150
    9.3.4 基于RDD  152
    9.4 JDBC/ODBC服务器  153
    9.4.1 使用Beeline  155
    9.4.2 长生命周期的表与查询  156
    9.5 用户自定义函数  156
    9.5.1 Spark SQL UDF  156
    9.5.2 Hive UDF  157
    9.6 Spark SQL性能  158
    9.7 总结  159
    第10章 Spark Streaming  161
    10.1 一个简单的例子  162
    10.2 架构与抽象  164
    10.3 转化操作  167
    10.3.1 无状态转化操作  167
    10.3.2 有状态转化操作  169
    10.4 输出操作  173
    10.5 输入源  175
    10.5.1 核心数据源  175
    10.5.2 附加数据源  176
    10.5.3 多数据源与集群规模  179
    10.6 24/7不间断运行  180
    10.6.1 检查点机制  180
    10.6.2 驱动器程序容错  181
    10.6.3 工作节点容错  182
    10.6.4 接收器容错  182
    10.6.5 处理保证  183
    10.7 Streaming用户界面  183
    10.8 性能考量  184
    10.8.1 批次和窗口大小  184
    10.8.2 并行度  184
    10.8.3 垃圾回收和内存使用  185
    10.9 总结  185
    第11章 基于MLlib的机器学习  187
    11.1 概述  187
    11.2 系统要求  188
    11.3 机器学习基础  189
    11.4 数据类型  192
    11.5 算法  194
    11.5.1 特征提取  194
    11.5.2 统计  196
    11.5.3 分类与回归  197
    11.5.4 聚类  202
    11.5.5 协同过滤与推荐  203
    11.5.6 降维  204
    11.5.7 模型评估  206
    11.6 一些提示与性能考量  206
    11.6.1 准备特征  206
    11.6.2 配置算法  207
    11.6.3 缓存RDD以重复使用  207
    11.6.4 识别稀疏程度  207
    11.6.5 并行度  207
    11.7 流水线API  208
    11.8 总结  209
    作者简介  210
    封面介绍  210
查看详情
其他版本 / 全部 (1)
系列丛书 / 更多
Spark快速大数据分析
机器学习实战
[美]Peter Harrington 著;李锐、李鹏、曲亚东 译
Spark快速大数据分析
图灵程序设计丛书:Python基础教程
[挪威]Magnus Lie Hetland 著;司维、曾军崴、谭颖华 译
Spark快速大数据分析
JavaScript高级程序设计(第3版)
[美]Nicholas C.Zakas 著;李松峰、曹力 译
Spark快速大数据分析
Python编程:从入门到实践
[美]埃里克·马瑟斯(Eric Matthes) 著;袁国忠 译
Spark快速大数据分析
R语言实战(第2版)
[美]卡巴科弗(Robert I. Kabacoff) 著;王小宁、刘撷芯、黄俊文 译
Spark快速大数据分析
大数据:互联网大规模数据挖掘与分布式处理
[美]Anand、[美]Jeffrey David Ullman 著;王斌 译
Spark快速大数据分析
算法(第4版)
[美]Robert、[美]Kevin Wayne 著;谢路云 译
Spark快速大数据分析
MySQL必知必会
[英]福塔(Ben Forta) 著;刘晓霞、钟鸣 译
Spark快速大数据分析
图解HTTP
[日]上野·宣 著;于均良 译
Spark快速大数据分析
Objective-C基础教程 第2版
[美]Scott、[美]Waqar、[美]Mark Dalrymple 著;周庆成 译
Spark快速大数据分析
算法图解
袁国忠 译
Spark快速大数据分析
挑战程序设计竞赛
秋叶拓哉、岩田阳一、北川宜稔 著;巫泽俊、庄俊元、李津羽 译
相关图书 / 更多
Spark快速大数据分析
Spring Framework6开发实战 Spring+Spring Web MVC+MyBatis
肖海鹏、耿卫江、王荣芝、张天怡、张志慧
Spark快速大数据分析
Spark大数据分析
作者
Spark快速大数据分析
Spark入门与大数据分析实战
迟殿委 李超
Spark快速大数据分析
Spark大数据开发(职业教育计算机系列教材)
唐春玲;周桥;陈小龙
Spark快速大数据分析
Spring Boot+Vue前后端分离项目全栈开发实战
唐文
Spark快速大数据分析
Spring快速入门到精通
明日科技 编著
Spark快速大数据分析
Spring Boot 3.0开发实战
李西明;陈立为
Spark快速大数据分析
Spark分布式处理实战
刘均 王璐烽
Spark快速大数据分析
Spring Security原理与实战:构建安全可靠的微服务
邹炎
Spark快速大数据分析
Spark原理深入与编程实战(微课视频版)
辛立伟;张帆;张会娟
Spark快速大数据分析
Spring Cloud Alibaba大型微服务架构项目实战(上册)
十三 著
Spark快速大数据分析
Spring Boot 3 +Vue 3开发实战
朱建昕
您可能感兴趣 / 更多
Spark快速大数据分析
亚拉山大的读心术(数学大师的逻辑课) 伦理学、逻辑学 [美]雷蒙德·m.斯穆里安(raymondm.smullyan)
[美]雷蒙德·m.斯穆里安(raymondm.smullyan)
Spark快速大数据分析
纳博科夫精选集第五辑
[美]弗拉基米尔·纳博科夫著
Spark快速大数据分析
九桃盘(美国二十世纪重要女诗人玛丽安·摩尔诗歌精选集,由知名女诗人和女性诗学研究者倪志娟倾情翻译)
[美]玛丽安•摩尔
Spark快速大数据分析
全新正版图书 制造德·戴维尼浙江教育出版社9787572276880
[美]理查德·戴维尼
Spark快速大数据分析
血泪之泣
[美]希瑟·丘·麦克亚当
Spark快速大数据分析
小学生趣味心理学(培养执行技能的40个练习,发展共情能力的46个练习,学会应对焦虑的40个练习 共3册) (美)莎伦·格兰德 王佳妮译
[美]莎伦·格兰德(sharon grand)
Spark快速大数据分析
(当代学术棱镜译丛)艺术批评入门:历史、策略与声音
[美]克尔·休斯顿
Spark快速大数据分析
金钱游戏(划时代增订版):深层透析金融游戏表象之下的规则与黑箱 长达60年盘踞金融畅销榜的现象级作品
[美]亚当·史密斯(Adam Smith) 著;刘寅龙 译
Spark快速大数据分析
矿王谷的黎明:塞拉俱乐部诉莫顿案与美国环境法的转变(精装典藏版)
[美]丹尼尔·P.塞尔米,(Daniel,P.Selmi)
Spark快速大数据分析
体式神话:瑜伽传统故事精粹(第二版) (从30个体式古老起源中汲取灵感与力量,内附精美插图)
[美]阿兰娜·凯瓦娅(Alanna Kaivalya)[荷]阿诸那·范德·库伊(Arjuna van der Kooij)
Spark快速大数据分析
诺奖作家给孩子的阅读课·生命教育(3-9年级,莫言余华的文学启蒙,垫高阅读起点,提升作文能力)
[美]海明威等
Spark快速大数据分析
蚯蚓的日记(全4册)【平装版】
[美]朵琳·克罗宁