Spark快速大数据分析

Spark快速大数据分析
分享
扫描下方二维码分享到微信
打开微信,点击右上角”+“,
使用”扫一扫“即可将网页分享到朋友圈。
作者: [美] (Holden Karau) , [美] (Andy Konwinski) , [美] (Patrick Wendell) , [加拿大] (Matei Zaharia) ,
2015-09
版次: 1
ISBN: 9787115403094
定价: 59.00
装帧: 平装
开本: 16开
纸张: 胶版纸
页数: 210页
字数: 343千字
正文语种: 简体中文
原版书名: Learning Spark: Lightning-Fast Big Data Analysis
401人买过
  •   《Spark快速大数据分析》由 Spark 开发者及核心成员共同打造,讲解了网络大数据时代应运而生的、能高效迅捷地分析处理数据的工具——Spark,它带领读者快速掌握用 Spark 收集、计算、简化和保存海量数据的方法,学会交互、迭代和增量式分析,解决分区、数据本地化和自定义序列化等问题。
      Holden Karau,是Databricks的软件开发工程师,活跃于开源社区。她还著有《Spark快速数据处理》。

      Andy Konwinski,是Databricks联合创始人,Apache Spark项目技术专家,还是Apache Mesos项目的联合发起人。

      Patrick Wendell,是Databricks联合创始人,也是Apache Spark项目技术专家。他还负责维护Spark核心引擎的几个子系统。

      Matei Zaharia,是Databricks的CTO,同时也是Apache Spark项目发起人以及Apache基金会副主席。
    推荐序  xi
    译者序  xiv
    序  xvi
    前言  xvii
    第1章 Spark数据分析导论  1
    1.1 Spark是什么  1
    1.2 一个大一统的软件栈  2
    1.2.1 Spark Core  2
    1.2.2 Spark SQL  3
    1.2.3 Spark Streaming  3
    1.2.4 MLlib  3
    1.2.5 GraphX  3
    1.2.6 集群管理器  4
    1.3 Spark的用户和用途  4
    1.3.1 数据科学任务  4
    1.3.2 数据处理应用  5
    1.4 Spark简史  5
    1.5 Spark的版本和发布  6
    1.6 Spark的存储层次  6
    第2章 Spark下载与入门  7
    2.1 下载Spark  7
    2.2 Spark中Python和Scala的shell  9
    2.3 Spark 核心概念简介  12
    2.4 独立应用  14
    2.4.1 初始化SparkContext  15
    2.4.2 构建独立应用  16
    2.5 总结  19
    第3章 RDD编程  21
    3.1 RDD基础  21
    3.2 创建RDD  23
    3.3 RDD操作  24
    3.3.1 转化操作  24
    3.3.2 行动操作  26
    3.3.3 惰性求值  27
    3.4 向Spark传递函数  27
    3.4.1 Python  27
    3.4.2 Scala  28
    3.4.3 Java  29
    3.5 常见的转化操作和行动操作  30
    3.5.1 基本RDD  30
    3.5.2 在不同RDD类型间转换  37
    3.6 持久化( 缓存)  39
    3.7 总结  40
    第4章 键值对操作  41
    4.1 动机  41
    4.2 创建Pair RDD  42
    4.3 Pair RDD的转化操作  42
    4.3.1 聚合操作  45
    4.3.2 数据分组  49
    4.3.3 连接  50
    4.3.4 数据排序  51
    4.4 Pair RDD的行动操作  52
    4.5 数据分区(进阶)  52
    4.5.1 获取RDD的分区方式  55
    4.5.2 从分区中获益的操作  56
    4.5.3 影响分区方式的操作  57
    4.5.4 示例:PageRank  57
    4.5.5 自定义分区方式  59
    4.6 总结  61
    第5章 数据读取与保存  63
    5.1 动机  63
    5.2 文件格式  64
    5.2.1 文本文件  64
    5.2.2 JSON  66
    5.2.3 逗号分隔值与制表符分隔值  68
    5.2.4 SequenceFile  71
    5.2.5 对象文件  73
    5.2.6 Hadoop输入输出格式  73
    5.2.7 文件压缩  77
    5.3 文件系统  78
    5.3.1 本地/“常规”文件系统  78
    5.3.2 Amazon S3  78
    5.3.3 HDFS  79
    5.4 Spark SQL中的结构化数据  79
    5.4.1 Apache Hive  80
    5.4.2 JSON  80
    5.5 数据库  81
    5.5.1 Java数据库连接  81
    5.5.2 Cassandra  82
    5.5.3 HBase  84
    5.5.4 Elasticsearch  85
    5.6 总结  86
    第6章 Spark编程进阶  87
    6.1 简介  87
    6.2 累加器  88
    6.2.1 累加器与容错性  90
    6.2.2 自定义累加器  91
    6.3 广播变量  91
    6.4 基于分区进行操作  94
    6.5 与外部程序间的管道  96
    6.6 数值RDD 的操作  99
    6.7 总结  100
    第7章 在集群上运行Spark  101
    7.1 简介  101
    7.2 Spark运行时架构  101
    7.2.1 驱动器节点  102
    7.2.2 执行器节点  103
    7.2.3 集群管理器  103
    7.2.4 启动一个程序  104
    7.2.5 小结  104
    7.3 使用spark-submit 部署应用  105
    7.4 打包代码与依赖  107
    7.4.1 使用Maven构建的用Java编写的Spark应用  108
    7.4.2 使用sbt构建的用Scala编写的Spark应用  109
    7.4.3 依赖冲突   111
    7.5 Spark应用内与应用间调度  111
    7.6 集群管理器  112
    7.6.1 独立集群管理器  112
    7.6.2 Hadoop YARN  115
    7.6.3 Apache Mesos  116
    7.6.4 Amazon EC2  117
    7.7 选择合适的集群管理器  120
    7.8 总结  121
    第8章 Spark调优与调试  123
    8.1 使用SparkConf配置Spark  123
    8.2 Spark执行的组成部分:作业、任务和步骤  127
    8.3 查找信息  131
    8.3.1 Spark网页用户界面  131
    8.3.2 驱动器进程和执行器进程的日志  134
    8.4 关键性能考量  135
    8.4.1 并行度  135
    8.4.2 序列化格式  136
    8.4.3 内存管理  137
    8.4.4 硬件供给  138
    8.5 总结  139
    第9章 Spark SQL  141
    9.1 连接Spark SQL  142
    9.2 在应用中使用Spark SQL  144
    9.2.1 初始化Spark SQL  144
    9.2.2 基本查询示例  145
    9.2.3 SchemaRDD  146
    9.2.4 缓存  148
    9.3 读取和存储数据  149
    9.3.1 Apache Hive  149
    9.3.2 Parquet  150
    9.3.3 JSON  150
    9.3.4 基于RDD  152
    9.4 JDBC/ODBC服务器  153
    9.4.1 使用Beeline  155
    9.4.2 长生命周期的表与查询  156
    9.5 用户自定义函数  156
    9.5.1 Spark SQL UDF  156
    9.5.2 Hive UDF  157
    9.6 Spark SQL性能  158
    9.7 总结  159
    第10章 Spark Streaming  161
    10.1 一个简单的例子  162
    10.2 架构与抽象  164
    10.3 转化操作  167
    10.3.1 无状态转化操作  167
    10.3.2 有状态转化操作  169
    10.4 输出操作  173
    10.5 输入源  175
    10.5.1 核心数据源  175
    10.5.2 附加数据源  176
    10.5.3 多数据源与集群规模  179
    10.6 24/7不间断运行  180
    10.6.1 检查点机制  180
    10.6.2 驱动器程序容错  181
    10.6.3 工作节点容错  182
    10.6.4 接收器容错  182
    10.6.5 处理保证  183
    10.7 Streaming用户界面  183
    10.8 性能考量  184
    10.8.1 批次和窗口大小  184
    10.8.2 并行度  184
    10.8.3 垃圾回收和内存使用  185
    10.9 总结  185
    第11章 基于MLlib的机器学习  187
    11.1 概述  187
    11.2 系统要求  188
    11.3 机器学习基础  189
    11.4 数据类型  192
    11.5 算法  194
    11.5.1 特征提取  194
    11.5.2 统计  196
    11.5.3 分类与回归  197
    11.5.4 聚类  202
    11.5.5 协同过滤与推荐  203
    11.5.6 降维  204
    11.5.7 模型评估  206
    11.6 一些提示与性能考量  206
    11.6.1 准备特征  206
    11.6.2 配置算法  207
    11.6.3 缓存RDD以重复使用  207
    11.6.4 识别稀疏程度  207
    11.6.5 并行度  207
    11.7 流水线API  208
    11.8 总结  209
    作者简介  210
    封面介绍  210
  • 内容简介:
      《Spark快速大数据分析》由 Spark 开发者及核心成员共同打造,讲解了网络大数据时代应运而生的、能高效迅捷地分析处理数据的工具——Spark,它带领读者快速掌握用 Spark 收集、计算、简化和保存海量数据的方法,学会交互、迭代和增量式分析,解决分区、数据本地化和自定义序列化等问题。
  • 作者简介:
      Holden Karau,是Databricks的软件开发工程师,活跃于开源社区。她还著有《Spark快速数据处理》。

      Andy Konwinski,是Databricks联合创始人,Apache Spark项目技术专家,还是Apache Mesos项目的联合发起人。

      Patrick Wendell,是Databricks联合创始人,也是Apache Spark项目技术专家。他还负责维护Spark核心引擎的几个子系统。

      Matei Zaharia,是Databricks的CTO,同时也是Apache Spark项目发起人以及Apache基金会副主席。
  • 目录:
    推荐序  xi
    译者序  xiv
    序  xvi
    前言  xvii
    第1章 Spark数据分析导论  1
    1.1 Spark是什么  1
    1.2 一个大一统的软件栈  2
    1.2.1 Spark Core  2
    1.2.2 Spark SQL  3
    1.2.3 Spark Streaming  3
    1.2.4 MLlib  3
    1.2.5 GraphX  3
    1.2.6 集群管理器  4
    1.3 Spark的用户和用途  4
    1.3.1 数据科学任务  4
    1.3.2 数据处理应用  5
    1.4 Spark简史  5
    1.5 Spark的版本和发布  6
    1.6 Spark的存储层次  6
    第2章 Spark下载与入门  7
    2.1 下载Spark  7
    2.2 Spark中Python和Scala的shell  9
    2.3 Spark 核心概念简介  12
    2.4 独立应用  14
    2.4.1 初始化SparkContext  15
    2.4.2 构建独立应用  16
    2.5 总结  19
    第3章 RDD编程  21
    3.1 RDD基础  21
    3.2 创建RDD  23
    3.3 RDD操作  24
    3.3.1 转化操作  24
    3.3.2 行动操作  26
    3.3.3 惰性求值  27
    3.4 向Spark传递函数  27
    3.4.1 Python  27
    3.4.2 Scala  28
    3.4.3 Java  29
    3.5 常见的转化操作和行动操作  30
    3.5.1 基本RDD  30
    3.5.2 在不同RDD类型间转换  37
    3.6 持久化( 缓存)  39
    3.7 总结  40
    第4章 键值对操作  41
    4.1 动机  41
    4.2 创建Pair RDD  42
    4.3 Pair RDD的转化操作  42
    4.3.1 聚合操作  45
    4.3.2 数据分组  49
    4.3.3 连接  50
    4.3.4 数据排序  51
    4.4 Pair RDD的行动操作  52
    4.5 数据分区(进阶)  52
    4.5.1 获取RDD的分区方式  55
    4.5.2 从分区中获益的操作  56
    4.5.3 影响分区方式的操作  57
    4.5.4 示例:PageRank  57
    4.5.5 自定义分区方式  59
    4.6 总结  61
    第5章 数据读取与保存  63
    5.1 动机  63
    5.2 文件格式  64
    5.2.1 文本文件  64
    5.2.2 JSON  66
    5.2.3 逗号分隔值与制表符分隔值  68
    5.2.4 SequenceFile  71
    5.2.5 对象文件  73
    5.2.6 Hadoop输入输出格式  73
    5.2.7 文件压缩  77
    5.3 文件系统  78
    5.3.1 本地/“常规”文件系统  78
    5.3.2 Amazon S3  78
    5.3.3 HDFS  79
    5.4 Spark SQL中的结构化数据  79
    5.4.1 Apache Hive  80
    5.4.2 JSON  80
    5.5 数据库  81
    5.5.1 Java数据库连接  81
    5.5.2 Cassandra  82
    5.5.3 HBase  84
    5.5.4 Elasticsearch  85
    5.6 总结  86
    第6章 Spark编程进阶  87
    6.1 简介  87
    6.2 累加器  88
    6.2.1 累加器与容错性  90
    6.2.2 自定义累加器  91
    6.3 广播变量  91
    6.4 基于分区进行操作  94
    6.5 与外部程序间的管道  96
    6.6 数值RDD 的操作  99
    6.7 总结  100
    第7章 在集群上运行Spark  101
    7.1 简介  101
    7.2 Spark运行时架构  101
    7.2.1 驱动器节点  102
    7.2.2 执行器节点  103
    7.2.3 集群管理器  103
    7.2.4 启动一个程序  104
    7.2.5 小结  104
    7.3 使用spark-submit 部署应用  105
    7.4 打包代码与依赖  107
    7.4.1 使用Maven构建的用Java编写的Spark应用  108
    7.4.2 使用sbt构建的用Scala编写的Spark应用  109
    7.4.3 依赖冲突   111
    7.5 Spark应用内与应用间调度  111
    7.6 集群管理器  112
    7.6.1 独立集群管理器  112
    7.6.2 Hadoop YARN  115
    7.6.3 Apache Mesos  116
    7.6.4 Amazon EC2  117
    7.7 选择合适的集群管理器  120
    7.8 总结  121
    第8章 Spark调优与调试  123
    8.1 使用SparkConf配置Spark  123
    8.2 Spark执行的组成部分:作业、任务和步骤  127
    8.3 查找信息  131
    8.3.1 Spark网页用户界面  131
    8.3.2 驱动器进程和执行器进程的日志  134
    8.4 关键性能考量  135
    8.4.1 并行度  135
    8.4.2 序列化格式  136
    8.4.3 内存管理  137
    8.4.4 硬件供给  138
    8.5 总结  139
    第9章 Spark SQL  141
    9.1 连接Spark SQL  142
    9.2 在应用中使用Spark SQL  144
    9.2.1 初始化Spark SQL  144
    9.2.2 基本查询示例  145
    9.2.3 SchemaRDD  146
    9.2.4 缓存  148
    9.3 读取和存储数据  149
    9.3.1 Apache Hive  149
    9.3.2 Parquet  150
    9.3.3 JSON  150
    9.3.4 基于RDD  152
    9.4 JDBC/ODBC服务器  153
    9.4.1 使用Beeline  155
    9.4.2 长生命周期的表与查询  156
    9.5 用户自定义函数  156
    9.5.1 Spark SQL UDF  156
    9.5.2 Hive UDF  157
    9.6 Spark SQL性能  158
    9.7 总结  159
    第10章 Spark Streaming  161
    10.1 一个简单的例子  162
    10.2 架构与抽象  164
    10.3 转化操作  167
    10.3.1 无状态转化操作  167
    10.3.2 有状态转化操作  169
    10.4 输出操作  173
    10.5 输入源  175
    10.5.1 核心数据源  175
    10.5.2 附加数据源  176
    10.5.3 多数据源与集群规模  179
    10.6 24/7不间断运行  180
    10.6.1 检查点机制  180
    10.6.2 驱动器程序容错  181
    10.6.3 工作节点容错  182
    10.6.4 接收器容错  182
    10.6.5 处理保证  183
    10.7 Streaming用户界面  183
    10.8 性能考量  184
    10.8.1 批次和窗口大小  184
    10.8.2 并行度  184
    10.8.3 垃圾回收和内存使用  185
    10.9 总结  185
    第11章 基于MLlib的机器学习  187
    11.1 概述  187
    11.2 系统要求  188
    11.3 机器学习基础  189
    11.4 数据类型  192
    11.5 算法  194
    11.5.1 特征提取  194
    11.5.2 统计  196
    11.5.3 分类与回归  197
    11.5.4 聚类  202
    11.5.5 协同过滤与推荐  203
    11.5.6 降维  204
    11.5.7 模型评估  206
    11.6 一些提示与性能考量  206
    11.6.1 准备特征  206
    11.6.2 配置算法  207
    11.6.3 缓存RDD以重复使用  207
    11.6.4 识别稀疏程度  207
    11.6.5 并行度  207
    11.7 流水线API  208
    11.8 总结  209
    作者简介  210
    封面介绍  210
查看详情
其他版本 / 全部 (1)
系列丛书 / 更多
Spark快速大数据分析
机器学习实战
[美]Peter Harrington 著;李锐、李鹏、曲亚东 译
Spark快速大数据分析
图灵程序设计丛书:Python基础教程
[挪威]Magnus Lie Hetland 著;司维、曾军崴、谭颖华 译
Spark快速大数据分析
JavaScript高级程序设计(第3版)
[美]Nicholas C.Zakas 著;李松峰、曹力 译
Spark快速大数据分析
Python编程:从入门到实践
[美]埃里克·马瑟斯(Eric Matthes) 著;袁国忠 译
Spark快速大数据分析
R语言实战(第2版)
[美]卡巴科弗(Robert I. Kabacoff) 著;王小宁、刘撷芯、黄俊文 译
Spark快速大数据分析
大数据:互联网大规模数据挖掘与分布式处理
[美]Anand、[美]Jeffrey David Ullman 著;王斌 译
Spark快速大数据分析
算法(第4版)
[美]Robert、[美]Kevin Wayne 著;谢路云 译
Spark快速大数据分析
MySQL必知必会
[英]福塔(Ben Forta) 著;刘晓霞、钟鸣 译
Spark快速大数据分析
图解HTTP
[日]上野·宣 著;于均良 译
Spark快速大数据分析
Objective-C基础教程 第2版
[美]Scott、[美]Waqar、[美]Mark Dalrymple 著;周庆成 译
Spark快速大数据分析
算法图解
袁国忠 译
Spark快速大数据分析
挑战程序设计竞赛
秋叶拓哉、岩田阳一、北川宜稔 著;巫泽俊、庄俊元、李津羽 译
相关图书 / 更多
Spark快速大数据分析
Spring Framework6开发实战 Spring+Spring Web MVC+MyBatis
肖海鹏、耿卫江、王荣芝、张天怡、张志慧
Spark快速大数据分析
Spark大数据分析
作者
Spark快速大数据分析
Spark入门与大数据分析实战
迟殿委 李超
Spark快速大数据分析
Spark大数据开发(职业教育计算机系列教材)
唐春玲;周桥;陈小龙
Spark快速大数据分析
Spring Boot+Vue前后端分离项目全栈开发实战
唐文
Spark快速大数据分析
Spring快速入门到精通
明日科技 编著
Spark快速大数据分析
Spring Boot 3.0开发实战
李西明;陈立为
Spark快速大数据分析
Spark分布式处理实战
刘均 王璐烽
Spark快速大数据分析
Spring Security原理与实战:构建安全可靠的微服务
邹炎
Spark快速大数据分析
Spark原理深入与编程实战(微课视频版)
辛立伟;张帆;张会娟
Spark快速大数据分析
Spring Cloud Alibaba大型微服务架构项目实战(上册)
十三 著
Spark快速大数据分析
Spring Boot 3 +Vue 3开发实战
朱建昕
您可能感兴趣 / 更多
Spark快速大数据分析
争吵的恋人:我们为什么相爱,又为什么争吵
[美]约翰·金,[美]瓦妮莎·贝内特
Spark快速大数据分析
蒙特卡洛的密码锁(数学大师的逻辑课) 文教科普读物 [美]雷蒙德·m.斯穆里安(raymondm.smullyan)
[美]雷蒙德·m.斯穆里安(raymondm.smullyan)
Spark快速大数据分析
全新正版图书 新任管理者快速成长蕾切尔·帕切科浙江教育出版社9787572277214
[美]蕾切尔· 帕切科
Spark快速大数据分析
《生命大设计.重构》(关于“生命创造现实”这一惊人事实,独特且完整的科学探索与哲学诠释)
[美]鲍勃·伯曼 著;杨泓 译;[美]罗伯特·兰札;马泰·帕夫希奇(斯洛文尼亚)
Spark快速大数据分析
杰出投资者的底层认知:成功投资与明智创富的10个茅塞顿开之问(《聪明的投资者》新时代精华版)
[美]J.戴维·斯坦恩(J.David Stein) 著;刘寅龙 译;庞鑫
Spark快速大数据分析
浴缸里的海洋
[美]塞思·菲什曼
Spark快速大数据分析
新视界文库-生命故事:生物学上的伟大发现
[美]肖恩·B.卡罗尔
Spark快速大数据分析
洛丽塔原型:小说《洛丽塔》背后的萨莉?霍纳绑架案
[美]萨拉·魏恩曼 著;真故图书 出品
Spark快速大数据分析
托尔斯泰
[美]莉莎·克纳普(Liza Knapp)
Spark快速大数据分析
奇迹之门 《纽约时报》畅销书作家写给孩子的一封“成长家书”。让父母的爱与肯定,成为孩子探索世界的底气。拥抱成长的不确定性,打开通向无限可能的“奇迹之门”。
[美]艾莉森·麦基/文 (美) 柳泰恩 图
Spark快速大数据分析
全球通史(全六册)(另一个角度的“全球通史”,不一样的视野与新知。以地理为骨,历史为肉,一部超级丰满的世界通史。)
[美]塞缪尔·古德里奇 译者:冷惠玲、冯佳娜、王小忠、孙丽霞、李江艳
Spark快速大数据分析
《星际争霸》动画影像艺术
[美]罗伯特·布鲁克斯