Spark快速大数据分析

Spark快速大数据分析
分享
扫描下方二维码分享到微信
打开微信,点击右上角”+“,
使用”扫一扫“即可将网页分享到朋友圈。
作者: [美] (Holden Karau) , [美] (Andy Konwinski) , [美] (Patrick Wendell) , [加拿大] (Matei Zaharia) ,
2015-09
版次: 1
ISBN: 9787115403094
定价: 59.00
装帧: 平装
开本: 16开
纸张: 胶版纸
页数: 210页
字数: 343千字
正文语种: 简体中文
原版书名: Learning Spark: Lightning-Fast Big Data Analysis
398人买过
  •   《Spark快速大数据分析》由 Spark 开发者及核心成员共同打造,讲解了网络大数据时代应运而生的、能高效迅捷地分析处理数据的工具——Spark,它带领读者快速掌握用 Spark 收集、计算、简化和保存海量数据的方法,学会交互、迭代和增量式分析,解决分区、数据本地化和自定义序列化等问题。
      Holden Karau,是Databricks的软件开发工程师,活跃于开源社区。她还著有《Spark快速数据处理》。

      Andy Konwinski,是Databricks联合创始人,Apache Spark项目技术专家,还是Apache Mesos项目的联合发起人。

      Patrick Wendell,是Databricks联合创始人,也是Apache Spark项目技术专家。他还负责维护Spark核心引擎的几个子系统。

      Matei Zaharia,是Databricks的CTO,同时也是Apache Spark项目发起人以及Apache基金会副主席。
    推荐序  xi
    译者序  xiv
    序  xvi
    前言  xvii
    第1章 Spark数据分析导论  1
    1.1 Spark是什么  1
    1.2 一个大一统的软件栈  2
    1.2.1 Spark Core  2
    1.2.2 Spark SQL  3
    1.2.3 Spark Streaming  3
    1.2.4 MLlib  3
    1.2.5 GraphX  3
    1.2.6 集群管理器  4
    1.3 Spark的用户和用途  4
    1.3.1 数据科学任务  4
    1.3.2 数据处理应用  5
    1.4 Spark简史  5
    1.5 Spark的版本和发布  6
    1.6 Spark的存储层次  6
    第2章 Spark下载与入门  7
    2.1 下载Spark  7
    2.2 Spark中Python和Scala的shell  9
    2.3 Spark 核心概念简介  12
    2.4 独立应用  14
    2.4.1 初始化SparkContext  15
    2.4.2 构建独立应用  16
    2.5 总结  19
    第3章 RDD编程  21
    3.1 RDD基础  21
    3.2 创建RDD  23
    3.3 RDD操作  24
    3.3.1 转化操作  24
    3.3.2 行动操作  26
    3.3.3 惰性求值  27
    3.4 向Spark传递函数  27
    3.4.1 Python  27
    3.4.2 Scala  28
    3.4.3 Java  29
    3.5 常见的转化操作和行动操作  30
    3.5.1 基本RDD  30
    3.5.2 在不同RDD类型间转换  37
    3.6 持久化( 缓存)  39
    3.7 总结  40
    第4章 键值对操作  41
    4.1 动机  41
    4.2 创建Pair RDD  42
    4.3 Pair RDD的转化操作  42
    4.3.1 聚合操作  45
    4.3.2 数据分组  49
    4.3.3 连接  50
    4.3.4 数据排序  51
    4.4 Pair RDD的行动操作  52
    4.5 数据分区(进阶)  52
    4.5.1 获取RDD的分区方式  55
    4.5.2 从分区中获益的操作  56
    4.5.3 影响分区方式的操作  57
    4.5.4 示例:PageRank  57
    4.5.5 自定义分区方式  59
    4.6 总结  61
    第5章 数据读取与保存  63
    5.1 动机  63
    5.2 文件格式  64
    5.2.1 文本文件  64
    5.2.2 JSON  66
    5.2.3 逗号分隔值与制表符分隔值  68
    5.2.4 SequenceFile  71
    5.2.5 对象文件  73
    5.2.6 Hadoop输入输出格式  73
    5.2.7 文件压缩  77
    5.3 文件系统  78
    5.3.1 本地/“常规”文件系统  78
    5.3.2 Amazon S3  78
    5.3.3 HDFS  79
    5.4 Spark SQL中的结构化数据  79
    5.4.1 Apache Hive  80
    5.4.2 JSON  80
    5.5 数据库  81
    5.5.1 Java数据库连接  81
    5.5.2 Cassandra  82
    5.5.3 HBase  84
    5.5.4 Elasticsearch  85
    5.6 总结  86
    第6章 Spark编程进阶  87
    6.1 简介  87
    6.2 累加器  88
    6.2.1 累加器与容错性  90
    6.2.2 自定义累加器  91
    6.3 广播变量  91
    6.4 基于分区进行操作  94
    6.5 与外部程序间的管道  96
    6.6 数值RDD 的操作  99
    6.7 总结  100
    第7章 在集群上运行Spark  101
    7.1 简介  101
    7.2 Spark运行时架构  101
    7.2.1 驱动器节点  102
    7.2.2 执行器节点  103
    7.2.3 集群管理器  103
    7.2.4 启动一个程序  104
    7.2.5 小结  104
    7.3 使用spark-submit 部署应用  105
    7.4 打包代码与依赖  107
    7.4.1 使用Maven构建的用Java编写的Spark应用  108
    7.4.2 使用sbt构建的用Scala编写的Spark应用  109
    7.4.3 依赖冲突   111
    7.5 Spark应用内与应用间调度  111
    7.6 集群管理器  112
    7.6.1 独立集群管理器  112
    7.6.2 Hadoop YARN  115
    7.6.3 Apache Mesos  116
    7.6.4 Amazon EC2  117
    7.7 选择合适的集群管理器  120
    7.8 总结  121
    第8章 Spark调优与调试  123
    8.1 使用SparkConf配置Spark  123
    8.2 Spark执行的组成部分:作业、任务和步骤  127
    8.3 查找信息  131
    8.3.1 Spark网页用户界面  131
    8.3.2 驱动器进程和执行器进程的日志  134
    8.4 关键性能考量  135
    8.4.1 并行度  135
    8.4.2 序列化格式  136
    8.4.3 内存管理  137
    8.4.4 硬件供给  138
    8.5 总结  139
    第9章 Spark SQL  141
    9.1 连接Spark SQL  142
    9.2 在应用中使用Spark SQL  144
    9.2.1 初始化Spark SQL  144
    9.2.2 基本查询示例  145
    9.2.3 SchemaRDD  146
    9.2.4 缓存  148
    9.3 读取和存储数据  149
    9.3.1 Apache Hive  149
    9.3.2 Parquet  150
    9.3.3 JSON  150
    9.3.4 基于RDD  152
    9.4 JDBC/ODBC服务器  153
    9.4.1 使用Beeline  155
    9.4.2 长生命周期的表与查询  156
    9.5 用户自定义函数  156
    9.5.1 Spark SQL UDF  156
    9.5.2 Hive UDF  157
    9.6 Spark SQL性能  158
    9.7 总结  159
    第10章 Spark Streaming  161
    10.1 一个简单的例子  162
    10.2 架构与抽象  164
    10.3 转化操作  167
    10.3.1 无状态转化操作  167
    10.3.2 有状态转化操作  169
    10.4 输出操作  173
    10.5 输入源  175
    10.5.1 核心数据源  175
    10.5.2 附加数据源  176
    10.5.3 多数据源与集群规模  179
    10.6 24/7不间断运行  180
    10.6.1 检查点机制  180
    10.6.2 驱动器程序容错  181
    10.6.3 工作节点容错  182
    10.6.4 接收器容错  182
    10.6.5 处理保证  183
    10.7 Streaming用户界面  183
    10.8 性能考量  184
    10.8.1 批次和窗口大小  184
    10.8.2 并行度  184
    10.8.3 垃圾回收和内存使用  185
    10.9 总结  185
    第11章 基于MLlib的机器学习  187
    11.1 概述  187
    11.2 系统要求  188
    11.3 机器学习基础  189
    11.4 数据类型  192
    11.5 算法  194
    11.5.1 特征提取  194
    11.5.2 统计  196
    11.5.3 分类与回归  197
    11.5.4 聚类  202
    11.5.5 协同过滤与推荐  203
    11.5.6 降维  204
    11.5.7 模型评估  206
    11.6 一些提示与性能考量  206
    11.6.1 准备特征  206
    11.6.2 配置算法  207
    11.6.3 缓存RDD以重复使用  207
    11.6.4 识别稀疏程度  207
    11.6.5 并行度  207
    11.7 流水线API  208
    11.8 总结  209
    作者简介  210
    封面介绍  210
  • 内容简介:
      《Spark快速大数据分析》由 Spark 开发者及核心成员共同打造,讲解了网络大数据时代应运而生的、能高效迅捷地分析处理数据的工具——Spark,它带领读者快速掌握用 Spark 收集、计算、简化和保存海量数据的方法,学会交互、迭代和增量式分析,解决分区、数据本地化和自定义序列化等问题。
  • 作者简介:
      Holden Karau,是Databricks的软件开发工程师,活跃于开源社区。她还著有《Spark快速数据处理》。

      Andy Konwinski,是Databricks联合创始人,Apache Spark项目技术专家,还是Apache Mesos项目的联合发起人。

      Patrick Wendell,是Databricks联合创始人,也是Apache Spark项目技术专家。他还负责维护Spark核心引擎的几个子系统。

      Matei Zaharia,是Databricks的CTO,同时也是Apache Spark项目发起人以及Apache基金会副主席。
  • 目录:
    推荐序  xi
    译者序  xiv
    序  xvi
    前言  xvii
    第1章 Spark数据分析导论  1
    1.1 Spark是什么  1
    1.2 一个大一统的软件栈  2
    1.2.1 Spark Core  2
    1.2.2 Spark SQL  3
    1.2.3 Spark Streaming  3
    1.2.4 MLlib  3
    1.2.5 GraphX  3
    1.2.6 集群管理器  4
    1.3 Spark的用户和用途  4
    1.3.1 数据科学任务  4
    1.3.2 数据处理应用  5
    1.4 Spark简史  5
    1.5 Spark的版本和发布  6
    1.6 Spark的存储层次  6
    第2章 Spark下载与入门  7
    2.1 下载Spark  7
    2.2 Spark中Python和Scala的shell  9
    2.3 Spark 核心概念简介  12
    2.4 独立应用  14
    2.4.1 初始化SparkContext  15
    2.4.2 构建独立应用  16
    2.5 总结  19
    第3章 RDD编程  21
    3.1 RDD基础  21
    3.2 创建RDD  23
    3.3 RDD操作  24
    3.3.1 转化操作  24
    3.3.2 行动操作  26
    3.3.3 惰性求值  27
    3.4 向Spark传递函数  27
    3.4.1 Python  27
    3.4.2 Scala  28
    3.4.3 Java  29
    3.5 常见的转化操作和行动操作  30
    3.5.1 基本RDD  30
    3.5.2 在不同RDD类型间转换  37
    3.6 持久化( 缓存)  39
    3.7 总结  40
    第4章 键值对操作  41
    4.1 动机  41
    4.2 创建Pair RDD  42
    4.3 Pair RDD的转化操作  42
    4.3.1 聚合操作  45
    4.3.2 数据分组  49
    4.3.3 连接  50
    4.3.4 数据排序  51
    4.4 Pair RDD的行动操作  52
    4.5 数据分区(进阶)  52
    4.5.1 获取RDD的分区方式  55
    4.5.2 从分区中获益的操作  56
    4.5.3 影响分区方式的操作  57
    4.5.4 示例:PageRank  57
    4.5.5 自定义分区方式  59
    4.6 总结  61
    第5章 数据读取与保存  63
    5.1 动机  63
    5.2 文件格式  64
    5.2.1 文本文件  64
    5.2.2 JSON  66
    5.2.3 逗号分隔值与制表符分隔值  68
    5.2.4 SequenceFile  71
    5.2.5 对象文件  73
    5.2.6 Hadoop输入输出格式  73
    5.2.7 文件压缩  77
    5.3 文件系统  78
    5.3.1 本地/“常规”文件系统  78
    5.3.2 Amazon S3  78
    5.3.3 HDFS  79
    5.4 Spark SQL中的结构化数据  79
    5.4.1 Apache Hive  80
    5.4.2 JSON  80
    5.5 数据库  81
    5.5.1 Java数据库连接  81
    5.5.2 Cassandra  82
    5.5.3 HBase  84
    5.5.4 Elasticsearch  85
    5.6 总结  86
    第6章 Spark编程进阶  87
    6.1 简介  87
    6.2 累加器  88
    6.2.1 累加器与容错性  90
    6.2.2 自定义累加器  91
    6.3 广播变量  91
    6.4 基于分区进行操作  94
    6.5 与外部程序间的管道  96
    6.6 数值RDD 的操作  99
    6.7 总结  100
    第7章 在集群上运行Spark  101
    7.1 简介  101
    7.2 Spark运行时架构  101
    7.2.1 驱动器节点  102
    7.2.2 执行器节点  103
    7.2.3 集群管理器  103
    7.2.4 启动一个程序  104
    7.2.5 小结  104
    7.3 使用spark-submit 部署应用  105
    7.4 打包代码与依赖  107
    7.4.1 使用Maven构建的用Java编写的Spark应用  108
    7.4.2 使用sbt构建的用Scala编写的Spark应用  109
    7.4.3 依赖冲突   111
    7.5 Spark应用内与应用间调度  111
    7.6 集群管理器  112
    7.6.1 独立集群管理器  112
    7.6.2 Hadoop YARN  115
    7.6.3 Apache Mesos  116
    7.6.4 Amazon EC2  117
    7.7 选择合适的集群管理器  120
    7.8 总结  121
    第8章 Spark调优与调试  123
    8.1 使用SparkConf配置Spark  123
    8.2 Spark执行的组成部分:作业、任务和步骤  127
    8.3 查找信息  131
    8.3.1 Spark网页用户界面  131
    8.3.2 驱动器进程和执行器进程的日志  134
    8.4 关键性能考量  135
    8.4.1 并行度  135
    8.4.2 序列化格式  136
    8.4.3 内存管理  137
    8.4.4 硬件供给  138
    8.5 总结  139
    第9章 Spark SQL  141
    9.1 连接Spark SQL  142
    9.2 在应用中使用Spark SQL  144
    9.2.1 初始化Spark SQL  144
    9.2.2 基本查询示例  145
    9.2.3 SchemaRDD  146
    9.2.4 缓存  148
    9.3 读取和存储数据  149
    9.3.1 Apache Hive  149
    9.3.2 Parquet  150
    9.3.3 JSON  150
    9.3.4 基于RDD  152
    9.4 JDBC/ODBC服务器  153
    9.4.1 使用Beeline  155
    9.4.2 长生命周期的表与查询  156
    9.5 用户自定义函数  156
    9.5.1 Spark SQL UDF  156
    9.5.2 Hive UDF  157
    9.6 Spark SQL性能  158
    9.7 总结  159
    第10章 Spark Streaming  161
    10.1 一个简单的例子  162
    10.2 架构与抽象  164
    10.3 转化操作  167
    10.3.1 无状态转化操作  167
    10.3.2 有状态转化操作  169
    10.4 输出操作  173
    10.5 输入源  175
    10.5.1 核心数据源  175
    10.5.2 附加数据源  176
    10.5.3 多数据源与集群规模  179
    10.6 24/7不间断运行  180
    10.6.1 检查点机制  180
    10.6.2 驱动器程序容错  181
    10.6.3 工作节点容错  182
    10.6.4 接收器容错  182
    10.6.5 处理保证  183
    10.7 Streaming用户界面  183
    10.8 性能考量  184
    10.8.1 批次和窗口大小  184
    10.8.2 并行度  184
    10.8.3 垃圾回收和内存使用  185
    10.9 总结  185
    第11章 基于MLlib的机器学习  187
    11.1 概述  187
    11.2 系统要求  188
    11.3 机器学习基础  189
    11.4 数据类型  192
    11.5 算法  194
    11.5.1 特征提取  194
    11.5.2 统计  196
    11.5.3 分类与回归  197
    11.5.4 聚类  202
    11.5.5 协同过滤与推荐  203
    11.5.6 降维  204
    11.5.7 模型评估  206
    11.6 一些提示与性能考量  206
    11.6.1 准备特征  206
    11.6.2 配置算法  207
    11.6.3 缓存RDD以重复使用  207
    11.6.4 识别稀疏程度  207
    11.6.5 并行度  207
    11.7 流水线API  208
    11.8 总结  209
    作者简介  210
    封面介绍  210
查看详情
其他版本 / 全部 (1)
系列丛书 / 更多
Spark快速大数据分析
机器学习实战
[美]Peter Harrington 著;李锐、李鹏、曲亚东 译
Spark快速大数据分析
图灵程序设计丛书:Python基础教程
[挪威]Magnus Lie Hetland 著;司维、曾军崴、谭颖华 译
Spark快速大数据分析
JavaScript高级程序设计(第3版)
[美]Nicholas C.Zakas 著;李松峰、曹力 译
Spark快速大数据分析
Python编程:从入门到实践
[美]埃里克·马瑟斯(Eric Matthes) 著;袁国忠 译
Spark快速大数据分析
R语言实战(第2版)
[美]卡巴科弗(Robert I. Kabacoff) 著;王小宁、刘撷芯、黄俊文 译
Spark快速大数据分析
算法(第4版)
[美]Robert、[美]Kevin Wayne 著;谢路云 译
Spark快速大数据分析
大数据:互联网大规模数据挖掘与分布式处理
[美]Anand、[美]Jeffrey David Ullman 著;王斌 译
Spark快速大数据分析
MySQL必知必会
[英]福塔(Ben Forta) 著;刘晓霞、钟鸣 译
Spark快速大数据分析
Objective-C基础教程 第2版
[美]Scott、[美]Waqar、[美]Mark Dalrymple 著;周庆成 译
Spark快速大数据分析
图解HTTP
[日]上野·宣 著;于均良 译
Spark快速大数据分析
算法图解
袁国忠 译
Spark快速大数据分析
挑战程序设计竞赛
秋叶拓哉、岩田阳一、北川宜稔 著;巫泽俊、庄俊元、李津羽 译
相关图书 / 更多
Spark快速大数据分析
Spring Framework6开发实战 Spring+Spring Web MVC+MyBatis
肖海鹏、耿卫江、王荣芝、张天怡、张志慧
Spark快速大数据分析
Spark大数据分析
作者
Spark快速大数据分析
Spark入门与大数据分析实战
迟殿委 李超
Spark快速大数据分析
Spark大数据开发(职业教育计算机系列教材)
唐春玲;周桥;陈小龙
Spark快速大数据分析
Spring Boot+Vue前后端分离项目全栈开发实战
唐文
Spark快速大数据分析
Spring快速入门到精通
明日科技 编著
Spark快速大数据分析
Spring Boot 3.0开发实战
李西明;陈立为
Spark快速大数据分析
Spark分布式处理实战
刘均 王璐烽
Spark快速大数据分析
Spring Security原理与实战:构建安全可靠的微服务
邹炎
Spark快速大数据分析
Spark原理深入与编程实战(微课视频版)
辛立伟;张帆;张会娟
Spark快速大数据分析
Spring Boot 3 +Vue 3开发实战
朱建昕
Spark快速大数据分析
Spring Cloud Alibaba核心技术与实战案例
高洪岩
您可能感兴趣 / 更多
Spark快速大数据分析
无辜者的谎言(相信我!看到结局你一定会头皮发麻;全美读者推荐的悬疑神作,GOODREADS高分作品)
[美]A.R.托雷 著;梁颂宇 译;星文文化 出品
Spark快速大数据分析
孩子,把你的手给我1:怎么说孩子才爱听,怎么教孩子才肯学?帮助每一位3-12岁孩子的父母结束与孩子的所有冲突!
[美]海姆·G.吉诺特
Spark快速大数据分析
哲学、历史与僭政——重审施特劳斯与科耶夫之争
[美]弗罗斯特(Bryan-Paul Frost) 编;[美]伯恩斯(Timothy W. Burns)
Spark快速大数据分析
怎样做成大事
[美]丹·加德纳(Dan Gardner) 著;贾拥民 译;湛庐文化 出品;[丹麦]傅以斌(Bent Flyvbjerg)
Spark快速大数据分析
力量训练的科学基础与实践应用(第三版)
[美]弗拉基米尔· M.扎齐奥尔斯基;[美]威廉·J.克雷默;[美]安德鲁· C.弗赖伊
Spark快速大数据分析
1200年希腊罗马神话
[美]伊迪丝·汉密尔顿
Spark快速大数据分析
爱情心理学(新编本)
[美]罗伯特·J. 斯腾伯格 (美)凯琳·斯腾伯格 倪爱萍 译
Spark快速大数据分析
黄金圈法则
[美]西蒙·斯涅克 著;磨铁文化 出品
Spark快速大数据分析
最后一章
[美]厄尼·派尔
Spark快速大数据分析
汤姆·索亚历险记 彩图注音版 一二三四年级5-6-7-8-9岁小学生课外阅读经典 儿童文学无障碍有声伴读世界名著童话故事
[美]马克 吐温
Spark快速大数据分析
富兰克林自传 名家全译本 改变无数人命运的励志传奇 埃隆马斯克反复推荐 赠富兰克林签名照及精美插图
[美]本杰明·富兰克林 著;李自修 译
Spark快速大数据分析
国际大奖图画书系列 共11册(小老鼠的恐惧的大书,大灰狼,红豆与菲比,别烦我,下雪了 ,穿靴子的猫 ,先有蛋,绿 ,特别快递,如果你想看鲸鱼 ,一个部落的孩子 ) 麦克米伦世纪
[美]莱恩·史密斯 (英)埃米莉·格雷维特 (美)劳拉·瓦卡罗·等/文 (英)埃米莉·格雷维特 等/图 彭懿 杨玲玲 阿甲 孙慧阳 白薇 译