김치

마라탕🔥

불닭

라면

떡볶이

김

오뚜기

선크림☀️

컵누들

감자칩

로그인/회원가입

한국어

English 简体中文繁體中文 한국어 日本語

{{sellerTotalView > 1 ? __("sellers", {number: sellerTotalView}) : __("seller", {number: sellerTotalView}) }}, {{numTotalView > 1 ? __("items", {number: numTotalView}) : __("item", {number: numTotalView}) }}

장바구니로 이동하여 결제하기

Nickname

당신의 이름을 알려주세요

이름 업데이트

xxxxxxx@yamibuy.com

계정 주문 찜하기

포인트 0

쿠폰 0

기프트 카드 잔액 $0.00

로그아웃

배송 지역 전환

지역에 따라 재고 및 배송 속도가 다를 수 있습니다.

위치 기록

상품입고 후 바로 알려드리겠습니다.

상품입고 후 알림 발송 주소: {{remindEmail}}

취소

Jingdong book

Apache Spark源码剖析

장바구니로 이동하여 결제하기

{{buttonTypePin == 3 ? __("Scan to view more PinGo") : __("Scan to start")}}

서적 컴퓨터 및 인터넷 특수 소프트웨어

Jingdong book

Apache Spark源码剖析

Name: Apache Spark源码剖析
Brand: Jingdong book
SKU: 3118001861
Price: 48.95 USD
Availability: OutOfStock

{{__(":people-members", {'people': item.limit_people_count})}} {{ itemCurrency }}{{ item.valid_price }} {{ itemCurrency }}{{ item.invalid_price }} {{ itemDiscount }}

후 종료

{{ itemCurrency }}{{ priceFormat(item.valid_price / item.bundle_specification) }}/{{ item.unit }}

{{ itemCurrency }}{{ item.valid_price }} {{ itemCurrency }}{{ priceFormat(item.valid_price / item.bundle_specification) }}/{{ item.unit }} {{ itemCurrency }}{{ item.invalid_price }} {{itemDiscount}}

후에 세일 종료

후 초특가세일 시작 후 초특가세일 종료

{{ __( "Pay with Gift Card to get sale price: :itemCurrency:price", { 'itemCurrency' : itemCurrency, 'price' : (item.giftcard_price ? priceFormat(item.giftcard_price) : '0.00') } ) }} ({{ itemCurrency }}{{ priceFormat(item.giftcard_price / item.bundle_specification) }}/{{ item.unit }}) 상세정보

상품 유효 기간

판매 중단

이 상품이 언제 재입고될지는 알 수 없습니다.

현재 주소로 배송 불가

품절

제품 설명

제품 세부 정보 전체보기

Editer Recommend

Spark Contributor，Databricks工程师连城，华为大数据平台开发部部长陈亮，网易杭州研究院副院长汪源，TalkingData首席数据科学家张夏天联袂力荐
1.《Apache Spark源码剖析》全面、系统地介绍了Spark源码，深入浅出，细致入微
2.提供给读者一系列分析源码的实用技巧，并给出一个合理的阅读顺序
3.始终抓住资源分配、消息传递、容错处理等基本问题，抽丝拨茧
4.一步步寻找答案，所有问题迎刃而解，使读者知其然更知其所以然

Content Description

《Apache Spark源码剖析》以Spark 1.02版本源码为切入点，着力于探寻Spark所要解决的主要问题及其解决办法，通过一系列精心设计的小实验来分析每一步背后的处理逻辑。
《Apache Spark源码剖析》第3～5章详细介绍了Spark Core中作业的提交与执行，对容错处理也进行了详细分析，有助读者深刻把握Spark实现机理。第6～9章对Spark Lib库进行了初步的探索。在对源码有了一定的分析之后，读者可尽快掌握Spark技术。

Author Description

许鹏，长期致力于电信领域和互联网的软件研发，在数据处理方面积累了大量经验，对系统的可扩展性、可靠性方面进行过深入学习和研究。因此，累积了大量的源码阅读和分析的技巧与方法。目前在杭州同盾科技担任大数据平台架构师一职。对于Linux内核，作者也曾进行过深入的分析。

Comments

★与Hadoop、Hive、Storm等老牌大数据系统相比，Spark的代码体积要小得多。然而这样一套精简的系统却同时承载了批处理、流处理、迭代计算、关系查询、图计算等多种计算范式，再加上Scala和函数式编程并不为普通程序员所熟悉，阅读和分析Spark源码并不是一件特别轻松的事情。本书记录了一系列分析Spark源码的实用技巧，并给出了一个合理的阅读顺序，相信可以令学习Spark的读者们事半功倍。
——Spark Contributor，Databricks工程师连城

★介绍Spark的书籍很多，但一般不够全面，而这本书非常系统全面地介绍了Spark源码，深入浅出、细致入微，把Spark的由来、Spark整体框架、Spark各软件栈、Spark环境搭建、Spark部署模式等从源码角度一步步剖析得非常清楚。作者有很强的系统设计、软件工程功底，读者不仅可以从书中学到Spark知识，还可以学习到作者对新技术研究、源码研究很多好的方法和技巧。授人以鱼不如授人以渔，对在校大学生、Spark初学者、大数据开发工程师来说，这本书非常值得拥有。
——华为大数据平台开发部部长陈亮

★难以置信，薄薄的一本书可以兼具如此的广度与深度。除了Spark核心系统，本书还介绍了Streaming、SQL、GraphX、MLLib等扩展库，内容相当全面。但更“赞”的是本书对Spark及各扩展库的运行机理，无不提纲挈领，一一阐明，让读者不但知其然，还能知其所以然。如果想在生产环境中用好Spark，本书值得细读。
——网易杭州研究院副院长汪源

★Spark目前正在蓬勃发展，越来越多的公司把大数据计算任务迁移到Spark平台上来。Spark开发的学习曲线并不陡峭。但是处理大数据，需要的不仅是逻辑正确的程序，还需要高性能的程序。如果想把Spark的性能挖掘到极致，那就需要深入了解Spark的设计思想和运行机制，而要了解这些，没有比读源代码更直接的了。许鹏老师的这本书，对于那些没有时间、精力直接啃源代码或者对Scala语言还不太精通的读者来说是一个福音。
——TalkingData首席数据科学家张夏天

Catalogue

第一部分 Spark概述
第1章初识Spark
1.1 大数据和Spark
1.1.1 大数据的由来
1.1.2 大数据的分析
1.1.3 Hadoop
1.1.4 Spark简介
1.2 与Spark的第一次亲密接触
1.2.1 环境准备
1.2.2 下载安装Spark
1.2.3 Spark下的WordCount

第二部分 Spark核心概念
第2章 Spark整体框架
2.1 编程模型
2.1.1 RDD
2.1.2 Operation
2.2 运行框架
2.2.1 作业提交
2.2.2 集群的节点构成
2.2.3 容错处理
2.2.4 为什么是Scala
2.3 源码阅读环境准备
2.3.1 源码下载及编译
2.3.2 源码目录结构
2.3.3 源码阅读工具
2.3.4 本章小结
第3章 SparkContext初始化
3.1 spark-shell
3.2 SparkContext的初始化综述
3.3 Spark Repl综述
3.3.1 Scala Repl执行过程
3.3.2 Spark Repl
第4章 Spark作业提交
4.1 作业提交
4.2 作业执行
4.2.1 依赖性分析及Stage划分
4.2.2 Actor Model和Akka
4.2.3 任务的创建和分发
4.2.4 任务执行
4.2.5 Checkpoint和Cache
4.2.6 WebUI和Metrics
4.3 存储机制
4.3.1 Shuffle结果的写入和读取
4.3.2 Memory Store
4.3.3 存储子模块启动过程分析
4.3.4 数据写入过程分析
4.3.5 数据读取过程分析
4.3.6 TachyonStore
第5章部署方式分析
5.1 部署模型
5.2 单机模式local
5.3 伪集群部署local-cluster
5.4 原生集群Standalone Cluster
5.4.1 启动Master
5.4.2 启动Worker
5.4.3 运行spark-shell
5.4.4 容错性分析
5.5 Spark On YARN
5.5.1 YARN的编程模型
5.5.2 YARN中的作业提交
5.5.3 Spark On YARN实现详解
5.5.4 SparkPi on YARN

第三部分 Spark Lib
第6章 Spark Streaming
6.1 Spark Streaming整体架构
6.1.1 DStream
6.1.2 编程接口
6.1.3 Streaming WordCount
6.2 Spark Streaming执行过程
6.2.1 StreamingContext初始化过程
6.2.2 数据接收
6.2.3 数据处理
6.2.4 BlockRDD
6.3 窗口操作
6.4 容错性分析
6.5 Spark Streaming vs. Storm
6.5.1 Storm简介
6.5.2 Storm和Spark Streaming对比
6.6 应用举例
6.6.1 搭建Kafka Cluster
6.6.2 KafkaWordCount
第7章 SQL
7.1 SQL语句的通用执行过程分析
7.2 SQL On Spark的实现分析
7.2.1 SqlParser
7.2.2 Analyzer
7.2.3 Optimizer
7.2.4 SparkPlan
7.3 Parquet 文件和JSON数据集
7.4 Hive简介
7.4.1 Hive 架构
7.4.2 HiveQL On MapReduce执行过程分析
7.5 HiveQL On Spark详解
7.5.1 Hive On Spark环境搭建
7.5.2 编译支持Hadoop 2.x的Spark
7.5.3 运行Hive On Spark测试用例
第8章 GraphX
8.1 GraphX简介
8.1.1 主要特点
8.1.2 版本演化
8.1.3 应用场景
8.2 分布式图计算处理技术介绍
8.2.1 属性图
8.2.2 图数据的存储与分割
8.3 Pregel计算模型
8.3.1 BSP
8.3.2 像顶点一样思考
8.4 GraphX图计算框架实现分析
8.4.1 基本概念
8.4.2 图的加载与构建
8.4.3 图数据存储与分割
8.4.4 操作接口
8.4.5 Pregel在GraphX中的源码实现
8.5 PageRank
8.5.1 什么是PageRank
8.5.2 PageRank核心思想
第9章 MLLib
9.1 线性回归
9.1.1 数据和估计
9.1.2 线性回归参数求解方法
9.1.3 正则化
9.2 线性回归的代码实现
9.2.1 简单示例
9.2.2 入口函数train
9.2.3 最优化算法optimizer
9.2.4 权重更新update
9.2.5 结果预测predict
9.3 分类算法
9.3.1 逻辑回归
9.3.2 支持向量机
9.4 拟牛顿法
9.4.1 数学原理
9.4.2 代码实现
9.5 MLLib与其他应用模块间的整合

第四部分附录
附录A Spark源码调试
附录B 源码阅读技巧

Introduction

笔者接触Spark时间不算很长，而本书之所以能够出版，凭借的是浓厚的兴趣和执着之心。
这一切还要从Storm说起。笔者一直在做互联网相关工作，但接触大数据的时间并不长，当时Hadoop和Storm等非常红火，引起了笔者的“窥视”之心。从2013年开始，笔者打算看看Hadoop的源码实现，观察其代码规模，发觉所花时间可能会很长。恰好其时Storm风头正劲，于是转向Storm源码，0.8版的Storm代码规模不过20 000行左右，感觉还是比较好入手的。
Storm源码分析期间，笔者还学习了Clojure、ZeroMQ、Thrift、ZooKeeper、LMAX Disruptor等新技术，对于实时流数据处理算是有了一个大概的了解。由于听说在实时流数据处理领域Spark技术也很强悍，而且在容错性方面具有天生的优势，更引发了笔者的兴趣，为了弄清楚究竟，于是开始了Spark的源码走读过程。
笔者是以读Spark论文开始的，说老实话觉得晦涩难懂，因为无法将其映射到内存使用、进
程启动、线程运行、消息传递等基本问题上。或许换个方法会更好，故笔者选择直接从源码入手，如此一来事情反而变简单了。在源码分析的过程中，笔者始终抓住资源分配、消息传递、容错处理等基本问题设问，然后一步步努力寻找答案，所有的问题渐渐迎刃而解。
笔者关于源码分析有一个心得，就是要紧紧把握住计算的基本模型，然后结合新分析问题
的业务领域，将业务上的新问题转换到计算处理的老套路上来，然后就可以以不变应万变，而不被一些新技术名词晃花了眼。这里所说的老套路是指从操作系统的角度来看，如果能事先深度了解操作系统，将对分析一些新应用程序大有裨益。
Spark源码采用Scala语言编写，那么阅读Spark源码之前，是否一定要先学Scala呢？笔者个人以为不必，只要你有一些Java或C++编程语言的基础，就可以开始看Spark源码，遇到不懂的地方再去学习，效率反而会大大提高，做到有的放矢。将学习中遇到的知识点，从函数式编程、泛型编程、面向对象、并行编程等几个方面去整理归纳，这样能够快速将Scala语言的框架勾勒出来。
本书第1章和第2章简要介绍了大数据分析技术的产生背景和演进过程；第3～5章详细分析了Spark Core中的作业规划、提交及任务执行等内容，对于要深刻把握Spark实现机理的读者来说，这几章值得反复阅读；第6～9章就Spark提供的高级Lib库进行了简要的分析，分析的思路是解决的主要问题是什么、解决的方案是如何产生的，以及方案是如何通过代码来具体实现的。
在对源码有了一定的分析和掌握之后，再回过头来看一下Spark相关的论文，这时候对论文的理解可能会更顺畅。
Spark的整体框架非常庞大，涵盖的范围也很广，随着笔者在工作中使用得越来越具体，这样的感受也越来越深。另外，必须要说对于Spark来说，笔者所做的分析实在有限，个中错误在所难免，读者诸君还请多多谅解。
在本书成稿期间，电子工业出版社的付睿编辑和李云静编辑给出了极为详细的改进意见，在这里表示衷心的感谢。最后感谢家人的支持和鼓励，亲爱的老婆和懂事的儿子给了笔者坚持的理由和勇气。
许鹏
2015年2月

명세서

상표

Jingdong book

브랜드 영역

China

면책성명

제품 가격, 포장, 사양 등의 정보는 예고 없이 변경될 수 있습니다. 적시에 제품 정보를 업데이트 할 수 있도록 최선을 다하지만, 받은 실제 제품을 참고하시기 바랍니다. 제품을 사용하기 전에 반드시 제품에 동봉된 라벨, 경고 및 설명을 읽어 주십시오.

상세정보 보기

찜한 목록에 추가

{{ $isZh ? coupon.coupon_name_sub : coupon.coupon_ename_sub | formatCurrency }}

상세정보

수량

{{buttonTypePin == 3 ? __("Scan to view more PinGo") : __("Scan to start")}}

JD@CHINA 판매

배송지

69이상 주문 시 무료 배송

정품 보증

상세정보 보기

지역

장바구니에 추가됨

쇼핑 계속하기

당신을 위한 추천

쿠폰

받기 받았음 마감

곧 만료됩니다: {{ formatTime(coupon.use_end_time) }}

친구들과 공유하세요

취소

Yami 기프트카드 전용특가

기프트카드로 결제하면 전용특가를 받을 수 있습니다

규칙 설명

기프트카드 전용특가는 일부 상품에 대한 특혜가격입니다.

기프트카드 전용특가 상품 구매 시 E-기프트 카드 잔액으로 결제하고 기프트카드 잔액이 주문 내 상품의 총액을 지불하기에 충분하하 기프트카드 전용특가가 자동으로 활성화됩니다.

기프트 카드 잔액으로 결제하지 않거나 기프트카드 잔액이 전항의 요건을 충족하지 못할 경우 기프트카드 전용특가를 활성화할 수 없으며 상품은 정상 가격으로 구매할 수 있습니다.

기프트카드 전용특가 상품 구매 시 잔액이 부족할 경우 장바구니 또는 결제 페이지에서 "충전" 버튼을 클릭하여 기프트카드를 구매 및 충전할 수 있습니다.

기프트카드 전용특가가 있는 상품은 "전용특가"라는 특별한 가격표시가 표시됩니다.

질문이 있으시면 언제든지 고객 서비스에 문의하십시오.

Yami는 기프트카드 전용특가 관련 최종 해석권을 보유합니다.

Yami 판매

서비스 보장

$49 이상 무료 배송

걱정 없는 반품/교환

미국에서 발송

배송 정보

미국

표준 배송 $5.99(알래스카, 하와이 제외), 최종 가격 $49 이상 시 무료 배송

지역 배송 $5.99(캘리포니아, 뉴욕, 뉴저지, 매사추세츠, 펜실베이니아, 위 주의 일부 지역), 최종 가격 $49 이상 시 무료 배송

2일 이내 배송(알래스카 및 하와이 포함) $19.99부터 시작

반품 및 교환 정책

Yami는 고객님께 최상의 A/S를 제공하고, 모든 분들이 Yami에서 안심하고 쇼핑할 수 있도록 노력하고 있습니다. Yami의 자영 상품은 반품 및 교환 조건을 충족하는 경우, 상품 수령 후 30일 이내에 반품 및 교환할 수 있습니다(식품은 품질 문제로 인해 7일 이내에 반품 및 교환이 가능합니다. 모든 고객이 안전하고 고품질의 제품을 받을 수 있도록 뷰티 제품은 개봉 또는 사용 후에는 품질 문제를 제외하고 환불 또는 반품을 제공하지 않습니다. 기타 특별 카테고리의 제품은 고객 서비스에 문의하시기 바랍니다).
이해와 지원에 감사드립니다.

상세정보 보기

Yami 판매

Yami E-기프트카드 사용 약관

구매 시 자동 충전을 선택한 경우, 주문 완료 후 기프트카드가 자동으로 계정에 충전됩니다.

구매 시 이메일 발송을 선택한 경우, 주문 완료 후 시스템이 자동으로 카드 번호와 비밀번호를 입력한 이메일로 발송합니다.

이메일을 보낼 때, 모든 사용자는 이메일에 있는 카드 번호와 비밀번호를 사용하여 기프트카드를 충전할 수 있으니, 이메일 정보를 잘 보관하세요.

이메일을 받는 데 문제가 있으면, 고객 서비스에 연락하여 처리해 주세요.

이메일을 보낼 때, 기프트카드가 교환되지 않았다면 이메일을 재발송할 수 있습니다. 이미 다른 사용자에 의해 교환된 경우에는 보상할 수 없습니다.

Yamibuy의 E-기프트카드는 자영 또는 제3자 상품 구매에 사용할 수 있습니다.

Yamibuy의 E-기프트카드는 유효 기간 제한이 없으며, 장기간 유효합니다.

Yami 전자 상품권의 금액은 여러 번에 나눠서 사용할 수 있습니다；

Yami 전자 상품권 업무 규칙의 최종 해석 권한은 Yami 웹사이트에 있습니다.

반품 및 교환 정책

이미 사용된 E-기프트카드는 환불이 불가능합니다.

판매자: JD@CHINA

Yami 배송

서비스 보장

$49 이상 무료 배송

최고의 A/S

미국 본토에서 발송

배송 정보

미국

표준 배송 $5.99(알래스카, 하와이 제외), 최종 가격 $49 이상 시 무료 배송

지역 배송 $5.99(캘리포니아, 뉴욕, 뉴저지, 매사추세츠, 펜실베이니아, 위 주의 일부 지역), 최종 가격 $49 이상 시 무료 배송

2일 이내 배송(알래스카 및 하와이 포함) $19.99부터 시작

반품 및 교환 정책

제품을 받으신 후 30일 이내에 제품을 반품하실 수 있습니다. 반품된 품목은 구매에 대한 원본 송장을 포함하여 원래 포장된 새 품목이어야 합니다. 고객이 자신의 비용으로 제품을 반품합니다.

JD@CHINA 판매

Yami-China FC

서비스 보장

점포간 $:amount 이상 구매 시 무료 배송

30일 반품/교환 보장

Yami-중국 집하창고

Yami는 중국 내 주요 우수매장에서 제품을 선별하여 모아 Yami 중국통합센터로 배송하며 택배를 합친 후 전국 각지의 주소로 배송해 드립니다. 점포간 무료 배송 조건은 최저 $69입니다. 여러 판매자가 제공하는 다양한 상품 중에서 원하는 상품을 선택하고 점포간 무료배송으로 저렴한 배송비를 쉽게 누릴 수 있습니다.

반품 정책

30일 이내 반품 및 교환 보증을 제공합니다. 제품은 새로 사용하지 않은 원래 포장에 구매 증명서가 첨부되어 있어야 합니다. 상품 품질 문제, 잘못된 배송, 배송 누락 등 판매자의 실수로 인한 경우 환불 처리됩니다. 기타 사유로 인한 반품 및 교환은 배송비는 고객이 자체로 부담하셔야 합니다. 모든 제품은 장거리 배송을 하기 때문에 간혹 간단한 외부 포장이 눌려 마모되는 등이 있지만 내부 품질 문제가 없는 경우 반품 및 교환할 수 없습니다.

배송 정보

Yami 중국집하배송 Consolidated Shipping 배송비 $9.99 ($69 이상 주문시 무료배송)

중국 판매자는 주문 후 영업일 기준 2일 후에 상품을 발송합니다. 모든 택배는 Yami 중국통합센터(특별한 상황 및 중국 내 개별 법정 공휴일 제외)에 도착하여 택배를 합친 후 UPS를 통해 미국으로 배송됩니다. UPS는 중국에서 발송 후 미국까지 평균 10영업일 정도 소요되며 직배송 주문 번호에 따라 수시로 추적 및 조회할 수 있습니다 전염병의 영향으로 현재 물류가 5일 정도 지연될 수 있습니다. 택배는 고객 서명이 필요합니다. 서명하지 않은 경우 고객은 택배가 분실될 위험을 부담하게 됩니다.

JD@CHINA 판매

서비스 보장

69이상 주문 시 무료 배송

정품 보증

배송 정보

Yami Consolidated Shipping배송비$9.99($69 이상 주문 시 무료 배송)

Seller will ship the orders within 1-2 business days. The logistics time limit is expected to be 7-15 working days. In case of customs clearance, the delivery time will be extended by 3-7 days. The final receipt date is subject to the information of the postal company.

포인트 규칙

모든 품목은 Yamibuy 의 프로모션이나 포인트 이벤트에서 제외됩니다.

반품 및 교환 정책

Yami 앱 다운로드

의견 피드백

맨 위로 돌아가기

리뷰{{'('+ commentList.posts_count + ')'}}

당신의 체험을 공유하고 더 많은 사용자가 선택할 수 있도록 도와줍니다.

리뷰 작성

{{i}}별

{{i}} 별

{{ parseInt(commentRatingList[i]) }}%

{{ showTranslate(comment) }}접기

{{ strLimit(comment,800) }}전체 보기

Show Original

모두 보기

{{ formatTime(comment.in_dtm) }} 구매 완료 {{groupData}}

{{ comment.likes_count }} {{ comment.likes_count }} {{ comment.reply_count }} {{comment.in_user==uid ? __('Delete') : __('Report')}}

{{ showTranslate(comment) }}접기

{{ strLimit(comment,800) }}전체 보기

Show Original

모두 보기

{{ formatTime(comment.in_dtm) }} 구매 완료 {{groupData}}

{{ comment.likes_count }} {{ comment.likes_count }} {{ comment.reply_count }} {{comment.in_user==uid ? __('Delete') : __('Report')}}

조건에 맞는 리뷰가 없습니다

더 많은 리뷰 보기

리뷰 상세

{{ showTranslate(commentDetails) }}접기

{{ strLimit(commentDetails,800) }}전체 보기

Show Original

모두 보기

{{ formatTime(commentDetails.in_dtm) }} 구매 완료 {{groupData}}

내용을 입력하세요

답변{{'(' + replyList.length + ')'}}

{{ reply.reply_user_name }}답변{{ reply.parent_user_name }}

{{ showTranslate(reply) }}접기

{{ strLimit(reply,800) }}전체 보기

Show Original

내용을 입력하세요

취소

지금까지의 모든 리뷰입니다!

리뷰 작성하기

상품 평점

댓글을 입력하세요.

좋은 닉네임이 당신의 리뷰를 더 인기 있게 만들 것입니다!
여기에서 닉네임을 변경하면 개인정보의 닉네임도 같이 변경됩니다.

리뷰를 남겨주셔서 감사합니다

당신의 좋은 리뷰는 우리 커뮤니티가 아시아 최고의 상품을 찾는 데 도움이 됩니다.