博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
spark内核揭秘-02-spark集群概览
阅读量:6250 次
发布时间:2019-06-22

本文共 316 字,大约阅读时间需要 1 分钟。

hot3.png

Spark集群预览:

官方文档对spark集群的初步描述如下,这是一个典型的主从结构:

官方文档对spark集群中的一些关键点给出详细的指导:

其Worker的定义如下所示:

需要注意的是Spark Driver所在的集群需要和Spark集群最好位于同一个网络环境中,因为Driver中的SparkContext实例需发送任务给不同Worker Node的Executor并接受Executor的一些执行结果信息,一般而言,在企业实际的生产环境中Driver所在的机器是的配置往往都是比较不错的,尤其是其CPU的处理能力要很强悍。

转载于:https://my.oschina.net/ghostmanyue/blog/368983

你可能感兴趣的文章
darknet源码学习
查看>>
移动端头部meta
查看>>
Redis客户端集群
查看>>
javascript基础篇:函数
查看>>
[CI] 使用Jenkins自动编译部署web应用
查看>>
SVN与TortoiseSVN实战:补丁详解
查看>>
java一些面试题
查看>>
干货型up主
查看>>
获取页面中所有dropdownlist类型控件
查看>>
stark组件(2):提取公共视图函数、URL分发和设置别名
查看>>
android——使用Interceptor设置缓存来给服务器减负
查看>>
样式独立性的解决方案
查看>>
读《淘宝数据魔方技术架构解析》有感
查看>>
使用Boost.Asio编写通信程序
查看>>
android mock location
查看>>
不要问我能赚多少,当你问这句话的时候,你的思想还停留在给别人打工的阶段,我只是你的仓库,能挣多少得问你自己想挣多少(转)...
查看>>
[MFC] 高仿Flappy bird 桌面版
查看>>
careercup-C和C++ 13.8
查看>>
JEFF BANKS_百度百科
查看>>
tar命令的详解
查看>>