Hadoop 开源调度系统zeus(二)
2014-06-22 18:41
134 查看
紧跟之前Hadoop 开源调度系统zeus(一)
本节主要介绍一下zeus的架构:
先给一个zeus的架构图
不管Master还是Worker都有一套WEB UI,不管从哪个上面去看,看到的结果都是一样的,实际上一般只看主
Master:调度内核,在启动时启动一个TCP服务,同时将所有任务读到内存中,在任务可以执行时,加到执行队列,下发到客户端
Worker:启动后连接Master,并定时向Master发送心跳,当收到Master的任务后,封装任务执行shell,并将任务执行结果通知给Master
Master单点:在zeus中,整个机器的每个节点都有可能成为Master,整个集群是通过一把分布式锁来唯一确定Master,Master在获得分布式锁后,会定时更新分布式锁状态,所有的Worker都会检查分布式锁状态,如果发现Master未按时更新锁状态,则各个Worker竞争获得该锁,获得锁后,使自己成为Master。
未能获得锁的Worker会将自己正在执行的任务杀死,然后重新连接新的Master,Master会将之前正在执行的Job重新下发给Worker
本节主要介绍一下zeus的架构:
先给一个zeus的架构图
不管Master还是Worker都有一套WEB UI,不管从哪个上面去看,看到的结果都是一样的,实际上一般只看主
Master:调度内核,在启动时启动一个TCP服务,同时将所有任务读到内存中,在任务可以执行时,加到执行队列,下发到客户端
Worker:启动后连接Master,并定时向Master发送心跳,当收到Master的任务后,封装任务执行shell,并将任务执行结果通知给Master
Master单点:在zeus中,整个机器的每个节点都有可能成为Master,整个集群是通过一把分布式锁来唯一确定Master,Master在获得分布式锁后,会定时更新分布式锁状态,所有的Worker都会检查分布式锁状态,如果发现Master未按时更新锁状态,则各个Worker竞争获得该锁,获得锁后,使自己成为Master。
未能获得锁的Worker会将自己正在执行的任务杀死,然后重新连接新的Master,Master会将之前正在执行的Job重新下发给Worker
相关文章推荐
- Hadoop 开源调度系统zeus(二)
- 一个不错的开源调度系统,解决crontab不能执行的实际问题
- RedHat 开源其 Hadoop 存储系统
- Hadoop - 任务调度系统比较
- Hadoop - 任务调度系统比较
- Zeus资源调度系统介绍
- PBS开源版作业调度系统配置与安装手册
- Hadoop - 任务调度系统比较
- hadoop2.6.0 + Azkaban2.5.0 任务调度系统实践
- Zeus资源调度系统介绍
- 淘宝Hadoop作业平台宙斯(zeus)开源
- hadoop2.4.1+hbase0.98.3实现的分布式网盘系统初步-已开源
- zeus任务调度系统搭建
- Hadoop - 任务调度系统比较
- Red Hat开源其Hadoop存储系统
- 一个以可视化界面的方式管理与调度Hadoop的作业平台——Zeus
- Hadoop应用------如何编写Hadoop调度器【可以先学习雅虎开源的容量调度器和facebook开源的公平调度器】
- hadoop工作流调度系统
- hadoop日志分析系统二 第一部分 利用任务调度系统定期的把web系统所产生的日志文件导入到hdfs中
- 开源日志系统比较:Facebook-scribe、Hadoop-chukwa、kafka、Cloudera-flume