您的位置:首页 > 运维架构

Hadoop 开源调度系统zeus(二)

2014-06-22 18:41 134 查看
紧跟之前Hadoop 开源调度系统zeus(一)

本节主要介绍一下zeus的架构:

先给一个zeus的架构图



不管Master还是Worker都有一套WEB UI,不管从哪个上面去看,看到的结果都是一样的,实际上一般只看主

Master:调度内核,在启动时启动一个TCP服务,同时将所有任务读到内存中,在任务可以执行时,加到执行队列,下发到客户端

Worker:启动后连接Master,并定时向Master发送心跳,当收到Master的任务后,封装任务执行shell,并将任务执行结果通知给Master

Master单点:在zeus中,整个机器的每个节点都有可能成为Master,整个集群是通过一把分布式锁来唯一确定Master,Master在获得分布式锁后,会定时更新分布式锁状态,所有的Worker都会检查分布式锁状态,如果发现Master未按时更新锁状态,则各个Worker竞争获得该锁,获得锁后,使自己成为Master。

未能获得锁的Worker会将自己正在执行的任务杀死,然后重新连接新的Master,Master会将之前正在执行的Job重新下发给Worker
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: