JobTracker和TaskTracker
2016-01-26 12:38
309 查看
原文链接
JobTracker 对应于 NameNode
TaskTracker 对应于 DataNode
DataNode 和NameNode 是针对数据存放来而言的
JobTracker和TaskTracker是对于MapReduce执行而言的
mapreduce中几个主要概念,mapreduce整体上可以分为这么几条执行线索:
jobclient,JobTracker与TaskTracker。
1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs,
并把路径提交到Jobtracker,然后由JobTracker创建每一个Task(即MapTask和ReduceTask)
并将它们分发到各个TaskTracker服务中去执行
2、JobTracker是一个master服务,软件启动之后JobTracker接收Job,负责调度Job的每一个子任务task运行于TaskTracker上,
并监控它们,如果发现有失败的task就重新运行它。一般情况应该把JobTracker部署在单独的机器上。
3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信,接收作业,并负责直接执行每一个任务。
TaskTracker都需要运行在HDFS的DataNode上
JobTracker和TaskTracker
JobTracker 对应于 NameNodeTaskTracker 对应于 DataNode
DataNode 和NameNode 是针对数据存放来而言的
JobTracker和TaskTracker是对于MapReduce执行而言的
mapreduce中几个主要概念,mapreduce整体上可以分为这么几条执行线索:
jobclient,JobTracker与TaskTracker。
1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs,
并把路径提交到Jobtracker,然后由JobTracker创建每一个Task(即MapTask和ReduceTask)
并将它们分发到各个TaskTracker服务中去执行
2、JobTracker是一个master服务,软件启动之后JobTracker接收Job,负责调度Job的每一个子任务task运行于TaskTracker上,
并监控它们,如果发现有失败的task就重新运行它。一般情况应该把JobTracker部署在单独的机器上。
3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信,接收作业,并负责直接执行每一个任务。
TaskTracker都需要运行在HDFS的DataNode上
相关文章推荐
- OC加强day3-函数指针、protocol、block、NSString
- Linux — 字符处理
- Python【基础第二篇】
- Http请求
- Broadleaf电商系统开发(一) - Broadleaf介绍
- Log4j 简介及初步应用
- 【Android开源项目分析】android轻量级开源缓存框架——ASimpleCache(ACache)源代码分析
- 2016.1.21 zabbix监控服务器平台总体思路
- linux回环网卡驱动设计
- Cookie 进阶
- Cookie 进阶
- Material Design学习之 Sliders(详细分析,悬空气球显示进度值,附带Eclipse可以jar)
- SCP协议
- 4.Git分支管理
- codeforces 617E XOR and Favorite Number (莫队算法)
- Material Design学习之 Sliders(详细分析,悬空气球显示进度值,附带Eclipse可以jar)
- Python3入门基础语法总结
- SQLcmd
- 2016.1.19 4台服务器环境部署
- Android应用开发中草率使用synchronized同步关键字的隐患