MAPREDUCE框架结构及核心运行机制
2017-07-10 23:19
316 查看
结构
一个完整的mapreduce程序在分布式运行时有三类实例进程:1、MRAppMaster:负责整个程序的过程调度及状态协调
2、mapTask:负责map阶段的整个数据处理流程
3、ReduceTask:负责reduce阶段的整个数据处理流程
MR程序运行流程
流程示意图
流程解析
1、 一个mr程序启动的时候,最先启动的是MRAppMaster,MRAppMaster启动后根据本次job的描述信息,计算出需要的maptask实例数量,然后向集群申请机器启动相应数量的maptask进程2、 maptask进程启动之后,根据给定的数据切片范围进行数据处理,主体流程为:
a) 利用客户指定的inputformat来获取RecordReader读取数据,形成输入KV对
b) 将输入KV对传递给客户定义的map()方法,做逻辑运算,并将map()方法输出的KV对收集到缓存
c) 将缓存中的KV对按照K分区排序后不断溢写到磁盘文件
3、 MRAppMaster监控到所有maptask进程任务完成之后,会根据客户指定的参数启动相应数量的reducetask进程,并告知reducetask进程要处理的数据范围(数据分区)
4、 Reducetask进程启动之后,根据MRAppMaster告知的待处理数据所在位置,从若干台maptask运行所在机器上获取到若干个maptask输出结果文件,并在本地进行重新归并排序,然后按照相同key的KV为一个组,调用客户定义的reduce()方法进行逻辑运算,并收集运算输出的结果KV,然后调用客户指定的outputformat将结果数据输出到外部存储
相关文章推荐
- MAPREDUCE框架结构及核心运行机制
- PHP CI框架目录结构及运行机制
- mapreduce结构及运行机制
- MapReduce框架中map、reduce方法的运行机制
- Web框架——XWAF的代码结构和运行机制(4)
- MapReduce框架结构与运行流程
- RIL框架结构及RILJ的运行机制
- Hadoop学习之路(十四)MapReduce的核心运行机制
- 日志采集框架Flume、Flume介绍、概述、运行机制、Flume采集系统结构图(1、简单结构、复杂结构)
- PHP CI框架目录结构及运行机制
- PHP CI框架目录结构及运行机制
- OSGi 框架的组件运行机制
- CppUnit中测试框架的核心组件类图结构
- 企业信息化运行机制、核心IT能力与IT治理框架
- MFC六大核心机制之二:运行时类型识别(RTTI)
- OSGi 框架的组件运行机制
- 探索 OSGi 框架的组件运行机制
- MapReduce过程的框架结构
- J2EE核心技术--EJB组成和运行机制
- interface框架结构firefox os 框架结构及调用机制