学习总结十三:Hadoop核心项目
2014-06-29 14:29
267 查看
1.HDFS: Hadoop Distributed File System 分布式文件系统
1.1主从结构
主节点,只有一个: namenode
从节点,有很多个: datanodes
1.2namenode负责:
接收用户操作请求
维护文件系统的目录结构
管理文件与block之间关系,block与datanode之间关系
1.3datanode负责:
存储文件
文件被分成block存储在磁盘上
为保证数据安全,文件会有多个副本
2.MapReduce:并行计算框架
2.1主从结构
主节点,只有一个: JobTracker
从节点,有很多个: TaskTrackers
2.2JobTracker负责:
接收客户提交的计算任务
把计算任务分给TaskTrackers执行
监控TaskTracker的执行情况
2.3TaskTrackers负责:
执行JobTracker分配的计算任务
1.1主从结构
主节点,只有一个: namenode
从节点,有很多个: datanodes
1.2namenode负责:
接收用户操作请求
维护文件系统的目录结构
管理文件与block之间关系,block与datanode之间关系
1.3datanode负责:
存储文件
文件被分成block存储在磁盘上
为保证数据安全,文件会有多个副本
2.MapReduce:并行计算框架
2.1主从结构
主节点,只有一个: JobTracker
从节点,有很多个: TaskTrackers
2.2JobTracker负责:
接收客户提交的计算任务
把计算任务分给TaskTrackers执行
监控TaskTracker的执行情况
2.3TaskTrackers负责:
执行JobTracker分配的计算任务
相关文章推荐
- 项目管理学习总结(8)——项目管理核心三要素
- OA项目总结 ssh 框架学习总结(一)
- 十年总结(六):一些只开花不结果的项目,给了我学习的时间
- Hadoop学习总结之四:Map-Reduce的过程解析
- [项目过程中所遇到的各种问题记录]学习篇——对工作以来的学习过的开源项目进行总结—动软代码生成工具
- Hadoop学习总结之四:Map-Reduce的过程解析
- HTMLParser(一个比较流行的html代码解析、处理开源项目)学习,总结
- Hadoop 学习总结之三:Map-Reduce入门(转载)
- Hadoop学习总结之二:HDFS读写过程解析
- Hadoop学习总结之二:HDFS读写过程解析
- Hadoop 学习总结之一:HDFS简介(转载)
- 十年总结(六):一些只开花不结果的项目,给了我学习的时间
- DS计划C深入学习项目:【总结】【变量】变量的存储域
- 项目实施九阴真经《超越对手--软件项目经理的18种实用技能》--学习总结(三)
- Hadoop学习总结之三:Map-Reduce入门
- Spring核心技术学习总结
- 十年总结(六):一些只开花不结果的项目,给了我学习的时间
- DS计划C深入项目学习总结——变量的作用域
- Hadoop学习总结之五:Hadoop的运行痕迹
- Hadoop 学习总结之二:HDFS读写过程解析(转载)