hadoop介绍
2013-12-17 23:53
246 查看
1.hadoop的核心分为
(1)HDFS:Hadoop Distributed File System分布式文件系统
(2)MapReduce:并行计算框架。
2.HDFS的架构
主从结构:
主节点,只有一个:namenode
从节点,有很多个:datanodes
namenode负责:
接收用户操作请求
维护文件系统的目录结构
管理文件与block之间关系,block与datanode之间关系
datanode负责:
存储文件
文件被分成block存储在磁盘上
为保证数据安全,文件会有多个副本
3.MapReduce的架构
主从结构:
主节点,只有一个:JobTracker
从节点,有很多个:TaskTrackers
JobTracker负责:
接收客户提交的计算任务
把计算任务分给TaskTrackers执行
监控TaskTracker的执行情况
TaskTrackers负责:
执行JobTracker分配的计算任务
(1)HDFS:Hadoop Distributed File System分布式文件系统
(2)MapReduce:并行计算框架。
2.HDFS的架构
主从结构:
主节点,只有一个:namenode
从节点,有很多个:datanodes
namenode负责:
接收用户操作请求
维护文件系统的目录结构
管理文件与block之间关系,block与datanode之间关系
datanode负责:
存储文件
文件被分成block存储在磁盘上
为保证数据安全,文件会有多个副本
3.MapReduce的架构
主从结构:
主节点,只有一个:JobTracker
从节点,有很多个:TaskTrackers
JobTracker负责:
接收客户提交的计算任务
把计算任务分给TaskTrackers执行
监控TaskTracker的执行情况
TaskTrackers负责:
执行JobTracker分配的计算任务
相关文章推荐
- servlet(二)
- Programming and Using Linux Sound - in depth - MIDI ALSA
- linux下最简单安装LAMP
- OpenGL中glVertex2f函数与gluOrtho2D的参数的对应关系,以及常见函数的对应坐标系
- Linux:一个可爱的首都人民
- OpenGL投影变换函数gluOrtho2D()和视口变换函数glViewport()
- kernel oops 分析
- Programming and Using Linux Sound - in depth - Chapter 5 ALSA
- linux修改密码出现Authentication token manipulation error的解决办法
- linux压缩解压命令
- Linux下安装(卸载)KDE和GNOME
- linux 下的爆破工具hydra
- 在美国公司架构中,LLC、LLP 和 Corporation 的区别何在?
- linux 下查看cpu信息
- 如何在Windows打造出你的Linux开发环境
- mahout学习之TasteOptionParser
- Linux系统下强制踢掉登录用户
- apache并发数调整
- linux2.6中的platform和of_platform机制B
- Linux删除重复行