hadoop学习笔记--哪些场景不适合 哪些场景适合
2015-03-09 21:12
309 查看
Hadoop不是万能的,有些场景适用,有些不适用。
Hadoop设计的目的主要包括下面几个方面,也就是所谓的适用场景:
1:超大文件
可以是几百M,几百T这个级别的文件。
2:流式数据访问
Hadoop适用于一次写入,多次读取的场景,也就是数据复制进去之后,长时间在这些数据上进行分析。
3:商业硬件
也就是说大街上到处都能买到的那种硬件,这样的硬件故障率较高,所以要有很好的容错机制。
接下来说说不适用的场景:
1: 低延迟数据访问
Hadoop设计的目的是大吞吐量,所以并没有针对低延迟数据访问做一些优化,如果要求低延迟, 可以看看Hbase。
2: 大量的小文件
由于NameNode把文件的MetaData存储在内存中,所以大量的小文件会产生大量的MetaData。这样的话百万级别的文件数目还是可行的,再多的话就有问题了。
3: 多用户写入,任意修改
Hadoop现在还不支持多人写入,任意修改的功能。也就是说每次写入都会添加在文件末尾。
Hadoop设计的目的主要包括下面几个方面,也就是所谓的适用场景:
1:超大文件
可以是几百M,几百T这个级别的文件。
2:流式数据访问
Hadoop适用于一次写入,多次读取的场景,也就是数据复制进去之后,长时间在这些数据上进行分析。
3:商业硬件
也就是说大街上到处都能买到的那种硬件,这样的硬件故障率较高,所以要有很好的容错机制。
接下来说说不适用的场景:
1: 低延迟数据访问
Hadoop设计的目的是大吞吐量,所以并没有针对低延迟数据访问做一些优化,如果要求低延迟, 可以看看Hbase。
2: 大量的小文件
由于NameNode把文件的MetaData存储在内存中,所以大量的小文件会产生大量的MetaData。这样的话百万级别的文件数目还是可行的,再多的话就有问题了。
3: 多用户写入,任意修改
Hadoop现在还不支持多人写入,任意修改的功能。也就是说每次写入都会添加在文件末尾。
相关文章推荐
- Hadoop学习笔记之HBase应用场景
- hadoop学习笔记二_MapReduce应用场景、原理、基本架构
- hadoop学习笔记之wordcount
- wpf学习笔记-3D场景中的鼠标相应事件
- Linux+hadoop学习笔记(一)
- Hadoop学习笔记二 安装部署
- Hadoop之HBase框架学习基础实践篇(笔记16)
- hadoop学习笔记--10.hive安装与配置
- Hadoop 2.2.0学习笔记20131209
- hadoop学习笔记之hive 安装与配置
- hadoop学习笔记
- 大数据-Hadoop学习笔记05
- Hadoop Oozie 学习笔记
- Hadoop学习笔记(三):Hive简介
- Hadoop学习笔记-003-CentOS_6.5_64_设置ssh免密码登录
- 慕课网《Python遇见数据采集》学习过程笔记【1】(这个视频不适合我,终断)
- cocos2d-x学习笔记(3)场景切换
- Part2:Unity学习笔记十六 - Space Shooter(从视频最后一课向Done_Main.unity场景修改的过程)
- [Big Data]菜鸟的Hadoop (Before YARN) 学习笔记 (一) WordCount
- hadoop学习笔记-搭建环境