hadoop大数据与hadoop云计算
2016-07-22 09:17
423 查看
Hadoop入门课程:hadoop大数据与hadoop云计算,Hadoop最擅长的事情就是可以高效地处理海量规模的数据,这样Hadoop就和大数据及云计算结下了不解之缘。本节将先介绍与大数据相关的内容,然后讲解Hadoop、大数据以及云计算之间的关系,使读者从大数据和云计算的角度来认识Hadoop。
正是由于大数据对系统提出了很多极限的要求,不论是存储、传输还是计算,现有计算技术难以满足大数据的需求,因此整个IT架构的革命性重构势在必行,存储能力的增长远远赶不上数据的增长,设计最合理的分层存储架构已成为信息系统的关键。分布式存储架构不仅需要scale up式的可扩展性,也需要scale out式的可扩展性,因此大数据处理离不开云计算技术,云计算可为大数据提供弹性可扩展的基础设施支撑环境以及数据服务的高效模式,大数据则为云计算提供了新的商业价值,大数据技术与云计算技术必将有更完美的结合。
我们知道云计算的关键技术包括分布式并行计算、分布式存储以及分布式数据管理技术,而Hadoop就是一个实现了Google云计算系统的开源平台,包括并行计算模型MapReduce、分布式文件系统HDFS,以及分布式数据库Hbase,同时Hadoop的相关项目也很丰富,包括ZooKeeper、Pig、Chukwa、Hive、Hbase、Mahout等,这些项目都使得Hadoop成为一个很大很完备的生态链系统。目前使用Hadoop技术实现的云计算平台包括IBM的蓝云,雅虎、英特尔的“云计划”,百度的云计算基础架构,阿里巴巴云计算平台,以及中国移动的BigCloud大云平台。
总而言之,用一句话概括就是云计算因大数据问题而生,大数据驱动了云计算的发展,而Hadoop在大数据和云计算之间建起了一座坚实可靠的桥梁。
正是由于大数据对系统提出了很多极限的要求,不论是存储、传输还是计算,现有计算技术难以满足大数据的需求,因此整个IT架构的革命性重构势在必行,存储能力的增长远远赶不上数据的增长,设计最合理的分层存储架构已成为信息系统的关键。分布式存储架构不仅需要scale up式的可扩展性,也需要scale out式的可扩展性,因此大数据处理离不开云计算技术,云计算可为大数据提供弹性可扩展的基础设施支撑环境以及数据服务的高效模式,大数据则为云计算提供了新的商业价值,大数据技术与云计算技术必将有更完美的结合。
我们知道云计算的关键技术包括分布式并行计算、分布式存储以及分布式数据管理技术,而Hadoop就是一个实现了Google云计算系统的开源平台,包括并行计算模型MapReduce、分布式文件系统HDFS,以及分布式数据库Hbase,同时Hadoop的相关项目也很丰富,包括ZooKeeper、Pig、Chukwa、Hive、Hbase、Mahout等,这些项目都使得Hadoop成为一个很大很完备的生态链系统。目前使用Hadoop技术实现的云计算平台包括IBM的蓝云,雅虎、英特尔的“云计划”,百度的云计算基础架构,阿里巴巴云计算平台,以及中国移动的BigCloud大云平台。
总而言之,用一句话概括就是云计算因大数据问题而生,大数据驱动了云计算的发展,而Hadoop在大数据和云计算之间建起了一座坚实可靠的桥梁。
相关文章推荐
- 云计算的三种服务模式 (IaaS SaaS PaaS)
- EasyDarwin开源流媒体云平台中boost Base64编解码后与源长度不匹配的bug
- 盗版软件满天飞,禁不了但可止得住!
- 扬尘噪声智能监测云平台
- 扬尘防治实时在线监控云平台
- 第三讲:云计算的产生和特点
- 第一讲:云计算基础知识第一讲:云计算概念
- 云计算之--------高级虚拟化KVM
- 红帽&誉天OpenStack云计算技术沙龙(北京站)
- 云计算之--------基础概念篇
- 云计算站点发布
- 第三届中国云计算用户大会笔记和心得
- 终于有人讲清楚了什么是云计算的业务永续和多活
- 终于有人讲清楚了什么是云计算的业务永续和多活
- 云计算的三种服务模式:IaaS,PaaS和SaaS
- 阿里云平台java搭建及项目部署
- 中国联通沃云----弹性块存储使用说明
- 中国联通沃云----弹性云主机使用说明
- 微软八年转折近尾声,总结向云转型54条经验
- 大数据和云计算两者之间是什么关系呢?