您的位置：首页 > 运维架构

Hadoop项目相关介绍（初识Hadoop）

2018-01-30 14:29 218 查看

Hadoop项目：

. Commond ：一系列组件和接口，用于分页式文件系统和通用I/O(序列化、Java RPC和持久化数据结构)。

. Avro ：一种序列化系统，用于支持高效、跨语言的RPC和持久化数据存储。

. MapReduce ：分页式数据处理模型和执行环境，运行于大型商用机集群。

. HDFS ：分页式文件系统，运行于大型商用机集群。

. Pig ：数据流语言和运行环境，用以探究非常庞大的数据。Pig运行在MapReduce和HDFS集群上。

. Hive ：一种分页式的、按列存储的数据仓库。Hive管理HDFS中存储的数据，并提供基于SQL的查询语言（由运行时引擎翻译成 MapReduce作业）用以查询数据。

. HBase ：一种分布式的按列存储的数据库。HBase使用HDFS作为底层存储，同时支持MapReduce的批量式计算和点查询（随机读取）。

. ZooKeeper ：一种分布式的，可用性高的协调服务。ZooKeeper提供分布式锁之类的基本服务用于构建分布式应用。

. Sqoop ：该工具用于在结构化数据存储（如关系型数据库）和HDFS之间高效批量传输数据。

. Oozie ：该服务用于运行的调度Hadoop作业（如MapReduce），Pig，Hive，及Sqoop作业。

内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理

标签：

相关文章推荐

新的分享

章节导航