您的位置:首页 > 运维架构

Hadoop基本使用(二)HelloWorld之旅

2017-03-16 17:51 239 查看

前言

上一篇文件已经介绍了hadoop的基本配置和安装。本篇文章将介绍hadoop的一个简单实用的小案例。hadoop框架是实现大数据的基础,而大数据存储主要是为了分析数据中对我们有用的信息,比如统计某一个城市中人名包含了某一个字的人数。本片文章也将会以简单的数据统计为基础,写一个简单的HelloWorld。
如果还没有安装Hadoop,请先看第一篇文章《hadoop的基本配置和安装

开发环境

系统:ubuntu linux
软件:hadoop 2.7.3

步骤

1.在/home/javen/hadoop-2.7.3/文件夹下创建一个test文件夹。命令如下:



  2.进入test文件夹:



  3.在test文件夹下创建2个文件:



  4. 退出test目录:



  5. 在hdfs系统中创建一个input文件夹,用来存放test1.txt和test2.txt文件,命令如下:



  6.再将test文件夹上传到/user/hadoop/input文件夹下,命令如下:



  7.使用hadoop自带的example.jar执行,命令如下:



8.执行完第7步之后,会在output2文件夹下生成一个part-xxx文件,part-xxx文件中存放的就是hadoop的统计结果。
9.然后执行如下命令,查看结果,命令如下:



结果



以上结果统计出每个单词出现的次数。

到此为止一个简单的Helloworld程序就执行完毕。

这只是一个简单的案例。如果要进行比较复杂的数据分析和统计,需要自己先去了解Map和Reduce。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息