hadoop stream框架简单使用
2017-01-10 17:16
176 查看
继:ubuntu14.04的HADOOP安装,详细
在hadoop完成伪分布式安装之后就可以开始streaming框架测试:
hadoop安装在/usr/local/hadoop;(主要要用安装时的用户登录,不要用root)
首先在终端输入
cd /usr/local/hadoop
然后在HDFS上创建文件,
./bin/hadoop jar ./share/hadoop/tools/lib/hadoop-streaming-2.6.0.jar -input input -output output -mapper /bin/cat -reducer test_input/reducer.sh -file test_input/reducer.sh #使用streaming框架
C++版WordCount:(参考http://dongxicheng.org/mapreduce-nextgen/hadoop-streaming-examples/)
在hadoop完成伪分布式安装之后就可以开始streaming框架测试:
hadoop安装在/usr/local/hadoop;(主要要用安装时的用户登录,不要用root)
首先在终端输入
cd /usr/local/hadoop
然后在HDFS上创建文件,
./bin/hdfs dfs -mkdir input #创建输入文件,这里的创建会默认在/user/hadoop下./bin/hdfs dfs -put ./etc/hadoop/*.xml input #复制输入文件到文件夹下
./bin/hadoop jar ./share/hadoop/tools/lib/hadoop-streaming-2.6.0.jar -input input -output output -mapper /bin/cat -reducer test_input/reducer.sh -file test_input/reducer.sh #使用streaming框架
C++版WordCount:(参考http://dongxicheng.org/mapreduce-nextgen/hadoop-streaming-examples/)
相关文章推荐
- hadoop所封装的RPC框架简单使用
- 使用Reactor框架的简单udp服务器
- (五)asp.net ajax框架的简单使用
- 一个简单的使用EVP框架的加密过程
- 简单的使用CreateDialog的Win32程序框架
- 一个MDI窗口框架,可作为简单的MIS窗口框架使用
- 一个使用监听器模式实现的J2ME网络编程框架,包括一个简单的登录功能实现(含源代码)
- 使用PostSharp进行AOP框架设计:从一个简单的原型
- Ajax中DWR框架使用简单步骤
- 最简单的Ogre系列之一——Ogre框架程序(不使用ExampleListener/Application)
- AjaxPro框架使用整理(一) 一个简单的异步交互页面
- 用Php扩展实现的简单框架 - 6 - 使用示例
- 使用Net类库,实现的基于TCP/IP简单的通讯框架框架(一)
- 简单的三层框架以及使用dbutils进行数据库操作(入门)
- [原创]使用FleaPHP框架构建简单留言本应用
- 使用PostSharp进行AOP框架设计:一个简单的原型
- [原创]使用FleaPHP框架构建简单留言本应用
- DWR框架的简单使用
- 使用EnterpriseLibrary的PIAB与Unity搭建简单AOP框架
- 一个使用面向对象方式编写的简单游戏框架