一、Hadoop 2.5.2伪分布式环境搭建
2017-01-24 09:53
127 查看
一、环境准备
新建或克隆一台新的centos服务器虚拟机。
修改ip和hosts,关闭防火墙iptables和selinux。
新建hadoop用户,并赋予相应的sudoers权限。
建立互信,免登陆。
安装jdk1.7,并配置环境变量。
二、开始安装
上传hadoop2.5.2安装包,并解压到相应的目录下。
修改hadoop环境配置文件的的环境变量hadoop-env.sh
3.修改HDFS的配置文件core-site.xml,设置fs.defaultFS与hadoop.tmp.dir
4.修改hdfs-site.xml,配置副本数,与secondnamenode地址
5.Hdfs配置完成后,进行格式化
6.启动hdfs,并使用jps查看启动情况。
7.查看namenode的web页面。
8.Hdfs上传文件,查看文件。
9.YARN 配置,yarn-site.xml
10.YARN 启动、webui界面
11.MapReduce配置、案例WordCount测试运行、如何提交Job、查看运行结果。
12.运行mapreduce的案例
$ bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.2.jar wordcount /input/yahoo /out02
13.查看运行结果,bin/hdfs dfs -text /out02/*
新建或克隆一台新的centos服务器虚拟机。
修改ip和hosts,关闭防火墙iptables和selinux。
新建hadoop用户,并赋予相应的sudoers权限。
建立互信,免登陆。
安装jdk1.7,并配置环境变量。
二、开始安装
上传hadoop2.5.2安装包,并解压到相应的目录下。
修改hadoop环境配置文件的的环境变量hadoop-env.sh
3.修改HDFS的配置文件core-site.xml,设置fs.defaultFS与hadoop.tmp.dir
4.修改hdfs-site.xml,配置副本数,与secondnamenode地址
5.Hdfs配置完成后,进行格式化
6.启动hdfs,并使用jps查看启动情况。
7.查看namenode的web页面。
8.Hdfs上传文件,查看文件。
9.YARN 配置,yarn-site.xml
10.YARN 启动、webui界面
11.MapReduce配置、案例WordCount测试运行、如何提交Job、查看运行结果。
12.运行mapreduce的案例
$ bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.2.jar wordcount /input/yahoo /out02
13.查看运行结果,bin/hdfs dfs -text /out02/*
相关文章推荐
- Ubuntu14搭建Hadoop2.5.2伪分布式开发环境
- hadoop2.5.2学习及实践笔记(一)—— 伪分布式学习环境搭建
- hadoop 2.5.2 完全分布式集群环境搭建 (2)
- hadoop2.5.2的本地模式、伪分布式集群、分布式集群和HDFS系统的高可用的环境搭建
- hadoop 2.5.2 完全分布式集群环境搭建 (3)
- Hadoop2.5.2完全分布式环境搭建
- 伪分布式hadoop-2.5.2环境搭建
- CentOS6.6搭建Hadoop2.5.2伪分布式环境
- hadoop 2.5.2 完全分布式集群环境搭建 (1)
- hadoop2.2.0 单机伪分布式(含64位hadoop编译) 及 eclipse hadoop开发环境搭建
- Mac系统下,Hadoop 2.6.2 + ZooKeeper 3.4.6 + HBase 1.1.5 完全分布式环境搭建
- hadoop集群环境搭建之完全分布式集群环境搭建(二)
- CentOS6.5虚拟机下搭建Hadoop伪分布式环境
- Hadoop环境搭建(ubuntu+hadoop2.7 - 伪分布式)
- hadoop2.6.0版本搭建伪分布式环境
- 开发者实验室之------搭建 Hadoop 伪分布式环境
- 王家林 云计算分布式大数据Hadoop实战高手之路---从零开始 第二讲:全球最详细的从零起步搭建Hadoop单机和伪分布式开发环境图文教程
- 大数据 hadoop2.5.2伪分布式搭建
- [虚拟机VM][Ubuntu12.04]搭建Hadoop完全分布式环境(三)(终篇)