hadoop学习第二天~Hadoop2.6.5完全分布式集群搭建和测试
2017-12-28 02:27
716 查看
文章参考:http://blog.csdn.net/xiaoxiangzi222/article/details/52757168
环境配置:
系统 centos7 节点 192.168.1.111 namenode 192.168.1.115 datanode2 192.168.1.116 datanode3
java 环境 : jdk-8u101-Linux-x64.gz hadoop 版本 : hadoop-2.6.5
安装步骤
1.安装虚拟机系统,并进行准备工作(可安装一个然后克隆)请自行百度,需要设置固定ip
2.修改各个虚拟机的hostname和host
#修改hostname的指令: sudo gedit /etc/hostname #修改hosts指令: sudo vi /etc/hosts #将以下内容添加到hosts中 192.168.1.111 namenode 192.168.1.115 datanode2 192.168.1.116 datanode3
3.创建用户组和用户
创建hadoop 用户组和用户 sudo groupadd hadoop useradd -g haddoop hadoop 编辑权限 sudo vi /etc/sudoers 在root ALL=(ALL:ALL) ALL下添加 hadoop ALL=(ALL:ALL) ALL
4、配置虚拟机网络,使虚拟机系统之间以及和host主机之间可以通过相互ping通。
分别以刚刚创建的hadoop用户重新登录系统,以后的操作都以hadoop用户登录。
ping +主机名 ping datanode2 ping datenode3
5.安装jdk和配置环境变量,检查是否配置成功
1)下载jdk安装包(自行百度),并将安装包拖入到虚拟机当中 2)通过cd命令进入到安装包的当前目录,利用如下命令进行解压缩。 tar -zxvf jdk.....(安装包名称) 3)利用如下命令将解压后的文件夹移到/usr目录下 注意,这样移动到/usr以后就没有jdk1.8...这个目录了,是将这个目录下的所有文件全部移动到/usr/java下, mv jdk1.8...(文件夹名称) /usr/java 4)配置环境变量 vi /etc/profile JAVA_HOME=/usr/java/jdk1.8.0_101 CLASSPATH=$JAVA_HOME/lib/ PATH=$PATH:$JAVA_HOME/bin export PATH JAVA_HOME CLASSPATH
6、配置ssh,实现节点间的无密码登录 ssh node1/2指令验证时候成功
在各个节点上执行 ssh-keygen -t rsa 在namenode cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys 上传到各个datanode节点 scp authorized_keys root@datanode2:~/.ssh/authorized_keys scp authorized_keys root@datanode3:~/.ssh/authorized_keys 修改各台主机上authorized_keys文件的权限: 所有机器上,均执行命令: chmod 600 .ssh/authorized_keys 检查是否能免密登录到各个节点 ssh datanode2 ssh datanode3
7、master配置hadoop,并将hadoop文件传输到node节点
1)解包移动 #解压hadoop包 tar -zxvf hadoop... #将安装包移到/usr目录下 mv hadoop... /usr/local/hadoop-2.6.5 2)新建文件夹 #在/usr/local/hadoop目录下新建如下目录(root) mkdir dfs mkdir dfs/name mkdir dfs/data mkdir tmp 3)配置文件:hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中) 修改JAVA_HOME值(export JAVA_HOME=/usr/java) 4)配置文件:yarn-env.sh 修改JAVA_HOME值(export JAVA_HOME=/usr/java) 5)配置文件:slaves 将内容修改为: datanode2 datanode3 6)配置文件:core-site.xml <configuration> <property> <name>fs.defaultFS</name> <value>hdfs://namenode:9000</value> </property> <property> <name>io.file.buffer.size</name> <value>131072</value> </property> <property> <name>hadoop.tmp.dir</name> <value>file:/usr/local/hadoop-2.6.5/tmp</value> <description>Abase for other temporary directories.</description> </property> </configuration> 7)配置文件:hdfs-site.xml <configuration> <property> <name>dfs.namenode.secondary.http-address</name> <value>namenode:9001</value> </property> <property> <name>dfs.namenode.name.dir</name> <value>file:/usr/local/hadoop-2.6.5/dfs/name</value> </property> <property> <name>dfs.datanode.data.dir</name> <value>file:/usr/local/hadoop-2.6.5/dfs/data</value> </property> <property> <name>dfs.replication</name> <value>2</value> </property> <property> <name>dfs.webhdfs.enabled</name> <value>true</value> </property> </configuration> 8)配置文件:mapred-site.xml 先创建然后编辑 cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml vi etc/hadoop/mapred-site.xml <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> <property> <name>mapreduce.jobhistory.address</name> <value>namenode:10020</value> </property> <property> <name>mapreduce.jobhistory.webapp.address</name> <value>namenode:19888</value> </property> </configuration> 9)配置文件:yarn-site.xml <configuration> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class </name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property> <property> <name>yarn.resourcemanager.address</name> <value>namenode:8032</value> </property> <property> <name>yarn.resourcemanager.scheduler.address</name> <value>namenode:8030</value> </property> <property> <name>yarn.resourcemanager.resource-tracker.address</name> <value>namenode:8031</value> </property> <property> <name>yarn.resourcemanager.admin.address</name> <value>namenode:8033</value> </property> <property> <name>yarn.resourcemanager.webapp.address</name> <value>namenode:8088</value> </property> </configuration> 10)将hadoop-2.6.5传输到datanode2和datanode3 usr/local/hadoop-2.6.5目录,(如果传输时报错说 :权限拒绝,先把文件传送到非/usr目录下,然后在node上把这个文件再移动到/usr/local/hadoop-2.6.5) scp -r /usr/local/hadoop-2.6.5 hadoop@datanode2:/usr/local/hadoop-2.6.5 11)配置环境变量 #编辑/etc/profile sudo vi /etc/profile #以上已经添加过java的环境变量,在后边添加就可以 #hadoop export HADOOP_HOME=/usr/local/hadoop-2.6.5 export PATH=$PATH:$HADOOP_HOME/sbin export PATH=$PATH:$HADOOP_HOME/bin 执行 source /etc/profile 12)启动hadoop,进入hadoop安装目录 bin/hdfs namenode -format sbin/start-all.sh 13)启动后分别在master, node下输入jps查看进程 看到下面的结果,则表示成功。
8、配置环境变量,并启动hadoop,检查是否安装成功,执行wordcount检查是否成功。
进入本地hadoop目录(/usr/hadoop) 1、 bin/hdfs dfs -mkdir -p /data/input在虚拟分布式文件系统上创建一个测试目录/data/input 2、 hdfs dfs -put README.txt /data/input 将当前目录下的README.txt 文件复制到虚拟分布式文件系统中 3、 bin/hdfs dfs-ls /data/input 查看文件系统中是否存在我们所复制的文件 4、 运行如下命令向hadoop提交单词统计任务 进入jar文件目录,执行下面的指令。 hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.5.jar wordcount /data/input /data/output/result 查看result,结果在result下面的part-r-00000中 hdfs dfs -cat /data/output/result/part-r-00000
相关文章推荐
- hadoop学习第二天-了解HDFS的基本概念&&分布式集群的搭建&&HDFS基本命令的使用
- Hadoop2学习记录(1) |HA完全分布式集群搭建
- 学习记录--颤抖吧,hadoop(五)---搭建完全分布式hadoop集群(2)
- hadoop2.7完全分布式集群搭建以及任务测试
- Hadoop2.7.3完全分布式集群搭建和测试
- 【Hadoop】hadoop2.7完全分布式集群搭建以及任务测试
- Hadoop2.6.5完全分布式集群搭建
- 学习记录--颤抖吧,hadoop(五)---搭建完全分布式hadoop集群(1)
- DayDayUP_大数据学习课程[1]_hadoop2.6.0完全分布式集群环境和伪分布式集群搭建
- Hadoop2.7.3完全分布式集群搭建和测试
- Hadoop2.7.3完全分布式集群搭建和测试
- Hadoop-2.6.0完全分布式集群搭建和测试(一)
- hadoop2.7完全分布式集群搭建以及任务测试
- Hadoop2.7.3完全分布式集群搭建和测试
- Hadoop2.7.3完全分布式集群搭建和测试
- Hadoop完全分布式集群环境搭建及测试
- Hadoop2.7.3完全分布式集群搭建和测试
- Hadoop集群完全分布式搭建教程-CentOS
- Ubantu下搭建Hadoop2.x完全分布式集群
- hadoop完全分布式集群搭建