hadoop1集群搭建
2015-06-18 21:46
267 查看
1.准备好三台装好jdk的虚拟机。
2.三台虚拟机都要修改hosts文件,vi /etc/hosts
![](http://img.blog.csdn.net/20150618214853288)
3.修改完之后重启使其生效。reboot
4.创建hadoop用户组,创建Hadoop用户并添加到Hadoop用户组,切换到Hadoop用户。
![](http://img.blog.csdn.net/20150618215751584)
5.设置SSH无秘钥访问:
(1)在master机器上hadoop用户根目录下执行命令:ssh-keygen -t rsa 连续回车三次;
![](http://img.blog.csdn.net/20150618220346893)
(2)进入.ssh目录会看到生成了id_rsa id_rsa.pub两个文件,创建authorized_keys文件并将id_rsa.pub拷贝到authorized_keys文件里。
![](http://img.blog.csdn.net/20150618220933256)
(3)在slave1跟slave2机器上进行第一步,并将生成的id_rsa.pub远程拷贝到master机器的authorized_keys文件中。
![](http://img.blog.csdn.net/20150618221424765)
![](http://img.blog.csdn.net/20150618221802062)
(4)这时候authorized_keys里就有了三台机器的公钥,此时只需要把authorized_keys文件远程拷贝到slave1跟slave2的/home/hadoop/.ssh目录下,三台机器就可以实现无秘钥访问了。
![](http://img.blog.csdn.net/20150618222238469)
![](http://img.blog.csdn.net/20150618222422501)
6.把hadoop包上传到hadoop用户目录下并解压:tar -zxf hadoop-1.2.1.tar.gz
7.进入hadoop的conf目录修改配置文件:core-site.xml (tmp目录需要shoud)
![](http://img.blog.csdn.net/20150618224343293)
8.修改配置文件:hdfs-site.xml (dfs.replication数据副本数<=salve机器数,这里有两个slave所以可以设置成2)
![](http://img.blog.csdn.net/20150618224901419)
9.修改配置文件:mapred-site.xml
![](http://img.blog.csdn.net/20150618225336670)
10.在配置文件:hadoop-env.sh 配置JAVA_HOME
![](http://img.blog.csdn.net/20150618232656289)
11.在配置文件master里加入master
![](http://img.blog.csdn.net/20150618232806590)
12.在配置文件slaves里加入slave机器列表
![](http://img.blog.csdn.net/20150618232839932)
13.将整个conf配置文件全部拷贝给其他节点机器:
![](http://img.blog.csdn.net/20150618232935956)
14进入bin目录,.第一次启动hadoop集群需要进行namenode格式化:
![](http://img.blog.csdn.net/20150618233046473)
15.启动hadoop集群:sh start-all.sh并用jps查看启动情况
![](http://img.blog.csdn.net/20150618233243405)
![](http://img.blog.csdn.net/20150618233347143)
![](http://img.blog.csdn.net/20150618233334476)
16.在浏览器输入192.168.0.88:50070跟192.168.0.88:50030查看集群;
![](http://img.blog.csdn.net/20150618233514242)
![](http://img.blog.csdn.net/20150618233553084)
至此hadoop集群搭建完毕!
2.三台虚拟机都要修改hosts文件,vi /etc/hosts
3.修改完之后重启使其生效。reboot
4.创建hadoop用户组,创建Hadoop用户并添加到Hadoop用户组,切换到Hadoop用户。
5.设置SSH无秘钥访问:
(1)在master机器上hadoop用户根目录下执行命令:ssh-keygen -t rsa 连续回车三次;
(2)进入.ssh目录会看到生成了id_rsa id_rsa.pub两个文件,创建authorized_keys文件并将id_rsa.pub拷贝到authorized_keys文件里。
(3)在slave1跟slave2机器上进行第一步,并将生成的id_rsa.pub远程拷贝到master机器的authorized_keys文件中。
(4)这时候authorized_keys里就有了三台机器的公钥,此时只需要把authorized_keys文件远程拷贝到slave1跟slave2的/home/hadoop/.ssh目录下,三台机器就可以实现无秘钥访问了。
6.把hadoop包上传到hadoop用户目录下并解压:tar -zxf hadoop-1.2.1.tar.gz
7.进入hadoop的conf目录修改配置文件:core-site.xml (tmp目录需要shoud)
8.修改配置文件:hdfs-site.xml (dfs.replication数据副本数<=salve机器数,这里有两个slave所以可以设置成2)
9.修改配置文件:mapred-site.xml
10.在配置文件:hadoop-env.sh 配置JAVA_HOME
11.在配置文件master里加入master
12.在配置文件slaves里加入slave机器列表
13.将整个conf配置文件全部拷贝给其他节点机器:
14进入bin目录,.第一次启动hadoop集群需要进行namenode格式化:
15.启动hadoop集群:sh start-all.sh并用jps查看启动情况
16.在浏览器输入192.168.0.88:50070跟192.168.0.88:50030查看集群;
至此hadoop集群搭建完毕!
相关文章推荐
- Linux磁盘和文件系统
- gnome desktop environment
- linux程序设计——安装MySQL(第八章)
- Extjs6的Application Architecture(应用架构)介绍
- Linux下面查看python帮助文档
- Install Python 3 on CentOS 6.5
- Dynamic Programming | Set 2 (Optimal Substructure Property)
- Linux 如何新增驱动模块
- 架构师速成4-幼儿园
- 架构师速成4-幼儿园 分类: 架构师速成 2015-06-18 21:03 529人阅读 评论(0) 收藏
- 安装OpenCV:OpenCV 3.0、OpenCV 2.4.8、OpenCV 2.4.9 +VS 开发环境配置
- 如何用Linux外接显示器或投影仪
- linux时间
- Linux中的段管理,bss段,data段
- 关于nginx配置的不完全总结
- 在Ubuntu系统中搭建本地openstack(icehouse)源
- linux习题
- 移动网站性能优化:网页加载技术概览
- phpmyadmin各种技巧拿webshell
- nautilus-open-terminal