CentOS搭建分布式集群环境
2017-05-17 12:58
375 查看
1、
前面说了如何在centos上搭建伪分布式环境,并且也做了一些例子进行测试,简易大家在看之前可以先看一下伪分布式的搭建
2、
1、分布的结构
(1)在这里我们需要三台linux,一个作为主节点,两个作为从节点。分别起名字为nodename,nodename1,nodename2.
(1.1)进入虚拟机,关闭nodename系统,点击nodename右键–管理–克隆–下一步–完全复制–下一步–选择目录–完成。分别克隆两个名字如上所述
(2)主节点包含namenode,jobtracker,secondarynamenode。从节点包含datanode,tasktracker
2、对两个子节点的haosts文件进行配置
![](https://img-blog.csdn.net/20170517121410725?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvdHdvX3Blb3BsZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
每个节点都有一份这样的
3、修改主机的名字
![](https://img-blog.csdn.net/20170517121754773?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvdHdvX3Blb3BsZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
每个节点都修改
4、各个节点之间从新产生加密文件
其他节点一样
5、jdk和hadoop在这里就不多说了 多的一点是在主节点也就是nodename节点的
![](https://img-blog.csdn.net/20170517122717566?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvdHdvX3Blb3BsZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
6、ssh两个节点间的免密码登录
(1)在nodename中执行
然后执行
(2)在nodename2中执行
然后执行
(3)然后把nodename中的/etc/.ssh/authorized_keys文件分别拷贝到nodename和nodename2中
7、然后再主节点执行
8、在执行start-all.sh
![](https://img-blog.csdn.net/20170517125721014?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvdHdvX3Blb3BsZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
9、执行jps产看进程
![](https://img-blog.csdn.net/20170517125801978?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvdHdvX3Blb3BsZQ==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/SouthEast)
10、至此 配置结束
前面说了如何在centos上搭建伪分布式环境,并且也做了一些例子进行测试,简易大家在看之前可以先看一下伪分布式的搭建
2、
1、分布的结构
(1)在这里我们需要三台linux,一个作为主节点,两个作为从节点。分别起名字为nodename,nodename1,nodename2.
(1.1)进入虚拟机,关闭nodename系统,点击nodename右键–管理–克隆–下一步–完全复制–下一步–选择目录–完成。分别克隆两个名字如上所述
(2)主节点包含namenode,jobtracker,secondarynamenode。从节点包含datanode,tasktracker
2、对两个子节点的haosts文件进行配置
vi /etc/hosts
每个节点都有一份这样的
3、修改主机的名字
vi /etc/sysconfig/network
每个节点都修改
4、各个节点之间从新产生加密文件
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa cp id_rsa.pub /root/.ssh/authorized_keys 然后执行 ssh localhost ssh nodename
其他节点一样
5、jdk和hadoop在这里就不多说了 多的一点是在主节点也就是nodename节点的
vi /usr/local/hadoop/conf/slaves
6、ssh两个节点间的免密码登录
(1)在nodename中执行
ssh-copy-id -i nodename1
然后执行
ssh nodename1
(2)在nodename2中执行
ssh-copy-id -i nodename1
然后执行
ssh nodename1
(3)然后把nodename中的/etc/.ssh/authorized_keys文件分别拷贝到nodename和nodename2中
7、然后再主节点执行
hadoop namenode -format
8、在执行start-all.sh
9、执行jps产看进程
10、至此 配置结束
相关文章推荐
- Hadoop分布式集群搭建 (一 Centos7 环境准备)
- Centos7 下 Hadoop 2.6.4 分布式集群环境搭建
- Hadoop2.7.2 Centos 完全分布式集群环境搭建 (1) - 基础环境准备-1
- 超详细图文教程 virtualbox centos6.5 虚拟机分布式集群环境搭建
- 基于Virtual Box搭建centos 7集群以及各类分布式系统环境搭建
- Hadoop2.7.2 Centos 完全分布式集群环境搭建 (3) - 问题汇总
- Centos7 下 spark1.6.1_hadoop2.6 分布式集群环境搭建
- Hadoop2.7.2 Centos 完全分布式集群环境搭建 (1) - 基础环境准备-2
- Hadoop2.7.2 Centos 完全分布式集群环境搭建 (2) - Hadoop安装与配置(完全分布式)
- 基于vmware workstations 10 、centos6.4和hadoop-2.7.1的hadoop完全分布式集群的开发环境搭建
- 分布式存储 CentOS虚拟机环境搭建FastDFS集群
- hadoop伪分布式集群环境搭建--基于CentOS
- Centos7 下 spark1.6.1_hadoop2.6 分布式集群环境搭建
- 基于CentOS与VmwareStation10搭建Oracle11G RAC 64集群环境:2.搭建环境-2.2安装操作系统CentOS5.4
- 消息订阅发布系统Apache Kafka分布式集群环境搭建和简单测试
- 基于CentOS与VmwareStation10搭建Oracle11G RAC 64集群环境:4.安装Oracle RAC FAQ-4.4.无法图形化安装Grid Infrastructure
- 基于CentOS与VmwareStation10搭建Oracle11G RAC 64集群环境:2.搭建环境-2.4. 安装JDK
- 基于CentOS与VmwareStation10搭建Oracle11G RAC 64集群环境:1.资源准备