CDH版本离线安装的几个步骤
2017-08-22 09:58
561 查看
使用hadoop账号通过CM方式安装CDH
三台机器
192.168.130.140 centos-master
192.168.130.141 centos-slave1
192.168.130.142 centos-slave2
1、设置root权限: 参考
给组赋root权限
2、下载CM\CDH安装包、准备jdk1.7 、mysql、http服务等环境
运行CDH5需要使用Oracle的Jdk,需要Java 7的支持
http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-el6-cm5.3.3_x86_64.tar.gz http://archive-primary.cloudera.com/cdh5/parcels/5.3.3/CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel http://archive-primary.cloudera.com/cdh5/parcels/5.3.3/CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel.sha1 http://archive-primary.cloudera.com/cdh5/parcels/5.3.3/manifest.json
下载 jdk-7u71-linux-x64.rpm 包安装JDK
安装前,先将原有jdk删除,通rpm -qa|grep jdk查找到包,然后通过以下命令删除
数据库创建
#hive
create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
#activity monitor
create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
# Reports Manager
create database reports DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
grant all privileges on *.* to 'root'@'centos-master' identified by 'root123' with grant option;
flush privileges;
3、设置SSH 互信
4、调整系统参数
在/etc/rc.local中添加一下内容(禁用透明大页)
if test -f /sys/kernel/mm/transparent_hugepage/enabled; then
echo never > /sys/kernel/mm/transparent_hugepage/enabled
fi
echo 0 > /proc/sys/vm/swappiness (最大化利用内存)
永久生效操作
sudo vi /etc/sysctl.conf
vm.swappiness=0
cd /etc/security/limits.d
vi hadoop.conf
hadoop - nofile 32000
hadoop - nproc 16000
5、配置ntp时钟同步
6、关闭iptables和selinux
上述准备完后,即可开始通过CM部署了。
7.1 CM安装
主节点解压安装
tar -zxvf cloudera-manager-el6-cm5.3.3_x86_64.tar.gz
http://dev.mysql.com/downloads/connector/j/下载mysql
解压后,找到mysql-connector-java-5.1.35-bin.jar,放到/opt/cm-5.3.3/share/cmf/lib/中
-- 在主节点初始化CM5的数据库::
sudo /opt/cm-5.3.3/share/cmf/schema/scm_prepare_database.sh mysql cm -hcentos-master -uroot -proot123 --scm-host centos-master scm scm scm
mysql -uroot -proot123 -h localhost -e "show databases;"
----Agent配置
修改/opt/cm-5.3.3/etc/cloudera-scm-agent/config.ini中的server_host为主节点的主机名。
同步Agent到其他节点
scp -r cm-5.3.3 centos-slave1:/opt
scp -r cm-5.3.3 centos-slave2:/opt
---在所有节点创建cloudera-scm用户
sudo useradd --system --home=/opt/cm-5.3.3/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "cloudera scm user" cloudera-scm
7.2 CDH5安装
将以下安装包放到主节点/opt/cloudera/parcel-repo/目录(手工创建):
CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel
CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel.sha1 (后缀mv成 .sha)
manifest.json
7.3 启动服务
---主节点上启动服务端
sudo /opt/cm-5.3.3/etc/init.d/cloudera-scm-server start
--启动agent服务
sudo /opt/cm-5.3.3/etc/init.d/cloudera-scm-agent start
详细参见下文链接成功后即可登陆CM控制台(默认端口7180):
特别注意:
1、CM安装过程中切记先同步cm-5.3.3到各节点,再启用agent服务,因为首次启用后会产生一个uuid(/opt/cm-5.3.3/lib/cloudera-scm-agent/uuid),如果启用服务后再同步,将导致所有agent端共用一个UUID,会出现紊乱的情况,如登录CM控制台安装只能看到1台管理的主机,且该主机名随机切换成agent中的一台。
2、hive需要mysql-java包:cp /opt/cm-5.3.3/share/cmf/lib/mysql-connector-java-5.1.25-bin.jar /opt/cloudera/parcels/CDH/lib/hive/lib
三台机器
192.168.130.140 centos-master
192.168.130.141 centos-slave1
192.168.130.142 centos-slave2
1、设置root权限: 参考
给组赋root权限
2、下载CM\CDH安装包、准备jdk1.7 、mysql、http服务等环境
运行CDH5需要使用Oracle的Jdk,需要Java 7的支持
http://archive-primary.cloudera.com/cm5/cm/5/cloudera-manager-el6-cm5.3.3_x86_64.tar.gz http://archive-primary.cloudera.com/cdh5/parcels/5.3.3/CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel http://archive-primary.cloudera.com/cdh5/parcels/5.3.3/CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel.sha1 http://archive-primary.cloudera.com/cdh5/parcels/5.3.3/manifest.json
下载 jdk-7u71-linux-x64.rpm 包安装JDK
安装前,先将原有jdk删除,通rpm -qa|grep jdk查找到包,然后通过以下命令删除
rpm -e --nodeps 包名
数据库创建
#hive
create database hive DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
#activity monitor
create database amon DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
# Reports Manager
create database reports DEFAULT CHARSET utf8 COLLATE utf8_general_ci;
grant all privileges on *.* to 'root'@'centos-master' identified by 'root123' with grant option;
flush privileges;
3、设置SSH 互信
4、调整系统参数
在/etc/rc.local中添加一下内容(禁用透明大页)
if test -f /sys/kernel/mm/transparent_hugepage/enabled; then
echo never > /sys/kernel/mm/transparent_hugepage/enabled
fi
echo 0 > /proc/sys/vm/swappiness (最大化利用内存)
永久生效操作
sudo vi /etc/sysctl.conf
vm.swappiness=0
cd /etc/security/limits.d
vi hadoop.conf
hadoop - nofile 32000
hadoop - nproc 16000
5、配置ntp时钟同步
6、关闭iptables和selinux
上述准备完后,即可开始通过CM部署了。
7.1 CM安装
主节点解压安装
tar -zxvf cloudera-manager-el6-cm5.3.3_x86_64.tar.gz
http://dev.mysql.com/downloads/connector/j/下载mysql
解压后,找到mysql-connector-java-5.1.35-bin.jar,放到/opt/cm-5.3.3/share/cmf/lib/中
-- 在主节点初始化CM5的数据库::
sudo /opt/cm-5.3.3/share/cmf/schema/scm_prepare_database.sh mysql cm -hcentos-master -uroot -proot123 --scm-host centos-master scm scm scm
mysql -uroot -proot123 -h localhost -e "show databases;"
----Agent配置
修改/opt/cm-5.3.3/etc/cloudera-scm-agent/config.ini中的server_host为主节点的主机名。
同步Agent到其他节点
scp -r cm-5.3.3 centos-slave1:/opt
scp -r cm-5.3.3 centos-slave2:/opt
---在所有节点创建cloudera-scm用户
sudo useradd --system --home=/opt/cm-5.3.3/run/cloudera-scm-server --no-create-home --shell=/bin/false --comment "cloudera scm user" cloudera-scm
7.2 CDH5安装
将以下安装包放到主节点/opt/cloudera/parcel-repo/目录(手工创建):
CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel
CDH-5.3.3-1.cdh5.3.3.p0.5-el6.parcel.sha1 (后缀mv成 .sha)
manifest.json
7.3 启动服务
---主节点上启动服务端
sudo /opt/cm-5.3.3/etc/init.d/cloudera-scm-server start
--启动agent服务
sudo /opt/cm-5.3.3/etc/init.d/cloudera-scm-agent start
详细参见下文链接成功后即可登陆CM控制台(默认端口7180):
特别注意:
1、CM安装过程中切记先同步cm-5.3.3到各节点,再启用agent服务,因为首次启用后会产生一个uuid(/opt/cm-5.3.3/lib/cloudera-scm-agent/uuid),如果启用服务后再同步,将导致所有agent端共用一个UUID,会出现紊乱的情况,如登录CM控制台安装只能看到1台管理的主机,且该主机名随机切换成agent中的一台。
2、hive需要mysql-java包:cp /opt/cm-5.3.3/share/cmf/lib/mysql-connector-java-5.1.25-bin.jar /opt/cloudera/parcels/CDH/lib/hive/lib
相关文章推荐
- CDH5.11 离线安装或者升级spark2.x详细步骤
- CDH5.11 离线安装或者升级spark2.x详细步骤
- centos CDH 离线安装步骤
- [JIRA] 最新Linux安装版本jira6.3.6安装破解以及数据导入的详细步骤
- ubuntu14.04 安装caffe步骤 CPU版本
- CentOS 离线安装gcc(版本4.8.2)详细介绍
- MyEclipse离线安装XFire详细步骤及安装包
- linux 解决离线安装 httpd 步骤
- NodeJS、NPM安装配置步骤(windows版本)
- 第五章 更换cdh版本,hive的安装使用,原理讲解
- CDH的完全离线安装(ubuntu16)
- R语言离线安装二进制包的几个问题
- 【转】NodeJS、NPM安装配置步骤(windows版本)
- Zend Studio 10 汉化——离线语言包安装步骤
- android之版本控制Git+Tortoisegit安装具体步骤(win7)
- Zend Studio 10 汉化——离线语言包安装步骤
- Ubuntu 10.10下安装TFTP的步骤 tftp-hpa版本
- Centos7 离线安装mysql 5.6详细步骤
- Linux 安装mysql5.7步骤以及与之前版本的不同(踩坑)
- Linux7 下Hadoop集群用户管理方案之二 CDH5.9.0版本安装配置