CentOS linux 高可用集群之heartbeat

CentOS linux 高可用集群之heartbeat
Heartbeat 项目是 Linux-HA 工程的一个组成部分，它实现了一个高可用集群系统。心跳服务和集群通信是高可用集群的两个关键组件，在 Heartbeat 项目里，由 heartbeat 模块实现了这两个功能。

Heartbeat是Linux-HA工程的一个组件，自1999年开始到现在，发布了众多版本，是目前开源Linux-HA项目最成功的一个例子，在行业内得到了广泛的应用.
随着Linux在关键行业应用的逐渐增多，它必将提供一些原来由IBM和SUN这样的大型商业公司所提供的服务，这些商业公司所提供的服务都有一个关键特性，就是高可用集群。

heartbeat （Linux-HA）的工作原理：heartbeat最核心的包括两个部分，心跳监测部分和资源接管部分，心跳监测可以通过网络链路和串口进行，而且支持冗余链路，它们之间相互发送报文来告诉对方自己当前的状态，如果在指定的时间内未收到对方发送的报文，那么就认为对方失效，这时需启动资源接管模块来接管运行在对方主机上的资源或者服务。

高可用集群是指一组通过硬件和软件连接起来的独立计算机，它们在用户面前表现为一个单一系统，在这样的一组计算机系统内部的一个或者多个节点停止工作，服务会从故障节点切换到正常工作的节点上运行，不会引起服务中断。从这个定义可以看出，集群必须检测节点和服务何时失效，何时恢复为可用。这个任务通常由一组被称为“心跳”的代码完成。在Linux-HA里这个功能由一个叫做heartbeat的程序完成。

下面使用hearbeat做高可用集群HA，nginx服务作为高可用集群HA的服务对象，即主服务器的nginx宕机或者无法提供服务，就切换到从服务上对外提供服务。

系统环境：
Master（主服务器）：
hostname：masternginx、eth0:192.168.171.50 、eth1:192.168.17.50

Slave(从服务器)：
hostname：slavenginx、eth0:192.168.171.51、eth1：192.168.17.51

流动的IP(Virtual IP)：192.168.171.100（即对外提供服务的IP）

nginx在系统安装的时候安装或者后期自行安装。

1）、安装前的准备工作：
（1）分别设置主从服务器的hostname，
主服务器：vim/etc/sysconfig/network 修改：HOSTNAME=masternginx
从服务器：vim/etc/sysconfig/network 修改：HOSTNAME=slavenginx

（2）、分别在主从服务器上关闭SELinux
sed–I ‘s/SELINUXE=enforcing/SELINUX=disabled/’ /etc/selinux/config

（3）、分别在主从的服务器上配置/etc/hosts对应的ip和主机名：
192.168.17.51 slavenginx
192.168.17.50 masternginx

2）、分别在主服务器和从服务器上安装heartbeat软件，同时需要安装libnet。
yum install libnet heartbeat #yum安装可以解决依赖关系

源码下载：
libnet：http://libnet.sourceforge.net/
heartbeat：http://www.linux-ha.org/wiki/Downloads

3）、修改heartbeat的配置
（1）首先在主服务器上修改配置，主要是以下三个文件：
（heartbeat的安装样例目录下/usr/share/doc/beartbeat-*）
authkeys：用于验证通信的，看对方是否还存活
haresources：用于配置流动IP的服务信息和需要做HA的服务
ha.cf：heartbeat的配置文件

（2）在主服务器上，从heartbeat的安装样例目录下/usr/share/doc/beartbeat拷贝三个文件到 /etc/ha.d目录下
cd /usr/share/doc/heartbeat-3.0.4/
cp authkeys ha.cf haresources /etc/ha.d/ （3）修改配置文件

主服务上修改：

vim/etc/ha.d/authkeys #编辑验证通信方式

auth3 #默认都是有 # 号注释，用哪一张认证方式
#1 crc#2 sha1 HI!3 md5 Hello! #去掉#号，
保存退出，修改权限：chmod600 /etc/ha.d/authkeys

vim/etc/ha.d/haresources #用于配置流动IP的服务信息和需要做HA的服务，默认是全部注释
masternginx192.168.171.100/24/eth0:0 nginx

vim/etc/ha.d/ha.cf #heartbeat主配置文件

debugfile /var/log/ha-debug #排查故障的日志
logfile /var/log/ha-log #日志的存放位置
logfacility local0 #日志的级别
keepalive 2 #2秒的周期探测一次
deadtime 30 #.30秒没有回应，就认为死亡了
warntime 10 #如果超过10秒没有回应会发生警告
initdead 60 #.重启的预留时间
udpport 694 #心跳线通信端口
ucast eth1 192.168.17.51 #..心跳线接口和对方IP
auto_failback on #.主切换到从，或者主恢复是，会自动切换
node masternginx #.主服务器的主机名
node slavenginx #.从服务器的主机名
ping 192.168.17.1 #用于仲裁的服务器IP
respawn hacluster/usr/lib64/heartbeat/ipfail #以hacluster运行脚本，检查网络的连通性。

把刚刚修改的三个配置文件复制到从服务器上的同一目录。做一下修改：
cd /etc/ha.d/
scp authkeys haresources ha.cfslavenginx:/etc/ha.d/

从服务器上修改：
authkeys和haresources的配置内容不需要更改，只需要修改ha.cf配置文件

vim/etc/ha.d/ha.cf #heartbeat主配置文件

debugfile /var/log/ha-debug #排查故障的日志
logfile /var/log/ha-log #日志的存放位置
logfacility local0 #日志的级别
keepalive 2 #2秒的周期探测一次
deadtime 30 #.30秒没有回应，就认为死亡了
warntime 10 #如果超过10秒没有回应会发生警告
initdead 60 #.重启的预留时间
udpport 694 #心跳线通信端口
ucast eth1 192.168.17.50 #..心跳线接口和对方IP
auto_failback on #.主切换到从，或者主恢复是，会自动切换
node masternginx #.主服务器的主机名
node slavenginx #.从服务器的主机名
ping 192.168.17.1 #用于仲裁的服务器IP
respawn hacluster/usr/lib64/heartbeat/ipfail #以hacluster运行脚本，检查网络的连通性。

里面的内容基本都不需要更改，只是要修改心跳的IIP地址修改为对方的IP
（ucast eth1 192.168.171.50）

测试：

如果开启了防火墙需要对udp 694端口放行。
-A INPUT -m state --state NEW -m udp -p udp--dport 694 -j ACCEPT

1）、启动heartbeat服务，但是必须要先在主服务器上开启了，然后才能在从服务器上开启。

service heartbeat start

2）、检查测试：
ifconfig 查看是否有eth0:0
ps aux |grep nginx 看是否有nginx进程

3）、模拟故障测试
为了测试方便，我们在主服务器和从服务器的nginx服务的默认网站下建立一个测试网页：

主服务器的内容：
echo “1111111111111master server” >/usr/share/nginx/html/index.html

从服务器的内容：
echo “222222222222 slave server” >/usr/share/nginx/html/index.html

模拟故障
测试1：在主服务器上禁止ping
iptables -I INPUT -p icmp -j DROP #拒绝icmp包，模拟故障

iptables -D INPUT -p icmp -j DROP #解除故障

测试是否主服务器上发生故障，从服务器是否接管服务；主服务器恢复工作了，从服务器是否释放接管权。

测试2：主服务器直接停止heartbeat服务，模拟heartbeat发生故障
service heartbeat stop
service heartbeat start

测试3：在主从上都模拟心跳线线段了
ifdown eth1

本文出自 “balich” 博客，请务必保留此出处http://balich.blog.51cto.com/6641781/1714434