rsync+inotify实现实时同步
2015-08-11 13:56
447 查看
在这里介绍下,rsync结合inotify配置文件实时同步的方法,有需要的朋友参考下。关于软件我就不多介绍了,请参考度娘!注意:1.在配置的时候分清楚主服务器和备份服务器。 2.在使用别人的脚本的时候,注意自己的脚本里引用配置文件的名称。 3.关闭防火墙,先测试手动推送,推送成功后再来测试实时同步。
一、部署环境
二、备份服务器安装rsync
2.1因为我这里是两台新安装的服务器所以就直接安装了,就没有去检查上面有没残留的rsync的文件。rsync安装包我是从官网下载的,看你喜欢哪个版本,提供个官网地址http://rsync.samba.org/。
#cd /usr/local/src
#tar -zxvf rsync-3.0.9.tar.gz //解压文件
#cd rsync-3.0.9 //进入该文件目录
#./configure --prefix=/usr/local/rsync
/主要的作用是对即将安装的软件进行配置,检查当前的环境是否满足要安装软件的依赖关系
#make //编译 (如果报错的话就请仔细检查下是不是缺失了什么库文件,可以用我这个)
(yum -y install make gcc-c++ cmake bison-devel ncurses-devel gcc \
autoconf automake zlib* fiex* libxml* libmcrypt* libtool-ltdl-devel*)
#make install //安装
2.2新建rsync用户及模块目录并更改其用户组
[root@13server]# useradd rsync -s /sbin/nologin -M #添加rsync用户
[root@13server]# grep rsync /etc/passwd
rsync:x:2004:2004::/home/rsync:/sbin/nologin
[root@13server]# mkdir /data/backup #创建rsync daemon工作模式的模块目录
[root@13server]# ll -d /data/backup/
drwxr-xr-x. 2 rsync rsync 4096 8月 11 13:06 /data/backup/
[root@13server]# chown rsync.rsync /data/backup/ #更改模块目录的用户组
[root@13server]# ll -d /data/backup/
drwxr-xr-x. 2 rsync rsync 4096 8月 11 13:06 /data/backup/
2.3编写rsync daemon配置文件/etc/rsyncd.conf
[root@13server /]# cat /etc/rsyncd.conf
[root@13server /]# echo "rsync_backup:p@ssword" >/etc/rsync.password
[root@13server /]# cat /etc/rsync.password
rsync_backup:p@ssword #注:rsync_backup为虚拟用户,p@ssword为这个虚拟用户的密码
[root@13server /]# chmod 600 /etc/rsync.password #为密码文件提权,增加安全性
[root@13server /]# ll /etc/rsync.password
-rw-------. 1 root root 22 8月 10 19:27 /etc/rsync.password
2.5启动rsync
[root@localhost backup]# netstat -lnutp |grep rsync
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 9871/rsync
tcp 0 0 :::873 :::* LISTEN 9871/rsync
三、主服务器部署
3.1通过root@localhost测试推送
root@localhost配置密码文件,测试推送
备份服务器检查:
3.2查看当前系统是否支持inotify
[root@localhost work]# ll /proc/sys/fs/inotify/
总用量 0
-rw-r--r-- 1 root root 0 8月 11 13:35 max_queued_events
-rw-r--r-- 1 root root 0 8月 11 13:35 max_user_instances
-rw-r--r-- 1 root root 0 8月 11 13:35 max_user_watches
#显示这三个文件则证明支持。
拓展:
/proc/sys/fs/inotify/max_queued_evnets
表示调用inotify_init时分配给inotify instance中可排队的event的数目的最大值,超出这个值的事件被丢弃,但会触发IN_Q_OVERFLOW事件。
/proc/sys/fs/inotify/max_user_instances
表示每一个real user ID可创建的inotify instatnces的数量上限。
/proc/sys/fs/inotify/max_user_watches
表示每个inotify instatnces可监控的最大目录数量。如果监控的文件数目巨大,需要根据情况,适当增加此值的大小。
例如: echo 30000000 > /proc/sys/fs/inotify/max_user_watches
3.3下载安装inotify源码包
[root@localhost inotify-tools-3.14]# cd /usr/local/inotify-3.14/
[root@localhost inotify-3.14]# ./bin/inotifywait --help
-r|--recursive Watch directories recursively. #递归查询目录
-q|--quiet Print less (only print events). #打印监控事件的信息
-m|--monitor Keep listening for events forever. Without this option, inotifywait will exit after one event is received. #始终保持事件监听状态
--excludei <pattern> Like --exclude but case insensitive. #排除文件或目录时,不区分大小写。
--timefmt <fmt> strftime-compatible format string for use with %T in --format string. #指定时间输出的格式
--format <fmt> Print using a specified printf-like format string; read the man page for more details.
#打印使用指定的输出类似格式字符串
-e|--event <event1> [ -e|--event <event2> ... ] Listen for specific event(s). If omitted, all events are listened for. #通过此参数可以指定需要监控的事件,如下所示:
Events:
access file or directory contents were read #文件或目录被读取。
modify file or directory contents were written #文件或目录内容被修改。
attrib file or directory attributes changed #文件或目录属性被改变。
close file or directory closed, regardless of read/write mode #文件或目录封闭,无论读/写模式。
open file or directory opened #文件或目录被打开。
moved_to file or directory moved to watched directory #文件或目录被移动至另外一个目录。
move file or directory moved to or from watched directory #文件或目录被移动另一个目录或从另一个目录移动至当前目录。
create file or directory created within watched directory #文件或目录被创建在当前目录
delete file or directory deleted within watched directory #文件或目录被删除
unmount file system containing file or directory unmounted #文件系统被卸载
3.5编写监控脚本并加载到后台执行
nohup /bin/bash //usr/local/inotify/inotify.sh & #将脚本加入后台执行注意你自己的脚本路径
echo "nohup /bin/bash //usr/local/inotify/inotify.sh &" >> /etc/rc.local #加入开机启动
当然 这些做晚了就等你测试咯!@~@
四测试及部分故障现象
问题一:
@ERROR: chroot failed
rsync error: error starting client-server protocol (code 5) at main.c(1522) [receiver=3.0.3] 原因:
服务器端的目录不存在或无权限,创建目录并修正权限可解决问题。 问题二:
@ERROR: auth failed on module backup
rsync error: error starting client-server protocol (code 5) at main.c(1522) [receiver=3.0.3] 原因:
服务器端该模块(backup)需要验证用户名密码,但客户端没有提供正确的用户名密码,认证失败。
提供正确的用户名密码解决此问题。 问题三:
@ERROR: Unknown module ‘backup'
rsync error: error starting client-server protocol (code 5) at main.c(1522) [receiver=3.0.3] 原因:
服务器不存在指定模块。提供正确的模块名或在服务器端修改成你要的模块以解决问题。如有问题请联系765744176@qq.com,更多内容尽在碎片论坛www.debris.cn,欢迎各位莅临指导!!!
本文出自 “Debris·记忆” 博客,请务必保留此出处http://debris.blog.51cto.com/1614432/1683627
一、部署环境
服务器IP地址 | 主机名 | 服务器系统 |
192.168.1.13 主服务器 | 13server | Centos 6.5 X64 |
192.168.1.14 备份服务器 | localhost | Centos 6.5 X64 |
2.1因为我这里是两台新安装的服务器所以就直接安装了,就没有去检查上面有没残留的rsync的文件。rsync安装包我是从官网下载的,看你喜欢哪个版本,提供个官网地址http://rsync.samba.org/。
#cd /usr/local/src
#tar -zxvf rsync-3.0.9.tar.gz //解压文件
#cd rsync-3.0.9 //进入该文件目录
#./configure --prefix=/usr/local/rsync
/主要的作用是对即将安装的软件进行配置,检查当前的环境是否满足要安装软件的依赖关系
#make //编译 (如果报错的话就请仔细检查下是不是缺失了什么库文件,可以用我这个)
(yum -y install make gcc-c++ cmake bison-devel ncurses-devel gcc \
autoconf automake zlib* fiex* libxml* libmcrypt* libtool-ltdl-devel*)
#make install //安装
2.2新建rsync用户及模块目录并更改其用户组
[root@13server]# useradd rsync -s /sbin/nologin -M #添加rsync用户
[root@13server]# grep rsync /etc/passwd
rsync:x:2004:2004::/home/rsync:/sbin/nologin
[root@13server]# mkdir /data/backup #创建rsync daemon工作模式的模块目录
[root@13server]# ll -d /data/backup/
drwxr-xr-x. 2 rsync rsync 4096 8月 11 13:06 /data/backup/
[root@13server]# chown rsync.rsync /data/backup/ #更改模块目录的用户组
[root@13server]# ll -d /data/backup/
drwxr-xr-x. 2 rsync rsync 4096 8月 11 13:06 /data/backup/
2.3编写rsync daemon配置文件/etc/rsyncd.conf
[root@13server /]# cat /etc/rsyncd.conf
##rsyncd.conf start## #工作中指定用户(需要指定用户) uid = rsync gid = rsync #相当于黑洞.出错定位 use chroot = no #有多少个客户端同时传文件 max connections = 200 #超时时间 timeout = 300 #进程号文件 pid file = /var/run/rsyncd.pid #日志文件 lock file = /var/run/rsync.lock #日志文件 log file = /var/log/rsyncd.log #模块开始 #这个模块对应的是推送目录 #模块名称随便起 [backup] #需要同步的目录 path = /data/backup/ #表示出现错误忽略错误 ignore errors #表示网络权限可写(本地控制真正可写) read only = false #这里设置IP或让不让同步 list = false #指定允许的网段 hosts allow = 192.168.1.0/24 #拒绝链接的地址,下面表示没有拒绝的链接。 hosts deny = 0.0.0.0/32 #不要动的东西(默认情况) #虚拟用户 auth users = rsync_backup #虚拟用户的密码文件 secrets file = /etc/rsync.password #配置文件的结尾 #rsync_config_______________end2.4配置虚拟用户的密码文件
[root@13server /]# echo "rsync_backup:p@ssword" >/etc/rsync.password
[root@13server /]# cat /etc/rsync.password
rsync_backup:p@ssword #注:rsync_backup为虚拟用户,p@ssword为这个虚拟用户的密码
[root@13server /]# chmod 600 /etc/rsync.password #为密码文件提权,增加安全性
[root@13server /]# ll /etc/rsync.password
-rw-------. 1 root root 22 8月 10 19:27 /etc/rsync.password
2.5启动rsync
[root@localhost backup]# netstat -lnutp |grep rsync
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 9871/rsync
tcp 0 0 :::873 :::* LISTEN 9871/rsync
三、主服务器部署
3.1通过root@localhost测试推送
root@localhost配置密码文件,测试推送
备份服务器检查:
3.2查看当前系统是否支持inotify
[root@localhost work]# ll /proc/sys/fs/inotify/
总用量 0
-rw-r--r-- 1 root root 0 8月 11 13:35 max_queued_events
-rw-r--r-- 1 root root 0 8月 11 13:35 max_user_instances
-rw-r--r-- 1 root root 0 8月 11 13:35 max_user_watches
#显示这三个文件则证明支持。
拓展:
/proc/sys/fs/inotify/max_queued_evnets
表示调用inotify_init时分配给inotify instance中可排队的event的数目的最大值,超出这个值的事件被丢弃,但会触发IN_Q_OVERFLOW事件。
/proc/sys/fs/inotify/max_user_instances
表示每一个real user ID可创建的inotify instatnces的数量上限。
/proc/sys/fs/inotify/max_user_watches
表示每个inotify instatnces可监控的最大目录数量。如果监控的文件数目巨大,需要根据情况,适当增加此值的大小。
例如: echo 30000000 > /proc/sys/fs/inotify/max_user_watches
3.3下载安装inotify源码包
................................
3.4inotify之inotifywait命令常用参数详解
[root@localhost inotify-tools-3.14]# cd /usr/local/inotify-3.14/
[root@localhost inotify-3.14]# ./bin/inotifywait --help
-r|--recursive Watch directories recursively. #递归查询目录
-q|--quiet Print less (only print events). #打印监控事件的信息
-m|--monitor Keep listening for events forever. Without this option, inotifywait will exit after one event is received. #始终保持事件监听状态
--excludei <pattern> Like --exclude but case insensitive. #排除文件或目录时,不区分大小写。
--timefmt <fmt> strftime-compatible format string for use with %T in --format string. #指定时间输出的格式
--format <fmt> Print using a specified printf-like format string; read the man page for more details.
#打印使用指定的输出类似格式字符串
-e|--event <event1> [ -e|--event <event2> ... ] Listen for specific event(s). If omitted, all events are listened for. #通过此参数可以指定需要监控的事件,如下所示:
Events:
access file or directory contents were read #文件或目录被读取。
modify file or directory contents were written #文件或目录内容被修改。
attrib file or directory attributes changed #文件或目录属性被改变。
close file or directory closed, regardless of read/write mode #文件或目录封闭,无论读/写模式。
open file or directory opened #文件或目录被打开。
moved_to file or directory moved to watched directory #文件或目录被移动至另外一个目录。
move file or directory moved to or from watched directory #文件或目录被移动另一个目录或从另一个目录移动至当前目录。
create file or directory created within watched directory #文件或目录被创建在当前目录
delete file or directory deleted within watched directory #文件或目录被删除
unmount file system containing file or directory unmounted #文件系统被卸载
3.5编写监控脚本并加载到后台执行
#!/bin/bash src=/data/backup/ #本地监控的目录 des=backup #13server的rsync服务的模块名 host=192.168.1.13 #备份服务器的ip地址 /usr/local/bin/inotifywait(#这个就要主要到你的这个可执行文件放在哪个位置) -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e modify,delete,create,attrib $src | while read files do for hostip in $host do rsync -vzrtopg --delete --progress --password-file=/etc/rsync.password $src rsync_backup@$hostip::$des #注意红色字体部分,根据你自己配置的时候的名称来更改 done echo "${files} was rsynced" >>/tmp/rsync.log 2>&1 done3.6启动nohup
nohup /bin/bash //usr/local/inotify/inotify.sh & #将脚本加入后台执行注意你自己的脚本路径
echo "nohup /bin/bash //usr/local/inotify/inotify.sh &" >> /etc/rc.local #加入开机启动
当然 这些做晚了就等你测试咯!@~@
四测试及部分故障现象
问题一:
@ERROR: chroot failed
rsync error: error starting client-server protocol (code 5) at main.c(1522) [receiver=3.0.3] 原因:
服务器端的目录不存在或无权限,创建目录并修正权限可解决问题。 问题二:
@ERROR: auth failed on module backup
rsync error: error starting client-server protocol (code 5) at main.c(1522) [receiver=3.0.3] 原因:
服务器端该模块(backup)需要验证用户名密码,但客户端没有提供正确的用户名密码,认证失败。
提供正确的用户名密码解决此问题。 问题三:
@ERROR: Unknown module ‘backup'
rsync error: error starting client-server protocol (code 5) at main.c(1522) [receiver=3.0.3] 原因:
服务器不存在指定模块。提供正确的模块名或在服务器端修改成你要的模块以解决问题。如有问题请联系765744176@qq.com,更多内容尽在碎片论坛www.debris.cn,欢迎各位莅临指导!!!
本文出自 “Debris·记忆” 博客,请务必保留此出处http://debris.blog.51cto.com/1614432/1683627
相关文章推荐
- 函数实现文件大小
- __call、__set 和 __get的用法
- Python机器学习库
- 内联汇编
- C++和Java继承的不同
- thrift客户端调用不支持多线程方式,非线程安全
- pythonchallenge(一)
- bootstrap multiselect学习网址
- 架构师
- Jabber 创建一个application dial rule
- Jabber 创建一个application dial rule
- postgresql模式与数据库的关系
- php发送邮件二种方法 php使用smtp发送邮件
- leetCode #217 Contains Duplicate
- MySQL 获得当前日期时间(以及时间的转换)
- transient 字段反序列化后是字段类型默认值
- 从Theano到Lasagne:基于Python的深度学习的框架和库
- C++函数的定义与调用
- div模拟textarea
- Finereport在企业级BI分析中的应用