之前做了“ssh信任與scp自動(dòng)傳輸腳本”的技術(shù)文檔，此方案是作為公司里備份的方法，但在實(shí)際的運(yùn)行中，由于主服務(wù)器在給備份服務(wù)器傳輸?shù)臅r(shí)候，我們的主服務(wù)器需要備份的文件是實(shí)時(shí)、不停的產(chǎn)生的，造成不知道主服務(wù)器給備份服務(wù)器傳輸了多少文件，磁盤空間就那么大，做備份的原因：一個(gè)是為了保持文件，另外一個(gè)是解決主服務(wù)器的磁盤飽滿問題，但由于不知道備份服務(wù)器到底接收了多少文件，所以主服務(wù)器里的文件不敢刪除（如果沒有備份的情況下刪除，問題就嚴(yán)重了，我這個(gè)是政府的項(xiàng)目，服務(wù)器里的文件都是重要的，刪錯(cuò)了就走人~~~~(>_<)~~~~ ），所以我就采用了rsync+inotify的方式來實(shí)時(shí)同時(shí)服務(wù)器之間的文件，而且傳輸?shù)倪^程是加密的，比scp安全多了（即使scp采用ssh信任，用密鑰，也不是萬無一失的）。
以下是我給公司運(yùn)維做的備份技術(shù)文檔，分享給大家，希望對大家有幫助。

先介紹一下rsync與inotify，都在在網(wǎng)上找的資料。先聲明下面的rsync與inotify介紹不是我自己寫的。

1、rsync

 與傳統(tǒng)的cp、tar備份方式相比，rsync具有安全性高、備份迅速、支持增量備份等優(yōu)點(diǎn)，通過rsync可以解決對實(shí)時(shí)性要求不高的數(shù)據(jù)備份需求，例如定期的備份文件服務(wù)器數(shù)據(jù)到遠(yuǎn)端服務(wù)器，對本地磁盤定期做數(shù)據(jù)鏡像等。
隨著應(yīng)用系統(tǒng)規(guī)模的不斷擴(kuò)大，對數(shù)據(jù)的安全性和可靠性也提出的更好的要求，rsync在高端業(yè)務(wù)系統(tǒng)中也逐漸暴露出了很多不足，首先，rsync同步數(shù)據(jù)時(shí)，需要掃描所有文件后進(jìn)行比對，進(jìn)行差量傳輸。如果文件數(shù)量達(dá)到了百萬甚至千萬量級，掃描所有文件將是非常耗時(shí)的。而且正在發(fā)生變化的往往是其中很少的一部分，這是非常低效的方式。其次，rsync不能實(shí)時(shí)的去監(jiān)測、同步數(shù)據(jù)，雖然它可以通過linux守護(hù)進(jìn)程的方式進(jìn)行觸發(fā)同步，但是兩次觸發(fā)動(dòng)作一定會(huì)有時(shí)間差，這樣就導(dǎo)致了服務(wù)端和客戶端數(shù)據(jù)可能出現(xiàn)不一致，無法在應(yīng)用故障時(shí)完全的恢復(fù)數(shù)據(jù)?；谝陨显?，rsync+inotify組合出現(xiàn)了！
2、inotify
 Inotify 是一種強(qiáng)大的、細(xì)粒度的、異步的文件系統(tǒng)事件監(jiān)控機(jī)制，linux內(nèi)核從2.6.13起，加入了Inotify支持，通過Inotify可以監(jiān)控文件系統(tǒng)中添加、刪除，修改、移動(dòng)等各種細(xì)微事件，利用這個(gè)內(nèi)核接口，第三方軟件就可以監(jiān)控文件系統(tǒng)下文件的各種變化情況，而inotify-tools就是這樣的一個(gè)第三方軟件。
在上面章節(jié)中，我們講到，rsync可以實(shí)現(xiàn)觸發(fā)式的文件同步，但是通過crontab守護(hù)進(jìn)程方式進(jìn)行觸發(fā)，同步的數(shù)據(jù)和實(shí)際數(shù)據(jù)會(huì)有差異，而inotify可以監(jiān)控文件系統(tǒng)的各種變化，當(dāng)文件有任何變動(dòng)時(shí)，就觸發(fā)rsync同步，這樣剛好解決了同步數(shù)據(jù)的實(shí)時(shí)性問題。
具體大家可以參照http://www.ibm.com/developerworks/cn/linux/l-ubuntu-inotify/index.html來進(jìn)行學(xué)習(xí)。

接下面我們來開始進(jìn)行rsync與inotify的安裝、配置、測試。

下面是2個(gè)服務(wù)器的結(jié)構(gòu)，分別為主機(jī)名、ip、狀態(tài)、內(nèi)核、位數(shù)、同步的目錄，并將2臺服務(wù)器均是redhat5.4發(fā)行版本。

一、主服務(wù)器（server端，我這里是nginx）

其中主服務(wù)器需要安裝rsync與inotify，主服務(wù)器作為server，向備份服務(wù)器client傳輸文件

1、安裝rsync

[root@nginx ~]# cd /usr/src/ 
[root@nginx src]# ll 
total 16 
drwxr-xr-x 2 root root 4096 Jan 26 2010 debug 
drwxr-xr-x 2 root root 4096 Jan 26 2010 kernels 
[root@nginx src]# wget http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz 
[root@nginx src]# tar zxvf rsync-3.0.9.tar.gz 
[root@nginx src]# cd rsync-3.0.9 
[root@nginx rsync-3.0.9]# ./configure --prefix=/usr/local/rsync 
[root@nginx rsync-3.0.9]# make 
[root@nginx rsync-3.0.9]# make install 

2、建立密碼認(rèn)證文件

其中rsync-pwd可以自己設(shè)置密碼，rsync.passwd名字也可以自己設(shè)置

無論是為了安全，還是為了避免出現(xiàn)以下錯(cuò)誤，密碼文件都需要給600權(quán)限

3、安裝inotify

[root@nginx rsync]# cd /usr/src/ 
[root@nginx src]# wget http://cloud.github.com/downloads/rvoicilas/inotify-tools/inotify-tools-3.14.tar.gz 
[root@nginx src]# tar zxvf inotify-tools-3.14.tar.gz 
[root@nginx src]# cd inotify-tools-3.14 
[root@nginx inotify-tools-3.14]# ./configure --prefix=/usr/local/inotify 
[root@nginx inotify-tools-3.14]# make 
[root@nginx inotify-tools-3.14]# make install

4、創(chuàng)建rsync復(fù)制腳本

此項(xiàng)功能主要是將server端的目錄/tmp里的內(nèi)容，如果修改了（無論是添加、修改、刪除文件）能夠通過inotify監(jiān)控到，并通過rsync實(shí)時(shí)的同步給client的/tmp里，下面是通過shell腳本實(shí)現(xiàn)的。

#!/bin/bash 
host=192.168.10.221 
src=/tmp/     
des=web 
user=webuser 
/usr/local/inotify/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f%e' -e modify,delete,create,attrib $src \ 
| while read files 
do 
/usr/bin/rsync -vzrtopg --delete --progress --password-file=/usr/local/rsync/rsync.passwd $src $user@$host::$des 
echo "${files} was rsynced" >>/tmp/rsync.log 2>&1 
done

注意：經(jīng)過1樓的提示，我發(fā)現(xiàn)如果把rsync.log的放到tmp（備份的目錄）或發(fā)送一直復(fù)制的問題，所以建議各位吧rsync的日志放到其他的目錄下（非備份目錄）。
其中host是client的ip，src是server端要實(shí)時(shí)監(jiān)控的目錄，des是認(rèn)證的模塊名，需要與client一致，user是建立密碼文件里的認(rèn)證用戶。
把這個(gè)腳本命名為rsync.sh，放到監(jiān)控的目錄里，比如我的就放到/tmp下面，并給予764權(quán)限

[root@nginx tmp]# chmod 764 rsync.sh

然后運(yùn)行這個(gè)腳本

[root@nginx tmp]# sh /tmp/rsync.sh &

請記住，只有在備份服務(wù)器client端的rsync安裝并啟動(dòng)rsync之后，在啟動(dòng)rsync.sh腳本，否則有時(shí)候會(huì)滿屏出現(xiàn)：

rsync: failed to connect to 192.168.10.221: Connection refused (111) 
rsync error: error in socket IO (code 10) at clientserver.c(107) [sender=2.6.8] 

我們還可以把rsync.sh腳本加入到開機(jī)啟動(dòng)項(xiàng)里

[root@nginx tmp]# echo "/tmp/rsync.sh" >> /etc/rc.local 二、備份服務(wù)器（client，我這里為nginx-backup）

1、安裝rsync（備份服務(wù)器只安裝rsync）

[root@nginx-backup ~]# cd /usr/src/ 
[root@nginx-backup src]# ll 
total 16 
drwxr-xr-x 2 root root 4096 Jan 26 2010 debug 
drwxr-xr-x 2 root root 4096 Jan 26 2010 kernels 
[root@nginx-backup src]# wget http://rsync.samba.org/ftp/rsync/src/rsync-3.0.9.tar.gz 
[root@nginx-backup src]# tar zxvf rsync-3.0.9.tar.gz 
[root@nginx-backup src]# cd rsync-3.0.9 
[root@nginx-backup rsync-3.0.9]# ./configure --prefix=/usr/local/rsync 
[root@nginx-backup rsync-3.0.9]# make 
[root@nginx-backup rsync-3.0.9]# make install 

2、建立用戶與密碼認(rèn)證文件

[root@nginx-backup rsync-3.0.9]# echo "webuser:rsync-pwd" > /usr/local/rsync/rsync.passwd

請記住，在server端建立的密碼文件，只有密碼，沒有用戶名；而在備份服務(wù)端client里建立的密碼文件，用戶名與密碼都有。

[root@nginx-backup rsync]# chmod 600 rsync.passwd 需要給密碼文件600權(quán)限

3、建立rsync配置文件

uid = root 
gid = root 
use chroot = no 
max connections = 10 
strict modes = yes 
pid file = /var/run/rsyncd.pid 
lock file = /var/run/rsync.lock 
log file = /var/log/rsyncd.log 
[web] 
path = /tmp/ 
comment = web file 
ignore errors 
read only = no 
write only = no 
hosts allow = 192.168.10.220 
hosts deny = * 
list = false 
uid = root 
gid = root 
auth users = webuser 
secrets file = /usr/local/rsync/rsync.passwd 

其中web是server服務(wù)端里的認(rèn)證模塊名稱，需要與主服務(wù)器里的一致，以上的配置我的自己服務(wù)器里的配置，以供參考。

把配置文件命名為rsync.conf，放到/usr/local/rsync/目錄里

啟動(dòng)rsync
[root@nginx-backup rsync]# /usr/local/rsync/bin/rsync --daemon --config=/usr/local/rsync/rsync.conf

如果出現(xiàn)以下問題：

/usr/local/rsync/bin/rsync: error while loading shared libraries: libiconv.so.2: cannot open shared object file: No such file or directory，

可以采用下面方法解決

找到所需模塊所在的目錄，然后把此目錄添加到/etc/ld.so.conf里，并更新庫文件

我們可以把rsync腳本加入到開機(jī)啟動(dòng)項(xiàng)里

現(xiàn)在rsync與inotify在server端安裝完成，rsync在備份服務(wù)器client端也安裝完成
下面是server端的tmp文件情況

下面是client端tmp的文件情況

接下來我們來做一下測試，在server里創(chuàng)建個(gè)test-rsync文件，看看client是否能收到

在看client端是否有test-rsync文件，同時(shí)client端的tmp目錄文件是否與server端的文件完全一致

可以看到在client端，已經(jīng)收到了test-rsync文件，而且client的tmp里的文件與server里tmp的文件完全相同、文件數(shù)目一致。

現(xiàn)在rsync與inotify的搭建與配置完成了，并實(shí)現(xiàn)了服務(wù)器直接數(shù)據(jù)的實(shí)時(shí)同步；大家可以根據(jù)自己的需要來進(jìn)行相應(yīng)的配置。

BTW：在rsync+inotify這種備份方法的時(shí)候，我公司遇到了一個(gè)問題，那就是主服務(wù)已經(jīng)給備用服務(wù)同步完數(shù)據(jù)了，但主服務(wù)器磁盤看見滿了，需要把已經(jīng)備份的文件刪除，但同時(shí)在備份服務(wù)器里保留主服務(wù)器里的文件，也就是說主服務(wù)器里刪除文件的時(shí)候，備份服務(wù)器里不跟著刪除文件，我查看了很多英文文檔，測試了很多遍，最后找到了一個(gè)解決方法，那就是在主服務(wù)器里，把rsync.sh這個(gè)腳本里第9行的--delete參數(shù)給去掉，就可以解決這個(gè)問題。

本文出自 “吟—技術(shù)交流” 博客

最新評論