linux下使用rsync同步目錄
本文描述了linux下使用rsync單向同步兩個(gè)機(jī)器目錄的問(wèn)題。 使用rsync同步后可以保持目錄的一致性(含刪除操作)。
數(shù)據(jù)同步方式
1、從主機(jī)拉數(shù)據(jù)
備機(jī)上啟動(dòng)的流程
同步命令:
rsync -avzP --delete root@{remoteHost}:{remoteDir} {localDir}
參數(shù)說(shuō)明:
- -a 參數(shù),相當(dāng)于-rlptgoD(-r 是遞歸 -l 是鏈接文件,意思是拷貝鏈接文件;-p 表示保持文件原有權(quán)限;-t 保持文件原有時(shí)間;-g 保持文件原有用戶組;-o 保持文件原有屬主;-D 相當(dāng)于塊設(shè)備文件);
- -z 傳輸時(shí)壓縮;
- -P 傳輸進(jìn)度;
- -v 傳輸時(shí)的進(jìn)度等信息;
示例:
rsync -avzP --delete root@192.168.1.100:/tmp/rtest1 /tmp/
2、向備機(jī)推數(shù)據(jù)
主機(jī)上啟動(dòng)的流程
同步命令:
rsync -avzP --delete {localDir} root@{remoteHost}:{remoteDir}
示例:
rsync -avzP --delete /tmp/rtest1 root@192.168.1.101:/tmp/
自動(dòng)同步配置
描述同步時(shí)不輸入密碼的配置的方法。
1、使用ssh key
該方法可以直接使用rsync命令進(jìn)行同步,同步過(guò)程中無(wú)需輸入密碼。
在主機(jī)上產(chǎn)生ssh key :
ssh-keygen -t rsa
在備機(jī)上加入pubkey
ssh-copy-id -i ~/.ssh/id_rsa.pub root@192.168.1.101
或者手動(dòng)添加:
在主機(jī)上執(zhí)行以下命令獲取pubkey:
cat ~/.ssh/id_rsa.pub
在備機(jī)上加入key內(nèi)容:
vi ~/.ssh/authorized_keys
使用pexpect自動(dòng)輸入密碼
示例代碼如下:
#!/usr/bin/env python # -*- coding: utf-8 -*- import pexpect import time import traceback def doRsync(user,passwd,ip,srcDir,dstDir,timeout=3600): cmd = "rsync -azPq --delete {srcDir} {rUser}@{rHost}:{dstDir}".format( rUser = user,rHost=ip,srcDir=srcDir,dstDir=dstDir ) try: ssh = pexpect.spawn(cmd,timeout=timeout) print cmd i = ssh.expect(['password:', 'continue connecting (yes/no)?'], timeout=5) if i == 0 : ssh.sendline(passwd) elif i == 1: ssh.sendline('yes') ssh.expect('password: ') ssh.sendline(passwd) ssh.read() ssh.close() except : #print traceback.format_exc() pass if __name__ == '__main__': doRsync("root","123456","192.168.1.101","/tmp/rtest1","/tmp")
上面是使用python實(shí)現(xiàn)的代碼,大家可根據(jù)情況用其它語(yǔ)言實(shí)現(xiàn)該功能。
其它
1、rsync在執(zhí)行過(guò)程中被kill掉會(huì)怎么樣;
It is safe to kill an rsync process and run the whole thing again; it will continue where it left off. It may be a little inefficient, particularly if you haven't passed --partial (included in -P), because rsync will check all files again and process the file it was interrupted on from scratch.
rsync被kill掉是安全的,下次啟動(dòng)時(shí)還可以正常工作。
2、rsync不能指定時(shí)間段;
1)該問(wèn)題可以通過(guò)kill來(lái)解決
2)或者使用pexpect的timeout參數(shù)來(lái)控制
3)可以先通過(guò)find查找過(guò)濾出文件夾的名字,然后使用rsync進(jìn)行同步 這個(gè)可以根據(jù)現(xiàn)有業(yè)務(wù)的特征進(jìn)行,比如:
find /tmp -name '*' -newermt '2016-03-08' ! -newermt '2016-03-20'
3、rsync在寫文件過(guò)程中同步(比如錄音過(guò)程中執(zhí)行rsync操作)
經(jīng)測(cè)試,rsync會(huì)同步部分文件內(nèi)容,文件寫入完成后再執(zhí)行rsync會(huì)保持文件的一致
4、當(dāng)文件數(shù)量達(dá)到百萬(wàn)級(jí)以上時(shí),rsync同步時(shí)掃描改變的文件非常耗時(shí)
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Linux內(nèi)核設(shè)備驅(qū)動(dòng)之內(nèi)核的調(diào)試技術(shù)筆記整理
今天小編就為大家分享一篇關(guān)于Linux內(nèi)核設(shè)備驅(qū)動(dòng)之內(nèi)核的調(diào)試技術(shù)筆記整理,小編覺(jué)得內(nèi)容挺不錯(cuò)的,現(xiàn)在分享給大家,具有很好的參考價(jià)值,需要的朋友一起跟隨小編來(lái)看看吧2018-12-12inux下gettimeofday函數(shù)windows替換方法(詳解)
下面小編就為大家?guī)?lái)一篇inux下gettimeofday函數(shù)windows替換方法(詳解)。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2016-12-12Apache Rewrite實(shí)現(xiàn)URL的301跳轉(zhuǎn)和域名跳轉(zhuǎn)
Rewirte主要的功能就是實(shí)現(xiàn)URL的跳轉(zhuǎn),它的正則表達(dá)式是基于Perl語(yǔ)言。可基于服務(wù)器級(jí)的(httpd.conf)和目錄級(jí)的 (.htaccess)兩種方式2012-05-05CentOS8.0 安裝配置ftp服務(wù)器的實(shí)現(xiàn)方法
這篇文章主要介紹了CentOS8.0 安裝配置ftp服務(wù)器的實(shí)現(xiàn)方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-10-10Linux內(nèi)核設(shè)備驅(qū)動(dòng)之proc文件系統(tǒng)筆記整理
今天小編就為大家分享一篇關(guān)于Linux內(nèi)核設(shè)備驅(qū)動(dòng)之proc文件系統(tǒng)筆記整理,小編覺(jué)得內(nèi)容挺不錯(cuò)的,現(xiàn)在分享給大家,具有很好的參考價(jià)值,需要的朋友一起跟隨小編來(lái)看看吧2018-12-12xshell5連接不到虛擬機(jī)linux的問(wèn)題及解決
這篇文章主要介紹了xshell5連接不到虛擬機(jī)linux的問(wèn)題及解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-05-05Nginx出現(xiàn)500 Internal Server Error 錯(cuò)誤的解決方案
這篇文章主要介紹了Nginx出現(xiàn)500 Internal Server Error 錯(cuò)誤的解決方案,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-11-11CentOS設(shè)置靜態(tài)IP的方法總結(jié)
這篇文章主要介紹了CentOS設(shè)置靜態(tài)IP的方法總結(jié)的相關(guān)資料,需要的朋友可以參考下2017-06-06