PostgreSQL pg_archivecleanup與清理archivelog的操作
pg_archivecleanup 和 pg_rewind 是PG 中兩個(gè)重要的功能,一個(gè)是為了清理過(guò)期的 archive log 使用的命令,另一個(gè)是你可以理解為物理級(jí)別的 wal log的搬運(yùn)工。
我們先說(shuō)第一個(gè) pg_archivecleanup 命令,這個(gè)命令主要是用于使用了archive log 功能的 postgresql 但在 archive log 堆積如山的情況下,你怎么來(lái)根據(jù)某些規(guī)則,清理這些日志呢?
這里面就要使用 pg_archivecleanup 這個(gè)命令了,可以定時(shí)的來(lái)運(yùn)行它,將已經(jīng)移動(dòng)到archivecleanup 的目錄的archivelog 根據(jù)要求開始清理。
當(dāng)然我們先的說(shuō)說(shuō)如果不定期清理會(huì)出什么問(wèn)題
1 如果不定期清理archive 如果存放archivelog 的位置無(wú)法在接受新的日志,則大量WAL日志會(huì)滯留在 wal_log 目錄中,則整體數(shù)據(jù)庫(kù)系統(tǒng)都會(huì)受到影響。
2 占用大量的存儲(chǔ)空間,存儲(chǔ)無(wú)效的數(shù)據(jù)
那一般來(lái)說(shuō)如果沒有第三方的備份工具的情況下,怎么來(lái)通過(guò)pg_archivecleanup 來(lái)進(jìn)行archivelog 的清理。
需要關(guān)注幾個(gè)點(diǎn)
1 清理的時(shí),清理的WAL_LOG 是否已經(jīng)是包含在最后一次的備份中,保證清理的WAL_LOG 也可以從備份文件中恢復(fù)數(shù)據(jù)庫(kù)
2 清理的時(shí)候,對(duì)于保存在非主庫(kù)的wal_log 怎么辦
一般來(lái)說(shuō),設(shè)置自動(dòng)清理archive_log 可以在配置文件中添加
archive_cleanup_command = 'pg_archivecleanup archivelocation %r'
來(lái)操作。
但一般來(lái)說(shuō)這樣做好處少,弊病多,我比較喜歡寫相關(guān)的腳本,定時(shí)去運(yùn)行的方式,并且可以記錄相關(guān)的LOG 日志等等。
可以寫一個(gè)腳本,來(lái)輔助定時(shí)清理相關(guān)的archive_log
當(dāng)然這樣的方法也是有弊端的,如果由于備份的原因的故障,而直接使用天數(shù)來(lái)清理會(huì)有因?yàn)闆]有備份而直接將 wal_log 給清理掉,所以更加靠譜的方法是通過(guò)某些命令來(lái)獲得需要截止的清理的Wal_log 名稱。
例如 備份后的
會(huì)在wal_log 里面有backup 的標(biāo)記,這說(shuō)明這個(gè)WAL log 以前的數(shù)據(jù)已經(jīng)備份了,如果清理這個(gè)WAL LOG 之前的log 是安全的。
000000010000000300000030.00000060.backup
使用下面的腳本可以來(lái)更安全的清理
#!/bin/bash ARCHIVEDIR='/pgdata/archive' CHK_SAFE=$(find $ARCHIVEDIR -type f -mtime +3 -name '*backup' -printf '%f\n' | sort -r | head -1) cd $ARCHIVEDIR /usr/local/postgres/bin/pg_archivecleanup $ARCHIVEDIR $CHK_SAFE find $ARCHIVEDIR -type f -mtime +3 -a -name '*backup' -a ! -newer $CHKPOINT -delete
補(bǔ)充:postgresql流日志誤刪處理(xlog)
今天同事誤刪postgresql庫(kù)數(shù)據(jù)文件下的pg_xlog文件夾,導(dǎo)致所有流日志丟失,數(shù)據(jù)庫(kù)無(wú)法啟動(dòng),觀察警告日志:
2018-03-12 18:45:54 CST LOG: database system shutdown was interrupted; last known up at 2018-03-12 17:48:27 CST 2018-03-12 18:45:54 CST LOG: could not open file "pg_xlog/000000010000001400000060" (log file 20, segment 96): No such file or directory 2018-03-12 18:45:54 CST LOG: invalid primary checkpoint record 2018-03-12 18:45:54 CST LOG: could not open file "pg_xlog/000000010000001400000060" (log file 20, segment 96): No such file or directory 2018-03-12 18:45:54 CST LOG: invalid secondary checkpoint record 2018-03-12 18:45:54 CST PANIC: could not locate a valid checkpoint record 2018-03-12 18:45:54 CST LOG: startup process (PID 32680) was terminated by signal 6: Aborted 2018-03-12 18:45:54 CST LOG: aborting startup due to startup process failure
用postgresql自帶的pg_resetxlog工具可以跳過(guò)對(duì)WAL log的恢復(fù)。不過(guò)會(huì)丟失一些事務(wù)?;謴?fù)命令也很簡(jiǎn)單如下:
pg_resetxlog -f /var/lib/pgsql/9.6/data
然后啟動(dòng)postgrsql ,數(shù)據(jù)庫(kù)就可正常進(jìn)入
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章
PostgreSQL導(dǎo)出數(shù)據(jù)庫(kù)表(或序列)的結(jié)構(gòu)和數(shù)據(jù)實(shí)例代碼
這篇文章主要給大家介紹了關(guān)于PostgreSQL導(dǎo)出數(shù)據(jù)庫(kù)表(或序列)的結(jié)構(gòu)和數(shù)據(jù)的相關(guān)資料,你可以使用pg_dump命令來(lái)導(dǎo)出PostgreSQL數(shù)據(jù)庫(kù)中的表結(jié)構(gòu)和數(shù)據(jù),需要的朋友可以參考下2023-10-10詳解如何在Ubuntu?18.04上安裝和使用PostgreSQL
關(guān)系數(shù)據(jù)庫(kù)管理系統(tǒng)是許多網(wǎng)站和應(yīng)用程序的關(guān)鍵組件,它們提供了一種結(jié)構(gòu)化的方式來(lái)存儲(chǔ)、組織和訪問(wèn)信息,本文演示了如何在?Ubuntu?18.04?VPS?實(shí)例上安裝?Postgres,并提供了基本數(shù)據(jù)庫(kù)管理的說(shuō)明,需要的朋友可以參考下2024-07-07PostgreSQL教程(三):表的繼承和分區(qū)表詳解
這篇文章主要介紹了PostgreSQL教程(三):表的繼承和分區(qū)表詳解,本文講解了多表繼承、 繼承和權(quán)限、什么是分區(qū)表、分區(qū)表實(shí)現(xiàn)、分區(qū)和約束排除等內(nèi)容,需要的朋友可以參考下2015-05-05使用python-slim鏡像遇到無(wú)法使用PostgreSQL的問(wèn)題及解決方法
這篇文章主要介紹了使用python-slim鏡像遇到無(wú)法使用PostgreSQL的問(wèn)題及解決方法,本文給大家介紹的非常詳細(xì),感興趣的朋友跟隨小編一起看看吧2024-08-08PostgreSQL 查找當(dāng)前數(shù)據(jù)庫(kù)的所有表操作
這篇文章主要介紹了PostgreSQL 查找當(dāng)前數(shù)據(jù)庫(kù)的所有表操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-12-12PGSQL 實(shí)現(xiàn)查詢今天,昨天的數(shù)據(jù),一個(gè)月之內(nèi)的數(shù)據(jù)
這篇文章主要介紹了PGSQL 實(shí)現(xiàn)查詢今天,昨天的數(shù)據(jù),一個(gè)月之內(nèi)的數(shù)據(jù),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-01-01PostgreSQL使用jsonb進(jìn)行數(shù)組增刪改查的操作詳解
有時(shí)候我們需要使用PostgreSQL這種結(jié)構(gòu)化數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)一些非結(jié)構(gòu)化數(shù)據(jù),PostgreSQL恰好又提供了json這種數(shù)據(jù)類型,這里我們來(lái)簡(jiǎn)單介紹使用jsonb的一些常見操作,需要的朋友可以參考下2024-03-03