postgresql減少wal日志生成量的操作
1、在繁忙的系統(tǒng)中,如果需要降低checkpoint發(fā)生的頻率,減少WAL日志的生成量,減輕對系統(tǒng)IO的壓力,可以通過以下兩種方法。
1) 調整WAL segment大小,最高可以調整到64MB,不過只能通過編譯來調整。對于已有系統(tǒng)不太方便;
2) 增大checkpoint_segments設置,使得checkpoint不會過于頻繁地被觸發(fā);
2、在9.5中,checkpoint_segments被廢棄,可以通過新增參數(shù)max_wal_size來調整,該參數(shù)缺省為1GB,已經是9.4的2倍。但如果9.4中手工設置了checkpoint_segments,如本例,則以下的公式可以做為9.5設置max_wal_size的參考。
max_wal_size = (3 * checkpoint_segments) * 16MB
補充:PostgreSQL利用全備與WAL日志恢復數(shù)據(jù)庫
一般情況全備只能做到備份時刻的恢復,在全備操作過后的數(shù)據(jù)庫信息無法同步,此時就需要利用wal日志來進行時間點的恢復
基礎備份——全備
使用pg_basebackup
pg_basebackup是postgresql提供的一個方便基礎備份的工具(9.1開始提供),這個工具會把整個數(shù)據(jù)庫實例的數(shù)據(jù)都拷貝出來,而不只是把實例中的部分(如某個數(shù)據(jù)庫或表)單獨備份出來,該工具使用replication協(xié)議連接到數(shù)據(jù)庫實例上,所以主數(shù)據(jù)庫中的pg_hba.conf必須允許replication連接,類似如下:
local replication postgre ident
在9.2之后支持級連復制,所以在之后的版本中,pg_basebackup也可以從另外一個standby庫上做基礎備份,都需注意如下幾方面:
1、備份中沒有備份歷史文件;
2、不確保所有需要的WAL文件都備份了,如果想確保,需要加命令行參數(shù) ”-x";
3、如果在備份過程中standby被提升為主庫,則備份會失敗;
4、要求主庫中打開了“full_page_writes"參數(shù),WAL文件不能被類似pg_compresslog的工具去掉full_page_writes信息。
參數(shù)
-Ft F表示輸出格式,t為tar包的格示,p,默認值,輸出為目錄。
-X fetch X表示收集wal日志的方式 fetch表示收集wal日志,stream為不收集,以備庫streaming的方式追趕主庫,none一般不使用
-h 要備份數(shù)據(jù)庫的所在的IP
-p 數(shù)據(jù)庫端口號
-P 備份進度,以百分制顯示
-v 輸出備份信息,如上面pg_basebackup:等類似語句。
-W 輸入密碼選項
-D 要備份到的目錄
其他選項 比如-R 備份備庫時保存recover.conf文件
WAL日志的的備份
測試流程
將被數(shù)據(jù)文件全備
一臺是已運行的主庫,一臺是安裝好數(shù)據(jù)庫但是沒有初始化的預恢復庫
將主庫的數(shù)據(jù)文件全備到備庫的的數(shù)據(jù)目錄中
繼續(xù)操作主庫
在表中插入幾行數(shù)據(jù),并留下時間
postgres=# insert into test08 values (6666666,'asdfg'); INSERT 0 1 postgres=# insert into test08 values (6666666,'asdfg'); INSERT 0 1 postgres=# insert into test08 values (6666666,'asdfg'); INSERT 0 1 postgres=# insert into test08 values (6666666,'asdfg'); INSERT 0 1 postgres=# insert into test08 values (6666666,'asdfg'); INSERT 0 1 postgres=# insert into test08 values (6666666,'asdfg'); INSERT 0 1
postgres=# select now(); now ------------------------------- 2018-07-18 15:03:28.969495+08 (1 row) postgres=#
切換wal日志
postgres=# select pg_switch_wal(); pg_switch_wal --------------- 5/EF0009D8 (1 row) postgres=#
####將wal日志歸檔到備庫
這邊是直接將日志傳過去,到備庫的/backup 目錄
配置recovery.conf文件
在pgdata目錄里,創(chuàng)建文件
[postgres@mdw pgdata]$ cat recovery.conf recovery_target_time = ' 2018-07-18 11:00:18.526347+08 ' restore_command = 'cp /backup/pg_wal/%f %p'
啟動恢復實例
[postgres@mdw pgdata]$ pg_ctl start waiting for server to start....2018-07-18 15:07:52.420 CST [3353] LOG: listening on IPv4 address "0.0.0.0", port 5432 2018-07-18 15:07:52.420 CST [3353] LOG: listening on IPv6 address "::", port 5432 2018-07-18 15:07:52.426 CST [3353] LOG: listening on Unix socket "/tmp/.s.PGSQL.5432" 2018-07-18 15:07:52.468 CST [3354] LOG: database system was interrupted; last known up at 2018-07-18 15:00:09 CST 2018-07-18 15:07:52.950 CST [3354] LOG: starting point-in-time recovery to 2018-07-18 15:03:28.969495+08 2018-07-18 15:07:52.987 CST [3354] LOG: restored log file "0000000100000005000000F8" from archive 2018-07-18 15:07:53.247 CST [3354] LOG: redo starts at 5/F8000028 2018-07-18 15:07:53.308 CST [3354] LOG: consistent recovery state reached at 5/F8000B08 2018-07-18 15:07:53.308 CST [3353] LOG: database system is ready to accept read only connections done server started [postgres@mdw pgdata]$ 2018-07-18 15:07:53.343 CST [3354] LOG: restored log file "0000000100000005000000F9" from archive 2018-07-18 15:07:53.626 CST [3354] LOG: restored log file "0000000100000005000000FA" from archive 2018-07-18 15:07:54.192 CST [3354] LOG: invalid record length at 5/FA000140: wanted 24, got 0 2018-07-18 15:07:54.192 CST [3354] LOG: redo done at 5/FA000108 2018-07-18 15:07:54.192 CST [3354] LOG: last completed transaction was at log time 2018-07-18 15:03:20.200594+08 2018-07-18 15:07:54.397 CST [3354] LOG: restored log file "0000000100000005000000FA" from archive cp: cannot stat `/backup/pg_wal/00000002.history': No such file or directory 2018-07-18 15:07:54.633 CST [3354] LOG: selected new timeline ID: 2 cp: cannot stat `/backup/pg_wal/00000001.history': No such file or directory 2018-07-18 15:07:55.160 CST [3354] LOG: archive recovery complete 2018-07-18 15:07:55.263 CST [3353] LOG: database system is ready to accept connections
查看恢復情況
發(fā)現(xiàn)已經將之后的操作在備庫上進行恢復了
postgres=# select * from test08 where id=6666666; id | n ---------+------- 6666666 | asdfg 6666666 | asdfg 6666666 | asdfg 6666666 | asdfg 6666666 | asdfg 6666666 | asdfg (6 rows)
以上為個人經驗,希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。
相關文章
PostgreSQL索引掃描時為什么index only scan不返回ctid
這篇文章主要介紹了PostgreSQL索引掃描時為什么index only scan不返回ctid的原因探索,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2022-09-09PGSQL 實現(xiàn)查詢今天,昨天的數(shù)據(jù),一個月之內的數(shù)據(jù)
這篇文章主要介紹了PGSQL 實現(xiàn)查詢今天,昨天的數(shù)據(jù),一個月之內的數(shù)據(jù),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-01-01Linux系統(tǒng)安裝PostgreSQL數(shù)據(jù)庫及配置的詳細過程
這篇文章主要給大家介紹了關于Linux系統(tǒng)安裝PostgreSQL數(shù)據(jù)庫及配置的詳細過程,PgSQL(全稱PostgreSQL)是一個功能強大的開源對象-關系型數(shù)據(jù)庫系統(tǒng),結合了許多安全存儲和擴展最復雜數(shù)據(jù)工作負載的功能,需要的朋友可以參考下2023-12-12PostgreSQL 數(shù)據(jù)同步到ES 搭建操作
這篇文章主要介紹了PostgreSQL 數(shù)據(jù)同步到ES 搭建操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-01-01PostgreSQL數(shù)據(jù)庫視圖及子查詢使用操作
這篇文章主要為大家介紹了PostgreSQL數(shù)據(jù)庫視圖及子查詢的使用操作,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步早日升職加薪2022-04-04postgresql數(shù)據(jù)庫 timescaledb 時序庫 把大數(shù)據(jù)量表轉換為超表的問題
這篇文章主要介紹了postgresql數(shù)據(jù)庫 timescaledb 時序庫 把大數(shù)據(jù)量表轉換為超表,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-02-02postgresql 實現(xiàn)啟動、狀態(tài)查看、關閉
這篇文章主要介紹了postgresql 實現(xiàn)啟動、狀態(tài)查看、關閉的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-01-01