PostgreSQL教程(十四):數(shù)據(jù)庫維護
一、恢復磁盤空間:
在PostgreSQL中,使用delete和update語句刪除或更新的數(shù)據(jù)行并沒有被實際刪除,而只是在舊版本數(shù)據(jù)行的物理地址上將該行的狀態(tài)置為已刪除或已過期。因此當數(shù)據(jù)表中的數(shù)據(jù)變化極為頻繁時,那么在一段時間之后該表所占用的空間將會變得很大,然而數(shù)據(jù)量卻可能變化不大。要解決該問題,需要定期對數(shù)據(jù)變化頻繁的數(shù)據(jù)表執(zhí)行VACUUM操作。
VACUUM命令存在兩種形式,VACUUM和VACUUM FULL,它們之間的區(qū)別見如下表格:
無VACUUM | VACUUM | VACUUM FULL | |
刪除大量數(shù)據(jù)之后 | 只是將刪除數(shù)據(jù)的狀態(tài)置為已刪除,該空間不能記錄被重新使用。 | 如果刪除的記錄位于表的末端,其所占用的空間將會被物理釋放并歸還操作系統(tǒng)。如果不是末端數(shù)據(jù),該命令會將指定表或索引中被刪除數(shù)據(jù)所占用空間重新置為可用狀態(tài),那么在今后有新數(shù)據(jù)插入時,將優(yōu)先使用該空間,直到所有被重用的空間用完時,再考慮使用新增的磁盤頁面。 | 不論被刪除的數(shù)據(jù)是否處于數(shù)據(jù)表的末端,這些數(shù)據(jù)所占用的空間都將被物理的釋放并歸還于操作系統(tǒng)。之后再有新數(shù)據(jù)插入時,將分配新的磁盤頁面以供使用。 |
執(zhí)行效率 | 由于只是狀態(tài)置為操作,因此效率較高。 | 在當前版本的PostgreSQL(v9.1)中,該命令會為指定的表或索引重新生成一個數(shù)據(jù)文件,并將原有文件中可用的數(shù)據(jù)導入到新文件中,之后再刪除原來的數(shù)據(jù)文件。因此在導入過程中,要求當前磁盤有更多的空間可用于此操作。由此可見,該命令的執(zhí)行效率相對較低。 | |
被刪除的數(shù)據(jù)所占用的物理空間是否被重新規(guī)劃給操作系統(tǒng)。 | 不會 | 不會 | 會 |
在執(zhí)行VACUUM命令時,是否可以并發(fā)執(zhí)行針對該表的其他操作。 | 由于該操作是共享鎖,因此可以與其他操作并行進行。 | 由于該操作需要在指定的表上應用排它鎖,因此在執(zhí)行該操作期間,任何基于該表的操作都將被掛起,知道該操作完成。 | |
推薦使用方式 | 在進行數(shù)據(jù)清空是,可以使用truncate操作,因為該操作將會物理的清空數(shù)據(jù)表,并將其所占用的空間直接歸還于操作系統(tǒng)。 | 為了保證數(shù)據(jù)表的磁盤頁面數(shù)量能夠保持在一個相對穩(wěn)定值,可以定期執(zhí)行該操作,如每天或每周中數(shù)據(jù)操作相對較少的時段。 | 考慮到該操作的開銷,以及對其他錯誤的排斥,推薦的方式是,定期監(jiān)控數(shù)據(jù)量變化較大的表,只有確認其磁盤頁面占有量接近臨界值時,才考慮執(zhí)行一次該操作。即便如此,也需要注意盡量選擇數(shù)據(jù)操作較少的時段來完成該操作。 |
執(zhí)行后其它操作的效率 | 對于查詢而言,由于存在大量的磁盤頁面碎片,因此效率會逐步降低。 | 相比于不執(zhí)行任何VACUUM操作,其效率更高,但是插入的效率會有所降低。 | 在執(zhí)行完該操作后,所有基于該表的操作效率都會得到極大的提升。 |
二、更新規(guī)劃器統(tǒng)計:
PostgreSQL查詢規(guī)劃器在選擇最優(yōu)路徑時,需要參照相關數(shù)據(jù)表的統(tǒng)計信息用以為查詢生成最合理的規(guī)劃。這些統(tǒng)計是通過ANALYZE命令獲得的,你可以直接調用該命令,或者把它當做VACUUM命令里的一個可選步驟來調用,如VACUUM ANAYLYZE table_name,該命令將會先執(zhí)行VACUUM再執(zhí)行ANALYZE。與回收空間(VACUUM)一樣,對數(shù)據(jù)更新頻繁的表保持一定頻度的ANALYZE,從而使該表的統(tǒng)計信息始終處于相對較新的狀態(tài),這樣對于基于該表的查詢優(yōu)化將是極為有利的。然而對于更新并不頻繁的數(shù)據(jù)表,則不需要執(zhí)行該操作。
我們可以為特定的表,甚至是表中特定的字段運行ANALYZE命令,這樣我們就可以根據(jù)實際情況,只對更新比較頻繁的部分信息執(zhí)行ANALYZE操作,這樣不僅可以節(jié)省統(tǒng)計信息所占用的空間,也可以提高本次ANALYZE操作的執(zhí)行效率。這里需要額外說明的是,ANALYZE是一項相當快的操作,即使是在數(shù)據(jù)量較大的表上也是如此,因為它使用了統(tǒng)計學上的隨機采樣的方法進行行采樣,而不是把每一行數(shù)據(jù)都讀取進來并進行分析。因此,可以考慮定期對整個數(shù)據(jù)庫執(zhí)行該命令。
事實上,我們甚至可以通過下面的命令來調整指定字段的抽樣率,如:
ALTER TABLE testtable ALTER COLUMN test_col SET STATISTICS 200
注意:該值的取值范圍是0--1000,其中值越低采樣比例就越低,分析結果的準確性也就越低,但是ANALYZE命令執(zhí)行的速度卻更快。如果將該值設置為-1,那么該字段的采樣比率將恢復到系統(tǒng)當前默認的采樣值,我們可以通過下面的命令獲取當前系統(tǒng)的缺省采樣值。
postgres=# show default_statistics_target;
default_statistics_target
---------------------------
100
(1 row)
從上面的結果可以看出,該數(shù)據(jù)庫的缺省采樣值為100(10%)。
三、VACUUM和ANALYZE的示例:
#1. 創(chuàng)建測試數(shù)據(jù)表。
postgres=# CREATE TABLE testtable (i integer);
CREATE TABLE
#2. 為測試表創(chuàng)建索引。
postgres=# CREATE INDEX testtable_idx ON testtable(i);
CREATE INDEX
#3. 創(chuàng)建批量插入測試數(shù)據(jù)的函數(shù)。
postgres=# CREATE OR REPLACE FUNCTION test_insert() returns integer AS $$
DECLARE
min integer;
max integer;
BEGIN
SELECT COUNT(*) INTO min from testtable;
max := min + 10000;
FOR i IN min..max LOOP
INSERT INTO testtable VALUES(i);
END LOOP;
RETURN 0;
END;
$$ LANGUAGE plpgsql;
CREATE FUNCTION
#4. 批量插入數(shù)據(jù)到測試表(執(zhí)行四次)
postgres=# SELECT test_insert();
test_insert
-------------
0
(1 row)
#5. 確認四次批量插入都成功。
postgres=# SELECT COUNT(*) FROM testtable;
count
-------
40004
(1 row)
#6. 分析測試表,以便有關該表的統(tǒng)計信息被更新到PostgreSQL的系統(tǒng)表。
postgres=# ANALYZE testtable;
ANALYZE
#7. 查看測試表和索引當前占用的頁面數(shù)量(通常每個頁面為8k)。
postgres=# SELECT relname,relfilenode, relpages FROM pg_class WHERE relname = 'testtable' or relname = 'testtable_idx';
relname | relfilenode | relpages
---------------+-------------+----------
testtable | 17601 | 157
testtable_idx | 17604 | 90
#8. 批量刪除數(shù)據(jù)。
postgres=# DELETE FROM testtable WHERE i < 30000;
DELETE 30003
#9. 執(zhí)行vacuum和analyze,以便更新系統(tǒng)表,同時為該表和索引記錄高水標記。
#10. 這里需要額外說明的是,上面刪除的數(shù)據(jù)均位于數(shù)據(jù)表的前部,如果刪除的是末尾部分,
# 如where i > 10000,那么在執(zhí)行VACUUM ANALYZE的時候,數(shù)據(jù)表將會被物理的縮小。
postgres=# VACUUM ANALYZE testtable;
ANALYZE
#11. 查看測試表和索引在刪除后,再通過VACUUM ANALYZE更新系統(tǒng)統(tǒng)計信息后的結果(保持不變)。
postgres=# SELECT relname,relfilenode, relpages FROM pg_class WHERE relname = 'testtable' or relname = 'testtable_idx';
relname | relfilenode | relpages
---------------+-------------+----------
testtable | 17601 | 157
testtable_idx | 17604 | 90
(2 rows)
#12. 再重新批量插入兩次,之后在分析該表以更新其統(tǒng)計信息。
postgres=# SELECT test_insert(); --執(zhí)行兩次。
test_insert
-------------
0
(1 row)
postgres=# ANALYZE testtable;
ANALYZE
#13. 此時可以看到數(shù)據(jù)表中的頁面數(shù)量仍然為之前的高水標記數(shù)量,索引頁面數(shù)量的增加
# 是和其內部實現(xiàn)方式有關,但是在后面的插入中,索引所占的頁面數(shù)量就不會繼續(xù)增加。
postgres=# SELECT relname,relfilenode, relpages FROM pg_class WHERE relname = 'testtable' or relname = 'testtable_idx';
relname | relfilenode | relpages
---------------+-------------+----------
testtable | 17601 | 157
testtable_idx | 17604 | 173
(2 rows)
postgres=# SELECT test_insert();
test_insert
-------------
0
(1 row)
postgres=# ANALYZE testtable;
ANALYZE
#14. 可以看到索引的頁面數(shù)量確實沒有繼續(xù)增加。
postgres=# SELECT relname,relfilenode, relpages FROM pg_class WHERE relname = 'testtable' or relname = 'testtable_idx';
relname | relfilenode | relpages
---------------+-------------+----------
testtable | 17601 | 157
testtable_idx | 17604 | 173
(2 rows)
#15. 重新批量刪除數(shù)據(jù)。
postgres=# DELETE FROM testtable WHERE i < 30000;
DELETE 19996
#16. 從后面的查詢可以看出,在執(zhí)行VACUUM FULL命令之后,測試表和索引所占用的頁面數(shù)量
# 確實降低了,說明它們占用的物理空間已經縮小了。
postgres=# VACUUM FULL testtable;
VACUUM
postgres=# SELECT relname,relfilenode, relpages FROM pg_class WHERE relname = 'testtable' or relname = 'testtable_idx';
relname | relfilenode | relpages
---------------+-------------+----------
testtable | 17602 | 118
testtable_idx | 17605 | 68
(2 rows)
四、定期重建索引:
在PostgreSQL中,為數(shù)據(jù)更新頻繁的數(shù)據(jù)表定期重建索引(REINDEX INDEX)是非常有必要的。對于B-Tree索引,只有那些已經完全清空的索引頁才會得到重復使用,對于那些僅部分空間可用的索引頁將不會得到重用,如果一個頁面中大多數(shù)索引鍵值都被刪除,只留下很少的一部分,那么該頁將不會被釋放并重用。在這種極端的情況下,由于每個索引頁面的利用率極低,一旦數(shù)據(jù)量顯著增加,將會導致索引文件變得極為龐大,不僅降低了查詢效率,而且還存在整個磁盤空間被完全填滿的危險。
對于重建后的索引還存在另外一個性能上的優(yōu)勢,因為在新建立的索引上,邏輯上相互連接的頁面在物理上往往也是連在一起的,這樣可以提高磁盤頁面被連續(xù)讀取的幾率,從而提高整個操作的IO效率。見如下示例:
#1. 此時已經在該表中插入了大約6萬條數(shù)據(jù),下面的SQL語句將查詢該索引所占用的磁盤空間。
postgres=# SELECT relname, pg_relation_size(oid)/1024 || 'K' AS size FROM pg_class WHERE relkind='i' AND relname = 'testtable_idx';
relname | size
----------------+------
testtable_idx | 1240K
(1 row)
#2. 刪除數(shù)據(jù)表中大多數(shù)的數(shù)據(jù)。
postgres=# DELETE FROM testtable WHERE i > 20000;
DELETE 50006
#3. 分析一個該表,以便于后面的SQL語句繼續(xù)查看該索引占用的空間。
postgres=# ANALYZE testtable;
ANALYZE
#4. 從該查詢結果可以看出,該索引所占用的空間并未減少,而是和之前的完全一樣。
postgres=# SELECT pg_relation_size('testtable_idx')/1024 || 'K' AS size;
size
------
1240K
(1 row)
#5. 重建索引。
postgres=# REINDEX INDEX testtable_idx;
REINDEX
#6. 查看重建后的索引實際占用的空間,從結果中可以看出索引的尺寸已經減少。
postgres=# SELECT pg_relation_size('testtable_idx')/1024 || 'K' AS size;
size
------
368K
(1 row)
#7. 最后一點需要記住的是,在索引重建后一定要分析數(shù)據(jù)表。
postgres=# ANALYZE testtable;
ANALYZE
五、觀察磁盤使用情況:
1. 查看數(shù)據(jù)表所占用的磁盤頁面數(shù)量。
#relpages只能被VACUUM、ANALYZE和幾個DDL命令更新,如CREATE INDEX。通常一個頁面的長度為8K字節(jié)。
postgres=# SELECT relfilenode, relpages FROM pg_class WHERE relname = 'testtable';
relfilenode | relpages
-------------+----------
16412 | 79
(1 row)
2. 查看指定數(shù)據(jù)表的索引名稱和索引占用的磁盤頁面數(shù)量。
postgres=# SELECT c2.relname, c2.relpages FROM pg_class c, pg_class c2, pg_index i
WHERE c.relname = 'testtable' AND c.oid = i.indrelid AND c2.oid = i.indexrelid
ORDER BY c2.relname;
relname | relpages
---------------+----------
testtable_idx | 46
(1 row)
- PostgreSQL教程(一):數(shù)據(jù)表詳解
- PostgreSQL教程(二):模式Schema詳解
- PostgreSQL教程(三):表的繼承和分區(qū)表詳解
- PostgreSQL教程(四):數(shù)據(jù)類型詳解
- PostgreSQL教程(五):函數(shù)和操作符詳解(1)
- PostgreSQL教程(六):函數(shù)和操作符詳解(2)
- PostgreSQL教程(七):函數(shù)和操作符詳解(3)
- PostgreSQL教程(八):索引詳解
- PostgreSQL教程(九):事物隔離介紹
- PostgreSQL教程(十):性能提升技巧
- PostgreSQL教程(十一):服務器配置
- PostgreSQL教程(十二):角色和權限管理介紹
- PostgreSQL教程(十三):數(shù)據(jù)庫管理詳解
相關文章
postgresql insert into select無法使用并行查詢的解決
這篇文章主要介紹了postgresql insert into select無法使用并行查詢的解決,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2021-01-01在postgresql數(shù)據(jù)庫中創(chuàng)建只讀用戶的操作
這篇文章主要介紹了在postgresql數(shù)據(jù)庫中創(chuàng)建只讀用戶的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12Postgresql刪除數(shù)據(jù)庫表中重復數(shù)據(jù)的幾種方法詳解
本文詳細講解了Postgresql刪除數(shù)據(jù)庫表中重復數(shù)據(jù)的幾種方法,文中通過示例代碼介紹的非常詳細。對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2022-10-10postgresql 數(shù)據(jù)庫 與TimescaleDB 時序庫 join 在一起
這篇文章主要介紹了postgresql 數(shù)據(jù)庫 與TimescaleDB 時序庫 join 在一起,需要的朋友可以參考下2020-12-12PostgreSQL pg_ctl start啟動超時實例分析
這篇文章主要給大家介紹了關于PostgreSQL pg_ctl start啟動超時的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2019-01-01解決postgresql 數(shù)字轉換成字符串前面會多出一個空格的問題
這篇文章主要介紹了解決postgresql 數(shù)字轉換成字符串前面會多出一個空格的問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12