Postgresql去重函數(shù)distinct的用法說明
在項(xiàng)目中我們常會(huì)對(duì)數(shù)據(jù)進(jìn)行去重處理,有時(shí)候會(huì)用in或者EXISTS函數(shù)?;蛘咄ㄟ^group by也是可以實(shí)現(xiàn)查重
不過Postgresql還有自帶去重函數(shù):distinct
下面是distinct 的實(shí)例:
1、創(chuàng)建表:user
CREATE TABLE `user` ( `name` varchar(30) DEFAULT NULL, `age` int(11) DEFAULT NULL ) ENGINE=InnoDB DEFAULT CHARSET=utf8; INSERT INTO `user` VALUES ('張三', 20); INSERT INTO `user` VALUES ('李四', 22); INSERT INTO `user` VALUES ('李四', 20); INSERT INTO `user` VALUES ('張三', 22); INSERT INTO `user` VALUES ('張三', 20);
查詢結(jié)果:
SELECT * FROM user 張三 20 李四 22 李四 20 張三 22 張三 20
2、根據(jù) name 查詢?nèi)ブ睾蟮臄?shù)據(jù):
SELECT distinct name FROM user 張三 李四
3、根據(jù)name 和 age 查詢?nèi)ブ睾蟮臄?shù)據(jù):
SELECT distinct name,age FROM user 張三 20 李四 22 李四 20 張三 22
4、根據(jù)name,age查詢重復(fù)數(shù)據(jù)數(shù):
SELECT distinct name,age,count(*) 數(shù)據(jù)條數(shù) FROM user GROUP BY name,age 張三 20 2 張三 22 1 李四 20 1 李四 22 1
二、查出重復(fù)數(shù)據(jù)后,我們需要?jiǎng)h除重復(fù)數(shù)據(jù)
刪除重復(fù)數(shù)據(jù)一般幾種方式,一般采用 臨時(shí)表 或者根據(jù) 某個(gè)字段,例如id等,通過max或者min函數(shù)去重。
補(bǔ)充:基于postgresql ctid實(shí)現(xiàn)數(shù)據(jù)的差異同步
項(xiàng)目背景:
最近在做異構(gòu)數(shù)據(jù)同步方面(非實(shí)時(shí))的工作,從oracle,gbase,postgresql向mysql數(shù)據(jù)庫(kù)中同步,對(duì)于沒有自增字段(自增ID或時(shí)間字段)的業(yè)務(wù)表,做差異同步是一件非常麻煩的事情,主要體現(xiàn)在記錄的新增、更新與刪除上
備注:源庫(kù)只提供一個(gè)只讀權(quán)限的用戶
ctid在pg中的作用
ctid是用來指向自身或新元組的元組標(biāo)識(shí)符,怎么理解呢?下面能過幾個(gè)實(shí)驗(yàn)來測(cè)試一下
satdb=# create table test_ctid(id int,name varchar(100)); satdb=# insert into test_ctid values(1,‘a(chǎn)'),(1,‘a(chǎn)'); satdb=# insert into test_ctid values(2,‘a(chǎn)'),(3,‘a(chǎn)');
查看記錄的ctid值
satdb=# select id,name,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 2 | a | (0,3) 3 | a | (0,4) (4 rows)
對(duì)id為2的記錄進(jìn)行更新
satdb=# update test_ctid set name=‘b' where id=2; UPDATE 1
這里可以看到id=2的記錄指向了新的元組標(biāo)識(shí)符 (0,5)
satdb=# select id,name,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 3 | a | (0,4) 2 | b | (0,5) (4 rows) satdb=# select * from test_ctid where ctid='(0,1)'; id | name ----±----- 1 | a (1 row)
刪除 id=3的記錄后,對(duì)應(yīng)的ctid(0,4)不存在了
satdb=# delete from test_ctid where id=3; DELETE 1 satdb=# select *,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 2 | b | (0,5) (3 rows)
再插入一條記錄時(shí),看看會(huì)不會(huì)使用(0,4)這個(gè)標(biāo)識(shí)符
satdb=# insert into test_ctid values(3,‘d'); INSERT 0 1 satdb=# select *,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 2 | b | (0,5) 3 | d | (0,6)
這里新插入的記錄不會(huì)使用(0,4),而是直接分配新的標(biāo)識(shí)符(0,6)
總結(jié):
1、ctid的作用與oracle rowid類似,可以唯一標(biāo)識(shí)一條記錄
2、記錄的更新后,后生產(chǎn)新的ctid
3、記錄刪除后,新插入的記錄不會(huì)使用已經(jīng)刪除記錄的ctid
4、基于ctid可以實(shí)現(xiàn)記錄的去重操作
5、基于ctid可以實(shí)現(xiàn)差異增量同步(新增、刪除、更新)
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章
pgsql 實(shí)現(xiàn)用戶自定義表結(jié)構(gòu)信息獲取
這篇文章主要介紹了pgsql 實(shí)現(xiàn)用戶自定義表結(jié)構(gòu)信息獲取,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-01-01Postgresql 檢查數(shù)據(jù)庫(kù)主從復(fù)制進(jìn)度的操作
這篇文章主要介紹了Postgresql 檢查數(shù)據(jù)庫(kù)主從復(fù)制進(jìn)度的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-12-12PostgreSQL教程(十四):數(shù)據(jù)庫(kù)維護(hù)
這篇文章主要介紹了PostgreSQL教程(十四):數(shù)據(jù)庫(kù)維護(hù),本文講解了恢復(fù)磁盤空間、更新規(guī)劃器統(tǒng)計(jì)、VACUUM和ANALYZE的示例、定期重建索引等內(nèi)容,需要的朋友可以參考下2015-05-05詳解PostgreSQL中實(shí)現(xiàn)數(shù)據(jù)透視表的三種方法
數(shù)據(jù)透視表(Pivot Table)是進(jìn)行數(shù)據(jù)匯總、分析、瀏覽和展示的強(qiáng)大工具,可以幫助我們了解數(shù)據(jù)中的對(duì)比情況、模式和趨勢(shì),是數(shù)據(jù)分析師和運(yùn)營(yíng)人員必備技能之一,本給大家介紹PostgreSQL中實(shí)現(xiàn)數(shù)據(jù)透視表的三種方法,需要的朋友可以參考下2024-04-04PostgreSQL 實(shí)現(xiàn)sql放入文件批量執(zhí)行
這篇文章主要介紹了PostgreSQL 實(shí)現(xiàn)sql放入文件批量執(zhí)行,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-02-02PostgreSQL樹形結(jié)構(gòu)的遞歸查詢示例
這篇文章主要給大家介紹了關(guān)于PostgreSQL樹形結(jié)構(gòu)的遞歸查詢的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用PostgreSQL具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-05-05PostgreSQL利用遞歸優(yōu)化求稀疏列唯一值的方法
這篇文章主要介紹了PostgreSQL利用遞歸優(yōu)化求稀疏列唯一值的方法,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-01-01玩轉(zhuǎn)PostgreSQL之30個(gè)實(shí)用SQL語(yǔ)句
本文主要整理總結(jié)了30個(gè)實(shí)用SQL,方便大家可以高效利用PostgreSQL,需要的朋友可以參考下2022-11-11