使用PostgreSQL數據庫建立用戶畫像系統的方法

更新時間：2022年10月19日 14:11:36 作者：古道輕風

這篇文章主要介紹了使用PostgreSQL數據庫建立用戶畫像系統,下面使用一個具體的例子來說明如何使用PostgreSQL的json數據類型來建立用戶標簽數據,需要的朋友可以參考下

說起大數據中的應用，很多同學可能馬上會想起用戶畫像。用戶畫像，英文稱之為User Profile，通過用戶畫像可以完美地抽象出一個用戶的信息全貌，通過用戶畫像數據可以精準地分析用戶的各種行為習慣，如消費習慣、興趣愛好、能力情況等等重要用戶信息。通常用戶畫像是通過給用戶建標簽系統來實現的，本文介紹了如何使用PostgreSQL的json數據類型來建立用戶畫像數據庫。

說起大數據中的應用，很多同學可能馬上會想起用戶畫像。
用戶畫像，英文稱之為User Profile，通過用戶畫像可以完美地抽象出一個用戶的信息全貌，通過用戶畫像數據可以精準地分析用戶的各種行為習慣，如消費習慣、興趣愛好、能力情況等等重要用戶信息。通常用戶畫像是通過給用戶建標簽系統來實現的，本文介紹了如何使用PostgreSQL的json數據類型來建立用戶畫像數據庫。

標簽模型

為了說明具體的方法方法，我們建一套簡單的兩級標簽系統：

職業(yè)：農民、工人、IT工程師、理發(fā)師、醫(yī)生、老師、美工、律師、公務員、官員
愛好：游泳、乒乓球、羽毛球、網球、爬山、高爾夫球、滑雪、爬山、旅游
學歷：無學歷、小學、初中、高中、中專、?？啤⒈究啤⒋T士、博士
性格：外向、內向、謹慎、穩(wěn)重、細心、粗心、浮躁、自信

當然你也可以根據實際情況建立三級或更多級的復雜的標簽體系。

建表和造數據

下面使用一個具體的例子來說明如何使用PostgreSQL的json數據類型來建立用戶標簽數據庫。
建用戶標簽表：

CREATE TABLE user_tag(uid serial primary key, tag jsonb);

這個表只有兩個字段，uid表示用戶ID，而tag字段中放了用戶的所有標簽，tag字段類型為jsonb。
為了說明如何使用本方案，需要給表中造一些標簽數據。先建一個函數，在后面的INSERT的SQL中會調用此函數生成一些隨機的標簽：

CREATE OR REPLACE FUNCTION f_random_attr(attr text[], max_attr int)
RETURNS text[] AS $$
DECLARE
     i integer := 0; 
     r integer := 0;
     res  text[];
     v text;
     l integer;
     num integer;
 BEGIN
     num := (random()*max_attr)::int;
     IF num < 1 THEN
         num := 1;
     END IF;
     l := array_length(attr, 1);
     WHILE i < num LOOP
          r := round(random()*l)::int + 1;
          v := attr[r];
          IF res @> array[v] THEN
             continue;
          ELSE 
             res := array_append(res, v);
             i := i + 1;
          END IF;
     END LOOP;
     return res;
 END;
$$ LANGUAGE plpgsql;

我們通過下面的INSERT語句就可以造一些隨機的數據了：

INSERT INTO user_tag(uid, tag) 
SELECT seq, 
       json_build_object(
         '職業(yè)',
         f_random_attr(array['農民','工人','IT工程師','理發(fā)師','醫(yī)生','老師','美工','律師','公務員','官員'], 1),
         '愛好',
         f_random_attr(array['游泳','乒乓球','羽毛球','網球','爬山','高爾夫球','滑雪','爬山','旅游'], 5),
         '學歷',
         f_random_attr(array['無學歷','小學','初中','高中','中專','?？?,'本科','碩士','博士'], 1),
         '性格',
         f_random_attr(array['外向','內向','謹慎','穩(wěn)重','細心','粗心','浮躁','自信'], 3))::jsonb
  FROM generate_series(1, 10000) as t(seq);

建索引和查詢

為了加快查詢，我們在tag列上建GIN索引。GIN索引是PostgreSQL中的一種特殊的索引，可以實現類似全文搜索的功能：

CREATE INDEX idx_user_tag_tag on user_tag using gin(tag);

這時我們如果想查詢性格為外向和細心的老師，則SQL語句：

osdba=# select * from user_tag where tag @> '{"性格":["外向","細心"]}' and tag @> '{"職業(yè)":["老師"]}';
 uid  |                                                         tag
------+----------------------------------------------------------------------------------------------------------------------
  881 | {"學歷": ["中專"], "性格": ["細心", "內向", "外向"], "愛好": ["高爾夫球"], "職業(yè)": ["老師"]}
 1031 | {"學歷": [null], "性格": ["外向", "細心"], "愛好": ["爬山"], "職業(yè)": ["老師"]}
 3313 | {"學歷": [null], "性格": ["外向", "細心"], "愛好": ["乒乓球"], "職業(yè)": ["老師"]}
 4053 | {"學歷": ["本科"], "性格": ["細心", "外向"], "愛好": ["爬山", "滑雪", "游泳"], "職業(yè)": ["老師"]}
 4085 | {"學歷": ["初中"], "性格": ["外向", "細心"], "愛好": ["網球"], "職業(yè)": ["老師"]}
 4332 | {"學歷": ["碩士"], "性格": ["外向", "細心"], "愛好": ["網球", "羽毛球"], "職業(yè)": ["老師"]}
 4997 | {"學歷": ["小學"], "性格": ["外向", "細心", "浮躁"], "愛好": ["乒乓球"], "職業(yè)": ["老師"]}
 5231 | {"學歷": ["本科"], "性格": ["外向", "細心"], "愛好": ["高爾夫球"], "職業(yè)": ["老師"]}
 5360 | {"學歷": ["無學歷"], "性格": ["浮躁", "外向", "細心"], "愛好": ["爬山", "網球", "旅游", "羽毛球"], "職業(yè)": ["老師"]}
 6281 | {"學歷": ["專科"], "性格": ["細心", "外向", "自信"], "愛好": ["滑雪", null], "職業(yè)": ["老師"]}
 7681 | {"學歷": ["小學"], "性格": ["粗心", "外向", "細心"], "愛好": ["乒乓球"], "職業(yè)": ["老師"]}
 8246 | {"學歷": ["碩士"], "性格": ["外向", "細心"], "愛好": ["滑雪", "網球", "高爾夫球"], "職業(yè)": ["老師"]}
 8531 | {"學歷": ["碩士"], "性格": ["細心", "外向", "粗心"], "愛好": ["滑雪", "爬山"], "職業(yè)": ["老師"]}
 8618 | {"學歷": ["小學"], "性格": ["細心", "外向", "浮躁"], "愛好": ["乒乓球"], "職業(yè)": ["老師"]}
 9508 | {"學歷": ["小學"], "性格": ["浮躁", "外向", "細心"], "愛好": ["爬山", "旅游", "高爾夫球"], "職業(yè)": ["老師"]}
(15 rows)

Time: 1.495 ms

上面SQL語句中的where條件中的 “tag @> '{"性格":["外向","細心"]}' ”中的“@>”是一個PostgreSQL中jsonb類型的特殊運算符，意思為“包含”。
我們如果想查詢性格為外向和細心而又喜歡滑雪和游泳的醫(yī)生，則SQL語句：

osdba=# select * from user_tag where tag @> '{"性格":["外向","細心"]}' and tag @> '{"職業(yè)":["醫(yī)生"]}' and tag @>'{"愛好":["滑雪", "游泳"]}';
 uid  |                                               tag
------+--------------------------------------------------------------------------------------------------
 4469 | {"學歷": ["小學"], "性格": ["外向", "細心", "穩(wěn)重"], "愛好": ["滑雪", "游泳"], "職業(yè)": ["醫(yī)生"]}
(1 row)

Time: 2.139 ms

從上面可以看出，只需要1~2ms就可以查詢出結果，原因是我們使用GIN索引，可以通過查看一下執(zhí)行計劃：

osdba=# explain select * from user_tag where tag @> '{"性格":["外向","細心"]}' and tag @> '{"職業(yè)":["醫(yī)生"]}' and tag @>'{"愛好":["滑雪", "游泳"]}';
                                                                          QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on user_tag  (cost=48.00..52.02 rows=1 width=153)
   Recheck Cond: ((tag @> '{"性格": ["外向", "細心"]}'::jsonb) AND (tag @> '{"職業(yè)": ["醫(yī)生"]}'::jsonb) AND (tag @> '{"愛好": ["滑雪", "游泳"]}'::jsonb))
   ->  Bitmap Index Scan on idx_user_tag_tag  (cost=0.00..48.00 rows=1 width=0)
         Index Cond: ((tag @> '{"性格": ["外向", "細心"]}'::jsonb) AND (tag @> '{"職業(yè)": ["醫(yī)生"]}'::jsonb) AND (tag @> '{"愛好": ["滑雪", "游泳"]}'::jsonb))
(4 rows)

Time: 1.736 ms

GIN索引是PostgreSQL中的核武器，大家從上面就可以看出GIN索引的強大了。GIN索除了可以用在json數據類型上，也可以使用到數組類型中。
jsonb為GIN索引提供了兩類索引操作符（你可以認為是兩種索引）：

jsonb_ops，這是默認，上面我們建的索引就是這個類型的，
jsonb_path_ops

jsonb_ops可以支持“@>”、“?”、“?&”、“?|”等操作符進行查詢，這些操作符的意思請見：官方文檔
而jsonb_path_ops只支持“@>”操作符，當然jsonb_path_ops索引要比json_ops索引小很多，具體可以見：

osdba=# select pg_relation_size('idx_user_tag_tag');
 pg_relation_size
------------------
           245760
(1 row)

Time: 0.522 ms
osdba=# CREATE INDEX idx_user_tag_tag2 on user_tag using gin(tag jsonb_path_ops);
CREATE INDEX
Time: 46.947 ms
osdba=# select pg_relation_size('idx_user_tag_tag2');
 pg_relation_size
------------------
           147456
(1 row)

jsonb_path_ops索引使用的方法與jsonb_ops基本相同：

osdba=# drop index idx_user_tag_tag;
DROP INDEX
Time: 2.833 ms
osdba=# select * from user_tag where tag @> '{"性格":["外向","細心"]}' and tag @> '{"職業(yè)":["醫(yī)生"]}' and tag @>'{"愛好":["滑雪", "游泳"]}';
 uid  |                                               tag
------+--------------------------------------------------------------------------------------------------
 4469 | {"學歷": ["小學"], "性格": ["外向", "細心", "穩(wěn)重"], "愛好": ["滑雪", "游泳"], "職業(yè)": ["醫(yī)生"]}
(1 row)

Time: 1.401 ms
osdba=# explain select * from user_tag where tag @> '{"性格":["外向","細心"]}' and tag @> '{"職業(yè)":["醫(yī)生"]}' and tag @>'{"愛好":["滑雪", "游泳"]}';
                                                                          QUERY PLAN
--------------------------------------------------------------------------------------------------------------------------------------------------------------
 Bitmap Heap Scan on user_tag  (cost=24.00..28.02 rows=1 width=153)
   Recheck Cond: ((tag @> '{"性格": ["外向", "細心"]}'::jsonb) AND (tag @> '{"職業(yè)": ["醫(yī)生"]}'::jsonb) AND (tag @> '{"愛好": ["滑雪", "游泳"]}'::jsonb))
   ->  Bitmap Index Scan on idx_user_tag_tag2  (cost=0.00..24.00 rows=1 width=0)
         Index Cond: ((tag @> '{"性格": ["外向", "細心"]}'::jsonb) AND (tag @> '{"職業(yè)": ["醫(yī)生"]}'::jsonb) AND (tag @> '{"愛好": ["滑雪", "游泳"]}'::jsonb))
(4 rows)

Time: 0.634 ms

你可以寫更多的SQL來做用戶畫像的數據分析，這里就不再贅述了。
當然也可以使用PostgreSQL的數組類型建標簽系統，數組類型也運行GIN索引，但總的來說沒有使用json類型直觀。

到此這篇關于使用PostgreSQL數據庫建立用戶畫像系統的文章就介紹到這了,更多相關PostgreSQL用戶畫像系統內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！

您可能感興趣的文章:

Postgresql 跨庫同步表及postgres_fdw的用法說明
這篇文章主要介紹了Postgresql 跨庫同步表及postgres_fdw的用法說明，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2021-01-01
PostgreSQL安裝、配置及簡單使用方法
這篇文章主要介紹了PostgreSQL安裝及簡單使用方法,需要的朋友可以參考下
2016-11-11
PostgreSQL自動更新時間戳實例代碼
最近有這么一個工程,需要使用postgresql數據庫,在數據庫中的好幾個表中都需要時間戳這個字段,這篇文章主要給大家介紹了關于PostgreSQL自動更新時間戳的相關資料,需要的朋友可以參考下
2021-11-11
PostgreSQL報錯解決操作符不存在的問題
這篇文章主要介紹了PostgreSQL報錯解決操作符不存在的問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2021-01-01
FREEBSD安裝POSTGRESQL筆記
這篇文章主要介紹了FREEBSD安裝POSTGRESQL筆記,本文著重講解安裝中遇到到的一些問題和解決方法,需要的朋友可以參考下
2015-02-02
postgresql行轉列與列轉行圖文教程
PostgreSQL是一種開源的關系型數據庫,它提供了多種管理工具來操作數據庫,下面這篇文章主要給大家介紹了關于postgresql行轉列與列轉行的相關資料,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下
2023-06-06
PostgreSQL 默認權限查看方式
這篇文章主要介紹了PostgreSQL 默認權限查看方式，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2021-01-01
PostgreSQL之INDEX 索引詳解
這篇文章主要介紹了PostgreSQL之INDEX 索引詳解，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2021-02-02
PostgreSQL利用遞歸優(yōu)化求稀疏列唯一值的方法
這篇文章主要介紹了PostgreSQL利用遞歸優(yōu)化求稀疏列唯一值的方法,本文給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值，需要的朋友可以參考下
2021-01-01
基于PostgreSQL pg_hba.conf 配置參數的使用說明
這篇文章主要介紹了基于PostgreSQL pg_hba.conf 配置參數的使用說明，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
2021-01-01