MySQL 如何設(shè)計(jì)統(tǒng)計(jì)數(shù)據(jù)表
緩存型數(shù)據(jù)表通常在統(tǒng)計(jì)數(shù)據(jù)時會經(jīng)常用到,因此也會叫統(tǒng)計(jì)性數(shù)據(jù)。舉個例子來說,對于員工、部門數(shù)據(jù)表而言,我們可能會需要查詢一個部門下有多少員工。這時候有三種方式實(shí)現(xiàn):
- 在部門下增加一個員工數(shù)量的字段,每次對員工進(jìn)行增、改、刪操作時都需要同步更新員工數(shù)量(如果員工換部門,則需要更新多個部門的員工數(shù)量)。這種方式能夠保證實(shí)時性,但是卻很低效。對于如果是操作不頻繁時是沒問題的,假設(shè)相當(dāng)頻繁,就意味著每次都需要操作兩張表,而且業(yè)務(wù)代碼都需要做埋點(diǎn)處理,將統(tǒng)計(jì)業(yè)務(wù)和普通業(yè)務(wù)深度耦合在一起了。
- 每次查詢的時候,從員工表中執(zhí)行 SUM 函數(shù),獲取該部門的員工數(shù)。這種方式避免了埋點(diǎn),但是每次都需要去員工數(shù)據(jù)表求和,如果員工數(shù)據(jù)量大的話會很低效。
- 新建一張統(tǒng)計(jì)表,每隔一定時間從員工表中匯總每個部門的人員數(shù)量。這種定時抽取數(shù)據(jù)的方式會犧牲一定的實(shí)時性,但降低了代碼的耦合,由于部門不會太多,這張表的大小是可預(yù)測的,也提高了數(shù)據(jù)訪問的效率。這種方式即緩存型數(shù)據(jù)表。
以掘金的手機(jī)端個人中心為例,為展示每個用戶的關(guān)注人數(shù)、關(guān)注者和掘力值,不可能每次查詢都去做一次 SUM,這意味著需要做多張表的 SUM 操作,效率會很低,而且掘力值的計(jì)算還涉及到更為復(fù)雜的計(jì)算方法(與文章的瀏覽量和點(diǎn)贊數(shù)有關(guān))。因此,可以猜測一下大致的表設(shè)計(jì),這樣在查詢用戶個人主頁信息的時候只需要從這一張表就可以讀取到所有數(shù)據(jù)了。
CREATE t_user_summay ( id INT PRIMARY KEY, user_id BIGINT(20), focused_user_cnt INT, followed_user_cnt INT, user_value INT, user_level ENUM('Lv1', 'Lv2', ..., 'Lv8'), created_time DATETIME, updated_time DATETIME, );
是否需要實(shí)時更新
在實(shí)際應(yīng)用過程中,統(tǒng)計(jì)表有兩種方式,一種是實(shí)時更新,一種是周期性的重建數(shù)據(jù)。兩種方式有利有弊,實(shí)時更新保證了查詢數(shù)據(jù)的即時性,但是會犧牲性能,并且要求代碼埋點(diǎn),而且由于數(shù)據(jù)更新是沒有規(guī)律的,可能產(chǎn)生碎片。周期性的重建數(shù)據(jù)犧牲了實(shí)時性,如果說大部分?jǐn)?shù)據(jù)都不變的話會帶來不必要的統(tǒng)計(jì)計(jì)算,但如果數(shù)據(jù)經(jīng)常變動,那周期性地重建數(shù)據(jù)顯然會更高效而且避免了埋點(diǎn)的情況。當(dāng)然,避免應(yīng)用程序的埋點(diǎn)也可以通過觸發(fā)器來完成,可以參考//www.dbjr.com.cn/article/213062.htm
物化視圖工具(Flexviews)
在 MySQL 中,有一個 Flexviews 的開源工具用于從數(shù)據(jù)庫的binlog 中提取數(shù)據(jù)完成數(shù)據(jù)統(tǒng)計(jì)。有點(diǎn)類似與視圖,但與視圖所不同的是,F(xiàn)lexviews 產(chǎn)生的數(shù)據(jù)表是物理表,這也是為什么稱之為物化視圖的原因。而且,F(xiàn)lexviews 還支持增量更新和全量更新。推薦使用增量更新,以避免所有行的統(tǒng)計(jì)數(shù)據(jù)都需要重建的情況。增量更新會檢查哪些數(shù)據(jù)行數(shù)據(jù)發(fā)生了改變,再執(zhí)行更新操作,相比全量更新而言性能會更高。但為了檢測數(shù)據(jù)改變,需要引入一個視圖記錄數(shù)據(jù)行的變化日志。
計(jì)數(shù)表
在實(shí)際開發(fā)中,我們經(jīng)常會需要對一些操作進(jìn)行計(jì)數(shù),比如文章的閱讀數(shù)、點(diǎn)贊數(shù)。如果將計(jì)數(shù)值放入同一張表很可能在更新的時候出現(xiàn)并發(fā)問題。使用獨(dú)立的計(jì)數(shù)表可以避免查詢緩存失效問題并使用一些更高級的技巧。例如統(tǒng)計(jì)文章的閱讀數(shù)、點(diǎn)贊數(shù)的數(shù)據(jù)表:
CREATE TABLE t_article_counter ( article_id INT PRIMARY KEY, read_cnt INT UNSIGNED NOT NULL, praise_cnt INT UNSIGNED NOT NULL );
在更新閱讀數(shù)的時候,可以使用 MySQL 的內(nèi)置加1操作:
UPDATE t_article_counter SET read_cnt = read_cnt + 1 WHERE article_id = 1;
這種方式可以使得操作是單行的,對事物而言是互斥的,因此會將事務(wù)序列化處理避免并發(fā)問題。但是卻會影響并發(fā)請求量??梢詫ξ恼略黾佣鄠€插槽來提高并發(fā)量。
CREATE TABLE t_article_counter ( id INT NOT NULL PRIMARY KEY, slot TINYINT UNSIGNED, article_id INT, read_cnt INT UNSIGNED NOT NULL, praise_cnt INT UNSIGNED NOT NULL, INDEX(article_id) );
這時可以創(chuàng)建100個插槽初始化數(shù)據(jù),在更新的時候可以這樣操作:
UPDATE t_article_counter SET read_cnt = read_cnt + 1 WHERE slot = RAND() * 100 AND article_id = 1;
獲取某篇文章的總閱讀數(shù)時,需要使用一個 SUM 操作:
SELECT SUM(read_cnt) FROM t_article_counter WHERE article_id = 1;
這種方式實(shí)際上是空間換時間,提高了并發(fā)量。
總結(jié)
本篇介紹了如何設(shè)計(jì)統(tǒng)計(jì)數(shù)據(jù)表,關(guān)鍵的核心在于業(yè)務(wù)類型。對于更新頻率低、數(shù)據(jù)量小的表使用實(shí)時同步或者直接 SUM 求和問題都不大。而對于大數(shù)據(jù)表,高頻率的更新的情況,則可以使用獨(dú)立的統(tǒng)計(jì)表。同時,若存在高并發(fā)的情況,統(tǒng)計(jì)表中可以考慮每項(xiàng)主體增加多個插槽的方式提高并發(fā)量。如果是周期性地同步數(shù)據(jù),也可以使用 Flexviews 物化視圖插件實(shí)現(xiàn)。
以上就是MySQL 如何設(shè)計(jì)統(tǒng)計(jì)數(shù)據(jù)表的詳細(xì)內(nèi)容,更多關(guān)于MySQL 設(shè)計(jì)統(tǒng)計(jì)數(shù)據(jù)表的資料請關(guān)注腳本之家其它相關(guān)文章!
- MySQL 常見的數(shù)據(jù)表設(shè)計(jì)誤區(qū)匯總
- MySQL數(shù)據(jù)表分區(qū)策略及優(yōu)缺點(diǎn)分析
- MySQL高級特性——數(shù)據(jù)表分區(qū)的概念及機(jī)制詳解
- MySQL如何構(gòu)建數(shù)據(jù)表索引
- MySQL 索引和數(shù)據(jù)表該如何維護(hù)
- Mysql刪除數(shù)據(jù)以及數(shù)據(jù)表的方法實(shí)例
- MySQL創(chuàng)建數(shù)據(jù)表時設(shè)定引擎MyISAM/InnoDB操作
- 刪除mysql數(shù)據(jù)表如何操作
- 關(guān)于MYSQL 你需要知道的數(shù)據(jù)類型和操作數(shù)據(jù)表
- MySQL創(chuàng)建數(shù)據(jù)表并建立主外鍵關(guān)系詳解
- MySQL數(shù)據(jù)表合并去重的簡單實(shí)現(xiàn)方法
相關(guān)文章
SQL中current_date()函數(shù)的實(shí)現(xiàn)
日期時間類型的數(shù)據(jù)也是經(jīng)常要用到的,SQL中也提供了一些函數(shù)對這些數(shù)據(jù)進(jìn)行處理,本文主要介紹了SQL中current_date()函數(shù)的實(shí)現(xiàn),具有一定的參考價(jià)值2024-02-02mysql技巧:提高插入數(shù)據(jù)(添加記錄)的速度
這篇文章主要介紹了mysql技巧:提高插入數(shù)據(jù)(添加記錄)的速度,需要的朋友可以參考下2014-12-12MySQL數(shù)據(jù)庫之union,limit和子查詢詳解
這篇文章主要為大家詳細(xì)介紹一下MySQL數(shù)據(jù)庫中union、limit和子查詢的使用,文中的示例代碼講解詳細(xì),對我們學(xué)習(xí)MySQL有一定幫助,需要的可以參考一下2022-07-07