Rails中使用MySQL分區(qū)表一個提升性能的方法
MySQL 的分區(qū)表是一種簡單有效的處理極大數(shù)據(jù)表的特性,通過它可以使應(yīng)用程序幾乎很少改動就能達(dá)成對極大數(shù)據(jù)表的高效處理,但由于 Rails ActiveRecord 設(shè)計上一些慣例,可能導(dǎo)致一些數(shù)據(jù)處理不能利用分區(qū)表特性,反而變得很慢,在使用分區(qū)表過程中一定要多加注意。
下面以一個例子來說明。在 light 系統(tǒng)中,有一張數(shù)據(jù)表是 diet_items, 主要字段是 id, schedule_id, meal_order food_id, weight, calory 等等,它的每一條記錄表示為用戶生成每日的減肥計劃(減肥食譜 + 運(yùn)動計劃)中的一條飲食項,平均一條的計劃有 10 多條數(shù)據(jù),數(shù)據(jù)量非常大,預(yù)計每天生成數(shù)據(jù)會超過 100 萬條,所以對其做了分表處理,根據(jù) schedule_id hash 分成 60 張表,也就是數(shù)據(jù)將動態(tài)分到 60 張表中。分表后 diet_items 的建表語句如下所示:
CREATE TABLE `diet_items` (
`id` int(11) NOT NULL AUTO_INCREMENT,
`schedule_id` int(11) NOT NULL,
`meals_order` int(11) NOT NULL,
`food_id` int(11) DEFAULT NULL,
....
KEY id (`id`),
UNIQUE KEY `index_diet_items_on_schedule_id_and_id` (`schedule_id`,`id`)
)
PARTITION BY HASH (schedule_id)
PARTITIONS 60;
分表之后,所有查詢 diet_items 的地方都要求帶上 schedule_id,比如獲取某一個 schedule 的所有 diet_items,通過 schedule. diet_items,獲取某一個 id 的 diet_item 也是通過 schedule.diet_items.find(id) 進(jìn)行。生成 diet_item 也沒有問題,因為生成 diet_item 都是通過 schedule.diet_items.build(data) 方式,在生成的時候都是帶了 schedule_id 的。
觀察 newrelic 日志,發(fā)現(xiàn) diet_item 的 update 和 destroy 相關(guān)的請求特別慢,仔細(xì)分析后,發(fā)現(xiàn)這兩種操作非常忙是由于 ActiveRecord 生成的 sql 并沒有帶 schedule_id 導(dǎo)致。 diet_item update 操作 ActiveRecord 生成的 sql 語句類似于 update diet_items set … where id = <id>。 diet_item destroy 生成的語句類似于 delete diet_items where id = <id> 因為沒有帶 schedule_id,導(dǎo)致這兩種語句都需要 mysql 掃描 60 張分區(qū)表才能夠完成一個語句執(zhí)行,非常慢!
知道原因之后就好辦了,把原來的 update 和 destroy 調(diào)用改為自定義版本的 update 和 destroy 調(diào)用就可以了。
diet_item.update(attributes) 改成 DietItem.where(id: diet_item.id, schedule_id: diet_item.schedule_id).update_all(attributes)
diet_item.destroy 改成 DietItem.where(id: diet_item.id, schedule_id: diet_item.schedule_id).delete_all
這樣生成的 sql 都帶上 schedule_id 條件,從而避免了掃描全部的分區(qū)表,性能提升立竿見影。
相關(guān)文章
在 Ubuntu 12.04 Server 上安裝部署 Ruby on Rails 應(yīng)用
本教程只適合 Ubuntu Server 用于部署項目到線上,建議使用同樣的 Ubuntu 版本,以免遇到一些版本不同帶來的問題2014-07-07Ruby on Rails在Ping ++ 平臺實(shí)現(xiàn)支付
本文給大家分享的是使用Ruby on Rails在Ping ++ 平臺實(shí)現(xiàn)支付功能的代碼,非常的實(shí)用,有需要的小伙伴可以參考下。2016-02-02Ruby on rails安裝后去掉DL is deprecated,please use Fiddle警告信息的方法【
這篇文章主要介紹了Ruby on rails安裝后去掉DL is deprecated,please use Fiddle警告信息的方法,通過針對Ruby on rails安裝文件中的警告部分源碼進(jìn)行注釋來達(dá)到消除警告的目的,需要的朋友可以參考下2017-02-02Ruby中使用Block、Proc、lambda實(shí)現(xiàn)閉包
這篇文章主要介紹了Ruby中使用Block、Proc、lambda實(shí)現(xiàn)閉包,在編程領(lǐng)域我們可以通俗的說:子函數(shù)可以使用父函數(shù)中的局部變量,這種行為就叫做閉包,需要的朋友可以參考下2014-06-06