mysql數(shù)據(jù)庫如何實現(xiàn)億級數(shù)據(jù)快速清理
今天收到磁盤報警異常,50G的磁盤被撐爆了,分析解決過程如下:
1. 進(jìn)入linux服務(wù)器,查看mysql文件夾中各個數(shù)據(jù)庫所占的磁盤空間大小
看到了嗎,光olderdb就占了25G
2. 用SQLyog登錄mysql數(shù)據(jù)庫,查看數(shù)據(jù)庫各個表的占用空間情況
SELECT CONCAT(table_schema,'.',table_name) AS 'aaa', table_rows AS 'Number of Rows', CONCAT(ROUND(data_length/(1024*1024*1024),6),' G') AS 'Data Size', CONCAT(ROUND(index_length/(1024*1024*1024),6),' G') AS 'Index Size' , CONCAT(ROUND((data_length+index_length)/(1024*1024*1024),6),' G') AS'Total' FROM information_schema.TABLES WHERE table_schema LIKE 'olderdb';
3. 查詢主鍵索引
SHOW INDEX FROM orbit
采取策略
前提:目前需要刪除80%的數(shù)據(jù)
① delete語句
我們知道delete語句的刪除速度與索引量成正比,此表中的索引量已經(jīng)很大了,而且數(shù)據(jù)量非常之巨大,若采用常規(guī)delete語句刪除,必定會話費(fèi)幾天的時間。
Delete語句刪除不會釋放出磁盤空間,所以肯定還是會出現(xiàn)報警,所以此種方式不可取。
② drop掉表
新建結(jié)構(gòu)相同的表,命名“cc”,'將需要保存的數(shù)據(jù)插入到此表中,然后drop掉老表。
Sql語句如下:
基于老表新建新表
CREATE TABLE cc LIKE orbit ;
插入數(shù)據(jù)(幾百萬的數(shù)據(jù)量一定要分批插入,一次30萬-40萬為最佳,畢竟mysql的數(shù)據(jù)處理能力有限)
按日期查詢后插入(每天大概會產(chǎn)生30多萬數(shù)據(jù)量,所以采用日期插入)
INSERT INTO cc SELECT * FROM orbit WHERE xttime > '2018-04-16 00:00:00' AND xttime<='2018-04-17 00:00:00';
結(jié)果如下:
可以看到50多萬的數(shù)據(jù)量用了不到5分鐘,還是比較快的。
清理后數(shù)據(jù)表空間得以釋放
然后drop掉老表
DROP TABLE orbit
目測只用了3秒左右
重命名新表“cc”
ALTER TABLE cc RENAME TO orbit
總結(jié)
以上所述是小編給大家介紹的mysql數(shù)據(jù)庫如何實現(xiàn)億級數(shù)據(jù)快速清理 ,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!
相關(guān)文章
解決MySQL批量新增或修改時出現(xiàn)異常:Lock?wait?timeout?exceeded
這篇文章主要給大家介紹了關(guān)于如何解決MySQL批量新增或修改時出現(xiàn)異常:Lock?wait?timeout?exceeded;try?restarting?transaction的相關(guān)資料,需要的朋友可以參考下2024-01-01使用cgroups來限制MySQL企業(yè)備份服務(wù)對資源的占用
這篇文章主要介紹了使用cgroups來限制MySQL企業(yè)備份服務(wù)對資源的占用,以限制mysqlbackup相關(guān)的進(jìn)程和線程對CPU和內(nèi)存的閑時消耗,需要的朋友可以參考下2015-06-06MySQL獲取binlog的開始時間和結(jié)束時間(最新方法)
這篇文章主要介紹了MySQL如何獲取binlog的開始時間和結(jié)束時間,本文通過實例代碼給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-05-05解決sql server不支持variant數(shù)據(jù)類型的問題
在數(shù)據(jù)庫中,數(shù)據(jù)類型是非常重要的,但有時候我們可能會遇到 SQL Server 不支持的數(shù)據(jù)類型,例如 Variant,在本篇博文中,我們將探討問題的背景,提供解決思路,并總結(jié)如何解決 SQL Server 不支持 Variant 數(shù)據(jù)類型的挑戰(zhàn)2023-09-09