mysql高效導(dǎo)數(shù)據(jù)的方法講解
更新時間:2013年09月28日 21:06:00 作者:
模擬現(xiàn)網(wǎng)測試,需要搭建測試環(huán)境,導(dǎo)入上億級的數(shù)據(jù)到數(shù)據(jù)庫。對于到的問題做些簡單記錄,有需要的朋友可以參考一下
數(shù)據(jù):一個db,2000個表格,2000張表格數(shù)據(jù),每條記錄30個column,平均每張表格4.3w條記錄,總共86388670條記錄。
機器:linux 64bit 8G內(nèi)存 4核IntelX3320@2.5GHz
基本思路:
mysql -utest -pxxxx -s -e "source xxxx.sql"
將load語句放在xxxx.sql中
load語法:
load data [low_priority] [local] infile 'file_name.txt' [replace | ignore]
如果串行導(dǎo)入數(shù)據(jù),會很慢,考慮并行,但可能有沖突,解決辦法:
load之前清空表
truncate table xxxx 或 delete from table xxxx;
或使用replace或ignore關(guān)鍵字。
機器:linux 64bit 8G內(nèi)存 4核IntelX3320@2.5GHz
基本思路:
復(fù)制代碼 代碼如下:
mysql -utest -pxxxx -s -e "source xxxx.sql"
將load語句放在xxxx.sql中
load語法:
復(fù)制代碼 代碼如下:
load data [low_priority] [local] infile 'file_name.txt' [replace | ignore]
如果串行導(dǎo)入數(shù)據(jù),會很慢,考慮并行,但可能有沖突,解決辦法:
load之前清空表
復(fù)制代碼 代碼如下:
truncate table xxxx 或 delete from table xxxx;
或使用replace或ignore關(guān)鍵字。
相關(guān)文章
MySQL Event Scheduler(事件調(diào)度器)
事件調(diào)度器是在 MySQL 5.1 中新增的另一個特色功能,可以作為定時任務(wù)調(diào)度器,取代部分原先只能用操作系統(tǒng)任務(wù)調(diào)度器才能完成的定時功能。2010-06-06MySQL從命令行導(dǎo)入SQL腳本時出現(xiàn)中文亂碼的解決方法
這篇文章主要介紹了MySQL從命令行導(dǎo)入SQL腳本時出現(xiàn)中文亂碼的解決方法,分析了中文亂碼出現(xiàn)的原因并給出了兩種解決方法供大家參考,需要的朋友可以參考下2016-09-09基于一致性hash算法(consistent hashing)的使用詳解
本篇文章對一致性hash算法(consistent hashing)的使用進行了詳細(xì)的分析介紹。需要的朋友參考下2013-05-05MySQL跨服務(wù)器關(guān)聯(lián)查詢的實現(xiàn)
本文主要介紹了MySQL跨服務(wù)器關(guān)聯(lián)查詢的實現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-01-01