MySQL高效導(dǎo)入多個.sql文件方法詳解

更新時間：2018年10月11日 15:16:06 投稿：wdc

MySQL有多種方法導(dǎo)入多個.sql文件,常用的有兩個命令：mysql和source,如何提高導(dǎo)入速度,在導(dǎo)入大的sql文件時，建議使用mysql命令

MySQL有多種方法導(dǎo)入多個.sql文件（里面是sql語句），常用的有兩個命令：mysql和source。

但是這兩個命令的導(dǎo)入效率差別很大，具體請看最后的比較。

（還有sqlimport和LOAD DATA INFILE等導(dǎo)入方法，不過它們主要用于導(dǎo)入.csv或.xml文件數(shù)據(jù)，不是.sql文件）

假設(shè)我們有一個 users.sql 大文件，為方便我們將其拆分成：user1.sql、user2.sql、user3.sql 三個獨立的小sql文件。

1、mysql命令導(dǎo)入

mysql命令導(dǎo)入多個sql文件方法：

$ for SQL in *.sql; do mysql -uroot -p"123456" mydb < $SQL; done

2、source命令導(dǎo)入

source命令需要首先進(jìn)入MySQL命令行：

$ mysql -uroot -p"123456"

導(dǎo)入多個sql文件需要先創(chuàng)建一個額外的文件，名字隨意，這里我們?nèi)。篴ll.sql，內(nèi)容：

source user1.sql
source user2.sql
source user3.sql

注意，這里每行一條，必須以source命令開頭。

然后用source命令執(zhí)行該文件：

mysql > use mydb;
mysql > source /home/gary/all.sql

3、如何提高導(dǎo)入速度？

對于百M級以上文件，如果光這樣導(dǎo)入，速度是極其緩慢的，

根據(jù)MySQL官方建議，我們有幾個措施可以極大提高導(dǎo)入的速度，如下：

對于MyISAM，調(diào)整系統(tǒng)參數(shù)：bulk_insert_buffer_size（至少單個文件大小的2倍以上）

對于InnoDB，調(diào)整系統(tǒng)參數(shù)：innodb_log_buffer_size（至少單個文件大小的2倍以上，導(dǎo)入完成后可以改回默認(rèn)的8M，注意不是innodb_buffer_pool_size。）

除主鍵外，刪除其他索引，導(dǎo)入完成后重建索引。

關(guān)閉自動提交：autocommit=0。（請勿用set global autocommit=1;命令來關(guān)閉，否則整個MySQL系統(tǒng)都會停止自動commit，innodb log buffer很快就會爆滿，5和6項也請僅在會話中有效，正確做法請往下看）

關(guān)閉唯一索引檢查：unique_checks=0。（關(guān)閉了這一項會影響on duplicate key update的效果）

關(guān)閉外鍵檢查：foreign_key_checks=0。

insert值寫在一條語句內(nèi)，如：INSERT INTO yourtable VALUES (1,2), (5,5), ...;

有自增列的，設(shè)置：innodb_autoinc_lock_mode的值為2,

其中，第1-2、8條在修改my.cnf文件，然后重啟MySQL：

bulk_insert_buffer_size=2G;
innodb_log_buffer_size=2G;
innodb_autoinc_lock_mode=2;

第3條用到的命令：

#刪除索引
DROP INDEX index_name ON talbe_name
ALTER TABLE table_name DROP INDEX index_name
ALTER TABLE table_name DROP PRIMARY KEY

?！√砑铀饕?
ALTER TABLE table_name ADD INDEX index_name (column_list)
ALTER TABLE table_name ADD UNIQUE (column_list)
ALTER TABLE table_name ADD PRIMARY KEY (column_list)

第４-6條寫在.sql中，批量bash腳本如下：

for SQL in *.sql;
do
  echo $SQL;
  sed -i '1i\SET autocommit=0;\nSET unique_checks=0;\nSET foreign_key_checks=0;' $SQL
  sed -i '$a\COMMIT;\nSET autocommit=1;\nSET unique_checks=1;\nSET foreign_key_checks=1;' $SQL
done

按照以上幾個步驟調(diào)整后，插入速度必會有大幅度的提高。

4、mysql和source效率比較

在sql文件較小的情況下，source速度比mysql高，

在實際測試導(dǎo)入時，5個合計25M的sql文件，mysql命令的速度比source要快2秒（我自己的測試，不代表普遍的結(jié)果），

可以粗略得出，在導(dǎo)入大的sql文件時，建議使用mysql命令。

以上既是MySQL高效導(dǎo)入多個.sql文件的方法，希望能幫助到大家

您可能感興趣的文章: