MySQL數(shù)據(jù)庫10秒內(nèi)插入百萬條數(shù)據(jù)的實現(xiàn)
首先我們思考一個問題:
要插入如此龐大的數(shù)據(jù)到數(shù)據(jù)庫,正常情況一定會頻繁地進行訪問,什么樣的機器設(shè)備都吃不消。那么如何避免頻繁訪問數(shù)據(jù)庫,能否做到一次訪問,再執(zhí)行呢?
Java其實已經(jīng)給了我們答案。
這里就要用到兩個關(guān)鍵對象:Statement、PrepareStatement
我們來看一下二者的特性:

要用到的BaseDao工具類 (jar包 / Maven依賴) (Maven依賴代碼附在文末)(封裝以便于使用)

注:(重點)rewriteBatchedStatements=true,一次插入多條數(shù)據(jù),只插入一次?。?/p>
public class BaseDao { // 靜態(tài)工具類,用于創(chuàng)建數(shù)據(jù)庫連接對象和釋放資源,方便調(diào)用
// 導(dǎo)入驅(qū)動jar包或添加Maven依賴(這里使用的是Maven,Maven依賴代碼附在文末)
static {
try {
Class.forName("com.mysql.cj.jdbc.Driver");
} catch (ClassNotFoundException e) {
e.printStackTrace();
}
}
// 獲取數(shù)據(jù)庫連接對象
public static Connection getConn() {
Connection conn = null;
try {
// rewriteBatchedStatements=true,一次插入多條數(shù)據(jù),只插入一次
conn = DriverManager.getConnection("jdbc:mysql://localhost:3306/million-test?rewriteBatchedStatements=true", "root", "qwerdf");
} catch (SQLException throwables) {
throwables.printStackTrace();
}
return conn;
}
// 釋放資源
public static void closeAll(AutoCloseable... autoCloseables) {
for (AutoCloseable autoCloseable : autoCloseables) {
if (autoCloseable != null) {
try {
autoCloseable.close();
} catch (Exception e) {
// TODO Auto-generated catch block
e.printStackTrace();
}
}
}
}
}
接下來上關(guān)鍵代碼及注釋:
/* 因為數(shù)據(jù)庫的處理速度是非常驚人的 單次吞吐量很大 執(zhí)行效率極高
addBatch()把若干sql語句裝載到一起,然后一次送到數(shù)據(jù)庫執(zhí)行,執(zhí)行需要很短的時間
而preparedStatement.executeUpdate() 是一條一條發(fā)往數(shù)據(jù)庫執(zhí)行的 時間都消耗在數(shù)據(jù)庫連接的傳輸上面*/
public static void main(String[] args) {
long start = System.currentTimeMillis(); // 獲取系統(tǒng)當(dāng)前時間,方法開始執(zhí)行前記錄
Connection conn = BaseDao.getConn(); // 調(diào)用剛剛寫好的用于獲取連接數(shù)據(jù)庫對象的靜態(tài)工具類
String sql = "insert into mymilliontest values(null,?,?,?,NOW())"; // 要執(zhí)行的sql語句
PreparedStatement ps = null;
try {
ps = conn.prepareStatement(sql); // 獲取PreparedStatement對象
// 不斷產(chǎn)生sql
for (int i = 0; i < 1000000; i++) {
ps.setString(1, Math.ceil(Math.random() * 1000000) + "");
ps.setString(2, Math.ceil(Math.random() * 1000000) + "");
ps.setString(3, UUID.randomUUID().toString()); // UUID該類用于隨機生成一串不會重復(fù)的字符串
ps.addBatch(); // 將一組參數(shù)添加到此 PreparedStatement 對象的批處理命令中。
}
int[] ints = ps.executeBatch();// 將一批命令提交給數(shù)據(jù)庫來執(zhí)行,如果全部命令執(zhí)行成功,則返回更新計數(shù)組成的數(shù)組。
// 如果數(shù)組長度不為0,則說明sql語句成功執(zhí)行,即百萬條數(shù)據(jù)添加成功!
if (ints.length > 0) {
System.out.println("已成功添加一百萬條數(shù)據(jù)??!");
}
} catch (SQLException throwables) {
throwables.printStackTrace();
} finally {
BaseDao.closeAll(conn, ps); // 調(diào)用剛剛寫好的靜態(tài)工具類釋放資源
}
long end = System.currentTimeMillis(); // 再次獲取系統(tǒng)時間
System.out.println("所用時長:" + (end - start) / 1000 + "秒"); // 兩個時間相減即為方法執(zhí)行所用時長
}
最后我們運行看一下效果:


嘿嘿,這里時長超過了10秒,設(shè)備差點意思,希望理解哈~

<!--連接數(shù)據(jù)庫所用到的mysql-connector-java依賴-->
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
<version>8.0.27</version>
</dependency>
PS : 添上線程后會更快,在后續(xù)的文章中會作示例。
到此這篇關(guān)于MySQL數(shù)據(jù)庫10秒內(nèi)插入百萬條數(shù)據(jù)的實現(xiàn)的文章就介紹到這了,更多相關(guān)MySQL 插入百萬條數(shù)據(jù) 內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- 一步步教你利用Mysql存儲過程造百萬級數(shù)據(jù)
- MySQL 百萬級數(shù)據(jù)的4種查詢優(yōu)化方式
- MySQL百萬級數(shù)據(jù)量分頁查詢方法及其優(yōu)化建議
- MySQL百萬級數(shù)據(jù)分頁查詢優(yōu)化方案
- java中JDBC實現(xiàn)往MySQL插入百萬級數(shù)據(jù)的實例代碼
- MySQL單表百萬數(shù)據(jù)記錄分頁性能優(yōu)化技巧
- MySQL使用MyFlash快速恢復(fù)誤刪除和修改的數(shù)據(jù)
- MySQL數(shù)據(jù)庫刪除數(shù)據(jù)后自增ID不連續(xù)的問題及解決
- MySQL BinLog如何恢復(fù)誤更新刪除數(shù)據(jù)
- 使用 SQL 快速刪除數(shù)百萬行數(shù)據(jù)的實踐記錄
相關(guān)文章
MySQL字符串索引更合理的創(chuàng)建規(guī)則討論
這篇文章主要給大家介紹了關(guān)于MySQL字符串索引更合理的創(chuàng)建規(guī)則,文中通過示例代碼介紹的非常詳細,對大家學(xué)習(xí)或者使用MySQL具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-11-11
MySQL 搭建雙主復(fù)制服務(wù)并通過 HAProxy 負載均衡的過程詳解
在數(shù)據(jù)庫管理中,數(shù)據(jù)的備份和同步是至關(guān)重要的環(huán)節(jié),而雙主復(fù)制(Dual Master Replication)作為一種高可用性和數(shù)據(jù)同步的解決方案,本文將介紹MySQL雙主復(fù)制的配置過程并通過 HAProxy 負載均衡,感興趣的朋友一起看看吧2024-03-03
關(guān)于Mysql8.0版本驅(qū)動getTables返回所有庫的表問題淺析
這篇文章主要給大家介紹了關(guān)于Mysql 8.0版本驅(qū)動getTables返回所有庫的表問題的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2018-12-12
MySQL中實現(xiàn)行列轉(zhuǎn)換的操作示例
在 MySQL 中進行行列轉(zhuǎn)換(即,將某些列轉(zhuǎn)換為行或?qū)⒛承┬修D(zhuǎn)換為列)通常涉及使用條件邏輯和聚合函數(shù),本文給大家介紹了MySQL中實現(xiàn)行列轉(zhuǎn)換的操作示例,文中有詳細的代碼示例供大家參考,需要的朋友可以參考下2024-06-06

