詳解mybatis批量插入10萬(wàn)條數(shù)據(jù)的優(yōu)化過(guò)程
數(shù)據(jù)庫(kù) 在使用mybatis插入大量數(shù)據(jù)的時(shí)候,為了提高效率,放棄循環(huán)插入,改為批量插入,mapper如下:
package com.lcy.service.mapper; import com.lcy.service.pojo.TestVO; import org.apache.ibatis.annotations.Insert; import java.util.List; public interface TestMapper { @Insert("") Integer testBatchInsert(List list); }
實(shí)體類:
package com.lcy.service.pojo; import lombok.AllArgsConstructor; import lombok.Data; import lombok.NoArgsConstructor; @Data @NoArgsConstructor @AllArgsConstructor public class TestVO { private String t1; private String t2; private String t3; private String t4; private String t5; }
測(cè)試類如下:
import com.lcy.service.TestApplication; import com.lcy.service.mapper.TestMapper; import com.lcy.service.pojo.TestVO; import org.junit.Test; import org.junit.runner.RunWith; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.test.context.SpringBootTest; import org.springframework.test.context.junit4.SpringRunner; import java.util.ArrayList; import java.util.List; @SpringBootTest(classes = TestApplication.class) @RunWith(SpringRunner.class) public class TestDemo { @Autowired private TestMapper testMapper; @Test public void insert() { List list = new ArrayList<>(); for (int i = 0; i < 200000; i++) { list.add(new TestVO(i + "," + i, i + "," + i, i + "," + i, i + "," + i, i + "," + i)); } System.out.println(testMapper.testBatchInsert(list)); } }
為了復(fù)現(xiàn)bug,我限制了JVM內(nèi)存:
執(zhí)行測(cè)試類報(bào)錯(cuò)如下:
java.lang.OutOfMemoryError: Java heap space
at java.base/java.util.Arrays.copyOf(Arrays.java:3746)
可以看到,Arrays在申請(qǐng)內(nèi)存的時(shí)候,導(dǎo)致棧內(nèi)存溢出
改進(jìn)方法,分批新增:
import com.lcy.service.TestApplication; import com.lcy.service.mapper.TestMapper; import com.lcy.service.pojo.TestVO; import org.junit.Test; import org.junit.runner.RunWith; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.test.context.SpringBootTest; import org.springframework.test.context.junit4.SpringRunner; import javax.swing.*; import java.util.ArrayList; import java.util.List; import java.util.stream.Collectors; @SpringBootTest(classes = TestApplication.class) @RunWith(SpringRunner.class) public class TestDemo { @Autowired private TestMapper testMapper; @Test public void insert() { List list = new ArrayList<>(); for (int i = 0; i < 200000; i++) { list.add(new TestVO(i + "," + i, i + "," + i, i + "," + i, i + "," + i, i + "," + i)); } int index = list.size() / 10000; for (int i=0;i< index;i++){ //stream流表達(dá)式,skip表示跳過(guò)前i*10000條記錄,limit表示讀取當(dāng)前流的前10000條記錄 testMapper.testBatchInsert(list.stream().skip(i*10000).limit(10000).collect(Collectors.toList())); } } }
還有一種方法是調(diào)高JVM內(nèi)存,不過(guò)不建議使用,不僅吃內(nèi)存,而且數(shù)據(jù)量過(guò)大會(huì)導(dǎo)致sql過(guò)長(zhǎng)報(bào)錯(cuò)
到此這篇關(guān)于詳解mybatis批量插入10萬(wàn)條數(shù)據(jù)的優(yōu)化過(guò)程的文章就介紹到這了,更多相關(guān)mybatis批量插入10萬(wàn)數(shù)據(jù)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
springboot 自定義LocaleResolver實(shí)現(xiàn)切換語(yǔ)言
我們?cè)谧鲰?xiàng)目的時(shí)候,往往有很多項(xiàng)目需要根據(jù)用戶的需要來(lái)切換不同的語(yǔ)言,使用國(guó)際化就可以輕松解決。這篇文章主要介紹了springboot 自定義LocaleResolver切換語(yǔ)言,需要的朋友可以參考下2019-10-10解決idea配置Tomcat Deployment沒(méi)有artifact選項(xiàng)的問(wèn)題
今天在配置的時(shí)候tomcat deployment中卻找不到artifact,沒(méi)有artifact就不能打成war包上傳到服務(wù)器了,那么怎么解決沒(méi)有artifact選項(xiàng)的問(wèn)題呢,今天通過(guò)本文給大家分享idea配置Tomcat Deployment沒(méi)有artifact選項(xiàng)的解決方案,一起看看吧2023-10-10springmvc九大組件之HandlerAdapter詳解
這篇文章主要介紹了springmvc九大組件之HandlerAdapter詳解,RequestMappingHandlerAdapter支持的handler的類型是HandlerMethod,而HandlerMethod是通過(guò)解析@RequestMapping注解獲得的,需要的朋友可以參考下2023-11-11idea啟動(dòng)springboot報(bào)錯(cuò): 找不到或無(wú)法加載主類問(wèn)題
這篇文章主要介紹了idea啟動(dòng)springboot報(bào)錯(cuò): 找不到或無(wú)法加載主類問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-12-12Java 中校驗(yàn)時(shí)間格式的常見(jiàn)方法
在實(shí)際項(xiàng)目開(kāi)發(fā)中,跟時(shí)間參數(shù)打交道是必不可少的,為了保證程序的安全性、健壯性,一般都會(huì)對(duì)參數(shù)進(jìn)行校驗(yàn),其他類型的參數(shù)校驗(yàn)很好實(shí)現(xiàn),那你知道時(shí)間參數(shù)的是怎么校驗(yàn)的嗎,下面給大家分享Java 中校驗(yàn)時(shí)間格式的方法,感興趣的朋友跟隨小編一起看看吧2024-08-08