強(qiáng)烈推薦MyBatis?三種批量插入方式的比較
前言
數(shù)據(jù)庫(kù)使用的是SQLServer,JDK版本1.8,運(yùn)行在SpringBoot環(huán)境下 對(duì)比3種可用的方式:
- 反復(fù)執(zhí)行單條插入語(yǔ)句
- xml拼接sql
- 批處理執(zhí)行
先說(shuō)結(jié)論:少量插入請(qǐng)使用反復(fù)插入單條數(shù)據(jù),方便。數(shù)量較多請(qǐng)使用批處理方式。(可以考慮以有需求的插入數(shù)據(jù)量20條左右為界吧,在我的測(cè)試和數(shù)據(jù)庫(kù)環(huán)境下耗時(shí)都是百毫秒級(jí)的,方便最重要)
無(wú)論何時(shí)都不用xml拼接sql的方式。
代碼
拼接SQL的xml
newId()是sqlserver生成UUID的函數(shù),與本文內(nèi)容無(wú)關(guān)
<insert?id="insertByBatch"?parameterType="java.util.List"> ????INSERT?INTO?tb_item?VALUES ????<foreach?collection="list"?item="item"?index="index"?separator=","> ????????(newId(),#{item.uniqueCode},#{item.projectId},#{item.name},#{item.type},#{item.packageUnique}, ????????#{item.isPackage},#{item.factoryId},#{item.projectName},#{item.spec},#{item.length},#{item.weight}, ????????#{item.material},#{item.setupPosition},#{item.areaPosition},#{item.bottomHeight},#{item.topHeight}, ????????#{item.serialNumber},#{item.createTime}</foreach> </insert> Mapper接口Mapper?是?mybatis插件tk.Mapper?的接口,與本文內(nèi)容關(guān)系不大 public?interface?ItemMapper?extends?Mapper<Item>?{ ????int?insertByBatch(List<Item>?itemList); }
Service類
@Service public?class?ItemService?{ ????@Autowired ????private?ItemMapper?itemMapper; ????@Autowired ????private?SqlSessionFactory?sqlSessionFactory; ????//批處理 ????@Transactional ????public?void?add(List<Item>?itemList)?{ ????????SqlSession?session?=?sqlSessionFactory.openSession(ExecutorType.BATCH,false); ????????ItemMapper?mapper?=?session.getMapper(ItemMapper.class); ????????for?(int?i?=?0;?i?<?itemList.size();?i++)?{ ????????????mapper.insertSelective(itemList.get(i)); ????????????if(i%1000==999){//每1000條提交一次防止內(nèi)存溢出 ????????????????session.commit(); ????????????????session.clearCache(); ????????????} ????????} ????????session.commit(); ????????session.clearCache(); ????} ????//拼接sql ????@Transactional ????public?void?add1(List<Item>?itemList)?{ ????????itemList.insertByBatch(itemMapper::insertSelective); ????} ????//循環(huán)插入 ????@Transactional ????public?void?add2(List<Item>?itemList)?{ ????????itemList.forEach(itemMapper::insertSelective); ????} }
測(cè)試類
@RunWith(SpringRunner.class) @SpringBootTest(webEnvironment?=?SpringBootTest.WebEnvironment.RANDOM_PORT,?classes?=?ApplicationBoot.class) public?class?ItemServiceTest?{ ????@Autowired ????ItemService?itemService; ????private?List<Item>?itemList?=?new?ArrayList<>(); ????//生成測(cè)試List ????@Before? ????public?void?createList(){ ????????String?json?="{\n"?+ ????????????????"????????\"areaPosition\":?\"TEST\",\n"?+ ????????????????"????????\"bottomHeight\":?5,\n"?+ ????????????????"????????\"factoryId\":?\"0\",\n"?+ ????????????????"????????\"length\":?233.233,\n"?+ ????????????????"????????\"material\":?\"Q345B\",\n"?+ ????????????????"????????\"name\":?\"TEST\",\n"?+ ????????????????"????????\"package\":?false,\n"?+ ????????????????"????????\"packageUnique\":?\"45f8a0ba0bf048839df85f32ebe5bb81\",\n"?+ ????????????????"????????\"projectId\":?\"094b5eb5e0384bb1aaa822880a428b6d\",\n"?+ ????????????????"????????\"projectName\":?\"項(xiàng)目_TEST1\",\n"?+ ????????????????"????????\"serialNumber\":?\"1/2\",\n"?+ ????????????????"????????\"setupPosition\":?\"1B柱\",\n"?+ ????????????????"????????\"spec\":?\"200X200X200\",\n"?+ ????????????????"????????\"topHeight\":?10,\n"?+ ????????????????"????????\"type\":?\"Steel\",\n"?+ ????????????????"????????\"uniqueCode\":?\"12344312\",\n"?+ ????????????????"????????\"weight\":?100\n"?+ ????????????????"????}"; ????????Item?test1?=?JSON.parseObject(json,Item.class); ????????test1.setCreateTime(new?Date()); ????????for?(int?i?=?0;?i?<?1000;?i++)?{//測(cè)試會(huì)修改此數(shù)量 ????????????itemList.add(test1); ????????} ????} ?????//批處理 ????@Test ????@Transactional ????public?void?tesInsert()?{ ????????itemService.add(itemList); ????} ????//拼接字符串 ????@Test ????@Transactional ????public?void?testInsert1(){ ????????itemService.add1(itemList); ????} ????//循環(huán)插入 ????@Test ????@Transactional ????public?void?testInsert2(){ ????????itemService.add2(itemList); ????} }
測(cè)試結(jié)果
10條 25條數(shù)據(jù)插入經(jīng)多次測(cè)試,波動(dòng)性較大,但基本都在百毫秒級(jí)別
其中 拼接sql方式在插入500條和1000條時(shí)報(bào)錯(cuò)(似乎是因?yàn)閟ql語(yǔ)句過(guò)長(zhǎng),此條跟數(shù)據(jù)庫(kù)類型有關(guān),未做其他數(shù)據(jù)庫(kù)的測(cè)試):com.microsoft.sqlserver.jdbc.SQLServerException
: 傳入的表格格式數(shù)據(jù)流(TDS)遠(yuǎn)程過(guò)程調(diào)用(RPC)協(xié)議流不正確,此RPC請(qǐng)求中提供了過(guò)多的參數(shù),最多應(yīng)為2100
可以發(fā)現(xiàn)
- 循環(huán)插入的時(shí)間復(fù)雜度是 O(n),并且常數(shù)C很大
- 拼接SQL插入的時(shí)間復(fù)雜度(應(yīng)該)是 O(logn),但是成功完成次數(shù)不多,不確定
- 批處理的效率的時(shí)間復(fù)雜度是 O(logn),并且常數(shù)C也比較小
結(jié)論
循環(huán)插入單條數(shù)據(jù)雖然效率極低,但是代碼量極少,在使用tk.Mapper的插件情況下,僅需代碼,:
@Transactional public?void?add1(List<Item>?itemList)?{ ????itemList.forEach(itemMapper::insertSelective); }
因此,在需求插入數(shù)據(jù)數(shù)量不多的情況下肯定用它了。
xml拼接sql是最不推薦的方式,使用時(shí)有大段的xml和sql語(yǔ)句要寫(xiě),很容易出錯(cuò),工作效率很低。更關(guān)鍵點(diǎn)是,雖然效率尚可,但是真正需要效率的時(shí)候你掛了,要你何用?
批處理執(zhí)行是有大數(shù)據(jù)量插入時(shí)推薦的做法,使用起來(lái)也比較方便。
到此這篇關(guān)于強(qiáng)烈推薦MyBatis 三種批量插入方式的比較的文章就介紹到這了,更多相關(guān)MyBatis批量插入內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
SpringBoot請(qǐng)求參數(shù)傳遞與接收說(shuō)明小結(jié)
這篇文章主要介紹了SpringBoot請(qǐng)求參數(shù)傳遞與接收,本文通過(guò)示例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2022-12-12Java中ArrayList與順序表的概念與使用實(shí)例
順序表是指用一組地址連續(xù)的存儲(chǔ)單元依次存儲(chǔ)各個(gè)元素,使得在邏輯結(jié)構(gòu)上相鄰的數(shù)據(jù)元素存儲(chǔ)在相鄰的物理存儲(chǔ)單元中的線性表,下面這篇文章主要介紹了Java?ArrayList與順序表的相關(guān)資料,需要的朋友可以參考下2022-01-01基于JavaBean編輯器讀取peroperties文件的實(shí)例
下面小編就為大家?guī)?lái)一篇基于JavaBean編輯器讀取peroperties文件的實(shí)例。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-10-10Java 實(shí)現(xiàn)FTP服務(wù)實(shí)例詳解
這篇文章主要介紹了Java 實(shí)現(xiàn)FTP服務(wù)實(shí)例詳解的相關(guān)資料,需要的朋友可以參考下2017-04-04Java數(shù)據(jù)結(jié)構(gòu)之順序表和鏈表精解
我在學(xué)習(xí)完順序表后一直對(duì)順序表和鏈表的概念存在一些疑問(wèn),這里給出一些分析和看法,通讀本篇對(duì)大家的學(xué)習(xí)或工作具有一定的價(jià)值,需要的朋友可以參考下2021-09-09深入淺析Mybatis與Hibernate的區(qū)別與用途
這篇文章主要介紹了Mybatis與Hibernate的區(qū)別與用途的相關(guān)資料,需要的朋友可以參考下2017-10-10