SQL Server 海量數(shù)據(jù)導(dǎo)入的最快方法
更新時間:2008年12月08日 12:26:36 作者:
這篇論壇文章(賽迪網(wǎng)技術(shù)社區(qū))詳細(xì)講解了SQL Server海量數(shù)據(jù)導(dǎo)入的最快方法,更多內(nèi)容請參考下文
最近做某項(xiàng)目的數(shù)據(jù)庫分析,要實(shí)現(xiàn)對海量數(shù)據(jù)的導(dǎo)入問題,就是最多把200萬條數(shù)據(jù)一次導(dǎo)入sqlserver中,如果使用普通的insert語句進(jìn)行寫出的話,恐怕沒個把小時完不成任務(wù),先是考慮使用bcp,但這是基于命令行的,對用戶來說友好性太差,實(shí)際不大可能使用;最后決定使用BULK INSERT語句實(shí)現(xiàn),BULK INSERT也可以實(shí)現(xiàn)大數(shù)據(jù)量的導(dǎo)入,而且可以通過編程實(shí)現(xiàn),界面可以做的非常友好,它的速度也很高:導(dǎo)入100萬條數(shù)據(jù)不到20秒中,在速度上恐怕無出其右者。
但是使用這種方式也有它的幾個缺點(diǎn):
1.需要獨(dú)占接受數(shù)據(jù)的表
2.會產(chǎn)生大量的日志
3.從中取數(shù)據(jù)的文件有格式限制
但相對于它的速度來說,這些缺點(diǎn)都是可以克服的,而且你如果愿意犧牲一點(diǎn)速度的話,還可以做更精確的控制,甚至可以控制每一行的插入。
對與產(chǎn)生占用大量空間的日志的情況,我們可以采取在導(dǎo)入前動態(tài)更改數(shù)據(jù)庫的日志方式為大容量日志記錄恢復(fù)模式,這樣就不會記錄日志了,導(dǎo)入結(jié)束后再恢復(fù)原來的數(shù)據(jù)庫日志記錄方式。
具體的一個語句我們可以這樣寫:
alter database taxi
set RECOVERY BULK_LOGGED
BULK INSERT taxi..detail FROM 'e:\out.txt'
WITH (
DATAFILETYPE = 'char',
FIELDTERMINATOR = ',',
ROWTERMINATOR = '\n',
TABLOCK
)
alter database taxi
set RECOVERY FULL
這個語句將從e:\out.txt導(dǎo)出數(shù)據(jù)文件到數(shù)據(jù)庫taxi的detail表中。
但是使用這種方式也有它的幾個缺點(diǎn):
1.需要獨(dú)占接受數(shù)據(jù)的表
2.會產(chǎn)生大量的日志
3.從中取數(shù)據(jù)的文件有格式限制
但相對于它的速度來說,這些缺點(diǎn)都是可以克服的,而且你如果愿意犧牲一點(diǎn)速度的話,還可以做更精確的控制,甚至可以控制每一行的插入。
對與產(chǎn)生占用大量空間的日志的情況,我們可以采取在導(dǎo)入前動態(tài)更改數(shù)據(jù)庫的日志方式為大容量日志記錄恢復(fù)模式,這樣就不會記錄日志了,導(dǎo)入結(jié)束后再恢復(fù)原來的數(shù)據(jù)庫日志記錄方式。
具體的一個語句我們可以這樣寫:
復(fù)制代碼 代碼如下:
alter database taxi
set RECOVERY BULK_LOGGED
BULK INSERT taxi..detail FROM 'e:\out.txt'
WITH (
DATAFILETYPE = 'char',
FIELDTERMINATOR = ',',
ROWTERMINATOR = '\n',
TABLOCK
)
alter database taxi
set RECOVERY FULL
這個語句將從e:\out.txt導(dǎo)出數(shù)據(jù)文件到數(shù)據(jù)庫taxi的detail表中。
相關(guān)文章
SQL Server2022版+SSMS下載安裝教程(保姆級)
本文主要介紹了SQL Server2022版+SSMS下載安裝教程,文中通過圖文介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-10-10SQLServer 數(shù)據(jù)庫開發(fā)頂級技巧
無論你的專業(yè)水平如何,從其他IT專家那里學(xué)習(xí)新的技巧與最佳實(shí)踐常常都是有益的。本文包含了我遇到過的SQL Server開發(fā)的高級技巧。希望其中的一些技巧能夠?qū)δ臄?shù)據(jù)庫開發(fā)及管理工作有所幫助。2009-07-07mssql函數(shù)DATENAME使用示例講解(取得當(dāng)前年月日/一年中第幾天SQL語句)
這篇文章主要介紹了mssql函數(shù)DATENAME取得當(dāng)前年月日、一年中第幾天的SQL語句2013-11-11sqlserver 動態(tài)創(chuàng)建臨時表的語句分享
開發(fā)業(yè)務(wù)需求,需要對一個表作數(shù)據(jù)分析,由于數(shù)據(jù)量較大,而且分析時字段會隨條件相應(yīng)變化而變化2012-01-01談?wù)剆qlserver自定義函數(shù)與存儲過程的區(qū)別
這篇文章主要介紹了談?wù)剆qlserver自定義函數(shù)與存儲過程的區(qū)別,需要的朋友可以參考下2014-09-09深入SQL SERVER合并相關(guān)操作Union,Except,Intersect的詳解
本篇文章是對SQL SERVER合并相關(guān)操作Union,Except,Intersect進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06SQLServer:探討EXEC與sp_executesql的區(qū)別詳解
本篇文章是對EXEC與sp_executesql的區(qū)別進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06