PHP讀取CSV大文件導(dǎo)入數(shù)據(jù)庫(kù)的實(shí)例
PHP如何對(duì)CSV大文件進(jìn)行讀取并導(dǎo)入數(shù)據(jù)庫(kù)?
對(duì)于數(shù)百萬(wàn)條數(shù)據(jù)量的CSV文件,文件大小可能達(dá)到數(shù)百M(fèi),如果簡(jiǎn)單讀取的話很可能出現(xiàn)超時(shí)或者卡死的現(xiàn)象。
為了成功將CSV文件里的數(shù)據(jù)導(dǎo)入數(shù)據(jù)庫(kù),分批處理是非常必要的。
下面這個(gè)函數(shù)是讀取CSV文件中指定的某幾行數(shù)據(jù):
/** * csv_get_lines 讀取CSV文件中的某幾行數(shù)據(jù) * @param $csvfile csv文件路徑 * @param $lines 讀取行數(shù) * @param $offset 起始行數(shù) * @return array * */ function csv_get_lines($csvfile, $lines, $offset = 0) { if(!$fp = fopen($csvfile, 'r')) { return false; } $i = $j = 0; while (false !== ($line = fgets($fp))) { if($i++ < $offset) { continue; } break; } $data = array(); while(($j++ < $lines) && !feof($fp)) { $data[] = fgetcsv($fp); } fclose($fp); return $data; }
調(diào)用方法:
$data = csv_get_lines('path/bigfile.csv', 10, 2000000); print_r($data);
函數(shù)主要采用行定位的思路,通過(guò)跳過(guò)起始行數(shù)來(lái)實(shí)現(xiàn)文件指針定位。
至于數(shù)據(jù)如何入庫(kù)本文不再詳細(xì)講述。
上述函數(shù)對(duì)500M以?xún)?nèi)的文件進(jìn)行過(guò)測(cè)試,運(yùn)行通暢,對(duì)于更大的文件未做測(cè)試,請(qǐng)斟酌使用或加以改進(jìn)。
這篇PHP讀取CSV大文件導(dǎo)入數(shù)據(jù)庫(kù)的實(shí)例就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
淺析THINKPHP的addAll支持的最大數(shù)據(jù)量
這篇文章主要介紹了THINKPHP的addAll支持的最大數(shù)據(jù)量,需要的朋友可以參考下2015-02-02ThinkPHP菜單無(wú)極分類(lèi)實(shí)例講解
這篇文章主要介紹了ThinkPHP菜單無(wú)極分類(lèi)實(shí)例講解,文中將代碼列舉了出來(lái),有感興趣的同學(xué)可以借鑒參考下2021-03-03Laravel5框架自定義錯(cuò)誤頁(yè)面配置操作示例
這篇文章主要介紹了Laravel5框架自定義錯(cuò)誤頁(yè)面配置操作,結(jié)合具體實(shí)例形式分析了Laravel5自定義錯(cuò)誤頁(yè)面的原理、操作步驟及相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下2019-04-04Yii入門(mén)教程之Yii安裝及hello world
本文介紹了在windows環(huán)境下Yii的安裝過(guò)程以及第一個(gè)"hello world"的誕生過(guò)程,圖文并茂,非常的詳盡,有需要的小伙伴參考下。2014-11-11php兩個(gè)多維數(shù)組組合遍歷的實(shí)例
下面小編就為大家?guī)?lái)一篇php兩個(gè)多維數(shù)組組合遍歷的實(shí)例。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-10-10PHP+iframe圖片上傳實(shí)現(xiàn)即時(shí)刷新效果
下面小編就為大家?guī)?lái)一篇PHP+iframe圖片上傳實(shí)現(xiàn)即時(shí)刷新效果。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2016-11-11Codeigniter實(shí)現(xiàn)發(fā)送帶附件的郵件
這篇文章主要介紹了Codeigniter實(shí)現(xiàn)發(fā)送帶附件的郵件的方法,涉及Codeigniter中attach方法的使用技巧,非常具有實(shí)用價(jià)值,需要的朋友可以參考下2015-03-03