php使用fputcsv實現(xiàn)大數(shù)據(jù)的導(dǎo)出操作詳解
本文實例講述了php使用fputcsv實現(xiàn)大數(shù)據(jù)的導(dǎo)出操作。分享給大家供大家參考,具體如下:
為了實驗大數(shù)據(jù)的導(dǎo)出,我們這里先自已創(chuàng)建一張大表,表結(jié)構(gòu)如下:
CREATE TABLE `tb_users` ( `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '用戶ID', `name` varchar(32) DEFAULT '' COMMENT '用戶名', `age` tinyint(3) DEFAULT '0' COMMENT '用戶年齡', `desc` varchar(255) DEFAULT '' COMMENT '用戶描述', `phone` varchar(11) DEFAULT '' COMMENT '用戶手機', `qq` varchar(16) DEFAULT '' COMMENT '用戶QQ', `email` varchar(64) DEFAULT '' COMMENT '用戶郵箱', `addr` varchar(255) DEFAULT '' COMMENT '用戶地址', PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
然后寫個php腳本往這個表插入數(shù)據(jù),代碼如下:
<?php set_time_limit(0); ini_set('memory_limit', '128M'); //使用TP3.2的String類,php7下會報錯,注意把類名換一下 require './String.class.php'; use Org\Util\NewString; $begin = microtime(true); $db = new mysqli('127.0.0.1', 'root', '', 'test'); if($db->connect_error) { die('connect error'); } //數(shù)據(jù)插入語句 $insSql = ''; //一百萬數(shù)據(jù),分200步,每步插入5000條 $step = 200; $nums = 5000; for($s = 0; $s < $step; ++$s) { $insSql = 'INSERT INTO tb_users VALUES'; for($n = 0; $n < $nums; ++$n) { $name = NewString::randString(3, 4); $age = mt_rand(1, 120); $desc = NewString::randString(64, 4); $phone = NewString::randString(11, 1); $qq = NewString::randString(13, 1); $email = $qq . '@qq.com'; $addr = NewString::randString(128, 4); $insSql .= "(NULL, '{$name}', $age, '{$desc}', '{$phone}', '{$qq}', '{$email}', '{$addr}'),"; } $insSql = rtrim($insSql, ','); $db->query($insSql); } $end = microtime(true); echo '用時:', $end - $begin; $db->close();
里面用到的TP3.2的String類大家自行上TP官網(wǎng)下載。整個用時2個多小時,最后數(shù)據(jù)大小662M。
現(xiàn)在我們用php提供的fputcsv來導(dǎo)出這一百萬的數(shù)據(jù),原理就是打開一個標(biāo)準(zhǔn)輸出流,然后把數(shù)據(jù)按一萬條來分割,每一萬條就刷新緩沖區(qū)。
<?php set_time_limit(0); ini_set('memory_limit', '128M'); $fileName = date('YmdHis', time()); header('Content-Type: application/vnd.ms-execl'); header('Content-Disposition: attachment;filename="' . $fileName . '.csv"'); $begin = microtime(true); //打開php標(biāo)準(zhǔn)輸出流 //以寫入追加的方式打開 $fp = fopen('php://output', 'a'); $db = new mysqli('127.0.0.1', 'root', '', 'test'); if($db->connect_error) { die('connect error'); } //我們試著用fputcsv從數(shù)據(jù)庫中導(dǎo)出1百萬的數(shù)據(jù) //我們每次取1萬條數(shù)據(jù),分100步來執(zhí)行 //如果線上環(huán)境無法支持一次性讀取1萬條數(shù)據(jù),可把$nums調(diào)小,$step相應(yīng)增大。 $step = 100; $nums = 10000; //設(shè)置標(biāo)題 $title = array('ID', '用戶名', '用戶年齡', '用戶描述', '用戶手機', '用戶QQ', '用戶郵箱', '用戶地址'); foreach($title as $key => $item) { $title[$key] = iconv('UTF-8', 'GBK', $item); } //將標(biāo)題寫到標(biāo)準(zhǔn)輸出中 fputcsv($fp, $title); for($s = 1; $s <= $step; ++$s) { $start = ($s - 1) * $nums; $result = $db->query("SELECT * FROM tb_users ORDER BY id LIMIT {$start},{$nums}"); if($result) { while($row = $result->fetch_assoc()) { foreach($row as $key => $item) { //這里必須轉(zhuǎn)碼,不然會亂碼 $row[$key] = iconv('UTF-8', 'GBK', $item); } fputcsv($fp, $row); } $result->free(); //每1萬條數(shù)據(jù)就刷新緩沖區(qū) ob_flush(); flush(); } } $end = microtime(true); echo '用時:', $end - $begin;
整個過程用時5分鐘,最終生成的csv文件大小420M。
對于如何用phpexcel導(dǎo)出大數(shù)據(jù),并沒有什么比較好的方案,phpexcel提供的一些緩存方法,數(shù)據(jù)壓縮,雖然內(nèi)存使用小了,但所用時間則加長了,時間換空間,顯然并不是最好的方案。比較靠譜的方法還是生成多個下載鏈接地址,把你要下載的數(shù)據(jù),以get形式傳遞當(dāng)前頁數(shù),后臺進行數(shù)據(jù)分頁然后導(dǎo)出。
<a href="/downSearchData.php?參數(shù)1=值1&參數(shù)2=值2&page=1" rel="external nofollow" >下載匯總結(jié)果1</a> <a href="/downSearchData.php?參數(shù)1=值1&參數(shù)2=值2&page=2" rel="external nofollow" >下載匯總結(jié)果2</a> <a href="/downSearchData.php?參數(shù)1=值1&參數(shù)2=值2&page=3" rel="external nofollow" >下載匯總結(jié)果3</a>
比如你有一個查詢數(shù)據(jù)表單,ID為searchFrm,然后你想把導(dǎo)出數(shù)據(jù)按1萬條分割(phpexcel一次導(dǎo)出1萬條是沒有問題的,效率還行)
<form id="searchFrm"> 姓名<input type="text" name="uname"> <input type="button" id="searchDataBtn" value="導(dǎo)出匯總結(jié)果"> </form> <div id="searchDataList"></div> <script type="script"> $("#searchDataBtn").on("click", function() { var params = $("#searchFrm").serialize(); //獲取查詢數(shù)據(jù)的條數(shù) $.get("/getSearchDataRows?" + params, function(data) { var downDataList = ""; if(data["rows"]) { //rows是數(shù)據(jù)總條數(shù),pageSize是一頁多少條 var pageNum = Math.ceil(data["rows"] / data["pageSize"]); for(var i = 1; i <= pageNum; ++i) { downDataList += "<a href='/downSearchData.php?'" + params + "&page=" + i + ">下載匯總結(jié)果" + i + "</a> "; } $("#searchDataList").html(downDataList); } else { $("#searchDataList").text("沒有數(shù)據(jù)"); } }, "json"); return false; }); </script>
更多關(guān)于PHP相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《php+mysql數(shù)據(jù)庫操作入門教程》、《php+redis數(shù)據(jù)庫程序設(shè)計技巧總結(jié)》、《php面向?qū)ο蟪绦蛟O(shè)計入門教程》及《php常見數(shù)據(jù)庫操作技巧匯總》
希望本文所述對大家PHP程序設(shè)計有所幫助。
相關(guān)文章
php在多維數(shù)組中根據(jù)鍵名快速查詢其父鍵以及父鍵值的代碼
有一個多維數(shù)組,有多少維大家可以自定義。假如我們要在這個數(shù)組中找一個鍵為'subIndex'的值,我們可以用for、foreach等方法遍歷查找 反過來,假如我們?nèi)我饨o出一個或多個鍵,要求找出這個鍵的父級數(shù)組的鍵和值。這又如何實現(xiàn)?2011-05-05CakePHP去除默認顯示的標(biāo)題及圖標(biāo)的方法
使用cakephp框架時,在生成的html頁面里,總是有cakephp的標(biāo)志(上面有大大的標(biāo)題CakePHP Rapid Development,下面還有一個cakephp的圖標(biāo)),雖然是cakephp的東西,但放到自己的項目中看起來總是不順眼。2008-10-10PHP set_time_limit(0)長連接的實現(xiàn)分析
每次我們訪問PHP腳本的時候,都是當(dāng)所有的PHP腳本執(zhí)行完成后,我們才得到返回結(jié)果。如果我們需要一個腳本持續(xù)的運行,那么我們就要通過php長連接的方式,來達到運行目的。2010-03-03dede3.1分頁文字采集過濾規(guī)則詳說(圖文教程)續(xù)四
dede3.1分頁文字采集過濾規(guī)則詳說(圖文教程)續(xù)四...2007-04-04php 靜態(tài)屬性和靜態(tài)方法區(qū)別詳解
這篇文章主要介紹了php 靜態(tài)屬性和靜態(tài)方法區(qū)別詳解,需要的朋友可以參考下2017-04-04php數(shù)據(jù)庫中將base64圖片數(shù)據(jù)轉(zhuǎn)化為可訪問src的方法詳解
后端同學(xué)在對一些老項目進行二次開發(fā)時候,可能會遇到一些小的圖片以base64的方式存儲在數(shù)據(jù)庫中的情況,這樣做的好處是這些圖片數(shù)據(jù)一般不會因為項目重新部署而丟失,但是這么做也會存在一些壞處,本文給大家介紹了php數(shù)據(jù)庫中base64圖片數(shù)據(jù)轉(zhuǎn)化可訪問的src的方法2023-10-10asp和php下textarea提交大量數(shù)據(jù)發(fā)生丟失的解決方法
2008-01-01PHP基于閉包思想實現(xiàn)的BT(torrent)文件解析工具實例詳解
這篇文章主要介紹了PHP基于閉包思想實現(xiàn)的BT(torrent)文件解析工具,結(jié)合具體實例形式分析了php針對torrent文件的讀取與解析相關(guān)操作技巧,需要的朋友可以參考下2017-08-08linux下使用ThinkPHP需要注意大小寫導(dǎo)致的問題
今天把剛完成的第一部分功能部署到客戶的測試服務(wù)器上,結(jié)果傻眼了,好多功能都用不了,列表頁刷出來全是空的。2011-08-08