PHP快速導出百萬級數(shù)據(jù)到CSV或者EXCEL文件
前言: 很多時候,因為數(shù)據(jù)統(tǒng)計,我們需要將數(shù)據(jù)庫的數(shù)據(jù)導出到Excel等文件中,以供數(shù)據(jù)人員進行查看,如果數(shù)據(jù)集不大,其實很容易;但是如果對于大數(shù)集的導出,將要考慮各種性能的問題,這里以導出數(shù)據(jù)庫一百萬條數(shù)據(jù)為例,導出時間不過20秒,值的學習的一種大數(shù)據(jù)導出方式。
一、導出思路
- 需要考慮服務器內存
- 需要考慮程序運行的最大時間
- 缺少BOM頭導致亂碼的處理
- 如果導出數(shù)量過大,推薦使用循環(huán)導出,每次循環(huán)這里以導出一萬條為例,循環(huán)100次即可全部導出
二、導出源碼
- 下面源碼將數(shù)據(jù)庫信息修改成自己的即可使用
- 親測導出一百萬條數(shù)據(jù),3個字段,不過20秒
- 如果服務器硬件不支持一次讀取一萬條數(shù)據(jù),可將循環(huán)次數(shù)提高,導出數(shù)量降低
<?php
//讓程序一直運行
set_time_limit(0);
//設置程序運行內存
ini_set('memory_limit', '128M');
$fileName = '測試導出數(shù)據(jù)';
header('Content-Encoding: UTF-8');
header("Content-type:application/vnd.ms-excel;charset=UTF-8");
header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
//打開php標準輸出流
$fp = fopen('php://output', 'a');
//添加BOM頭,以UTF8編碼導出CSV文件,如果文件頭未添加BOM頭,打開會出現(xiàn)亂碼。
fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
//添加導出標題
fputcsv($fp, ['姓名', '年齡', '地區(qū)']);
//鏈接數(shù)據(jù)庫
$dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
$pdo = new PDO($dsn, 'root', '');
$step = 100; //循環(huán)次數(shù)
$nums = 10000; //每次導出數(shù)量
for($i = 0; $i < $step; $i++) {
$start = $i * 10000;
$sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
$pdostatement = $pdo->query($sql);
$result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
foreach ($result as $item) {
fputcsv($fp, $item);
}
//每1萬條數(shù)據(jù)就刷新緩沖區(qū)
ob_flush();
flush();
}
三、快速生成百萬條測試數(shù)據(jù)
這里推薦數(shù)據(jù)庫的蠕蟲復制命令
先建好表后,插2條測試數(shù)據(jù)后,執(zhí)行幾次下列命令,即可指數(shù)增長
INSERT INTO hd_test (uname,age,city) SELECT uname,age,city FROM hd_test;
到此這篇關于PHP快速導出百萬級數(shù)據(jù)到CSV或者EXCEL文件的文章就介紹到這了,更多相關PHP 導出百萬級數(shù)據(jù)內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
ThinkPHP5&5.1框架關聯(lián)模型分頁操作示例
這篇文章主要介紹了ThinkPHP5&5.1框架關聯(lián)模型分頁操作,結合實例形式分析了thinkPHP5、5.1關聯(lián)模型的建立、控制器、模型的實現(xiàn)及分頁操作相關技巧,需要的朋友可以參考下2019-08-08
YII中Ueditor富文本編輯器文件和圖片上傳的配置圖文教程
本文主要給大家介紹了YII中Ueditor富文本編輯器文件和圖片上傳的配置圖文教程,非常不錯,具有參考借鑒價值,需要的朋友可以參考下2017-03-03
UPUPW 更新 64 位 Apache 系列 PHP 7.0 正式版
這篇文章主要介紹了UPUPW 更新 64 位 Apache 系列 PHP 7.0 正式版的相關資料,需要的朋友可以參考下2015-12-12
linux實現(xiàn)php定時執(zhí)行cron任務詳解
linux實現(xiàn)php定時執(zhí)行cron任務2013-12-12

