解決PHP里大量數(shù)據(jù)循環(huán)時內(nèi)存耗盡的方法
最近在開發(fā)一個PHP程序的時候遇到如下一問題:
PHP Fatal error: Allowed memory size of 268 435 456 bytes exhausted
錯誤信息顯示允許的最大內(nèi)存已經(jīng)耗盡。遇到這樣的錯誤起初讓我很詫異,但轉(zhuǎn)眼一想,也不奇怪,因為我正在開發(fā)的這個程序是要用一個foreach循環(huán)語句在一個有4萬條記錄的表里全表搜索具有特定特征的數(shù)據(jù),也就是說,一次要把4萬條數(shù)據(jù)取出,然后逐條檢查每天數(shù)據(jù)。可想而知,4萬條數(shù)據(jù)全部加載到內(nèi)存中,內(nèi)存不爆才怪。
畢竟編程這么多年,我隱約記得PHP里提供有非一次全部加載數(shù)據(jù)的API,是像處理流媒體那樣,隨用隨取隨丟、數(shù)據(jù)并不會積累在內(nèi)存的查詢方法。經(jīng)過簡單的搜索,果然在官方網(wǎng)站上找到的正確的用法。
這個問題在PHP的官方網(wǎng)站上叫緩沖查詢和非緩沖查詢(Buffered and Unbuffered queries)。 PHP的查詢?nèi)笔∧J绞蔷彌_模式。也就是說,查詢數(shù)據(jù)結(jié)果會一次全部提取到內(nèi)存里供PHP程序處理。這樣給了PHP程序額外的功能,比如說,計算行數(shù),將 指針指向某一行等。更重要的是程序可以對數(shù)據(jù)集反復(fù)進行二次查詢和過濾等操作。但這種緩沖查詢模式的缺陷就是消耗內(nèi)存,也就是用空間換速度。
相對的,另外一種PHP查詢模式是非緩沖查詢,數(shù)據(jù)庫服務(wù)器會一條一條的返回數(shù)據(jù),而不是一次全部返回,這樣的結(jié)果就是PHP程序消耗較少的內(nèi)存,但卻增加了數(shù)據(jù)庫服務(wù)器的壓力,因為數(shù)據(jù)庫會一直等待PHP來取數(shù)據(jù),一直到數(shù)據(jù)全部取完。
很顯然,緩沖查詢模式適用于小數(shù)據(jù)量查詢,而非緩沖查詢適應(yīng)于大數(shù)據(jù)量查詢。
對于PHP的緩沖模式查詢大家都知道,下面列舉的例子是如何執(zhí)行非緩沖查詢API。
非緩沖查詢方法一: mysqli
<?php $mysqli = new mysqli("localhost", "my_user", "my_password", "world"); $uresult = $mysqli->query("SELECT Name FROM City", MYSQLI_USE_RESULT); if ($uresult) { while ($row = $uresult->fetch_assoc()) { echo $row['Name'] . PHP_EOL; } } $uresult->close(); ?>
非緩沖查詢方法二: pdo_mysql
<?php $pdo = new PDO("mysql:host=localhost;dbname=world", 'my_user', 'my_pass'); $pdo->setAttribute(PDO::MYSQL_ATTR_USE_BUFFERED_QUERY, false); $uresult = $pdo->query("SELECT Name FROM City"); if ($uresult) { while ($row = $uresult->fetch(PDO::FETCH_ASSOC)) { echo $row['Name'] . PHP_EOL; } } ?>
非緩沖查詢方法三: mysql
<?php $conn = mysql_connect("localhost", "my_user", "my_pass"); $db = mysql_select_db("world"); $uresult = mysql_unbuffered_query("SELECT Name FROM City"); if ($uresult) { while ($row = mysql_fetch_assoc($uresult)) { echo $row['Name'] . PHP_EOL; } } ?>
以上內(nèi)容就是小編給大家分享的解決PHP里大量數(shù)據(jù)循環(huán)時內(nèi)存耗盡的方法,希望對大家有所幫助。
相關(guān)文章
tp5框架前臺無限極導(dǎo)航菜單類實現(xiàn)方法分析
這篇文章主要介紹了tp5框架前臺無限極導(dǎo)航菜單類實現(xiàn)方法,結(jié)合實例形式分析了tp5框架前臺無限極導(dǎo)航菜單類實現(xiàn)原理、步驟與操作注意事項,需要的朋友可以參考下2020-03-03使用PHP Socket 編程模擬Http post和get請求
這篇文章主要介紹了使用PHP Socket 編程模擬Http post和get請求 ,需要的朋友可以參考下2014-11-11關(guān)于擴展 Laravel 默認(rèn) Session 中間件導(dǎo)致的 Session 寫入失效問題分析
這篇文章主要介紹了關(guān)于擴展 Laravel 默認(rèn) Session 中間件導(dǎo)致的 Session 寫入失效問題分析的相關(guān)資料,需要的朋友可以參考下2016-01-01Zend Framework框架的數(shù)據(jù)庫追蹤器使用示例
這篇文章主要介紹了Zend Framework框架的數(shù)據(jù)庫追蹤器使用示例,現(xiàn)把追蹤器的使用方法分享給大家,需要的朋友可以參考下2014-03-03Laravel框架實現(xiàn)model層的增刪改查(CURD)操作示例
這篇文章主要介紹了Laravel框架實現(xiàn)model層的增刪改查(CURD)操作,結(jié)合實例形式分析了Laravel框架模型model層進行數(shù)據(jù)庫的增刪改查操作具體實現(xiàn)技巧,需要的朋友可以參考下2018-05-05