基于curl數(shù)據(jù)采集之正則處理函數(shù)get_matches的使用
根據(jù)前兩篇的博文:
基于curl數(shù)據(jù)采集之單頁面采集函數(shù)get_html的使用
基于curl數(shù)據(jù)采集之單頁面并行采集函數(shù)get_htmls的使用
已經(jīng)可以得到了我們需要的html文件,現(xiàn)在需要處理得到的文件獲取到我們需要的采集的數(shù)據(jù)。
對于html文檔的解析,沒有像XML那樣的解析類,因為HTML文檔有很多不成對的標簽,很不嚴格。這個時候就需要采用其他的一些輔助類了,simplehtmldom是一個類似于JQuery方式操作HTML文檔的解析類??梢院芊奖愕牡玫较胍臄?shù)據(jù),可惜速度慢。這里不是我們這里討論的重點,我主要使用正則來匹配我所需要的采集的數(shù)據(jù),可以很快速的得到我需要采集的信息。
考慮到get_html可以判斷返回的數(shù)據(jù),但是get_htmls沒有辦法判斷,為了方便調(diào)式和調(diào)用寫了如下兩個函數(shù):
function get_matches($pattern,$html,$err_msg,$multi=false,$flags=0,$offset=0){
if(!$multi){
if(!preg_match($pattern,$html,$matches,$flags,$offset)){
echo $err_msg."! 錯誤信息: ".get_preg_err_msg()."\n";
return false;
}
}else{
if(!preg_match_all($pattern,$html,$matches,$flags,$offset)){
echo $err_msg."! 錯誤信息: ".get_preg_err_msg()."\n";
return false;
}
}
return $matches;
}
function get_preg_err_msg(){
$error_code = preg_last_error();
switch($error_code){
case PREG_NO_ERROR :
$err_msg = 'PREG_NO_ERROR';
break;
case PREG_INTERNAL_ERROR:
$err_msg = 'PREG_INTERNAL_ERROR';
break;
case PREG_BACKTRACK_LIMIT_ERROR:
$err_msg = 'PREG_BACKTRACK_LIMIT_ERROR';
break;
case PREG_RECURSION_LIMIT_ERROR:
$err_msg = 'PREG_RECURSION_LIMIT_ERROR';
break;
case PREG_BAD_UTF8_ERROR:
$err_msg = 'PREG_BAD_UTF8_ERROR';
break;
case PREG_BAD_UTF8_OFFSET_ERROR:
$err_msg = 'PREG_BAD_UTF8_OFFSET_ERROR';
break;
default:
return '未知錯誤!';
}
return $err_msg.': '.$error_code;
}
可以這樣調(diào)用:
$url = 'http://www.baidu.com';
$html = get_html($url);
$matches = get_matches('!<a[^<]+</a>!',$html,'沒有找到鏈接',true);
if($matches){
var_dump($matches);
}
或者這樣調(diào)用:
$urls = array('http://www.baidu.com','http://www.hao123.com');
$htmls = get_htmls($urls);
foreach($htmls as $html){
$matches = get_matches('!<a[^<]+</a>!',$html,'沒有找到鏈接',true);
if($matches){
var_dump($matches);
}
}
就可以得到所需的信息,無論單頁面采集還是多頁面采集,最終PHP還是只能處理一個頁面,由于使用get_matches了,可以對返回的值進行判斷真假,得到正確的數(shù)據(jù),由于使用正則的時候遇到了超過正則回溯的問題,增加get_preg_err_msg來提示正則信息。
由于采集數(shù)據(jù)的時候,經(jīng)常是采集列表頁,根據(jù)列表頁得到的內(nèi)容頁鏈接再采集內(nèi)容頁,或者更多的層次,那么循環(huán)嵌套會很多,對于代碼的控制會感覺力不從心。那我們是否可以把采集列表頁的代碼和采集內(nèi)容頁的代碼,或者更多的層次的采集代碼分離開,甚至循環(huán)都簡化呢?
相關(guān)文章
PHP+Ajax實現(xiàn)上傳文件進度條動態(tài)顯示進度功能
這篇文章主要介紹了PHP+Ajax實現(xiàn)上傳文件進度條動態(tài)顯示進度功能,通過ajax實現(xiàn)主界面,php處理上傳文件,具體實例代碼大家跟隨腳本之家小編一起看看吧2018-06-06thinkphp,onethink和thinkox中驗證碼不顯示的解決方法分析
這篇文章主要介紹了thinkphp,onethink和thinkox中驗證碼不顯示的解決方法,簡單分析了thinkPHP驗證碼不顯示的原因與相應(yīng)的解決方法,具有一定參考借鑒價值,需要的朋友可以參考下2016-06-06php微信公眾號開發(fā)(2)百度BAE搭建和數(shù)據(jù)庫使用
這篇文章主要介紹了php微信公眾號開發(fā)第二課,百度BAE搭建和數(shù)據(jù)庫使用,具有一定的參考價值,感興趣的小伙伴們可以參考一下2016-12-12