php抓取頁(yè)面的幾種方法詳解
更新時(shí)間:2013年06月17日 10:19:25 作者:
本篇文章是對(duì)php抓取頁(yè)面的幾種方法進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下
在 做一些天氣預(yù)報(bào)或者RSS訂閱的程序時(shí),往往需要抓取非本地文件,一般情況下都是利用php模擬瀏覽器的訪(fǎng)問(wèn),通過(guò)http請(qǐng)求訪(fǎng)問(wèn)url地址, 然后得到html源代碼或者xml數(shù)據(jù),得到數(shù)據(jù)我們不能直接輸出,往往需要對(duì)內(nèi)容進(jìn)行提取,然后再進(jìn)行格式化,以更加友好的方式顯現(xiàn)出來(lái)。
下面簡(jiǎn)單說(shuō)一下php抓取頁(yè)面的幾種方法及原理:
一、 PHP抓取頁(yè)面的主要方法:
1. file()函數(shù)
2. file_get_contents()函數(shù)
3. fopen()->fread()->fclose()模式
4.curl方式
5. fsockopen()函數(shù) socket模式
6. 使用插件(如:http://sourceforge.net/projects/snoopy/)
二、PHP解析html或xml代碼主要方式:
1. file()函數(shù)
<?php
$url='http://t.qq.com';
$lines_array=file($url);
$lines_string=implode('',$lines_array);
echo htmlspecialchars($lines_string);
2. file_get_contents()函數(shù)
使用file_get_contents和fopen必須空間開(kāi)啟allow_url_fopen。方法:編輯php.ini,設(shè)置 allow_url_fopen = On,allow_url_fopen關(guān)閉時(shí)fopen和file_get_contents都不能打開(kāi)遠(yuǎn)程文件。
<?php
$url='http://t.qq.com';
$lines_string=file_get_contents($url);
echo htmlspecialchars($lines_string);
3. fopen()->fread()->fclose()模式
<?php
$url='http://t.qq.com';
$handle=fopen($url,"rb");
$lines_string="";
do{
$data=fread($handle,1024);
if(strlen($data)==0) {
break;
}
$lines_string.=$data;
}while(true);
fclose($handle);
echo htmlspecialchars($lines_string);
4. curl方式
使用curl必須空間開(kāi)啟curl。方法:windows下修改php.ini,將extension=php_curl.dll前面的分號(hào)去掉,而且需 要拷貝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安裝curl擴(kuò)展。
<?php
$url='http://t.qq.com';
$ch=curl_init();
$timeout=5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$lines_string=curl_exec($ch);
curl_close($ch);
echo htmlspecialchars($lines_string);
5. fsockopen()函數(shù) socket模式
socket模式能否正確執(zhí)行,也跟服務(wù)器的設(shè)置有關(guān)系,具體可以通過(guò)phpinfo查看服務(wù)器開(kāi)啟了哪些通信協(xié)議,比如我的本地php socket沒(méi)開(kāi)啟http,只能使用udp測(cè)試一下了。
<?php
$fp = fsockopen("udp://127.0.0.1", 13, $errno, $errstr);
if (!$fp) {
echo "ERROR: $errno - $errstr<br />\n"
} else {
fwrite($fp, "\n")
echo fread($fp, 26)
fclose($fp)
}
6. 插件
網(wǎng)上應(yīng)該有比較多的插件,snoopy插件是在網(wǎng)上搜到的,有興趣的可以研究一下。
下面簡(jiǎn)單說(shuō)一下php抓取頁(yè)面的幾種方法及原理:
一、 PHP抓取頁(yè)面的主要方法:
1. file()函數(shù)
2. file_get_contents()函數(shù)
3. fopen()->fread()->fclose()模式
4.curl方式
5. fsockopen()函數(shù) socket模式
6. 使用插件(如:http://sourceforge.net/projects/snoopy/)
二、PHP解析html或xml代碼主要方式:
1. file()函數(shù)
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$lines_array=file($url);
$lines_string=implode('',$lines_array);
echo htmlspecialchars($lines_string);
2. file_get_contents()函數(shù)
使用file_get_contents和fopen必須空間開(kāi)啟allow_url_fopen。方法:編輯php.ini,設(shè)置 allow_url_fopen = On,allow_url_fopen關(guān)閉時(shí)fopen和file_get_contents都不能打開(kāi)遠(yuǎn)程文件。
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$lines_string=file_get_contents($url);
echo htmlspecialchars($lines_string);
3. fopen()->fread()->fclose()模式
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$handle=fopen($url,"rb");
$lines_string="";
do{
$data=fread($handle,1024);
if(strlen($data)==0) {
break;
}
$lines_string.=$data;
}while(true);
fclose($handle);
echo htmlspecialchars($lines_string);
4. curl方式
使用curl必須空間開(kāi)啟curl。方法:windows下修改php.ini,將extension=php_curl.dll前面的分號(hào)去掉,而且需 要拷貝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安裝curl擴(kuò)展。
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$ch=curl_init();
$timeout=5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$lines_string=curl_exec($ch);
curl_close($ch);
echo htmlspecialchars($lines_string);
5. fsockopen()函數(shù) socket模式
socket模式能否正確執(zhí)行,也跟服務(wù)器的設(shè)置有關(guān)系,具體可以通過(guò)phpinfo查看服務(wù)器開(kāi)啟了哪些通信協(xié)議,比如我的本地php socket沒(méi)開(kāi)啟http,只能使用udp測(cè)試一下了。
復(fù)制代碼 代碼如下:
<?php
$fp = fsockopen("udp://127.0.0.1", 13, $errno, $errstr);
if (!$fp) {
echo "ERROR: $errno - $errstr<br />\n"
} else {
fwrite($fp, "\n")
echo fread($fp, 26)
fclose($fp)
}
6. 插件
網(wǎng)上應(yīng)該有比較多的插件,snoopy插件是在網(wǎng)上搜到的,有興趣的可以研究一下。
您可能感興趣的文章:
- PHP 抓取新浪讀書(shū)頻道的小說(shuō)并生成txt電子書(shū)的代碼
- 使用PHP curl模擬瀏覽器抓取網(wǎng)站信息
- php抓取并保存網(wǎng)站圖片的實(shí)現(xiàn)代碼
- PHP抓取、分析國(guó)內(nèi)視頻網(wǎng)站的視頻信息工具類(lèi)
- php抓取網(wǎng)站圖片并保存的實(shí)現(xiàn)方法
- thinkphp 抓取網(wǎng)站的內(nèi)容并且保存到本地的實(shí)例詳解
- PHP封裝的遠(yuǎn)程抓取網(wǎng)站圖片并保存功能類(lèi)
- php抓取頁(yè)面與代碼解析 推薦
- PHP實(shí)現(xiàn)抓取HTTPS內(nèi)容
- PHP實(shí)現(xiàn)的抓取小說(shuō)網(wǎng)站內(nèi)容功能示例
相關(guān)文章
PHP 偽靜態(tài)技術(shù)原理以及突破原理實(shí)現(xiàn)介紹
偽靜態(tài)技術(shù)比較好突破,需要自己構(gòu)造中轉(zhuǎn)注入頁(yè)面;偽靜態(tài)技術(shù)原理都很簡(jiǎn)單,就是把原來(lái)的 index.php?id=1 這種形式的URL給替換成其它形式2013-07-07PHP使用preg_split()分割特殊字符(元字符等)的方法分析
這篇文章主要介紹了PHP使用preg_split()分割特殊字符(元字符等)的方法,結(jié)合具體實(shí)例形式分析了php正則分割的操作技巧與注意事項(xiàng),需要的朋友可以參考下2017-02-02php swoole多進(jìn)程/多線(xiàn)程用法示例【基于php7nts版】
這篇文章主要介紹了php swoole多進(jìn)程/多線(xiàn)程用法,結(jié)合實(shí)例形式分析了基于php7nts版使用swoole進(jìn)行多線(xiàn)程創(chuàng)建、調(diào)用相關(guān)操作技巧,需要的朋友可以參考下2019-08-08Linux下實(shí)現(xiàn)PHP多進(jìn)程的方法分享
PHP多進(jìn)程:使用PHP的Process Control Functions(PCNTL/線(xiàn)程控制函數(shù)),需要的朋友可以參考下2012-08-08php帶密碼功能并下載遠(yuǎn)程文件保存本地指定目錄 修改加強(qiáng)版
php帶密碼功能并將遠(yuǎn)程文件下載到本地指定目錄修改版,需要的朋友可以參考下。2010-05-05sourcesafe管理phpproj文件的補(bǔ)充說(shuō)明(downmoon)
在使用vs.php+ sourcesafe管理代碼時(shí),發(fā)現(xiàn)有時(shí)候并不能從vs.net IDE中正確獲取phpproj文件下的所有文件。但從sourcesafe IDE下卻可以。2009-04-04