php抓取頁(yè)面與代碼解析 推薦
更新時(shí)間:2010年07月23日 00:22:46 作者:
在做一些天氣預(yù)報(bào)或者RSS訂閱的程序時(shí),往往需要抓取非本地文件,一般情況下都是利用php模擬瀏覽器的訪問,通過http請(qǐng)求訪問url地址,然后得到html源代碼或者xml數(shù)據(jù)。
得到數(shù)據(jù)我們不能直接輸出,往往需要對(duì)內(nèi)容進(jìn)行提取,然后再進(jìn)行格式化,以更加友好的方式顯現(xiàn)出來。
下面先簡(jiǎn)單說一下本文的主要內(nèi)容:
一、 PHP抓取頁(yè)面的主要方法:
1. file()函數(shù)
2. file_get_contents()函數(shù)
3. fopen()->fread()->fclose()模式
4.curl方式
5. fsockopen()函數(shù) socket模式
6. 使用插件(如:http://sourceforge.net/projects/snoopy/)
二、PHP解析html或xml代碼主要方式:
1. 正則表達(dá)式
2. PHP DOMDocument對(duì)象
3. 插件(如:PHP Simple HTML DOM Parser)
如果你對(duì)以上內(nèi)容已經(jīng)很了解,以下內(nèi)容可以飄過......
PHP抓取頁(yè)面
1. file()函數(shù)
<?php
$url='http://t.qq.com';
$lines_array=file($url);
$lines_string=implode('',$lines_array);
echo htmlspecialchars($lines_string);
?>
2. file_get_contents()函數(shù)
使用file_get_contents和fopen必須空間開啟allow_url_fopen。方法:編輯php.ini,設(shè)置 allow_url_fopen = On,allow_url_fopen關(guān)閉時(shí)fopen和file_get_contents都不能打開遠(yuǎn)程文件。
<?php
$url='http://t.qq.com';
$lines_string=file_get_contents($url);
echo htmlspecialchars($lines_string);
?>
3. fopen()->fread()->fclose()模式
<?php
$url='http://t.qq.com';
$handle=fopen($url,"rb");
$lines_string="";
do{
$data=fread($handle,1024);
if(strlen($data)==0){break;}
$lines_string.=$data;
}while(true);
fclose($handle);
echo htmlspecialchars($lines_string);
?>
4. curl方式
使用curl必須空間開啟curl。方法:windows下修改php.ini,將extension=php_curl.dll前面的分號(hào)去掉,而且需要拷貝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安裝curl擴(kuò)展。
<?php
$url='http://t.qq.com';
$ch=curl_init();
$timeout=5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$lines_string=curl_exec($ch);
curl_close($ch);
echo htmlspecialchars($lines_string);
?>
5. fsockopen()函數(shù) socket模式
socket模式能否正確執(zhí)行,也跟服務(wù)器的設(shè)置有關(guān)系,具體可以通過phpinfo查看服務(wù)器開啟了哪些通信協(xié)議,比如我的本地php socket沒開啟http,只能使用udp測(cè)試一下了。
<?php
$fp = fsockopen("udp://127.0.0.1", 13, $errno, $errstr);
if (!$fp) {
echo "ERROR: $errno - $errstr<br />\n";
} else {
fwrite($fp, "\n");
echo fread($fp, 26);
fclose($fp);
}
?>
6. 插件
網(wǎng)上應(yīng)該有比較多的插件,snoopy插件是在網(wǎng)上搜到的,有興趣的可以研究一下。
PHP解析xml(html)
1. 正則表達(dá)式:
<?php
$url='http://t.qq.com';
$lines_string=file_get_contents($url);
eregi('<title>(.*)</title>',$lines_string,$title);
echo htmlspecialchars($title[0]);
?>
2. PHP DOMDocument()對(duì)象
如果遠(yuǎn)程的html或xml存在語(yǔ)法錯(cuò)誤,php在解析dom的時(shí)候會(huì)報(bào)錯(cuò)。
<?php
$url='http://www.136web.cn';
$html=new DOMDocument();
$html->loadHTMLFile($url);
$title=$html->getElementsByTagName('title');
echo $title->item(0)->nodeValue;
?>
3. 插件
本文以PHP Simple HTML DOM Parser為例,進(jìn)行簡(jiǎn)單介紹,simple_html_dom的語(yǔ)法類似jQuery,它讓php操作dom,就像使用jQuery操作dom一樣的簡(jiǎn)單。
<?php
$url='http://t.qq.com';
include_once('../simplehtmldom/simple_html_dom.php');
$html=file_get_html($url);
$title=$html->find('title');
echo $title[0]->plaintext;
?>
當(dāng)然中國(guó)人是富有創(chuàng)造性的,老外往往會(huì)在技術(shù)上領(lǐng)先,但中國(guó)人往往會(huì)在使用上更勝一籌,往往做出一些讓老外不敢想的功能,比如php的遠(yuǎn)程抓取與分析,本來是為數(shù)據(jù)的整合提供方便。但國(guó)人很喜歡這個(gè),于是乎大量的采集站,它們本身不創(chuàng)造任何有價(jià)值的內(nèi)容,就是靠抓取別人的網(wǎng)站內(nèi)容,并把它據(jù)為己有。在百度里輸入“php小”關(guān)鍵詞,suggest列表第一個(gè)就是“php小偷程序”,然后把同樣的關(guān)鍵詞放入google,哥只能笑而不語(yǔ)。
下面先簡(jiǎn)單說一下本文的主要內(nèi)容:
一、 PHP抓取頁(yè)面的主要方法:
1. file()函數(shù)
2. file_get_contents()函數(shù)
3. fopen()->fread()->fclose()模式
4.curl方式
5. fsockopen()函數(shù) socket模式
6. 使用插件(如:http://sourceforge.net/projects/snoopy/)
二、PHP解析html或xml代碼主要方式:
1. 正則表達(dá)式
2. PHP DOMDocument對(duì)象
3. 插件(如:PHP Simple HTML DOM Parser)
如果你對(duì)以上內(nèi)容已經(jīng)很了解,以下內(nèi)容可以飄過......
PHP抓取頁(yè)面
1. file()函數(shù)
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$lines_array=file($url);
$lines_string=implode('',$lines_array);
echo htmlspecialchars($lines_string);
?>
2. file_get_contents()函數(shù)
使用file_get_contents和fopen必須空間開啟allow_url_fopen。方法:編輯php.ini,設(shè)置 allow_url_fopen = On,allow_url_fopen關(guān)閉時(shí)fopen和file_get_contents都不能打開遠(yuǎn)程文件。
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$lines_string=file_get_contents($url);
echo htmlspecialchars($lines_string);
?>
3. fopen()->fread()->fclose()模式
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$handle=fopen($url,"rb");
$lines_string="";
do{
$data=fread($handle,1024);
if(strlen($data)==0){break;}
$lines_string.=$data;
}while(true);
fclose($handle);
echo htmlspecialchars($lines_string);
?>
4. curl方式
使用curl必須空間開啟curl。方法:windows下修改php.ini,將extension=php_curl.dll前面的分號(hào)去掉,而且需要拷貝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安裝curl擴(kuò)展。
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$ch=curl_init();
$timeout=5;
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$lines_string=curl_exec($ch);
curl_close($ch);
echo htmlspecialchars($lines_string);
?>
5. fsockopen()函數(shù) socket模式
socket模式能否正確執(zhí)行,也跟服務(wù)器的設(shè)置有關(guān)系,具體可以通過phpinfo查看服務(wù)器開啟了哪些通信協(xié)議,比如我的本地php socket沒開啟http,只能使用udp測(cè)試一下了。
復(fù)制代碼 代碼如下:
<?php
$fp = fsockopen("udp://127.0.0.1", 13, $errno, $errstr);
if (!$fp) {
echo "ERROR: $errno - $errstr<br />\n";
} else {
fwrite($fp, "\n");
echo fread($fp, 26);
fclose($fp);
}
?>
6. 插件
網(wǎng)上應(yīng)該有比較多的插件,snoopy插件是在網(wǎng)上搜到的,有興趣的可以研究一下。
PHP解析xml(html)
1. 正則表達(dá)式:
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
$lines_string=file_get_contents($url);
eregi('<title>(.*)</title>',$lines_string,$title);
echo htmlspecialchars($title[0]);
?>
2. PHP DOMDocument()對(duì)象
如果遠(yuǎn)程的html或xml存在語(yǔ)法錯(cuò)誤,php在解析dom的時(shí)候會(huì)報(bào)錯(cuò)。
復(fù)制代碼 代碼如下:
<?php
$url='http://www.136web.cn';
$html=new DOMDocument();
$html->loadHTMLFile($url);
$title=$html->getElementsByTagName('title');
echo $title->item(0)->nodeValue;
?>
3. 插件
本文以PHP Simple HTML DOM Parser為例,進(jìn)行簡(jiǎn)單介紹,simple_html_dom的語(yǔ)法類似jQuery,它讓php操作dom,就像使用jQuery操作dom一樣的簡(jiǎn)單。
復(fù)制代碼 代碼如下:
<?php
$url='http://t.qq.com';
include_once('../simplehtmldom/simple_html_dom.php');
$html=file_get_html($url);
$title=$html->find('title');
echo $title[0]->plaintext;
?>
當(dāng)然中國(guó)人是富有創(chuàng)造性的,老外往往會(huì)在技術(shù)上領(lǐng)先,但中國(guó)人往往會(huì)在使用上更勝一籌,往往做出一些讓老外不敢想的功能,比如php的遠(yuǎn)程抓取與分析,本來是為數(shù)據(jù)的整合提供方便。但國(guó)人很喜歡這個(gè),于是乎大量的采集站,它們本身不創(chuàng)造任何有價(jià)值的內(nèi)容,就是靠抓取別人的網(wǎng)站內(nèi)容,并把它據(jù)為己有。在百度里輸入“php小”關(guān)鍵詞,suggest列表第一個(gè)就是“php小偷程序”,然后把同樣的關(guān)鍵詞放入google,哥只能笑而不語(yǔ)。
您可能感興趣的文章:
- PHP 抓取新浪讀書頻道的小說并生成txt電子書的代碼
- 使用PHP curl模擬瀏覽器抓取網(wǎng)站信息
- php抓取并保存網(wǎng)站圖片的實(shí)現(xiàn)代碼
- PHP抓取、分析國(guó)內(nèi)視頻網(wǎng)站的視頻信息工具類
- php抓取網(wǎng)站圖片并保存的實(shí)現(xiàn)方法
- thinkphp 抓取網(wǎng)站的內(nèi)容并且保存到本地的實(shí)例詳解
- PHP封裝的遠(yuǎn)程抓取網(wǎng)站圖片并保存功能類
- PHP實(shí)現(xiàn)抓取HTTPS內(nèi)容
- php抓取頁(yè)面的幾種方法詳解
- PHP實(shí)現(xiàn)的抓取小說網(wǎng)站內(nèi)容功能示例
相關(guān)文章
基于命令行執(zhí)行帶參數(shù)的php腳本并取得參數(shù)的方法
這篇文章主要介紹了基于命令行執(zhí)行帶參數(shù)的php腳本并取得參數(shù)的方法,分析了命令行運(yùn)行PHP代碼的原理、用法與相關(guān)注意事項(xiàng),需要的朋友可以參考下2016-01-01PHP列出MySQL中所有數(shù)據(jù)庫(kù)的方法
這篇文章主要介紹了PHP列出MySQL中所有數(shù)據(jù)庫(kù)的方法,涉及php操作數(shù)據(jù)庫(kù)的技巧,非常具有實(shí)用價(jià)值,需要的朋友可以參考下2015-03-03php使用GD實(shí)現(xiàn)顏色漸變實(shí)例
這篇文章主要介紹了php使用GD實(shí)現(xiàn)顏色漸變的方法,實(shí)例分析了php中GD庫(kù)的使用技巧,需要的朋友可以參考下2015-06-06php判斷/計(jì)算閏年的方法小結(jié)【三種方法】
這篇文章主要介紹了php判斷/計(jì)算閏年的方法,結(jié)合實(shí)例形式總結(jié)分析了三種計(jì)閏年的判斷方法,需要的朋友可以參考下2019-07-07php使用CutyCapt實(shí)現(xiàn)網(wǎng)頁(yè)截圖保存的方法
這篇文章主要介紹了php使用CutyCapt實(shí)現(xiàn)網(wǎng)頁(yè)截圖保存的方法,結(jié)合實(shí)例形式詳細(xì)分析了CutyCapt的下載、安裝及php使用CutyCapt進(jìn)行截圖與保存的相關(guān)操作技巧,需要的朋友可以參考下2016-10-10百度工程師講PHP函數(shù)的實(shí)現(xiàn)原理及性能分析(二)
這篇文章主要介紹了百度工程師講PHP函數(shù)的實(shí)現(xiàn)原理及性能分析(二),本文講解了類方法、性能對(duì)比、內(nèi)置函數(shù)和用戶函數(shù)性能對(duì)比等內(nèi)容,需要的朋友可以參考下2015-05-05PHP 批量更新網(wǎng)頁(yè)內(nèi)容實(shí)現(xiàn)代碼
lost63原創(chuàng)的,批量替換內(nèi)容的php代碼2010-01-01RSA實(shí)現(xiàn)JS前端加密與PHP后端解密功能示例
這篇文章主要介紹了RSA實(shí)現(xiàn)JS前端加密與PHP后端解密功能,結(jié)合實(shí)例形式分析了rsa前端js加密與后端php解密相關(guān)操作技巧,需要的朋友可以參考下2019-08-08