欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

使用php方法curl抓取AJAX異步內(nèi)容思路分析及代碼分享

 更新時(shí)間:2014年08月25日 11:17:48   投稿:hebedich  
怎樣抓取AJAX網(wǎng)站的內(nèi)容?這是一個(gè)熱門(mén)的問(wèn)題,也是一個(gè)棘手的問(wèn)題。但實(shí)際上呢,抓取ajax異步內(nèi)容的頁(yè)面和抓普通的頁(yè)面區(qū)別不大。ajax只不過(guò)是做了一次異步的http請(qǐng)求,只要使用firebug類(lèi)似的工具,找到請(qǐng)求的后端服務(wù)url和傳值的參數(shù),然后對(duì)該url傳遞參數(shù)進(jìn)行抓取即可

其實(shí)抓ajax異步內(nèi)容的頁(yè)面和抓普通的頁(yè)面區(qū)別不大。ajax只不過(guò)是做了一次異步的http請(qǐng)求,只要使用firebug類(lèi)似的工具,找到請(qǐng)求的后端服務(wù)url和傳值的參數(shù),然后對(duì)該url傳遞參數(shù)進(jìn)行抓取即可。

利用Firebug的網(wǎng)絡(luò)工具                                                              

如果抓去的是頁(yè)面,則內(nèi)容中沒(méi)有顯示的數(shù)據(jù),是一堆JS代碼。

Code                                                                                   

$cookie_file=tempnam('./temp','cookie');
$ch = curl_init();
$url1 = "http://www.cdut.edu.cn/default.html";
curl_setopt($ch,CURLOPT_URL,$url1);
curl_setopt($ch,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1);
curl_setopt($ch,CURLOPT_HEADER,0);
curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);
curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);
curl_setopt($ch, CURLOPT_ENCODING ,'gzip'); //加入gzip解析
//設(shè)置連接結(jié)束后保存cookie信息的文件
curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file);
$content=curl_exec($ch);

curl_close($ch);

$ch3 = curl_init();
$url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalAjax.getNewsXml.dwr";
$curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0";
curl_setopt($ch3,CURLOPT_URL,$url3);
curl_setopt($ch3,CURLOPT_POST,1);
curl_setopt($ch3,CURLOPT_POSTFIELDS,$curlPost);

//設(shè)置連接結(jié)束后保存cookie信息的文件
curl_setopt($ch3,CURLOPT_COOKIEFILE,$cookie_file); 
$content1=curl_exec($ch3);
curl_close($ch3);

相關(guān)文章

最新評(píng)論