PHP通過CURL實現(xiàn)定時任務的圖片抓取功能示例
本文實例講述了PHP通過CURL實現(xiàn)定時任務的圖片抓取功能。分享給大家供大家參考,具體如下:
下文為各位介紹一個PHP定時任務通過CURL圖片的抓取例子,希望例子對大家?guī)椭?基本思路就是通過一個URL連接,將所有圖片的地址抓取下來,然后循環(huán)打開圖片,利用文件操作函數(shù)下載下來,保存到本地,并且把圖片的alt屬性也抓取下來,最后將數(shù)據(jù)保存到自己數(shù)據(jù)庫.
廢話不多說,看程序就能明白了,其中,需要用到PHP定時任務和PHP的一個第三方插件simple_html_dom.php 的使用,參考simple_html_dom的下載和使用.
<?php function getLink($url){ include_once('simple_html_dom.php'); $ch = curl_init(); curl_setopt($ch,CURLOPT_URL,$url); curl_setopt($ch,CURLOPT_HEADER,false); curl_setopt($ch,CURLOPT_RETURNTRANSFER,1); $output = curl_exec($ch); curl_close($ch); $html = new simple_html_dom(); $html->load($output); $links = array(); $arr = array(); $title = array(); foreach($html->find('a') as $element){ if(preg_match('#^\/content_[0-9]+_1\.html$#i',$element->href)){ array_push($links,'http://www.dbjr.com.cn'.$element->href); array_push($title,$element->title); } } $links = array_values(array_unique($links)); $title = array_values(array_unique($title)); $arr['links'] = $links; $arr['title'] = $title; return $arr; } function loadimg($url,$dirname){ include_once('simple_html_dom.php'); $ch = curl_init(); curl_setopt($ch,CURLOPT_URL,$url); curl_setopt($ch,CURLOPT_HEADER,false); curl_setopt($ch,CURLOPT_RETURNTRANSFER,1); $output = curl_exec($ch); curl_close($ch); $html = new simple_html_dom(); $html->load($output); $arr = array(); foreach($html->find('img[w]') as $element){ $image = $element->src; } $data = file_get_contents($image); $info = getimagesize($image);//獲取圖片信息,大小,格式 switch($info[2]){ case 1: $str = 'gif'; break; case 2: $str = 'jpg'; break; case 3: $str = 'png'; break; default: continue; break; } if($info[1] < 10 || $info[0] < 10) continue;//圖片太小,不是有價值的圖片,跳過本次循環(huán) $filename = time().rand(1,999999).'.'.$str; if(!is_dir($dirname)){ mkdir($dirname,0777,true); } $fp = fopen($dirname.$filename,'w'); fwrite($fp,$data); fclose($fp); return $dirname.$filename; } do{ set_time_limit(0); ignore_user_abort(); $img = getLink('http://www.dbjr.com.cn/qutu_1.html'); $count = count($img['links']); $arr = array(); for($i=0;$i<$count;$i++){ $arr[]=loadimg($img['links'][$i],'images/'); } $img['url'] = $arr; echo '<br/>'; $img['title']; $res = array(); $len = count($img['title']); //重新將數(shù)據(jù)組裝成我們常用的二維數(shù)組,方便數(shù)據(jù)的數(shù)據(jù)庫處理 for($i=0;$i<$len;$i++){ $res[$i]['title'] = $img['title'][$i]; $res[$i]['url'] = $img['url'][$i]; } foreach($res as $item){ echo '<img src='.$item["url"].'>'.$item["title"].'<br />'; } $interval = 24*3600; sleep($interval); }while(true); ?>
更多關于PHP相關內(nèi)容感興趣的讀者可查看本站專題:《php curl用法總結》、《PHP數(shù)組(Array)操作技巧大全》、《php排序算法總結》、《PHP常用遍歷算法與技巧總結》、《PHP數(shù)據(jù)結構與算法教程》、《php程序設計算法總結》、《PHP數(shù)學運算技巧總結》、《php正則表達式用法總結》、《PHP運算與運算符用法總結》、《php字符串(string)用法總結》及《php常見數(shù)據(jù)庫操作技巧匯總》
希望本文所述對大家PHP程序設計有所幫助。
相關文章
使用php統(tǒng)計字符串中中英文字符的個數(shù)
本篇文章是對使用php統(tǒng)計字符串中中英文字符的個數(shù)的方法進行了詳細的分析介紹,需要的朋友參考下2013-06-06php從csv文件讀取數(shù)據(jù)并輸出到網(wǎng)頁的方法
這篇文章主要介紹了php從csv文件讀取數(shù)據(jù)并輸出到網(wǎng)頁的方法,涉及php中fgetcsv函數(shù)及數(shù)組遍歷的使用技巧,需要的朋友可以參考下2015-03-03PHP curl 或 file_get_contents 獲取需要授權頁面的方法
本篇文章主要介紹了PHP curl 或 file_get_contents獲取需要授權頁面的方法,具有很好的參考價值。下面跟著小編一起來看下吧2017-05-05PHP中獲取內(nèi)網(wǎng)用戶MAC地址(WINDOWS/linux)的實現(xiàn)代碼
做一個內(nèi)網(wǎng)根據(jù)MAC地址自動登錄的應用,在WINDOW 2003可以正常使用,函數(shù)如下2011-08-08php empty()與isset()區(qū)別的詳細介紹
本篇文章是對php中empty()與isset()的區(qū)別進行了詳細的分析介紹,需要的朋友參考下2013-06-06