php采集時(shí)被封ip的解決方法
更新時(shí)間:2010年08月29日 14:48:23 作者:
最近各種網(wǎng)站的采集程序?qū)懙谋容^多,遇到在采某網(wǎng)站時(shí)采到100多條時(shí)突然發(fā)現(xiàn)對(duì)方的網(wǎng)站打不開(kāi)了,猜到肯定被封ip了,用了代理還是會(huì)封,這不是辦法。
在網(wǎng)上找了一些資料都沒(méi)有找到,功夫不負(fù)有心人啊,在找的時(shí)侯有一個(gè)人提到了用搜索引擎爬蟲蜘蛛的USERAGENT。雖然只提到一點(diǎn)點(diǎn)我還是想到了,列出我的解決方法,
1.使用Snoopy或curl傳搜索引擎爬蟲的USERAGENT值。
查看搜索引擎爬蟲的USERAGENT值:http://www.dbjr.com.cn/yunying/29357.html
2.使用Snoopy或curl傳referer值。
如:$snoopy->referer = 'http://www.google.com';
$header[] = "Referer: http://www.google.com/";
3.使用Snoopy或curl代理。
如:$snoopy->proxy_host = "59.108.44.41";
$snoopy->proxy_port = "3128";
4.使用Snoopy或curl防造IP。
如:$snoopy->rawheaders['X_FORWARDED_FOR'] = '127.0.0.1';
5.用php與一個(gè)重起路由的程序,這樣就會(huì)獲得新的ip地址。
6.如果發(fā)現(xiàn)重起路由還是顯示被封,有可能對(duì)方封了你的mac地址,現(xiàn)在路由器都有偽造MAC的功能,可以寫程序或手動(dòng)修改路由器的MAC地址,網(wǎng)上也有專門修改網(wǎng)卡mac地址的工具。
1.使用Snoopy或curl傳搜索引擎爬蟲的USERAGENT值。
查看搜索引擎爬蟲的USERAGENT值:http://www.dbjr.com.cn/yunying/29357.html
2.使用Snoopy或curl傳referer值。
如:$snoopy->referer = 'http://www.google.com';
$header[] = "Referer: http://www.google.com/";
3.使用Snoopy或curl代理。
如:$snoopy->proxy_host = "59.108.44.41";
$snoopy->proxy_port = "3128";
4.使用Snoopy或curl防造IP。
如:$snoopy->rawheaders['X_FORWARDED_FOR'] = '127.0.0.1';
5.用php與一個(gè)重起路由的程序,這樣就會(huì)獲得新的ip地址。
6.如果發(fā)現(xiàn)重起路由還是顯示被封,有可能對(duì)方封了你的mac地址,現(xiàn)在路由器都有偽造MAC的功能,可以寫程序或手動(dòng)修改路由器的MAC地址,網(wǎng)上也有專門修改網(wǎng)卡mac地址的工具。
您可能感興趣的文章:
相關(guān)文章
php編程中echo用逗號(hào)和用點(diǎn)號(hào)連接的區(qū)別
本文通過(guò)幾個(gè)具體的例子.來(lái)認(rèn)清楚php編程中echo用逗號(hào)和用點(diǎn)號(hào)連接之前的區(qū)別.有需要的小伙伴可以參考下2016-03-03PHP實(shí)現(xiàn)的權(quán)重算法示例【可用于游戲根據(jù)權(quán)限來(lái)隨機(jī)物品】
這篇文章主要介紹了PHP實(shí)現(xiàn)的權(quán)重算法,可用于游戲根據(jù)權(quán)限來(lái)隨機(jī)物品,涉及php數(shù)組遍歷、隨機(jī)數(shù)處理及數(shù)值運(yùn)算相關(guān)操作技巧,需要的朋友可以參考下2019-02-02一個(gè)不易被發(fā)現(xiàn)的PHP后門代碼解析
這篇文章主要介紹了一個(gè)不易被發(fā)現(xiàn)的PHP后門代碼解析,對(duì)于網(wǎng)絡(luò)安全來(lái)說(shuō)非常重要,需要的朋友可以參考下2014-07-07解析centos中Apache、php、mysql 默認(rèn)安裝路徑
本篇文章是對(duì)centos下Apache、php、mysql 默認(rèn)安裝路徑進(jìn)行了詳細(xì)的分析介紹,需要的朋友參考下2013-06-06