檢測python爬蟲時(shí)是否代理ip偽裝成功的方法
有時(shí)候我們的爬蟲程序添加了代理,但是我們不知道程序是否獲取到了ip,尤其是動(dòng)態(tài)轉(zhuǎn)發(fā)模式的,這時(shí)候就需要進(jìn)行檢測了,以下是一種代理是否偽裝成功的檢測方式,這里推介使用億牛云提供的代碼示例。
Python¶ requests #! -*- encoding:utf-8 -*- import requests import random # 要訪問的目標(biāo)頁面 targetUrl = "http://httpbin.org/ip" # 要訪問的目標(biāo)HTTPS頁面 # targetUrl = "https://httpbin.org/ip" # 代理服務(wù)器 proxyHost = "t.16yun.cn" proxyPort = "31111" # 代理隧道驗(yàn)證信息 proxyUser = "16ZKBRLB" proxyPass = "234076" proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % { "host" : proxyHost, "port" : proxyPort, "user" : proxyUser, "pass" : proxyPass, } # 設(shè)置 http和https訪問都是用HTTP代理 proxies = { "http" : proxyMeta, "https" : proxyMeta, } # 設(shè)置IP切換頭 tunnel = random.randint(1,10000) headers = {"Proxy-Tunnel": str(tunnel)} resp = requests.get(targetUrl, proxies=proxies, headers=headers) print resp.status_code print resp.text
要檢測代理是否獲取到,直接在配置代理后訪http://httpbin.org/ip網(wǎng)站,獲取到ip后再訪問www.ip138.com就知道是否獲取到了ip。
相關(guān)文章
深入理解Python虛擬機(jī)中列表(list)的實(shí)現(xiàn)原理及源碼剖析
在本篇文章當(dāng)中主要給大家介紹?cpython?虛擬機(jī)當(dāng)中針對列表的實(shí)現(xiàn),在?Python?中,List?是一種非常常用的數(shù)據(jù)類型,可以存儲(chǔ)任何類型的數(shù)據(jù),并且支持各種操作,如添加、刪除、查找、切片等,在本篇文章當(dāng)中將深入去分析這一點(diǎn)是如何實(shí)現(xiàn)的2023-03-03python中zip()方法應(yīng)用實(shí)例分析
這篇文章主要介紹了python中zip()方法的應(yīng)用,實(shí)例分析了使用zip()方法創(chuàng)建字典的相關(guān)技巧,需要的朋友可以參考下2016-04-04centos+nginx+uwsgi部署django項(xiàng)目上線
本文主要介紹了centos+nginx+uwsgi部署django項(xiàng)目上線,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-07-07python實(shí)現(xiàn)文本去重且不打亂原本順序
這篇文章主要介紹了python實(shí)現(xiàn)文本去重且不打亂原本順序,需要的朋友可以參考下2016-01-01python將多個(gè)py文件和其他文件打包為exe可執(zhí)行文件
這篇文章主要介紹了python將多個(gè)py文件和其他文件打包為exe可執(zhí)行文件,通過準(zhǔn)備要打包的工程文件展開詳情,需要的小伙伴可以參考一下2022-05-05