Python爬蟲后獲取重定向url的兩種方法
下面給大家分享Python爬蟲后獲取重定向url的兩種方法,具體內(nèi)容如下所示;
方法(一)
# 獲得重定向url from urllib import request # https://zhidao.baidu.com/question/681501874175782812.html url = "https://www.baidu.com/link?url=IscBx0u8h9q4Uq3ihTs_PqnoNWe7slVWAd2dowQKrnqJedvthb3zrh9JqcMJu3ZqFrbW_DKVuTnTypDbMkZx_hwCQIGFPRVWGyxRXA-65jK&wd=&eqid=f7aeecba00092ed7000000065ec62596" print(request.urlopen(url).geturl())
方法(二)
# 請求頭,這里我設(shè)置了瀏覽器代理 headers = headers = {'User-Agent': 'xx'} # 這里chrome的user-agent獲取方式:在瀏覽器地址欄輸入 about://version 即可得到結(jié)果 url = "https://www.baidu.com/link?url=IscBx0u8h9q4Uq3ihTs_PqnoNWe7slVWAd2dowQKrnqJedvthb3zrh9JqcMJu3ZqFrbW_DKVuTnTypDbMkZx_hwCQIGFPRVWGyxRXA-65jK&wd=&eqid=f7aeecba00092ed7000000065ec62596" # 請求網(wǎng)頁 response = requests.get(url, headers=headers) # print(response.status_code) # 打印響應(yīng)的狀態(tài)碼 print(response.url) # 打印重定向后的網(wǎng)址 # 兩個結(jié)果都是:https://zhidao.baidu.com/question/681501874175782812.html
到此這篇關(guān)于Python爬蟲后獲取重定向url的兩種方法的文章就介紹到這了,更多相關(guān)python爬蟲獲取url內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
用Matlab讀取CSV文件出現(xiàn)不匹配問題及解決
這篇文章主要介紹了用Matlab讀取CSV文件出現(xiàn)不匹配問題及解決方案,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2023-06-06Python的批量遠(yuǎn)程管理和部署工具Fabric用法實(shí)例
這篇文章主要介紹了Python的批量遠(yuǎn)程管理和部署工具Fabric用法,實(shí)例分析了Fabric的功能與具體使用方法,需要的朋友可以參考下2015-01-01Windows10下 python3.7 安裝 facenet的教程
這篇文章主要介紹了Windows10 python3.7 安裝 facenet的教程,本文給大家介紹的非常詳細(xì),具有一定的參考借鑒價值,需要的朋友可以參考下2019-09-09在python里使用await關(guān)鍵字來等另外一個協(xié)程的實(shí)例
這篇文章主要介紹了在python里使用await關(guān)鍵字來等另外一個協(xié)程的實(shí)例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-05-05Python進(jìn)階多線程爬取網(wǎng)頁項(xiàng)目實(shí)戰(zhàn)
這篇文章主要為大家介紹了Python進(jìn)階,Python多線程爬取網(wǎng)頁項(xiàng)目實(shí)戰(zhàn)的示例呈現(xiàn)步驟,有需要的朋友可以借鑒參考下,希望能夠有所幫助2021-10-10解決Python數(shù)據(jù)可視化中文部分顯示方塊問題
這篇文章主要介紹了解決Python數(shù)據(jù)可視化中文部分顯示方塊問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-05-05