python selenium禁止加載某些請求的實現(xiàn)
問題描述
通過selenium請求目標(biāo)網(wǎng)站時候, 真實數(shù)據(jù)(我這里是驗證碼圖片)已經(jīng)加載出來, 由于網(wǎng)站做了第三方上報所以得等待很久, 但是上報這個請求不是必須的.
例如
驗證碼已經(jīng)加載完成, 但是huatuo.qq.com響應(yīng)時間過長 , webdriver.get()的機制是等待請求的url響應(yīng)全部完成才進行下一步. 顯示等待和隱式等待的作用是每隔多少秒來檢測一下這個地址是否加載完成, 所以此處不生效.
那我要做的是: 當(dāng)請求目標(biāo)url時候, 希望webdriver不上報或者屏蔽huatuo.qq.com…這樣就能節(jié)省大量時間, 從而進行下一步操作
解決方案
在通過selenium打開目標(biāo)url后, 植入js插件, 通過插件來屏蔽上報url
配置selenium屬性, 添加屏蔽規(guī)則
chrome_options.add_argument('--host-resolver-rules=MAP report.huatuo.qq.com 127.0.0.1')
最終效果
這樣就能專注于目標(biāo)url, 更快的執(zhí)行下一步.
其他屬性配置
options.add_argument(‘headless') # 無頭模式 options.add_argument(‘window-size={}x{}'.format(width, height)) # 直接配置大小和set_window_size一樣 options.add_argument(‘disable-gpu') # 禁用GPU加速 options.add_argument(‘proxy-server={}'.format(self.proxy_server)) # 配置代理 options.add_argument('–no-sandbox') # 沙盒模式運行 options.add_argument('–disable-setuid-sandbox') # 禁用沙盒 options.add_argument('–disable-dev-shm-usage') # 大量渲染時候?qū)懭?tmp而非/dev/shm options.add_argument('–user-data-dir={profile_path}'.format(profile_path)) # 用戶數(shù)據(jù)存入指定文件 options.add_argument('no-default-browser-check) # 不做瀏覽器默認(rèn)檢查 options.add_argument("–disable-popup-blocking") # 允許彈窗 options.add_argument("–disable-extensions") # 禁用擴展 options.add_argument("–ignore-certificate-errors") # 忽略不信任證書 options.add_argument("–no-first-run") # 初始化時為空白頁面 options.add_argument('–start-maximized') # 最大化啟動 options.add_argument('–disable-notifications') # 禁用通知警告 options.add_argument('–enable-automation') # 通知(通知用戶其瀏覽器正由自動化測試控制) options.add_argument('–disable-xss-auditor') # 禁止xss防護 options.add_argument('–disable-web-security') # 關(guān)閉安全策略 options.add_argument('–allow-running-insecure-content') # 允許運行不安全的內(nèi)容 options.add_argument('–disable-webgl') # 禁用webgl options.add_argument('–homedir={}') # 指定主目錄存放位置 options.add_argument('–disk-cache-dir={臨時文件目錄}') # 指定臨時文件目錄 options.add_argument(‘disable-cache') # 禁用緩存 options.add_argument(‘excludeSwitches', [‘enable-automation']) # 開發(fā)者模式
參考
其他詳細(xì)配置 請點擊
到此這篇關(guān)于python selenium禁止加載某些請求的實現(xiàn)的文章就介紹到這了,更多相關(guān)python selenium禁止加載某些請求內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Mac中安裝anaconda并配置虛擬環(huán)境的詳細(xì)過程
這篇文章主要給大家介紹了關(guān)于Mac中安裝anaconda并配置虛擬環(huán)境的詳細(xì)過程,anaconda是包管理器和環(huán)境管理器,使用它可以方便地創(chuàng)作,文中通過圖文介紹的非常詳細(xì),需要的朋友可以參考下2023-10-10Python二維數(shù)組實現(xiàn)求出3*3矩陣對角線元素的和示例
今天小編就為大家分享一篇Python二維數(shù)組實現(xiàn)求出3*3矩陣對角線元素的和示例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-11-11pandas中concatenate和combine_first的用法詳解
本文主要介紹了pandas中concatenate和combine_first的用法詳解,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-01-01Python?中的嵌套字典推導(dǎo)的使用及優(yōu)勢
Python 字典推導(dǎo)是一個強大的工具,允許您從現(xiàn)有的字典創(chuàng)建新的字典,這篇文章主要介紹了Python中的嵌套字典推導(dǎo),將探索 Python 嵌套字典推導(dǎo)、它的使用以及在 Python 中使用它的優(yōu)勢,需要的朋友可以參考下2023-05-05python3對拉勾數(shù)據(jù)進行可視化分析的方法詳解
這篇文章主要給大家介紹了關(guān)于python3對拉勾數(shù)據(jù)進行可視化分析的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用Python3具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-04-04TensorFlow tf.nn.conv2d實現(xiàn)卷積的方式
今天小編就為大家分享一篇TensorFlow tf.nn.conv2d實現(xiàn)卷積的方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-01-01使用Python?matplotlib繪制簡單的柱形圖、折線圖和直線圖
Matplotlib是Python的繪圖庫, 它可與NumPy一起使用,提供了一種有效的MatLab開源替代方案,下面這篇文章主要給大家介紹了關(guān)于使用Python?matplotlib繪制簡單的柱形圖、折線圖和直線圖的相關(guān)資料,需要的朋友可以參考下2022-08-08