欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

selenium+python實現(xiàn)1688網(wǎng)站驗證碼圖片的截取功能

 更新時間:2018年08月14日 09:09:46   作者:Kosmoo  
這篇文章主要介紹了selenium+python實現(xiàn)1688網(wǎng)站驗證碼圖片的截取,需要的朋友可以參考下

1. 背景

•在1688網(wǎng)站爬取數(shù)據(jù)時,如果訪問過于頻繁,無論用戶是否已經(jīng)登錄,就會彈出如下所示的驗證碼登錄框。

這里寫圖片描述

一般的驗證碼是類似于如下的元素(通過鏈接單獨加載進頁面,而不是嵌入圖片元素):

<img id="J_CheckCodeImg1" width="100" height="30" onmousedown="return false;" src="http://pin.aliyun.com/get_img?identity=sm-searchweb2&amp;sessionid=9c3a51d81de07ddf1bfd9bbc70863b0f&amp;type=default&amp;t=1511315617645">

•一般來說,獲取驗證碼圖片有兩種方式:

•第一,拿到上面驗證碼的圖片鏈接:src=”//pin.aliyun.com/get_img?identity=sm-searchweb2&sessionid=9c3a51d81de07ddf1bfd9bbc70863b0f&type=default&t=1511315617645”,但是這種方式有時候行不通。因為有時候會發(fā)現(xiàn)當(dāng)前的驗證碼和通過提取出來的url鏈接打開的驗證碼,內(nèi)容是不一樣的,其內(nèi)容不斷發(fā)生變化。

•第二,利用selenium先進行可視區(qū)域的截屏,然后定位驗證碼元素的位置以及大小,然后利用Image(PIL模塊中)進行裁剪,得到驗證碼圖片,然后送往驗證碼模塊或者打碼平臺處理。

2. 環(huán)境

•python 3.6.1
•系統(tǒng):win7
•IDE:pycharm
•安裝過chrome瀏覽器
•配置好chromedriver
•selenium 3.7.0

3. 分析網(wǎng)頁結(jié)構(gòu)

這里寫圖片描述

通過分析網(wǎng)頁源代碼,我們可以得出以下結(jié)論:

•這個驗證碼登錄框是通過iframe嵌入到網(wǎng)頁中的。
•頁面中不止這一個iframe嵌套。
•這個驗證碼iframe有很明顯的特征:id=”sufei-dialog-content”和src=”https://sec.1688.com/query.htm?……”

<iframe id="sufei-dialog-content" frameborder="none" src="https://sec.1688.com/query.htm?style=mini&amp;smApp=searchweb2&amp;smPolicy=searchweb2-RpcAsyncAll-anti_Spider-checkcode&amp;smCharset=GBK&amp;smTag=MTIxLjE1LjI2LjIzMywzNTE1MTA4MjI5LGFlNGE1ZGI1YTQ4NDQ3NTNiYzY5OTZlZmU1OWE3Njhm&amp;smReturn=https%3A%2F%2Fs.1688.com%2Fselloffer%2Frpc_async_render.jsonp%3Fkeywords%3D%25CF%25B4%25CD%25EB%25B2%25BC%26startIndex%3D0%26n%3Dy%26pageSize%3D60%26rpcflag%3Dnew%26async%3Dtrue%26templateConfigName%3DmarketOfferresult%26enableAsync%3Dtrue%26qrwRedirectEnabled%3Dfalse%26filterP4pIds%3D1245873517%252C561786598916%252C559726907082%252C523166432402%252C557139543735%252C529784793813%252C543923733444%252C560590249743%26asyncCount%3D20%26_pageName_%3Dmarket%26offset%3D9%26uniqfield%3Dpic_tag_id%26leftP4PIds%3D%26callback%3DjQuery18305735956012709345_1511341604992%26beginPage%3D48%26_%3D1511341615310&amp;smSign=XKm5xSgAkIixvOkhV1VSyg%3D%3D" cd_frame_id_="c4ae94ef2bea60f0b4729f319df59251"></iframe>

4. 代碼

# 前提是,在程序啟動時,對瀏覽器窗口大小進行了設(shè)置
from selenium import webdriver
import time
from PIL import Image
browser = webdriver.Chrome()
# 根據(jù)桌面分辨率來定,主要是為了抓到驗證碼的截屏,驗證碼需要出現(xiàn)在可視區(qū)域中
browser.set_window_size(960, 960)
# 處理驗證碼彈窗
def captchaHandler(browser, DamatuInstance):
  iframeLst = browser.find_elements_by_tag_name('iframe')
  print(f"captchaHandler: enter , iframeLst = {iframeLst}")
  for iframe in iframeLst:
    iframeID = iframe.get_attribute('id')
    iframeSrc = iframe.get_attribute('src')
    print(f"captchaHandler: iframeID = {iframeID}, iframeSrc = {iframeSrc}")
    # 找到驗證碼登錄iframe
    if iframeID and iframeID.find('dialog') != -1:
      if iframeSrc and iframeSrc.find(r'sec.1688.com') != -1:
        # 拿到iframe的寬度和高度
        frameWidth = iframe.size['width']
        frameHeight = iframe.size['height']
        # 代表驗證碼區(qū)域可見
        # 某些情況下,會出現(xiàn)驗證碼框不彈出,而iframe還在的暫態(tài)
        if frameWidth > 0 and frameHeight > 0:
          print(f"驗證碼彈出, 進行處理, frameWidth = {frameWidth}, frameHeight = {frameHeight}")
          # 截屏,在chrome中截取的是可視區(qū)域,而不是整個html頁面
          # 前提是當(dāng)前project下已經(jīng)創(chuàng)建了clawerImgs目錄
          browser.get_screenshot_as_file('clawerImgs/screenshot.png')
          # 先拿到iframe在整個可視頁面(也就是上面的截屏)中的相對位置,因為前面對頁面的窗口大小進行了設(shè)置960 X 960
          # location_once_scrolled_into_view 拿到的是相對于可視區(qū)域的坐標(biāo)
          # location 拿到的是相對整個html頁面的坐標(biāo)
          frameX = int(iframe.location_once_scrolled_into_view['x'])
          frameY = int(iframe.location_once_scrolled_into_view['y'])
          print(f"captchaHandler: frameX = {frameX}, frameY = {frameY}, frameWidth = {frameWidth}, frameHeight = {frameHeight}")
          # 獲取指定元素位置,先拿iframe元素的圖片
          left = frameX
          top = frameY
          right = frameX + frameWidth
          bottom = frameY + frameHeight
          # 通過Image處理圖像,截取frame的圖片 ———— 無意義,只是做經(jīng)驗總結(jié)
          imgFrame = Image.open('clawerImgs/screenshot.png')
          imgFrame = imgFrame.crop((left, top, right, bottom)) # 裁剪
          imgFrame.save('clawerImgs/iframe.png')
          # 切換到驗證碼彈出框的frame,不然無法獲取到驗證碼元素,因為驗證碼元素是在iframe中
          browser.switch_to.frame(iframe)
          # ------獲取驗證碼圖片,第一種方法:在frame區(qū)域截取
          # 獲取指定元素位置
          captchaElem = browser.find_element_by_xpath("http://img[contains(@id, 'CheckCodeImg')]")
          # 因為驗證碼在frame中沒有縮放,直接取驗證碼圖片的絕對坐標(biāo)
          # 這個坐標(biāo)是相對于它所屬的frame的,而不是整個可視區(qū)域
          captchaX = int(captchaElem.location['x'])
          captchaY = int(captchaElem.location['y'])
          # 取驗證碼的寬度和高度
          captchaWidth = captchaElem.size['width']
          captchaHeight = captchaElem.size['height']
          captchaRight = captchaX + captchaWidth
          captchaBottom = captchaY + captchaHeight
          print(f"captchaHandler: 1 captchaX = {captchaX}, captchaY = {captchaY}, captchaWidth = {captchaWidth}, captchaHeight = {captchaHeight}")
          # 通過Image處理圖像,第一種方法:在frame區(qū)域截取
          imgObject = Image.open('clawerImgs/iframe.png')
          imgCaptcha = imgObject.crop((captchaX, captchaY, captchaRight, captchaBottom))   # 裁剪
          imgCaptcha.save('clawerImgs/captcha1.png')
          # ------獲取驗證碼圖片,第二種方法:在整個可視區(qū)域截取。 就要加上這個iframe的便宜量
          captchaElem = browser.find_element_by_xpath("http://img[contains(@id, 'CheckCodeImg')]")
          captchaX = int(captchaElem.location['x']) + frameX
          captchaY = int(captchaElem.location['y']) + frameY
          captchaWidth = captchaElem.size['width']
          captchaHeight = captchaElem.size['height']
          captchaRight = captchaX + captchaWidth
          captchaBottom = captchaY + captchaHeight
          print(f"captchaHandler: 2 captchaX = {captchaX}, captchaY = {captchaY}, captchaWidth = {captchaWidth}, captchaHeight = {captchaHeight}")
          # 通過Image處理圖像,第二種方法:在整個可視區(qū)域截取
          imgObject = Image.open('clawerImgs/screenshot.png')
          imgCaptcha = imgObject.crop((captchaX, captchaY, captchaRight, captchaBottom))    # 裁剪
          imgCaptcha.save('clawerImgs/captcha2.png')

5. 結(jié)果展示

•整個可視區(qū)域:screenshot.png

這里寫圖片描述

•驗證碼登錄框iframe區(qū)域:iframe.png

這里寫圖片描述

•相對于iframe截取的驗證碼圖片:captcha1.png

這里寫圖片描述

•相對于整個可視區(qū)域截取的驗證碼圖片:captcha2.png

這里寫圖片描述

6. 拓展

# 摘自https://www.cnblogs.com/my8100/p/7225408.html
chrome
  default:
    location 不滾動,直接返回相對整個html的坐標(biāo) {'x': 15.0, 'y': 129.0}
    location_once_scrolled_into_view 返回相對可視區(qū)域的坐標(biāo)(改變?yōu)g覽器高度,可以觀察到底部元素底部對齊后y的變化)
      頂部/底部元素 完全可見不滾動,{u'x': 15, u'y': 60}
      頂部元素部分可見或完全不可見都會滾動到 頂部對齊 {u'x': 15, u'y': 0} account-wall
      底部元素部分可見或完全不可見都會滾動到 底部對齊 {u'x': 15, u'y': 594} theme-list
  frame:
    location 不滾動,直接返回相對frame即當(dāng)前相應(yīng)內(nèi)層html的坐標(biāo){'x': 255.0, 'y': 167.0} captcha_frame 的 lc-refresh
    location_once_scrolled_into_view 返回相對可視區(qū)域的坐標(biāo)
      完全可見不滾動{u'x': 273, u'y': 105}
      部分可見或完全不可見滾動到 頂部對齊 {u'x': 273, u'y': 0}
  firefox
    default:
      頂部元素 底部元素
        location 不滾動,直接返回相對整個html的坐標(biāo) {'x': 15.0, 'y': 130.0} {'x': 15.0, 'y': 707.0}
        location_once_scrolled_into_view 返回相對可視區(qū)域的坐標(biāo)(y=1足以說明)
          可見不可見 都滾動到頂部對齊 {'x': 15.0, 'y': 1.0} {'x': 15.0, 'y': 1.0}
          如果下拉條直到底部,底部元素仍然無法頂部對齊 {'x': 15.0, 'y': 82.0}
    frame:
      location 不滾動,都是相對frame即當(dāng)前相應(yīng)html的坐標(biāo){'x': 255.0, 'y': 166.0}
      location_once_scrolled_into_view 可見不可見都會滾動到頂部對齊,('y'依舊是166.0)
        結(jié)果也是相對frame即當(dāng)前相應(yīng)html的坐標(biāo){'x': 255.0, 'y': 166.0}
# 總結(jié)
location 
  始終不滾動,返回相對整個html或者對應(yīng)frame的坐標(biāo)
location_once_scrolled_into_view
  chrome完全可見不滾動,firefox始終會滾動;而且chrome底部元素會底部對齊,其余情況兩者都是頂部對齊。
  一般返回相對可視區(qū)域坐標(biāo),但是firefox的frame依舊返回相對frame的坐標(biāo)
# 摘自:https://zhuanlan.zhihu.com/p/25171554
selenium.webdriver 內(nèi)置了截取當(dāng)前頁面的功能,其中:
  a.WebDriver.Chrome自帶的方法只能對當(dāng)前窗口截屏,若是需要截取的窗口超過了一屏,就只能另辟蹊徑了。
  b.WebDriver.PhantomJS自帶的方法支持對整個網(wǎng)頁截屏。

總結(jié)

以上所述是小編給大家介紹的selenium+python實現(xiàn)1688網(wǎng)站驗證碼圖片的截取功能,希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持!

相關(guān)文章

  • python學(xué)習(xí)之whl文件解釋與安裝詳解

    python學(xué)習(xí)之whl文件解釋與安裝詳解

    whl格式本質(zhì)上是一個壓縮包,里面包含了py文件,以及經(jīng)過編譯的pyd文件,下面這篇文章主要給大家介紹了關(guān)于python學(xué)習(xí)之whl文件解釋與安裝的相關(guān)資料,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下
    2022-09-09
  • python離散建模之感知器學(xué)習(xí)算法

    python離散建模之感知器學(xué)習(xí)算法

    這篇文章主要介紹了python離散建模之感知器學(xué)習(xí)算法,感知機學(xué)習(xí)算法是支持向量機的基礎(chǔ),支持向量機通過核函數(shù)進行非線性分類,支持向量機也是感知機算法的延伸,下面就來介紹感知算法的相關(guān)內(nèi)容,需要的小伙伴可以參考一下
    2022-02-02
  • Python遞歸實現(xiàn)打印多重列表代碼

    Python遞歸實現(xiàn)打印多重列表代碼

    今天小編就為大家分享一篇Python遞歸實現(xiàn)打印多重列表代碼,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-02-02
  • selenium 多窗口切換的實現(xiàn)(windows)

    selenium 多窗口切換的實現(xiàn)(windows)

    這篇文章主要介紹了selenium 多窗口切換的實現(xiàn)(windows),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-01-01
  • 使用Python的SymPy庫解決數(shù)學(xué)運算問題的方法

    使用Python的SymPy庫解決數(shù)學(xué)運算問題的方法

    這篇文章主要介紹了使用Python的SymPy庫解決數(shù)學(xué)運算問題的方法,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2019-03-03
  • python3大文件解壓和基本操作

    python3大文件解壓和基本操作

    這篇文章主要為大家詳細(xì)介紹了python3大文件解壓和基本操作,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2017-12-12
  • Django實現(xiàn)上傳圖片功能

    Django實現(xiàn)上傳圖片功能

    這篇文章為大家詳細(xì)主要介紹了Django實現(xiàn)上傳圖片,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2021-08-08
  • Sublime Text v4.0(4143)安裝方法

    Sublime Text v4.0(4143)安裝方法

    這篇文章主要介紹了Sublime Text v4.0(4143)安裝破解方法,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2023-02-02
  • python cv2在驗證碼識別中應(yīng)用實例解析

    python cv2在驗證碼識別中應(yīng)用實例解析

    這篇文章主要介紹了python cv2在驗證碼識別中應(yīng)用實例解析,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下
    2019-12-12
  • Flask使用SQLAlchemy實現(xiàn)持久化數(shù)據(jù)

    Flask使用SQLAlchemy實現(xiàn)持久化數(shù)據(jù)

    本文主要介紹了Flask使用SQLAlchemy實現(xiàn)持久化數(shù)據(jù),文中通過示例代碼介紹的非常詳細(xì),需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2021-07-07

最新評論