python繞過(guò)圖片滑動(dòng)驗(yàn)證碼實(shí)現(xiàn)爬取PTA所有題目功能 附源碼
最近學(xué)了python爬蟲(chóng),本著學(xué)以致用的態(tài)度去應(yīng)用在生活中。突然發(fā)現(xiàn)算法的考試要來(lái)了,范圍就是PTA刷過(guò)的題。讓我一個(gè)個(gè)復(fù)制粘貼?不可能,必須爬它!
先開(kāi)頁(yè)面,人傻了,PTA的題目是異步加載的,爬了個(gè)寂寞(空數(shù)據(jù))。AJAX我又不熟,突然想到了selenium。
selenium可以模擬人的操作讓瀏覽器自動(dòng)執(zhí)行動(dòng)作,具體的自己去了解,不多說(shuō)了。干貨來(lái)了:
登錄界面有個(gè)圖片的滑動(dòng)驗(yàn)證碼
破解它的最好方式就是用opencv,opencv巨強(qiáng),自己了解。
思路開(kāi)始:
1.將背景圖片和可滑動(dòng)的圖片下載
2.用opencv匹配這兩張圖片的最匹配位置,不用在意怎么實(shí)現(xiàn)的,算法極其BT,不是我這種數(shù)學(xué)不及格的人能想的。最終會(huì)得到一個(gè)匹配度最高的XY值
3.由于Y值不用考慮,拖動(dòng)滑塊是X值的事情,調(diào)用selenium里抓放的函數(shù),把X值丟進(jìn)去,讓瀏覽器自動(dòng)滑動(dòng)即可。
注意:由于算法問(wèn)題,可能不能一次成功,重啟程序就行了,或者改動(dòng)代碼。
4.進(jìn)去之后就用selenium各種操作爬就完事了
以下是源碼:
from selenium import webdriver from selenium.webdriver.common.action_chains import ActionChains import requests import time import numpy import cv2 import os #作者:許文鴻 #未經(jīng)允許不可轉(zhuǎn)載,轉(zhuǎn)載時(shí)注明出處 #創(chuàng)建 WebDriver 對(duì)象,指明使用chrome瀏覽器驅(qū)動(dòng) web = webdriver.Chrome(r'd:\chromedriver.exe') web.implicitly_wait(5) #調(diào)用WebDriver 對(duì)象的get方法 可以讓瀏覽器打開(kāi)指定網(wǎng)址 web.get('https://pintia.cn/auth/login') zh = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[1]/div/div/div[1]/input') mm = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[2]/div/div/div[1]/input') #在PTA的賬號(hào)密碼: zh.send_keys('******@qq.com') mm.send_keys('******') #找到登錄按鈕并點(diǎn)擊 web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[2]/button/div/div').click() #等待兩秒,驗(yàn)證碼加載完成 time.sleep(2) #bg背景圖片 bg_img_src = web.find_element_by_xpath( '/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[1]').get_attribute('src') #front可拖動(dòng)圖片 front_img_src = web.find_element_by_xpath( '/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[2]').get_attribute('src') #保存圖片 with open("bg.jpg", mode="wb") as f: f.write(requests.get(bg_img_src).content) with open("front.jpg", mode="wb") as f: f.write(requests.get(front_img_src).content) #將圖片加載至內(nèi)存 bg = cv2.imread("bg.jpg") front = cv2.imread("front.jpg") js = 'alert("本人可能將此程序用于python課設(shè),請(qǐng)靚仔靚女不要直接提交本人代碼。即將報(bào)錯(cuò),需要?jiǎng)h除第42~44行代碼即可正常運(yùn)行");' web.execute_script(js) time.sleep(15) #將背景圖片轉(zhuǎn)化為灰度圖片,將三原色降維 bg = cv2.cvtColor(bg, cv2.COLOR_BGR2GRAY) #將可滑動(dòng)圖片轉(zhuǎn)化為灰度圖片,將三原色降維 front = cv2.cvtColor(front, cv2.COLOR_BGR2GRAY) front = front[front.any(1)] #用cv算法匹配精度最高的xy值 result = cv2.matchTemplate(bg, front, cv2.TM_CCOEFF_NORMED) #numpy解析xy,注意xy與實(shí)際為相反,x=y,y=x x, y = numpy.unravel_index(numpy.argmax(result), result.shape) #找到可拖動(dòng)區(qū)域 div = web.find_element_by_xpath('/html/body/div[3]/div[2]/div/div/div[2]/div/div[2]/div[2]') #拖動(dòng)滑塊,以實(shí)際相反的y值代替x ActionChains(web).drag_and_drop_by_offset(div, xoffset=y // 0.946, yoffset=0).perform() #至此成功破解驗(yàn)證碼,由于算法問(wèn)題,準(zhǔn)確率不能達(dá)到100%,可能需要多運(yùn)行1~2次 for page in range(0, 1000): time.sleep(1) #此處的網(wǎng)址為PTA固定網(wǎng)頁(yè),僅需要更換page web.get('https://pintia.cn/problem-sets?tab=1&filter=all&page={page_}'.format(page_=page)) #獲取當(dāng)前頁(yè)面題目集網(wǎng)址,A_s為a標(biāo)簽的列表,urls用戶存放網(wǎng)址 A_s = web.find_elements_by_class_name('name_QIjv7') urls = [] for a in A_s: urls.append(a.get_attribute('href')) #當(dāng)頁(yè)面不存在可爬取的網(wǎng)址,則退出程序 if urls.__len__() == 0: print('爬取完成') os._exit() #對(duì)剛才獲取的網(wǎng)址列表進(jìn)行遍歷 for url in urls: web.get(url) #找到對(duì)應(yīng)的題目對(duì)象 tm = web.find_elements_by_css_selector("[class='problemStatusRect_3kpmC PROBLEM_ACCEPTED_1Dzzi']") tm_total = 0 for i in range(0, 1000): # 遍歷該頁(yè)面的題型 try: tm_type = web.find_element_by_xpath( '/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/div/div[2]'.format(i_=i * 2 + 2)).text # 如果題型為編程/函數(shù),記錄對(duì)應(yīng)的數(shù)量,方便后續(xù)爬取 if tm_type == '編程題' or tm_type == '函數(shù)題': tm_total += int(web.find_element_by_xpath( '/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/a/div/div'.format(i_=i * 2 + 2)).text[0]) except: break # 根據(jù)函數(shù)/編程題數(shù)量取相應(yīng)的題目對(duì)象,舍棄其他題目 if tm_total != 0: tm = tm[-tm_total:] else: tm = [] # 遍歷剩余題目 for tm_index in tm: try: tm_index.click() time.sleep(0.5) #獲取題目中的代碼 tm_title = web.find_element_by_css_selector( "[class='text-center black-3 text-4 font-weight-bold my-3']").text mycode = web.find_element_by_css_selector('textarea').get_attribute('value') print('題目:' + tm_title) print(mycode) #接下來(lái)可以存入 except: continue
到此這篇關(guān)于python繞過(guò)圖片滑動(dòng)驗(yàn)證碼實(shí)現(xiàn)爬取PTA所有題目功能 附源碼的文章就介紹到這了,更多相關(guān)python圖片滑動(dòng)驗(yàn)證碼內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python簡(jiǎn)單實(shí)現(xiàn)Base64編碼和解碼的方法
這篇文章主要介紹了Python簡(jiǎn)單實(shí)現(xiàn)Base64編碼和解碼的方法,結(jié)合具體實(shí)例形式分析了Python實(shí)現(xiàn)base64編碼解碼相關(guān)函數(shù)與使用技巧,需要的朋友可以參考下2017-04-04python執(zhí)行js腳本報(bào)錯(cuò)CryptoJS is not defined問(wèn)題
這篇文章主要介紹了python執(zhí)行js腳本報(bào)錯(cuò)CryptoJS is not defined問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-05-05利用python為PostgreSQL的表自動(dòng)添加分區(qū)
這篇文章主要介紹了利用python為PostgreSQL的表自動(dòng)添加分區(qū),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-01-01PyHacker編寫(xiě)指南引用Nmap模塊實(shí)現(xiàn)端口掃描器
這篇文章主要為大家介紹了PyHacker編寫(xiě)指南Nmap模塊實(shí)現(xiàn)端口掃描,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-05-05