python繞過圖片滑動驗證碼實現(xiàn)爬取PTA所有題目功能 附源碼
最近學了python爬蟲,本著學以致用的態(tài)度去應用在生活中。突然發(fā)現(xiàn)算法的考試要來了,范圍就是PTA刷過的題。讓我一個個復制粘貼?不可能,必須爬它!
先開頁面,人傻了,PTA的題目是異步加載的,爬了個寂寞(空數(shù)據(jù))。AJAX我又不熟,突然想到了selenium。
selenium可以模擬人的操作讓瀏覽器自動執(zhí)行動作,具體的自己去了解,不多說了。干貨來了:
登錄界面有個圖片的滑動驗證碼
破解它的最好方式就是用opencv,opencv巨強,自己了解。
思路開始:
1.將背景圖片和可滑動的圖片下載
2.用opencv匹配這兩張圖片的最匹配位置,不用在意怎么實現(xiàn)的,算法極其BT,不是我這種數(shù)學不及格的人能想的。最終會得到一個匹配度最高的XY值
3.由于Y值不用考慮,拖動滑塊是X值的事情,調(diào)用selenium里抓放的函數(shù),把X值丟進去,讓瀏覽器自動滑動即可。
注意:由于算法問題,可能不能一次成功,重啟程序就行了,或者改動代碼。
4.進去之后就用selenium各種操作爬就完事了
以下是源碼:
from selenium import webdriver from selenium.webdriver.common.action_chains import ActionChains import requests import time import numpy import cv2 import os #作者:許文鴻 #未經(jīng)允許不可轉載,轉載時注明出處 #創(chuàng)建 WebDriver 對象,指明使用chrome瀏覽器驅動 web = webdriver.Chrome(r'd:\chromedriver.exe') web.implicitly_wait(5) #調(diào)用WebDriver 對象的get方法 可以讓瀏覽器打開指定網(wǎng)址 web.get('https://pintia.cn/auth/login') zh = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[1]/div/div/div[1]/input') mm = web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[1]/div[2]/div/div/div[1]/input') #在PTA的賬號密碼: zh.send_keys('******@qq.com') mm.send_keys('******') #找到登錄按鈕并點擊 web.find_element_by_xpath('/html/body/div[1]/div[3]/div/div[2]/form/div[2]/button/div/div').click() #等待兩秒,驗證碼加載完成 time.sleep(2) #bg背景圖片 bg_img_src = web.find_element_by_xpath( '/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[1]').get_attribute('src') #front可拖動圖片 front_img_src = web.find_element_by_xpath( '/html/body/div[3]/div[2]/div/div/div[2]/div/div[1]/div/div[1]/img[2]').get_attribute('src') #保存圖片 with open("bg.jpg", mode="wb") as f: f.write(requests.get(bg_img_src).content) with open("front.jpg", mode="wb") as f: f.write(requests.get(front_img_src).content) #將圖片加載至內(nèi)存 bg = cv2.imread("bg.jpg") front = cv2.imread("front.jpg") js = 'alert("本人可能將此程序用于python課設,請靚仔靚女不要直接提交本人代碼。即將報錯,需要刪除第42~44行代碼即可正常運行");' web.execute_script(js) time.sleep(15) #將背景圖片轉化為灰度圖片,將三原色降維 bg = cv2.cvtColor(bg, cv2.COLOR_BGR2GRAY) #將可滑動圖片轉化為灰度圖片,將三原色降維 front = cv2.cvtColor(front, cv2.COLOR_BGR2GRAY) front = front[front.any(1)] #用cv算法匹配精度最高的xy值 result = cv2.matchTemplate(bg, front, cv2.TM_CCOEFF_NORMED) #numpy解析xy,注意xy與實際為相反,x=y,y=x x, y = numpy.unravel_index(numpy.argmax(result), result.shape) #找到可拖動區(qū)域 div = web.find_element_by_xpath('/html/body/div[3]/div[2]/div/div/div[2]/div/div[2]/div[2]') #拖動滑塊,以實際相反的y值代替x ActionChains(web).drag_and_drop_by_offset(div, xoffset=y // 0.946, yoffset=0).perform() #至此成功破解驗證碼,由于算法問題,準確率不能達到100%,可能需要多運行1~2次 for page in range(0, 1000): time.sleep(1) #此處的網(wǎng)址為PTA固定網(wǎng)頁,僅需要更換page web.get('https://pintia.cn/problem-sets?tab=1&filter=all&page={page_}'.format(page_=page)) #獲取當前頁面題目集網(wǎng)址,A_s為a標簽的列表,urls用戶存放網(wǎng)址 A_s = web.find_elements_by_class_name('name_QIjv7') urls = [] for a in A_s: urls.append(a.get_attribute('href')) #當頁面不存在可爬取的網(wǎng)址,則退出程序 if urls.__len__() == 0: print('爬取完成') os._exit() #對剛才獲取的網(wǎng)址列表進行遍歷 for url in urls: web.get(url) #找到對應的題目對象 tm = web.find_elements_by_css_selector("[class='problemStatusRect_3kpmC PROBLEM_ACCEPTED_1Dzzi']") tm_total = 0 for i in range(0, 1000): # 遍歷該頁面的題型 try: tm_type = web.find_element_by_xpath( '/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/div/div[2]'.format(i_=i * 2 + 2)).text # 如果題型為編程/函數(shù),記錄對應的數(shù)量,方便后續(xù)爬取 if tm_type == '編程題' or tm_type == '函數(shù)題': tm_total += int(web.find_element_by_xpath( '/html/body/div/div[3]/div[2]/div/div[2]/div[{i_}]/a/div/div'.format(i_=i * 2 + 2)).text[0]) except: break # 根據(jù)函數(shù)/編程題數(shù)量取相應的題目對象,舍棄其他題目 if tm_total != 0: tm = tm[-tm_total:] else: tm = [] # 遍歷剩余題目 for tm_index in tm: try: tm_index.click() time.sleep(0.5) #獲取題目中的代碼 tm_title = web.find_element_by_css_selector( "[class='text-center black-3 text-4 font-weight-bold my-3']").text mycode = web.find_element_by_css_selector('textarea').get_attribute('value') print('題目:' + tm_title) print(mycode) #接下來可以存入 except: continue
到此這篇關于python繞過圖片滑動驗證碼實現(xiàn)爬取PTA所有題目功能 附源碼的文章就介紹到這了,更多相關python圖片滑動驗證碼內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Python簡單實現(xiàn)Base64編碼和解碼的方法
這篇文章主要介紹了Python簡單實現(xiàn)Base64編碼和解碼的方法,結合具體實例形式分析了Python實現(xiàn)base64編碼解碼相關函數(shù)與使用技巧,需要的朋友可以參考下2017-04-04python執(zhí)行js腳本報錯CryptoJS is not defined問題
這篇文章主要介紹了python執(zhí)行js腳本報錯CryptoJS is not defined問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-05-05利用python為PostgreSQL的表自動添加分區(qū)
這篇文章主要介紹了利用python為PostgreSQL的表自動添加分區(qū),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2021-01-01PyHacker編寫指南引用Nmap模塊實現(xiàn)端口掃描器
這篇文章主要為大家介紹了PyHacker編寫指南Nmap模塊實現(xiàn)端口掃描,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2022-05-05