Python爬蟲信息輸入及頁面的切換方法
實現(xiàn)網(wǎng)頁的鍵盤輸入操作
from selenium.webdriver.common.keys import Keys 動態(tài)網(wǎng)頁有時需要將鼠標懸停在某個元素上,相應的列表選項才能顯示出來。 而爬蟲在工作的時候也需要相應的操作,才能獲得列表項。 driver.find_element_by_class_name(...).send_keys(需要輸入的字串) #find_element_by_class_name可以是find_element_by_link_text、find_element_by_id等其他方式 #send_keys一些特殊字符串,可以通過help(Keys)顯示出來,如實現(xiàn)按回車操作需要使用Keys.ENTER
實現(xiàn)網(wǎng)頁上的鼠標的動作
driver.find_element_by_link_text('更多').click()#需要指示到/a鏈接的位置
#同樣find_element_by_link_text可以是find_element_by_id等類似的其他方式
使用ActionChains可以實現(xiàn)鼠標的更多操作
from selenium.webdriver.common.action_chains import *
ActionChains中的操作:
click() -- 單擊、click_and_hold()-- 按下鼠標左鍵在一個元素上、context_click() --單擊、double_click()--雙擊、drag_and_drop()--拖動、key_down()、key_up()、move_by_offset()、move_to_elment()、move_to_elment_with_offset()
動態(tài)網(wǎng)頁鼠標操作及遇到的問題
動態(tài)網(wǎng)頁有時需要將鼠標懸停在某個元素上,相應的列表選項才能顯示出來。而爬蟲在工作的時候也需要相應的操作,才能獲得列表項。
#首先需要將鼠標停留到相應的元素 chain = ActionChains(driver) moveelment = driver.find_element_by_xpath("...") chain.move_to_element(moveelment).perform() driver.find_element_by_xpath("http://div[@class='search-condition c5 drop-down']/a/div").click() #而后進行選擇列表項 driver.find_element_by_xpath("http://ul[@id='category_list']/li[1]/a").click() driver.find_element_by_xpath("http://ul[@id='category_list']/li[2]/a").click()
而當想要進行多列操作時出現(xiàn)了問題:driver.find_element_by_xpath("http://ul[@id='category_list']/li[2]/a").click()一直無法成功仔細debug發(fā)現(xiàn):在人工瀏覽查看相應列表時,全屏情況下列表顯示是3列,而當需要聚焦特殊網(wǎng)頁時,通過解析current_url進行比較即可,是否存在更好的方法。如果窗口很小就只能顯示第一列的值。所以嘗試將爬蟲后臺瀏覽器窗口設置成最大化,程序正常工作,如下:
#... ... driver.find_element_by_xpath("http://ul[@id='category_list']/li[1]/a").click() driver.maximize_window() time.sleep(1) driver.find_element_by_xpath("http://ul[@id='category_list']/li[2]/a").click()
關于窗口的頁面切換方式
經(jīng)常在網(wǎng)頁操作時,會彈出新的頁面,而爬蟲需要程序進行窗口間的切換。
#切換網(wǎng)頁,以獲取新彈出的網(wǎng)頁窗口 for handle in driver.window_handles: driver.switch_to_window(handle) print('current url:%s'%driver.current_url)
當需要聚焦特殊網(wǎng)頁時,通過解析current_url進行比較即可,是否存在更好的方法。
以上這篇Python爬蟲信息輸入及頁面的切換方法就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
- 一個簡單的python爬蟲程序 爬取豆瓣熱度Top100以內的電影信息
- python爬蟲爬取淘寶商品信息(selenum+phontomjs)
- python爬蟲爬取淘寶商品信息
- Python實現(xiàn)可獲取網(wǎng)易頁面所有文本信息的網(wǎng)易網(wǎng)絡爬蟲功能示例
- 使用python爬蟲實現(xiàn)網(wǎng)絡股票信息爬取的demo
- python爬蟲_微信公眾號推送信息爬取的實例
- Python網(wǎng)絡爬蟲與信息提取(實例講解)
- Python爬蟲實現(xiàn)網(wǎng)頁信息抓取功能示例【URL與正則模塊】
- Python爬蟲框架Scrapy實戰(zhàn)之批量抓取招聘信息
- python爬蟲租房信息在地圖上顯示的方法
相關文章
使用Python實現(xiàn)全攝像頭拍照與鍵盤輸入監(jiān)聽功能
這篇文章主要介紹了使用Python實現(xiàn)全攝像頭拍照與鍵盤輸入監(jiān)聽功能,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2023-08-08解決python3 json數(shù)據(jù)包含中文的讀寫問題
今天小編就為大家分享一篇解決python3 json數(shù)據(jù)包含中文的讀寫問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-05-05