Python爬蟲(chóng)urllib和requests的區(qū)別詳解
我們講了requests的用法以及利用requests簡(jiǎn)單爬取、保存網(wǎng)頁(yè)的方法,這節(jié)課我們主要講urllib和requests的區(qū)別。
1、獲取網(wǎng)頁(yè)數(shù)據(jù)
第一步,引入模塊。
兩者引入的模塊是不一樣的,這一點(diǎn)顯而易見(jiàn)。
第二步,簡(jiǎn)單網(wǎng)頁(yè)發(fā)起的請(qǐng)求。
urllib是通過(guò)urlopen方法獲取數(shù)據(jù)。
requests需要通過(guò)網(wǎng)頁(yè)的響應(yīng)類型獲取數(shù)據(jù)。
第三步,數(shù)據(jù)封裝。
對(duì)于復(fù)雜的數(shù)據(jù)請(qǐng)求,我們只是簡(jiǎn)單的通過(guò)urlopen方法肯定是不行的。最后,如果你的時(shí)間不是很緊張,并且又想快速的提高,最重要的是不怕吃苦,建議你可以聯(lián)系維:762459510 ,那個(gè)真的很不錯(cuò),很多人進(jìn)步都很快,需要你不怕吃苦哦!大家可以去添加上看一下~
urllib中,我們知道對(duì)于有反爬蟲(chóng)機(jī)制的網(wǎng)站,我們需要對(duì)URL進(jìn)行封裝,以獲取到數(shù)據(jù)。我們可以回顧下前幾節(jié)課的內(nèi)容:
requests模塊中,就不需要這么復(fù)雜的操作,直接在第二步中,加入?yún)?shù)headers即可:
2、解析網(wǎng)頁(yè)數(shù)據(jù)
urllib和requests都可以通過(guò)bs4和re進(jìn)行數(shù)據(jù)的解析,requests還可以通過(guò)xpath進(jìn)行解析。具體解析方法之后會(huì)詳解
3.保存數(shù)據(jù)
urllib需要引入xlwt模塊進(jìn)行新建表格、sheet表格寫(xiě)入數(shù)據(jù).最后,如果你的時(shí)間不是很緊張,并且又想快速的提高,最重要的是不怕吃苦,建議你可以聯(lián)系維:762459510 ,那個(gè)真的很不錯(cuò),很多人進(jìn)步都很快,需要你不怕吃苦哦!大家可以去添加上看一下~
requests通過(guò)with…as直接虛入數(shù)據(jù):
到此這篇關(guān)于Python爬蟲(chóng)urllib和requests的區(qū)別詳解的文章就介紹到這了,更多相關(guān)Python爬蟲(chóng)urllib和requests的區(qū)別內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
matplotlib 范圍選區(qū)(SpanSelector)的使用
這篇文章主要介紹了matplotlib 范圍選區(qū)(SpanSelector)的使用,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-02-02python3.6連接mysql數(shù)據(jù)庫(kù)及增刪改查操作詳解
這篇文章主要介紹了python3.6 連接mysql數(shù)據(jù)庫(kù)及增刪改查操作詳解,需要的朋友可以參考下2020-02-02淺談keras中的keras.utils.to_categorical用法
這篇文章主要介紹了淺談keras中的keras.utils.to_categorical用法,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-07-07Django2.1.7 查詢數(shù)據(jù)返回json格式的實(shí)現(xiàn)
這篇文章主要介紹了Django2.1.7 查詢數(shù)據(jù)返回json格式的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-12-12python實(shí)現(xiàn)余弦相似度文本比較的示例
這篇文章主要介紹了python實(shí)現(xiàn)余弦相似度文本比較的示例,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-05-05