python爬蟲中g(shù)et和post方法介紹以及cookie作用
更新時(shí)間：2018年02月08日 10:06:15 作者：fengzhizi76506
本篇文章通過爬取163郵箱實(shí)例介紹了python爬蟲中g(shù)et和post方法介紹以及cookie作用，對(duì)此有興趣的朋友學(xué)習(xí)下。
首先確定你要爬取的目標(biāo)網(wǎng)站的表單提交方式，可以通過開發(fā)者工具看到。這里推薦使用chrome。
這里我用163郵箱為例
打開工具后再Network中，在Name選中想要了解的網(wǎng)站，右側(cè)headers里的request method就是提交方式。status如果是200表示成功訪問下面的有頭信息，cookie是你登錄之后產(chǎn)生的存儲(chǔ)會(huì)話（session）信息的。第一次訪問該網(wǎng)頁需要提供用戶名和密碼，之后只需要在headers里提供cookie就可以登陸進(jìn)去。
引入requests庫，會(huì)提供get和post的方法。
代碼示例：
import requests
import ssl
user_agent="Mozilla/5.0 (Windows NT 10.0; WOW64; rv:50.0) Gecko/20100101 Firefox/50.0"
accept='text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8'
accept_language='zh-CN,zh;q=0.8,en-US;q=0.5,en;q=0.3'
upgrade='1'
headers={
'User-Agent':user_agent,
'Accept':accept,
'Accept-Language':accept_language,
'Cookie':'....'#這里填入你登陸后產(chǎn)生的cookie
}
r = requests.get("http://mail.163.com/js6/main.jsp?sid=OAwUtGgglzEJoANLHPggrsKKAhsyheAT&df=mail163_letter#module=welcome.WelcomeModule%7C%7B%7D",headers=headers,verify=False)
fp = open("/temp/csdn.txt","w",encoding='utf-8')
fp.write(str(r.content,'utf-8'))
fp.close()
這里我引入了ssl庫，因?yàn)槲业谝淮卧L問的網(wǎng)頁證書過期。如果我們使用爬蟲進(jìn)入這樣的網(wǎng)站時(shí)，會(huì)報(bào)錯(cuò)：SSLError: [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:581)
在requests的get和post方法中，有一個(gè)參數(shù)為verify，把他設(shè)為False后會(huì)禁掉證書的要求
相關(guān)文章
python版本的仿windows計(jì)劃任務(wù)工具
這篇文章主要介紹了python版本的仿windows計(jì)劃任務(wù)工具,計(jì)劃任務(wù)工具根據(jù)自己設(shè)定的具體時(shí)間，頻率，命令等屬性來規(guī)定所要執(zhí)行的計(jì)劃,當(dāng)然功能不是很全大家可以補(bǔ)充2018-04-04
這篇文章主要介紹了Python面向?qū)ο缶幊袒A(chǔ)解析的相關(guān)內(nèi)容，如果您想對(duì)Python編程的基礎(chǔ)部分有所了解，這篇文章是值得一看的，需要的朋友可以參考下。2017-10-10
使用pandas模塊讀取csv文件和excel表格,并用matplotlib畫圖的方法
今天小編就為大家分享一篇使用pandas模塊讀取csv文件和excel表格,并用matplotlib畫圖的方法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2018-06-06
這篇文章主要為大家詳細(xì)介紹了pygame實(shí)現(xiàn)貪吃蛇小游戲，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2022-01-01
這篇文章主要介紹了關(guān)于Keras Dense層整理，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-05-05
這篇文章主要介紹了利用Python爬蟲爬取城市公交站點(diǎn)的數(shù)據(jù)，文中的代碼具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-12-12
這篇文章主要給大家介紹了關(guān)于Python代理IP爬蟲的相關(guān)資料，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家學(xué)習(xí)或者使用Python具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-09-09
本文主要介紹了運(yùn)用docx模塊實(shí)現(xiàn)讀取Word，調(diào)整Word樣式以及Word 寫入操作的示例代碼，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2021-11-11
使用python畫出邏輯斯蒂映射(logistic map)中的分叉圖案例
這篇文章主要介紹了使用python畫出邏輯斯蒂映射(logistic map)中的分叉圖案例，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-12-12
CentOS安裝pillow報(bào)錯(cuò)的解決方法
本文給大家分享的是作者在centos下為Python安裝pillow的時(shí)候報(bào)錯(cuò)的解決方法，希望對(duì)大家能夠有所幫助。2016-01-01