python爬蟲用request庫處理cookie的實(shí)例講解
python爬蟲中使用urli庫可以使用opener"發(fā)送多個(gè)請(qǐng)求，這些請(qǐng)求是能共享處理cookie的，小編之前也提過python爬蟲中使用request庫會(huì)比urllib庫更加⽅便，使用使用requests也能達(dá)到共享cookie的目的，即使用request庫get方法和使用requests庫提供的session對(duì)象都可以處理。
方法一：使用request庫get方法
resp = requests.get('http://www.baidu.com/')
print(resp.cookies)
print(resp.cookies.get_dict())
方法二：使用requests庫提供的 session對(duì)象
import requests
url = "http://www.renren.com/PLogin.do"
data = {"email":"970138074@qq.com",'password':"pythonspider"}
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登錄
session = requests.session() session.post(url,data=data,headers=headers)
#訪問
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```
知識(shí)點(diǎn)擴(kuò)展：
我們知道了requests中的session對(duì)象能夠在請(qǐng)求之間保持cookie，它極大地方便了我們?nèi)ナ褂胏ookie。當(dāng)我們想設(shè)置方法級(jí)別中的請(qǐng)求時(shí)，可以如下面示例一樣操作。
import requests s = requests.session() # 第一步：發(fā)送一個(gè)請(qǐng)求，用于設(shè)置請(qǐng)求中的cookies cookies = dict(cookies_are='cookie1') # tips: http://httpbin.org能夠用于測試http請(qǐng)求和響應(yīng) r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r1.text) # 第二步：發(fā)送一個(gè)請(qǐng)求，用于再次設(shè)置請(qǐng)求中的cookies cookies = dict(cookies_are='cookie2') r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r2.text)
運(yùn)行后
# r1.text
{
"cookies": {
"cookies_are": "cookie1"
}
}
# t2.text
{
"cookies": {
"cookies_are": "cookie2"
}
}
到此這篇關(guān)于python爬蟲用request庫處理cookie的實(shí)例講解的文章就介紹到這了,更多相關(guān)python爬蟲如何使用request庫處理cookie內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
使用 Django 進(jìn)行測試驅(qū)動(dòng)開發(fā)
本文分享了什么是測試驅(qū)動(dòng)開發(fā)，并用測試驅(qū)動(dòng)開發(fā)的方式 創(chuàng)建了一個(gè)簡單的 Django 應(yīng)用程序，感興趣的可以了解一下2021-11-11
這篇文章主要給大家介紹了關(guān)于Python?count()函數(shù)用法的相關(guān)資料,Python?count()方法用于統(tǒng)計(jì)字符串里某個(gè)字符出現(xiàn)的次數(shù),可選參數(shù)為在字符串搜索的開始與結(jié)束位置,需要的朋友可以參考下2024-02-02
解決pycharm 遠(yuǎn)程調(diào)試 上傳 helpers 卡住的問題
今天小編就為大家分享一篇解決pycharm 遠(yuǎn)程調(diào)試 上傳 helpers 卡住的問題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2019-06-06
python tkinter實(shí)現(xiàn)定時(shí)關(guān)機(jī)
這篇文章主要為大家詳細(xì)介紹了python tkinter實(shí)現(xiàn)定時(shí)關(guān)機(jī)，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2021-04-04
如何利用python的tkinter實(shí)現(xiàn)一個(gè)簡單的計(jì)算器
這篇文章主要給大家介紹了關(guān)于如何利用python的tkinter實(shí)現(xiàn)一個(gè)簡單的計(jì)算器的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2021-04-04
PyCharm中關(guān)于安裝第三方包的三個(gè)建議
這篇文章主要介紹了PyCharm中關(guān)于安裝第三方包的三個(gè)建議，文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-09-09
Python數(shù)據(jù)分析Numpy中常用相關(guān)性函數(shù)
這篇文章主要為大家介紹了Python數(shù)據(jù)分析Numpy中常用相關(guān)性函數(shù)講解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-06-06
這篇文章主要介紹了Python 迭代器與生成器實(shí)例詳解的相關(guān)資料,需要的朋友可以參考下2017-05-05
這篇文章主要介紹了用Python繪制有趣的萬圣節(jié)南瓜怪效果，本文實(shí)例圖文相結(jié)合給大家介紹的非常詳細(xì)，具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-10-10
使用pygame實(shí)現(xiàn)垃圾分類小游戲功能（已獲校級(jí)二等獎(jiǎng)）
這篇文章主要介紹了使用pygame實(shí)現(xiàn)垃圾分類小游戲功能（已獲校級(jí)二等獎(jiǎng)）,本文通過實(shí)例代碼給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值，需要的朋友可以參考下2020-07-07