python爬蟲用request庫處理cookie的實例講解
更新時間：2021年02月20日 15:53:59 作者：宋雪維
在本篇內(nèi)容里小編給大家整理的是一篇關于python爬蟲用request庫處理cookie的實例講解內(nèi)容，有需要的朋友們可以學習參考下。
python爬蟲中使用urli庫可以使用opener"發(fā)送多個請求，這些請求是能共享處理cookie的，小編之前也提過python爬蟲中使用request庫會比urllib庫更加⽅便，使用使用requests也能達到共享cookie的目的，即使用request庫get方法和使用requests庫提供的session對象都可以處理。
方法一：使用request庫get方法
resp = requests.get('http://www.baidu.com/')
print(resp.cookies)
print(resp.cookies.get_dict())
方法二：使用requests庫提供的 session對象
import requests
url = "http://www.renren.com/PLogin.do"
data = {"email":"970138074@qq.com",'password':"pythonspider"}
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登錄
session = requests.session() session.post(url,data=data,headers=headers)
#訪問
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```
知識點擴展：
我們知道了requests中的session對象能夠在請求之間保持cookie，它極大地方便了我們?nèi)ナ褂胏ookie。當我們想設置方法級別中的請求時，可以如下面示例一樣操作。
import requests s = requests.session() # 第一步：發(fā)送一個請求，用于設置請求中的cookies cookies = dict(cookies_are='cookie1') # tips: http://httpbin.org能夠用于測試http請求和響應 r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r1.text) # 第二步：發(fā)送一個請求，用于再次設置請求中的cookies cookies = dict(cookies_are='cookie2') r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r2.text)
運行后
# r1.text
{
"cookies": {
"cookies_are": "cookie1"
}
}
# t2.text
{
"cookies": {
"cookies_are": "cookie2"
}
}
到此這篇關于python爬蟲用request庫處理cookie的實例講解的文章就介紹到這了,更多相關python爬蟲如何使用request庫處理cookie內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！
相關文章
本文分享了什么是測試驅(qū)動開發(fā)，并用測試驅(qū)動開發(fā)的方式 創(chuàng)建了一個簡單的 Django 應用程序，感興趣的可以了解一下2021-11-11
這篇文章主要給大家介紹了關于Python?count()函數(shù)用法的相關資料,Python?count()方法用于統(tǒng)計字符串里某個字符出現(xiàn)的次數(shù),可選參數(shù)為在字符串搜索的開始與結(jié)束位置,需要的朋友可以參考下2024-02-02
解決pycharm 遠程調(diào)試 上傳 helpers 卡住的問題
今天小編就為大家分享一篇解決pycharm 遠程調(diào)試 上傳 helpers 卡住的問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06
這篇文章主要為大家詳細介紹了python tkinter實現(xiàn)定時關機，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-04-04
如何利用python的tkinter實現(xiàn)一個簡單的計算器
這篇文章主要給大家介紹了關于如何利用python的tkinter實現(xiàn)一個簡單的計算器的相關資料,文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2021-04-04
這篇文章主要介紹了PyCharm中關于安裝第三方包的三個建議，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習學習吧2020-09-09
Python數(shù)據(jù)分析Numpy中常用相關性函數(shù)
這篇文章主要為大家介紹了Python數(shù)據(jù)分析Numpy中常用相關性函數(shù)講解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2022-06-06
這篇文章主要介紹了Python 迭代器與生成器實例詳解的相關資料,需要的朋友可以參考下2017-05-05
這篇文章主要介紹了用Python繪制有趣的萬圣節(jié)南瓜怪效果，本文實例圖文相結(jié)合給大家介紹的非常詳細，具有一定的參考借鑒價值,需要的朋友可以參考下2019-10-10
使用pygame實現(xiàn)垃圾分類小游戲功能（已獲校級二等獎）
這篇文章主要介紹了使用pygame實現(xiàn)垃圾分類小游戲功能（已獲校級二等獎）,本文通過實例代碼給大家介紹的非常詳細，對大家的學習或工作具有一定的參考借鑒價值，需要的朋友可以參考下2020-07-07