python爬蟲使用requests發(fā)送post請求示例詳解
簡介
HTTP協(xié)議規(guī)定post提交的數(shù)據(jù)必須放在消息主體中,但是協(xié)議并沒有規(guī)定必須使用什么編碼方式。服務(wù)端通過是根據(jù)請求頭中的Content-Type字段來獲知請求中的消息主體是用何種方式進(jìn)行編碼,再對消息主體進(jìn)行解析。具體的編碼方式包括:
application/x-www-form-urlencoded 最常見post提交數(shù)據(jù)的方式,以form表單形式提交數(shù)據(jù)。
application/json 以json串提交數(shù)據(jù)。
multipart/form-data 一般使用來上傳文件。
一、 以form表單發(fā)送post請求
Reqeusts支持以form表單形式發(fā)送post請求,只需要將請求的參數(shù)構(gòu)造成一個字典,然后傳給requests.post()的data參數(shù)即可。
例:
# -*- coding: utf-8 -*- # author:Gary import requests url = 'http://httpbin.org/post' # 一個測試網(wǎng)站的url data = {'key1': 'value1', 'key2': 'value2'} # 你發(fā)送給這個的數(shù)據(jù) r = requests.post(url, data=data) # 使用requests的post方法,data接受你想發(fā)送的數(shù)據(jù) print(r.text) # 查看返回的內(nèi)容
輸出
{ “args”: {}, “data”: “”, “files”: {}, #你提交的表單數(shù)據(jù) “form”: { “key1”: “value1”, “key2”: “value2” }, “headers”: { …… “Content-Type”: “application/x-www-form-urlencoded”, …… }, “json”: null, …… }
可以看到,請求頭中的Content-Type字段已設(shè)置為application/x-www-form-urlencoded,且data = {‘key1': ‘value1', ‘key2': ‘value2'}以form表單的形式提交到服務(wù)端,服務(wù)端返回的form字段即是提交的數(shù)據(jù)。
二、 以json形式發(fā)送post請求
可以將一json串傳給requests.post()的data參數(shù),
# -*- coding: utf-8 -*- # author:Gary import requests import json url = 'http://httpbin.org/post' # 一個測試網(wǎng)站的url json_data = json.dumps({'key1': 'value1', 'key2': 'value2'}) # 你發(fā)送給這個的數(shù)據(jù),數(shù)據(jù)格式轉(zhuǎn)為json r = requests.post(url, data=json_data) # 使用requests的post方法,data接受你想發(fā)送的數(shù)據(jù) print(r.text) # 查看返回的內(nèi)容
輸出:
{ “args”: {}, “data”: “{\”key2\”: \”value2\”, \”key1\”: \”value1\”}”, “files”: {}, “form”: {}, “headers”: { …… “Content-Type”: “application/json”, …… }, “json”: { “key1”: “value1”, “key2”: “value2” }, …… }
可以看到,請求頭的Content-Type設(shè)置為application/json,并將json_data這個json串提交到服務(wù)端中。
三、 以multipart形式發(fā)送post請求(上傳文件)
Requests也支持以multipart形式發(fā)送post請求,只需將一文件傳給requests.post()的files參數(shù)即可。
# -*- coding: utf-8 -*- # author:Gary import requests url = 'http://httpbin.org/post' files = {'file': open('report.txt', 'rb')} # 目錄下得有report.txt文件才能上傳,rb是指以二進(jìn)制格式打開一個文件用于只讀。 r = requests.post(url, files=files) # 通過files參數(shù)指定你想發(fā)送的文件的內(nèi)容 print(r.text)
輸出:
{ “args”: {}, “data”: “”, “files”: { “file”: “Hello world!” }, “form”: {}, “headers”: {…… “Content-Type”: “multipart/form-data; boundary=467e443f4c3d403c8559e2ebd009bf4a”, …… }, “json”: null, …… }
文本文件report.txt的內(nèi)容只有一行:Hello world!,從請求的響應(yīng)結(jié)果可以看到數(shù)據(jù)已上傳到服務(wù)端中。
到此這篇關(guān)于python爬蟲使用requests發(fā)送post請求示例詳解的文章就介紹到這了,更多相關(guān)python爬蟲使用requests發(fā)送post請求內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
基于Python實(shí)現(xiàn)的微信好友數(shù)據(jù)分析
這篇文章主要介紹了基于Python實(shí)現(xiàn)的微信好友數(shù)據(jù)分析的相關(guān)知識,非常不錯,具有參考借鑒價(jià)值,需要的朋友可以參考下2018-02-02如何使用Python實(shí)現(xiàn)名片管理系統(tǒng)
這篇文章主要介紹了如何使用Python實(shí)現(xiàn)名片管理系統(tǒng),文章圍繞主題展開詳細(xì)的內(nèi)容介紹,具有一定的參考價(jià)值,需要的小伙伴可以參考一下,希望對你的學(xué)習(xí)又是幫助2022-08-08Python3 字典dictionary入門基礎(chǔ)附實(shí)例
Python字典是另一種可變?nèi)萜髂P停铱纱鎯θ我忸愋蛯ο?,如字符串、?shù)字、元組等其他容器模型,字典由鍵和對應(yīng)值成對組成,字典也被稱作關(guān)聯(lián)數(shù)組或哈希表2020-02-02Python pandas遍歷行數(shù)據(jù)的2種方法小結(jié)
pandas在數(shù)據(jù)處理過程中,除了對整列字段進(jìn)行處理之外,有時(shí)還需求對每一行進(jìn)行遍歷,本文就來介紹Python pandas遍歷行數(shù)據(jù)的2種方法小結(jié),感興趣的可以了解一下2024-03-03使用Django框架中ORM系統(tǒng)實(shí)現(xiàn)對數(shù)據(jù)庫數(shù)據(jù)增刪改查
這篇文章主要介紹了使用Django的ORM實(shí)現(xiàn)對數(shù)據(jù)庫數(shù)據(jù)增刪改查方法,文中附含詳細(xì)示例代碼以及過程詳解,有需要的朋友可以借鑒參考下2021-09-09詳解Python 定時(shí)框架 Apscheduler原理及安裝過程
Apscheduler是一個非常強(qiáng)大且易用的類庫,可以方便我們快速的搭建一些強(qiáng)大的定時(shí)任務(wù)或者定時(shí)監(jiān)控類的調(diào)度系統(tǒng),這篇文章主要介紹了Python 定時(shí)框架 Apscheduler ,需要的朋友可以參考下2019-06-06Python利用多進(jìn)程將大量數(shù)據(jù)放入有限內(nèi)存的教程
這篇文章主要介紹了Python利用多進(jìn)程將大量數(shù)據(jù)放入有限內(nèi)存的教程,使用了multiprocessing和pandas來加速內(nèi)存中的操作,需要的朋友可以參考下2015-04-04django的分頁器Paginator 從django中導(dǎo)入類
這篇文章主要介紹了django的分頁器Paginator 從django中導(dǎo)入類,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2019-07-07