python三方庫之requests的快速上手

更新時間：2019年03月04日 09:31:05 作者：當(dāng)麻的小紅箱

這篇文章主要介紹了python三方庫之requests的快速上手，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧

本文基于2.21.0

發(fā)送請求

發(fā)送GET請求：

r = requests.get('https://api.github.com/events')

發(fā)送POST請求：

r = requests.post('https://httpbin.org/post', data={'key':'value'})

其他請求接口與HTTP請求類型一致，如PUT, DELETE, HEAD, OPTIONS等。

在URL查詢字符串中使用參數(shù)

給params參數(shù)傳遞一個字典對象：

>>> payload = {'key1': 'value1', 'key2': 'value2'}
>>> r = requests.get('https://httpbin.org/get', params=payload)
>>> print(r.url)
https://httpbin.org/get?key2=value2&key1=value1

字典的值也可以是一個列表：

>>> payload = {'key1': 'value1', 'key2': ['value2', 'value3']}
>>> r = requests.get('https://httpbin.org/get', params=payload)
>>> print(r.url)
https://httpbin.org/get?key1=value1&key2=value2&key2=value3

參數(shù)中值為None的鍵值對不會加到查詢字符串

文本響應(yīng)內(nèi)容

Response對象的text屬性可以獲取服務(wù)器響應(yīng)內(nèi)容的文本形式，Requests會自動解碼：

>>> r = requests.get('https://api.github.com/events')
>>> r.text
'[{"id":"9167113775","type":"PushEvent","actor"...

訪問Response.text時，Requests將基于HTTP頭猜測響應(yīng)內(nèi)容編碼。使用Response.encoding屬性可以查看或改變Requests使用的編碼：

>>> r.encoding
'utf-8'
>>> r.encoding = 'ISO-8859-1'

二進(jìn)制響應(yīng)內(nèi)容

Response對象的content屬性可以獲取服務(wù)器響應(yīng)內(nèi)容的二進(jìn)制形式：

>>> r.content
b'[{"id":"9167113775","type":"PushEvent","actor"...

JSON響應(yīng)內(nèi)容

Response對象的json()方法可以獲取服務(wù)器響應(yīng)內(nèi)容的JSON形式：

>>> r = requests.get('https://api.github.com/events')
>>> r.json()
[{'repo': {'url': 'https://api.github.com/...

如果JSON解碼失敗，將拋出異常。

原始響應(yīng)內(nèi)容

在極少情況下，可能需要訪問服務(wù)器原始套接字響應(yīng)。通過在請求中設(shè)置stream=True參數(shù)，并訪問Response對象的raw屬性實現(xiàn)：

>>> r = requests.get('https://api.github.com/events', stream=True)
>>> r.raw
<urllib3.response.HTTPResponse object at 0x101194810>
>>> r.raw.read(10)
'\x1f\x8b\x08\x00\x00\x00\x00\x00\x00\x03'

通常的用法是用下面這種方式將原始響應(yīng)內(nèi)容保存到文件，Response.iter_content方法將自動解碼gzip和deflate傳輸編碼：

with open(filename, 'wb') as fd:
  for chunk in r.iter_content(chunk_size=128):
    fd.write(chunk)

定制請求頭

傳遞一個dict對象到headers參數(shù)，可以添加HTTP請求頭：

>>> url = 'https://api.github.com/some/endpoint'
>>> headers = {'user-agent': 'my-app/0.0.1'}

>>> r = requests.get(url, headers=headers)

定制的header的優(yōu)先級較低，在某些場景或條件下可能被覆蓋。

所有header的值必須是string, bytestring或unicode類型。但建議盡量避免傳遞unicode類型的值

更復(fù)雜的POST請求

發(fā)送form-encoded數(shù)據(jù)

給data參數(shù)傳遞一個字典對象：

>>> payload = {'key1': 'value1', 'key2': 'value2'}
>>> r = requests.post("https://httpbin.org/post", data=payload)

如果有多個值對應(yīng)一個鍵，可以使用由元組組成的列表或者值是列表的字典：

>>> payload_tuples = [('key1', 'value1'), ('key1', 'value2')]
>>> r1 = requests.post('https://httpbin.org/post', data=payload_tuples)
>>> payload_dict = {'key1': ['value1', 'value2']}
>>> r2 = requests.post('https://httpbin.org/post', data=payload_dict)

發(fā)送非form-encoded數(shù)據(jù)

如果傳遞的是字符串而非字典，將直接發(fā)送該數(shù)據(jù)：

>>> import json
>>> url = 'https://api.github.com/some/endpoint'
>>> payload = {'some': 'data'}
>>> r = requests.post(url, data=json.dumps(payload))

或者可以使用json參數(shù)自動對字典對象編碼：

>>> url = 'https://api.github.com/some/endpoint'
>>> payload = {'some': 'data'}
>>> r = requests.post(url, json=payload)

a) 如果在請求中使用了data或files參數(shù)，json參數(shù)會被忽略。b) 在請求中使用json參數(shù)會改變Content-Type的值為application/json

POST一個多部分編碼(Multipart-Encoded)的文件

上傳文件：

>>> url = 'https://httpbin.org/post'
>>> files = {'file': open('report.xls', 'rb')}
>>> r = requests.post(url, files=files)

顯式地設(shè)置文件名，內(nèi)容類型(Content-Type)以及請求頭：

>>> url = 'https://httpbin.org/post'
>>> files = {'file': ('report.xls', open('report.xls', 'rb'), 'application/vnd.ms-excel', {'Expires': '0'})}
>>> r = requests.post(url, files=files)

甚至可以發(fā)送作為文件接收的字符串：

>>> url = 'http://httpbin.org/post'
>>> files = {'file': ('report.csv', 'some,data,to,send\nanother,row,to,send\n')}
>>> r = requests.post(url, files=files)

如果發(fā)送的文件過大，建議使用第三方包requests-toolbelt做成數(shù)據(jù)流。

強(qiáng)烈建議以二進(jìn)制模式打開文件，因為Requests可能以文件中的字節(jié)長度來設(shè)置Content-Length

響應(yīng)狀態(tài)碼

Response對象的status_code屬性可以獲取響應(yīng)狀態(tài)：

>>> r = requests.get('https://httpbin.org/get')
>>> r.status_code
200

requests庫還內(nèi)置了狀態(tài)碼以供參考：

>>> r.status_code == requests.codes.ok
True

如果請求異常(狀態(tài)碼為4XX的客戶端錯誤或5XX的服務(wù)端錯誤)，可以調(diào)用raise_for_status()方法拋出異常：

>>> bad_r = requests.get('https://httpbin.org/status/404')
>>> bad_r.status_code
404
>>> bad_r.raise_for_status()
Traceback (most recent call last):
 File "requests/models.py", line 832, in raise_for_status
  raise http_error
requests.exceptions.HTTPError: 404 Client Error

響應(yīng)頭

Response對象的headers屬性可以獲取響應(yīng)頭，它是一個字典對象，鍵不區(qū)分大小寫：

>>> r.headers
{
  'content-encoding': 'gzip',
  'transfer-encoding': 'chunked',
  'connection': 'close',
  'server': 'nginx/1.0.4',
  'x-runtime': '148ms',
  'etag': '"e1ca502697e5c9317743dc078f67693f"',
  'content-type': 'application/json'
}
>>> r.headers['Content-Type']
'application/json'
>>> r.headers.get('content-type')
'application/json'

Cookies

Response對象的cookies屬性可以獲取響應(yīng)中的cookie信息：

>>> url = 'http://example.com/some/cookie/setting/url'
>>> r = requests.get(url)
>>> r.cookies['example_cookie_name']
'example_cookie_value'

使用cookies參數(shù)可以發(fā)送cookie信息：

>>> url = 'https://httpbin.org/cookies'
>>> cookies = dict(cookies_are='working')
>>> r = requests.get(url, cookies=cookies)

Response.cookies返回的是一個RequestsCookieJar對象，跟字典類似但提供了額外的接口，適合多域名或多路徑下使用，也可以在請求中傳遞：

>>> jar = requests.cookies.RequestsCookieJar()
>>> jar.set('tasty_cookie', 'yum', domain='httpbin.org', path='/cookies')
>>> jar.set('gross_cookie', 'blech', domain='httpbin.org', path='/elsewhere')
>>> url = 'https://httpbin.org/cookies'
>>> r = requests.get(url, cookies=jar)
>>> r.text
'{"cookies": {"tasty_cookie": "yum"}}'

重定向及請求歷史

requests默認(rèn)對除HEAD外的所有請求執(zhí)行地址重定向。Response.history屬性可以追蹤重定向歷史，它返回一個list，包含為了完成請求創(chuàng)建的所有Response對象并由老到新排序。

下面是一個HTTP重定向HTTPS的用例：

>>> r = requests.get('http://github.com/')
>>> r.url
'https://github.com/'
>>> r.status_code
200
>>> r.history
[<Response [301]>]

使用allow_redirects參數(shù)可以禁用重定向：

>>> r = requests.get('http://github.com/', allow_redirects=False)
>>> r.status_code
301
>>> r.history
[]

如果使用的是HEAD請求，也可以使用allow_redirects參數(shù)允許重定向：

>>> r = requests.head('http://github.com/', allow_redirects=True)
>>> r.url
'https://github.com/'
>>> r.history
[<Response [301]>]

請求超時

使用timeout參數(shù)設(shè)置服務(wù)器返回響應(yīng)的最大等待時間：

>>> requests.get('https://github.com/', timeout=0.001)
Traceback (most recent call last):
 File "<stdin>", line 1, in <module>
requests.exceptions.Timeout: HTTPConnectionPool(host='github.com', port=80): Request timed out. (timeout=0.001)

錯誤及異常