淺談Python協(xié)程asyncio
一、協(xié)程
官方描述;
協(xié)程是子例程的更一般形式。 子例程可以在某一點進入并在另一點退出。 協(xié)程則可以在許多不同的點上進入、退出和恢復(fù)。 它們可通過 async def 語句來實現(xiàn)。 參見 PEP 492。
- 協(xié)程不是計算機內(nèi)部提供的,不像進程、線程,由電腦本身提供,它是由程序員人為創(chuàng)造的, 實現(xiàn)函數(shù)異步執(zhí)行。
- 協(xié)程(Coroutine),也可以被稱為微線程,是一種用戶太內(nèi)的上下文切換技術(shù),其實就是通過一個線程實現(xiàn)代碼塊相互切換執(zhí)行??瓷先ハ褡映绦?,但執(zhí)行過程中,在子程序內(nèi)部可中斷,然后轉(zhuǎn)而執(zhí)行別的子程序,在適當?shù)臅r候再返回來接著執(zhí)行。例如:
# 需要python3.7+
import asyncio
async def main():
print('hello')
await asyncio.sleep(1)
print('world')
asyncio.run(main())
# 打印 "hello",等待 1 秒,再打印 "world"
注意:簡單地調(diào)用一個協(xié)程并不會使其被調(diào)度執(zhí)行,
直接main() 調(diào)用會有問題:
RuntimeWarning: coroutine 'main' was never awaited main() RuntimeWarning: Enable tracemalloc to get the object allocation traceback
def func1():
print(1)
...
print(2)
def func2():
print(3)
...
print(4)
func1()
func2()
# 結(jié)果:1 2 3 4
實現(xiàn)協(xié)程的方法:
- greenlet,早期模塊【不建議使用】
- yield關(guān)鍵字,它是python的生成器,具有保存狀態(tài),切換到其他函數(shù)去執(zhí)行,再切換回原函數(shù)的功能。
- asyncio裝飾器(python3.4引入)
- async、await 關(guān)鍵字(python3.5)【推薦使用】
1.1 greenlet實現(xiàn)協(xié)程
# 第三方模塊,因此需要安裝 pip install greenlet
from greenlet import greenlet
def func1():
print(1)
gr2.switch()
print(2)
gr2.switch()
def func2():
print(3)
gr1.switch()
print(4)
gr1 = greenlet(func1)
gr2 = greenlet(func2)
gr1.switch()
# 結(jié)果:1 3 2 4
1.2 yield關(guān)鍵字
def func1():
yield 1
yield from func2()
yield 2
def func2():
yield 3
yield 4
f1 = func1()
for item in f1:
print(item)
# 結(jié)果:1 3 2 4
1.3 asynico裝飾器
python3.4 及之后版本支持
DeprecationWarning: “@coroutine” decorator is deprecated since Python 3.8, use “async def”
翻譯:@coroutine"裝飾器自Python 3.8起已棄用,請使用"async def"代替
所以這個也不支持。
import asyncio
@asyncio.coroutine
def func1():
print(1)
yield from asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片
print(2)
@asyncio.coroutine
def func2():
print(3)
yield from asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片
print(4)
tasks = [
asyncio.ensure_future(func1()),
asyncio.ensure_future(func2())
]
loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
# 結(jié)果: 1 3 2 4
1.4 async & await 關(guān)鍵字
import asyncio
async def func1():
print(1)
await asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片
print(2)
async def func2():
print(3)
await asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片
print(4)
tasks = [
asyncio.ensure_future(func1()),
asyncio.ensure_future(func2())
]
loop = asyncio.get_event_loop()
loop.run_until_complete(asyncio.wait(tasks))
二、協(xié)程的意義
充分利用線程。在一個線程中如果遇到IO等待時間線程不會一直等待,利用空閑時間再去干點其他事情。
以下載三張圖片為例:
普通方式(同步)下載:
import time
import requests
def download_image(url, img_name):
print("開始下載:", url)
# 發(fā)送網(wǎng)絡(luò)請求,下載圖片
response = requests.get(url)
print("下載完成")
# 圖片保存到本地文件
file_name = str(img_name) + '.png'
with open(file_name, mode='wb') as file:
file.write(response.content)
if __name__ == '__main__':
start = time.time()
url_list = [
'https://tse4-mm.cn.bing.net/th/id/OIP.866vRxQ8QvyDsrUuXiu7qwHaNK?w=182&h=324&c=7&o=5&pid=1.7',
'https://tse2-mm.cn.bing.net/th/id/OIP.HUcWtoYPG-z2pu4ityajbAHaKQ?w=182&h=252&c=7&o=5&pid=1.7',
'https://tse2-mm.cn.bing.net/th/id/OIP.MvncR0-Pt9hVxKTdrvD9dAHaNK?w=182&h=324&c=7&o=5&pid=1.7',
'https://tse1-mm.cn.bing.net/th/id/OIP._nGloaeMWbL7NB7Lp6SnXQHaLH?w=182&h=273&c=7&o=5&pid=1.7',
]
img_name = 1
for item in url_list:
download_image(item, img_name)
img_name += 1
end = time.time()
print(end - start)
# 最終時間:7.25s
協(xié)程方式(異步)下載:
import aiohttp
import asyncio
import time
async def fetch(session, url):
print("發(fā)送請求:", url)
async with session.get(url, verify_ssl=False) as response:
content = await response.content.read()
file_name = url.rsplit('_')[-1]
# print(file_name)
with open(file_name, mode='wb') as file_object:
file_object.write(content)
print("下載完成")
async def main():
async with aiohttp.ClientSession() as session:
url_list = [
'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg',
'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg',
'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg',
'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg',
]
tasks = [asyncio.ensure_future(fetch(session, url)) for url in url_list]
await asyncio.wait(tasks)
if __name__ == '__main__':
start = time.time()
asyncio.get_event_loop().run_until_complete(main())
end = time.time()
print(end - start)
# 結(jié)果:0.05s
到此這篇關(guān)于淺談Python協(xié)程的文章就介紹到這了,更多相關(guān)Python協(xié)程內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python使用scrapy采集時偽裝成HTTP/1.1的方法
這篇文章主要介紹了Python使用scrapy采集時偽裝成HTTP/1.1的方法,實例分析了scrapy采集的使用技巧,非常具有實用價值,需要的朋友可以參考下2015-04-04
如何解決pytorch訓(xùn)練過程中CPU內(nèi)存溢出問題
這篇文章主要介紹了如何解決pytorch訓(xùn)練過程中CPU內(nèi)存溢出問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2023-09-09
Python?pydash庫處理大規(guī)模數(shù)據(jù)集執(zhí)行復(fù)雜操作
在數(shù)據(jù)處理和分析領(lǐng)域,Python一直是一種強大的編程語言,然而,在處理大規(guī)模數(shù)據(jù)集和執(zhí)行復(fù)雜操作時,有時候需要更高效的工具,在本文中,我們將深入探討pydash庫,這是一個專注于提高Python代碼性能的工具2023-12-12
python3中類的重點與難點:類屬性和實例屬性的區(qū)別說明
這篇文章主要介紹了python3中類的重點與難點:類屬性和實例屬性的區(qū)別說明,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06

