淺談Python協(xié)程asyncio
一、協(xié)程
官方描述;
協(xié)程是子例程的更一般形式。 子例程可以在某一點進(jìn)入并在另一點退出。 協(xié)程則可以在許多不同的點上進(jìn)入、退出和恢復(fù)。 它們可通過 async def 語句來實現(xiàn)。 參見 PEP 492。
- 協(xié)程不是計算機(jī)內(nèi)部提供的,不像進(jìn)程、線程,由電腦本身提供,它是由程序員人為創(chuàng)造的, 實現(xiàn)函數(shù)異步執(zhí)行。
- 協(xié)程(Coroutine),也可以被稱為微線程,是一種用戶太內(nèi)的上下文切換技術(shù),其實就是通過一個線程實現(xiàn)代碼塊相互切換執(zhí)行??瓷先ハ褡映绦颍珗?zhí)行過程中,在子程序內(nèi)部可中斷,然后轉(zhuǎn)而執(zhí)行別的子程序,在適當(dāng)?shù)臅r候再返回來接著執(zhí)行。例如:
# 需要python3.7+ import asyncio async def main(): print('hello') await asyncio.sleep(1) print('world') asyncio.run(main()) # 打印 "hello",等待 1 秒,再打印 "world"
注意:簡單地調(diào)用一個協(xié)程并不會使其被調(diào)度執(zhí)行,
直接main() 調(diào)用會有問題:
RuntimeWarning: coroutine 'main' was never awaited main() RuntimeWarning: Enable tracemalloc to get the object allocation traceback
def func1(): print(1) ... print(2) def func2(): print(3) ... print(4) func1() func2() # 結(jié)果:1 2 3 4
實現(xiàn)協(xié)程的方法:
- greenlet,早期模塊【不建議使用】
- yield關(guān)鍵字,它是python的生成器,具有保存狀態(tài),切換到其他函數(shù)去執(zhí)行,再切換回原函數(shù)的功能。
- asyncio裝飾器(python3.4引入)
- async、await 關(guān)鍵字(python3.5)【推薦使用】
1.1 greenlet實現(xiàn)協(xié)程
# 第三方模塊,因此需要安裝 pip install greenlet
from greenlet import greenlet def func1(): print(1) gr2.switch() print(2) gr2.switch() def func2(): print(3) gr1.switch() print(4) gr1 = greenlet(func1) gr2 = greenlet(func2) gr1.switch() # 結(jié)果:1 3 2 4
1.2 yield關(guān)鍵字
def func1(): yield 1 yield from func2() yield 2 def func2(): yield 3 yield 4 f1 = func1() for item in f1: print(item) # 結(jié)果:1 3 2 4
1.3 asynico裝飾器
python3.4 及之后版本支持
DeprecationWarning: “@coroutine” decorator is deprecated since Python 3.8, use “async def”
翻譯:@coroutine"裝飾器自Python 3.8起已棄用,請使用"async def"代替
所以這個也不支持。
import asyncio @asyncio.coroutine def func1(): print(1) yield from asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片 print(2) @asyncio.coroutine def func2(): print(3) yield from asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片 print(4) tasks = [ asyncio.ensure_future(func1()), asyncio.ensure_future(func2()) ] loop = asyncio.get_event_loop() loop.run_until_complete(asyncio.wait(tasks)) # 結(jié)果: 1 3 2 4
1.4 async & await 關(guān)鍵字
import asyncio async def func1(): print(1) await asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片 print(2) async def func2(): print(3) await asyncio.sleep(2) # 遇到IO耗時操作,自動切換到tasks中其他任務(wù),比如:網(wǎng)絡(luò)IO,下載圖片 print(4) tasks = [ asyncio.ensure_future(func1()), asyncio.ensure_future(func2()) ] loop = asyncio.get_event_loop() loop.run_until_complete(asyncio.wait(tasks))
二、協(xié)程的意義
充分利用線程。在一個線程中如果遇到IO等待時間線程不會一直等待,利用空閑時間再去干點其他事情。
以下載三張圖片為例:
普通方式(同步)下載:
import time import requests def download_image(url, img_name): print("開始下載:", url) # 發(fā)送網(wǎng)絡(luò)請求,下載圖片 response = requests.get(url) print("下載完成") # 圖片保存到本地文件 file_name = str(img_name) + '.png' with open(file_name, mode='wb') as file: file.write(response.content) if __name__ == '__main__': start = time.time() url_list = [ 'https://tse4-mm.cn.bing.net/th/id/OIP.866vRxQ8QvyDsrUuXiu7qwHaNK?w=182&h=324&c=7&o=5&pid=1.7', 'https://tse2-mm.cn.bing.net/th/id/OIP.HUcWtoYPG-z2pu4ityajbAHaKQ?w=182&h=252&c=7&o=5&pid=1.7', 'https://tse2-mm.cn.bing.net/th/id/OIP.MvncR0-Pt9hVxKTdrvD9dAHaNK?w=182&h=324&c=7&o=5&pid=1.7', 'https://tse1-mm.cn.bing.net/th/id/OIP._nGloaeMWbL7NB7Lp6SnXQHaLH?w=182&h=273&c=7&o=5&pid=1.7', ] img_name = 1 for item in url_list: download_image(item, img_name) img_name += 1 end = time.time() print(end - start) # 最終時間:7.25s
協(xié)程方式(異步)下載:
import aiohttp import asyncio import time async def fetch(session, url): print("發(fā)送請求:", url) async with session.get(url, verify_ssl=False) as response: content = await response.content.read() file_name = url.rsplit('_')[-1] # print(file_name) with open(file_name, mode='wb') as file_object: file_object.write(content) print("下載完成") async def main(): async with aiohttp.ClientSession() as session: url_list = [ 'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg', 'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg', 'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg', 'https://www3.autoimg.cn/newsdfs/g26/M02/35/A9/120x90_0_autohomecar__ChsEe12AXQ6AOOH_AAFocMs8nzU621.jpg', ] tasks = [asyncio.ensure_future(fetch(session, url)) for url in url_list] await asyncio.wait(tasks) if __name__ == '__main__': start = time.time() asyncio.get_event_loop().run_until_complete(main()) end = time.time() print(end - start) # 結(jié)果:0.05s
到此這篇關(guān)于淺談Python協(xié)程的文章就介紹到這了,更多相關(guān)Python協(xié)程內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python使用scrapy采集時偽裝成HTTP/1.1的方法
這篇文章主要介紹了Python使用scrapy采集時偽裝成HTTP/1.1的方法,實例分析了scrapy采集的使用技巧,非常具有實用價值,需要的朋友可以參考下2015-04-04如何解決pytorch訓(xùn)練過程中CPU內(nèi)存溢出問題
這篇文章主要介紹了如何解決pytorch訓(xùn)練過程中CPU內(nèi)存溢出問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2023-09-09Python?pydash庫處理大規(guī)模數(shù)據(jù)集執(zhí)行復(fù)雜操作
在數(shù)據(jù)處理和分析領(lǐng)域,Python一直是一種強(qiáng)大的編程語言,然而,在處理大規(guī)模數(shù)據(jù)集和執(zhí)行復(fù)雜操作時,有時候需要更高效的工具,在本文中,我們將深入探討pydash庫,這是一個專注于提高Python代碼性能的工具2023-12-12python3中類的重點與難點:類屬性和實例屬性的區(qū)別說明
這篇文章主要介紹了python3中類的重點與難點:類屬性和實例屬性的區(qū)別說明,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06