Python Asyncio模塊實現(xiàn)的生產消費者模型的方法
asyncio的關鍵字說明
- event_loop事件循環(huán):程序開啟一個無限循環(huán),把一些函數(shù)注冊到事件循環(huán)上,當滿足事件發(fā)生的時候,調用相應的協(xié)程函數(shù)
- coroutine協(xié)程:協(xié)程對象,指一個使用async關鍵字定義的函數(shù),它的調用不會立即執(zhí)行函數(shù),而是會返回一個協(xié)程對象,協(xié)程對象需要注冊到事件循環(huán),由事件循環(huán)調用。
- task任務:一個協(xié)程對象就是一個原生可以掛起的函數(shù),任務則是對協(xié)程進一步封裝,其中包含了任務的各種狀態(tài)
- future:代表將來執(zhí)行或沒有執(zhí)行的任務結果。它和task上沒有本質上的區(qū)別
- async/await關鍵字:async定義一個協(xié)程,await用于掛起阻塞的異步調用接口,在python3.4是使用asyncio.coroutine/yield from
在設計模式中,生產消費者模型占有非常重要的地位,這個模型在現(xiàn)實世界中也有很多有意思的對應場景,比如做包子的人和吃包子的人,當兩者速度不匹配時,就需要有一個模型來做匹配(偶合),實現(xiàn)做的包子都會依次消費掉。
import asyncio class ConsumerProducerModel: def __init__(self, producer, consumer, queue=asyncio.Queue(), plate_size=6): # the plate holds 6pcs bread self.queue = queue self.producer = producer self.consumer = consumer self.plate_size = plate_size async def produce_bread(self): for i in range(self.plate_size): bread = f"bread {i}" await asyncio.sleep(0.5) # bread makes faster, 0.5s/pc await self.queue.put(bread) print(f'{self.producer} makes {bread}') async def consume_bread(self): while True: bread = await self.queue.get() await asyncio.sleep(1) # eat slower, 1s/pc print(f'{self.consumer} eats {bread}') self.queue.task_done() async def main(): queue = asyncio.Queue() cp1 = ConsumerProducerModel("John", "Grace", queue) # group 1 cp2 = ConsumerProducerModel("Mike", "Lucy", queue) # group 2 producer_1 = cp1.produce_bread() producer_2 = cp2.produce_bread() consumer_1 = asyncio.ensure_future(cp1.consume_bread()) consumer_2 = asyncio.ensure_future(cp2.consume_bread()) await asyncio.gather(*[producer_1, producer_2]) await queue.join() consumer_1.cancel() consumer_2.cancel() if __name__ == '__main__': loop = asyncio.get_event_loop() loop.run_until_complete(main()) loop.close()
生產消費者模型可以使用多線程和隊列來實現(xiàn),這里選擇協(xié)程不僅是因為性能不錯,而且整個下來邏輯清晰:
1. 先定義初始化的東西,要有個隊列,要有生產者,要有消費者,要有裝面包的盤子大?。?/p>
2. 生產者:根據盤子大小生產出對應的東西(面包),將東西放入盤子(queue);
3. 消費者:從盤子上取東西,每次取東西都是一個任務,每次任務完成,就標記為task_done(調用函數(shù))。在這個層面,一直循環(huán);
4. 主邏輯:實例化生產消費者模型對象,創(chuàng)建生產者協(xié)程,創(chuàng)建任務(ensure_future),收集協(xié)程結果,等待所有線程結束(join),手動取消兩個消費者協(xié)程;
5. 運行:首先創(chuàng)建事件循環(huán),然后進入主邏輯,直到完成,關閉循環(huán)。
到此這篇關于Python Asyncio模塊實現(xiàn)的生產消費者模型的方法的文章就介紹到這了,更多相關Python生產消費者模型內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Python opencv醫(yī)學處理的實現(xiàn)過程
這篇文章主要介紹了Python opencv醫(yī)學處理的實現(xiàn)過程,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2021-05-05pyx文件 生成pyd 文件用于 cython調用的實現(xiàn)
這篇文章主要介紹了pyx文件 生成pyd 文件用于 cython調用的實現(xiàn)方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2021-03-03Python基于smtplib協(xié)議實現(xiàn)發(fā)送郵件
這篇文章主要介紹了Python基于smtplib協(xié)議實現(xiàn)發(fā)送郵件,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2020-06-06