Python進(jìn)程間通信Queue消息隊列用法分析
本文實(shí)例講述了Python進(jìn)程間通信Queue消息隊列用法。分享給大家供大家參考,具體如下:
進(jìn)程間通信-Queue
Process之間有時需要通信,操作系統(tǒng)提供了很多機(jī)制來實(shí)現(xiàn)進(jìn)程間的通信。
1. Queue的使用
可以使用multiprocessing模塊的Queue實(shí)現(xiàn)多進(jìn)程之間的數(shù)據(jù)傳遞,Queue本身是一個消息列隊程序,首先用一個小實(shí)例來演示下Queue的工作原理:
代碼如下:
#coding=utf-8 from multiprocessing import Queue #初始化一個Queue對象,最多可接收三條put消息 q = Queue(3) q.put('消息1') q.put('消息2') print(q.full())#False q.put('消息3') print(q.full())#True #因?yàn)橄⒘嘘犚褲M下面的try都會拋出異常,第一個try會等待2秒后再拋出異常,第二個Try會立刻拋出異常 try: q.put('消息4', True, 2) except: print('消息隊列已滿,現(xiàn)有消息數(shù)量:%s'%q.qsize()) try: q.put_nowait('消息4')#等同于q.put('消息4', False) except: print('消息隊列已滿,現(xiàn)有消息數(shù)量:%s'%q.qsize()) #推薦的方式,先判斷消息列隊是否已滿,再寫入 if not q.full(): q.put_nowait('消息4') #讀取消息時,先判斷消息列隊是否為空,再讀取 if not q.empty(): for i in range(q.qsize()): print(q.get_nowait())
運(yùn)行結(jié)果:
False
True
消息隊列已滿,現(xiàn)有消息數(shù)量:3
消息隊列已滿,現(xiàn)有消息數(shù)量:3
消息1
消息2
消息3
說明
初始化Queue()對象時(例如:q=Queue()),若括號中沒有指定最大可接收的消息數(shù)量,或數(shù)量為負(fù)值,那么就代表可接受的消息數(shù)量沒有上限(直到內(nèi)存的盡頭);
Queue.qsize():返回當(dāng)前隊列包含的消息數(shù)量;
Queue.empty():如果隊列為空,返回True,反之False ;
Queue.full():如果隊列滿了,返回True,反之False;
Queue.get([block[, timeout]]):獲取隊列中的一條消息,然后將其從列隊中移除,block默認(rèn)值為True;
1)如果block使用默認(rèn)值,且沒有設(shè)置timeout(單位秒),消息列隊如果為空,此時程序?qū)⒈蛔枞ㄍT谧x取狀態(tài)),直到從消息列隊讀到消息為止,如果設(shè)置了timeout,則會等待timeout秒,若還沒讀取到任何消息,則拋出”Queue.Empty”異常;
2)如果block值為False,消息列隊如果為空,則會立刻拋出”Queue.Empty”異常;
Queue.get_nowait():相當(dāng)Queue.get(False);
Queue.put(item,[block[, timeout]]):將item消息寫入隊列,block默認(rèn)值為True;
1)如果block使用默認(rèn)值,且沒有設(shè)置timeout(單位秒),消息列隊如果已經(jīng)沒有空間可寫入,此時程序?qū)⒈蛔枞ㄍT趯?#12042;狀態(tài)),直到從消息列隊騰出空間為止。如果設(shè)置了timeout,則會等待timeout秒,若還沒空間,則拋出”Queue.Full”異常;
2)如果block值為False,消息列隊如果沒有空間可寫入則會立刻拋出”Queue.Full”異常;
Queue.put_nowait(item):相當(dāng)Queue.put(item, False);
2. Queue實(shí)例
我們以Queue為例,在子進(jìn)程中創(chuàng)建兩個子進(jìn)程,一個往Queue中寫數(shù)據(jù),一個從Queue中讀數(shù)據(jù):
#coding=utf-8 from multiprocessing import Queue, Process import time, random, os #寫數(shù)據(jù)進(jìn)程執(zhí)行的代碼 def write(q): l1 = ['A','B','C'] for value in l1: print('put %s to queue...'%value) q.put(value) time.sleep(random.random()) #讀數(shù)據(jù)執(zhí)行的代碼 def read(q): while True: if not q.empty(): value = q.get(True) print('get %s from queue...' % value) time.sleep(random.random()) else: break if __name__ == "__main__": #父進(jìn)程創(chuàng)建Queue,并傳給各個子進(jìn)程 q = Queue() qw = Process(target=write, args=(q,)) qr = Process(target=read, args=(q,)) #啟動子進(jìn)程qw寫入 qw.start() qw.join() # 啟動子進(jìn)程qr?qū)懭? qr.start() qr.join() # qr進(jìn)程是死循環(huán),無法等待其結(jié)束,只能強(qiáng)行終止: print('所有數(shù)據(jù)都已經(jīng)寫入并讀取完畢')
運(yùn)行結(jié)果:
put A to queue...
put B to queue...
put C to queue...
get A from queue...
get B from queue...
get C from queue...
所有數(shù)據(jù)都已經(jīng)寫入并讀取完畢
3. 進(jìn)程池中的Queue
如果要使用Pool創(chuàng)建進(jìn)程,就需要使用multiprocessing.Manager()
中的Queue()
,而不是multiprocessing.Queue()
,否則會得到一條如下的錯誤信息:
RuntimeError: Queue objects should only be shared between processes
through inheritance.
下面的實(shí)例演示了進(jìn)程池中的進(jìn)程如何通信:
代碼如下:
#coding=utf-8 from multiprocessing import Manager, Pool import time, random, os def writer(q): print('writer啟動%s,父進(jìn)程為%s'%(os.getpid(),os.getppid())) l1 = ['a','b','c','d','e'] for value in l1: q.put(value) def reader(q): print('reader啟動%s,父進(jìn)程為%s'%(os.getpid(),os.getppid())) for i in range(q.qsize()): print('reader從Queue獲取到消息:%s'%q.get(True)) if __name__ == "__main__": print('父進(jìn)程%s啟動...'%os.getpid()) q = Manager().Queue() #使用Manager中的Queue來初始化 po = Pool() # 使用阻塞模式創(chuàng)建進(jìn)程,這樣就不需要在reader中使用死循環(huán)了,可以讓writer完全執(zhí)行完成后,再用reader去讀取 po.apply(writer, (q,)) po.apply(reader, (q,)) po.close() po.join() print('%s結(jié)束'%os.getpid())
運(yùn)行結(jié)果:
父進(jìn)程7415啟動...
writer啟動7421,父進(jìn)程為7415
reader啟動7422, 父進(jìn)程為7415
reader從Queue獲取到消息:a
reader從Queue獲取到消息:b
reader從Queue獲取到消息:c
reader從Queue獲取到消息:d
reader從Queue獲取到消息:e
7415結(jié)束
更多關(guān)于Python相關(guān)內(nèi)容感興趣的讀者可查看本站專題:《Python進(jìn)程與線程操作技巧總結(jié)》、《Python數(shù)據(jù)結(jié)構(gòu)與算法教程》、《Python函數(shù)使用技巧總結(jié)》、《Python字符串操作技巧匯總》、《Python入門與進(jìn)階經(jīng)典教程》、《Python+MySQL數(shù)據(jù)庫程序設(shè)計入門教程》及《Python常見數(shù)據(jù)庫操作技巧匯總》
希望本文所述對大家Python程序設(shè)計有所幫助。
相關(guān)文章
OpenCV-Python使用分水嶺算法實(shí)現(xiàn)圖像的分割與提取
在圖像的處理過程中,經(jīng)常需要從圖像中將前景對象作為目標(biāo)圖像分割或者提取出來。本文就介紹了使用分水嶺算法實(shí)現(xiàn)圖像的分割與提取,感興趣的可以了解一下2021-06-06Django項(xiàng)目uwsgi+Nginx保姆級部署教程實(shí)現(xiàn)
這篇文章主要介紹了Django項(xiàng)目uwsgi+Nginx保姆級部署教程實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-04-04Python?numpy生成矩陣基礎(chǔ)用法實(shí)例代碼
矩陣是matrix類型的對象,該類繼承自numpy.ndarray,任何針對ndarray的操作,對矩陣對象同樣有效,下面這篇文章主要給大家介紹了關(guān)于Python?numpy生成矩陣基礎(chǔ)的相關(guān)資料,需要的朋友可以參考下2022-08-08Python使用正則匹配實(shí)現(xiàn)抓圖代碼分享
本文給大家分享的是個人的第一個作品,使用Python正則匹配實(shí)現(xiàn)抓圖代碼,非常的簡單實(shí)用,推薦給大家,小伙伴們可以自由擴(kuò)展下。2015-04-04python實(shí)現(xiàn)關(guān)閉第三方窗口的方法
今天小編就為大家分享一篇python實(shí)現(xiàn)關(guān)閉第三方窗口的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-06-06