python進(jìn)程間通信的項(xiàng)目實(shí)踐
進(jìn)程間通信表示進(jìn)程之間的數(shù)據(jù)交換。 為了開(kāi)發(fā)并行應(yīng)用程序,需要在進(jìn)程間交換數(shù)據(jù)。 下圖顯示了多個(gè)子過(guò)程之間同步的各種通信機(jī)制 -
各種通信機(jī)制
隊(duì)列
隊(duì)列可以用于多進(jìn)程程序。 多處理模塊的Queue類(lèi)與Queue.Queue類(lèi)相似。 因此,可以使用相同的API。 Multiprocessing.Queue提供了進(jìn)程間通信的線程和進(jìn)程安全FIFO(先進(jìn)先出)機(jī)制。
例子
下面是一個(gè)簡(jiǎn)單的例子,從python官方文檔多處理了解Queue類(lèi)的多處理概念
from multiprocessing import Process, Queue import queue import random def f(q): q.put([42, None, 'hello']) def main(): q = Queue() p = Process(target = f, args = (q,)) p.start() print (q.get()) if __name__ == '__main__': main()
執(zhí)行上面示例代碼,得到以下結(jié)果 -
[42, None, 'hello']
管道
它是一種數(shù)據(jù)結(jié)構(gòu),用于在多進(jìn)程程序中的進(jìn)程之間進(jìn)行通信。Pipe()函數(shù)返回一對(duì)由管道連接的連接對(duì)象,默認(rèn)情況下是雙工(雙向)。 它的工作原理如下 -
它返回一對(duì)代表管道兩端的連接對(duì)象。
每個(gè)對(duì)象都有兩個(gè)方法 - send()和recv(),以在進(jìn)程之間進(jìn)行通信。
例子
下面是一個(gè)簡(jiǎn)單的例子,摘自python官方文檔多處理,以理解Pipe()函數(shù)的多進(jìn)程概念
from multiprocessing import Process, Pipe def f(conn): conn.send([42, None, 'hello']) conn.close() if __name__ == '__main__': parent_conn, child_conn = Pipe() p = Process(target = f, args = (child_conn,)) p.start() print (parent_conn.recv()) p.join()
執(zhí)行上面代碼,得到以下結(jié)果 -
[42, None, 'hello']
管理器
Manager是一類(lèi)多處理模塊,它提供了一種協(xié)調(diào)所有用戶(hù)之間共享信息的方式。管理器對(duì)象控制服務(wù)器進(jìn)程,該進(jìn)程管理共享對(duì)象并允許其他進(jìn)程操縱它們。 換句話說(shuō),管理器提供了一種方法來(lái)創(chuàng)建可以在不同進(jìn)程之間共享的數(shù)據(jù)。 以下是Manager對(duì)象的不同屬性 -
- 管理器的主要屬性是控制管理共享對(duì)象的服務(wù)器進(jìn)程。
- 另一個(gè)重要屬性是在任何進(jìn)程修改它時(shí)更新所有共享對(duì)象。
例子
以下是使用管理器對(duì)象在服務(wù)器進(jìn)程中創(chuàng)建列表記錄,然后在該列表中添加新記錄的示例。
import multiprocessing def print_records(records): for record in records: print("Name: {0}\nScore: {1}\n".format(record[0], record[1])) def insert_record(record, records): records.append(record) print("A New record is added\n") if __name__ == '__main__': with multiprocessing.Manager() as manager: records = manager.list([('Computers', 1), ('Histoty', 5), ('Hindi',9)]) new_record = ('English', 3) p1 = multiprocessing.Process(target = insert_record, args = (new_record, records)) p2 = multiprocessing.Process(target = print_records, args = (records,)) p1.start() p1.join() p2.start() p2.join()
執(zhí)行上面代碼,得到以下結(jié)果 -
A New record is added
Name: Computers
Score: 1Name: Histoty
Score: 5Name: Hindi
Score: 9Name: English
Score: 3
管理器命名空間的概念
Manager類(lèi)帶有名稱(chēng)空間的概念,這是一種在多個(gè)進(jìn)程間共享多個(gè)屬性的快速方法。 命名空間不具有任何可以調(diào)用的公共方法,但它們具有可寫(xiě)的屬性。
例子
以下Python腳本示例如何使用命名空間在主進(jìn)程和子進(jìn)程之間共享數(shù)據(jù) -
import multiprocessing def Mng_NaSp(using_ns): using_ns.x +=5 using_ns.y *= 10 if __name__ == '__main__': manager = multiprocessing.Manager() using_ns = manager.Namespace() using_ns.x = 1 using_ns.y = 1 print ('before', using_ns) p = multiprocessing.Process(target = Mng_NaSp, args = (using_ns,)) p.start() p.join() print ('after', using_ns)
執(zhí)行上面示例代碼,得到以下結(jié)果 -
before Namespace(x = 1, y = 1)
after Namespace(x = 6, y = 10)
Ctypes數(shù)組和值
Multiprocessing模塊提供了Array和Value對(duì)象,用于將數(shù)據(jù)存儲(chǔ)在共享內(nèi)存映射中。 Array是從共享內(nèi)存分配的Array和Value是從共享內(nèi)存分配的ctypes對(duì)象。
Multiprocessing模塊導(dǎo)入Process,Value,Array。
例子
下面的Python腳本是一個(gè)從python文檔中獲取的例子,它利用Ctypes Array和Value在進(jìn)程間共享一些數(shù)據(jù)。
def f(n, a): n.value = 3.1415927 for i in range(len(a)): a[i] = -a[i] if __name__ == '__main__': num = Value('d', 0.0) arr = Array('i', range(10)) p = Process(target = f, args = (num, arr)) p.start() p.join() print (num.value) print (arr[:])
執(zhí)行上面示例代碼,得到以下結(jié)果 -
3.1415927
[0, -1, -2, -3, -4, -5, -6, -7, -8, -9]
順序進(jìn)程(CSP)
CSP用于說(shuō)明系統(tǒng)與具有并行模型的其他系統(tǒng)的交互。 CSP是通過(guò)消息傳遞編寫(xiě)并發(fā)或編程的框架,因此它對(duì)于描述并發(fā)是有效的
Python PyCSP庫(kù)
要實(shí)現(xiàn)在CSP中找到的核心原語(yǔ),Python有一個(gè)名為PyCSP的庫(kù)。 它使實(shí)現(xiàn)非常簡(jiǎn)短和易讀,因此可以非常容易地理解它。 以下是PyCSP的基本流程網(wǎng)絡(luò) -
在上面的PyCSP過(guò)程網(wǎng)絡(luò)中,有兩個(gè)過(guò)程 - 進(jìn)程1和進(jìn)程2。這些過(guò)程通過(guò)傳遞消息通過(guò)兩個(gè)通道 - 通道1和通道2進(jìn)行通信
安裝PyCSP
通過(guò)以下命令來(lái)安裝Python的PyCSP庫(kù) -
pip install PyCSP
例子
下面的Python腳本是一個(gè)簡(jiǎn)單的例子,它可以并行運(yùn)行兩個(gè)進(jìn)程。 它是在PyCSP庫(kù)的幫助下完成的
from pycsp.parallel import * import time @process def P1(): time.sleep(1) print('P1 exiting') @process def P2(): time.sleep(1) print('P2 exiting') def main(): Parallel(P1(), P2()) print('Terminating') if __name__ == '__main__': main()
在上面的腳本中,已經(jīng)創(chuàng)建了兩個(gè)函數(shù),即P1和P2,然后用@process進(jìn)行裝飾,將它們轉(zhuǎn)換為進(jìn)程。執(zhí)行上面代碼后,得到以下輸出結(jié)果 -
P2 exiting
P1 exiting
Terminating
到此這篇關(guān)于python進(jìn)程間通信的項(xiàng)目實(shí)踐的文章就介紹到這了,更多相關(guān)python進(jìn)程間通信內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python實(shí)戰(zhàn)小游戲之考驗(yàn)記憶力
本篇文章介紹了用python編寫(xiě)的曾經(jīng)風(fēng)靡的考驗(yàn)記憶力的小游戲,詳細(xì)介紹了整個(gè)思路和過(guò)程以及代碼,通讀本篇對(duì)大家的學(xué)習(xí)或工作具有一定的價(jià)值,需要的朋友可以參考下2021-09-09使用Python打造高效多進(jìn)程TCP服務(wù)器
這篇文章主要為大家詳細(xì)介紹了如何使用Python實(shí)現(xiàn)多進(jìn)程的TCP服務(wù)器,通過(guò)為每個(gè)連接進(jìn)來(lái)的客戶(hù)端分配一個(gè)進(jìn)程,實(shí)現(xiàn)并發(fā)處理多個(gè)客戶(hù)端請(qǐng)求的能力,感興趣的可以了解下2024-01-01Pycharm 跳轉(zhuǎn)回之前所在頁(yè)面的操作
這篇文章主要介紹了Pycharm 跳轉(zhuǎn)回之前所在頁(yè)面的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-02-02利用 Flask 動(dòng)態(tài)展示 Pyecharts 圖表數(shù)據(jù)方法小結(jié)
本文將介紹如何在 web 框架 Flask 中使用可視化工具 pyecharts, 看完本教程你將掌握幾種動(dòng)態(tài)展示可視化數(shù)據(jù)的方法。感興趣的朋友跟隨小編一起看看吧2019-09-09Python+Django實(shí)現(xiàn)簡(jiǎn)單HelloWord網(wǎng)頁(yè)的示例代碼
本文主要介紹了Python+Django實(shí)現(xiàn)簡(jiǎn)單HelloWord網(wǎng)頁(yè)的示例代碼,文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-04-04python中編寫(xiě)config文件并及時(shí)更新的方法
在pytorch或者其他深度學(xué)習(xí)框架中,有許多超參數(shù)需要調(diào)整,包括learning_rate,training_data_path等,因此編寫(xiě)一個(gè)config文件統(tǒng)一存放這些參數(shù),方便調(diào)用/查看/修改還是很有必要,這篇文章主要介紹了python中一種編寫(xiě)config文件并及時(shí)更新的方法,需要的朋友可以參考下2023-02-02