Python基于進(jìn)程池實(shí)現(xiàn)多進(jìn)程過程解析
1、注意:pool必須在 if __name__ == '__main__' 下面運(yùn)行,不然會報錯
2、多進(jìn)程內(nèi)出現(xiàn)錯誤會直接跳過該進(jìn)程,并且默認(rèn)不會打印錯誤信息
3、if__name__下面的數(shù)據(jù)需要通過參數(shù)傳入主函數(shù)里面,不然主函數(shù)獲取不到該數(shù)據(jù)值而報錯。
4、若不通過傳參形式傳入數(shù)據(jù),可以定義全局變量。但是全局變量的值不能在多進(jìn)程里面進(jìn)行修改。
代碼如下
from multiprocessing import Pool # 進(jìn)程池,用于多進(jìn)程 import os # 用于獲取當(dāng)前執(zhí)行的文件名 import time import traceback # 用于捕獲異常 import sys # 用于捕獲異常 def main_func(i): # 多進(jìn)程運(yùn)行的函數(shù) try: # 多進(jìn)程中發(fā)生異常是不會打印錯誤信息,并且當(dāng)前進(jìn)程會直接跳過,所以異常需要自行捕獲 rand_time = random.randint(1, 3) # 隨機(jī)產(chǎn)生1~3的整數(shù) time.sleep(rand_time ) print(i) except: current_filename = str(os.path.basename(sys.argv[0]))[:-3] # 獲取當(dāng)前文件名稱 cur_err_filname = current_filename + '_error.txt' error_info = sys.exc_info() # 打印異常 with open(f'{cur_err_filname }', 'a') as f: error_str = f'{i}:ERROR OCCURRED,{time.strftime("%Y-%m-%d %H:%M:%S")}:\n {error_info[0]}: {error_info[1]}' # 記錄當(dāng)前進(jìn)程特征值,錯誤發(fā)生時間 ,錯誤類型,錯誤概述 print(error_str, file=f) # 通過打印方式寫入文件 traceback.print_tb(error_info[2], file=f) # 錯誤細(xì)節(jié)描述(包括bug的代碼位置) f.write(f"{'=' * 50}\n") # 分行 if __name__ == '__main__': # 必須在此語句下面運(yùn)行,不然會報錯 pool = Pool(5) # 定義進(jìn)程數(shù)量 for i in range(20): pool.apply_async(main_func, (i, )) # 調(diào)用函數(shù)執(zhí)行多進(jìn)程 pool.close() # 關(guān)閉進(jìn)程池 pool.join() # 阻塞進(jìn)程,此兩部不能少,保證多進(jìn)程正常運(yùn)行
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Pytorch數(shù)據(jù)類型與轉(zhuǎn)換(torch.tensor,torch.FloatTensor)
這篇文章主要介紹了Pytorch數(shù)據(jù)類型轉(zhuǎn)換(torch.tensor,torch.FloatTensor),之前遇到轉(zhuǎn)為tensor轉(zhuǎn)化為浮點(diǎn)型的問題,今天整理下,我只講幾個我常用的,對Pytorch數(shù)據(jù)類型轉(zhuǎn)換相關(guān)知識感興趣的朋友一起看看吧2023-02-02python中的queue隊(duì)列類型及函數(shù)用法
這篇文章主要介紹了python中的queue隊(duì)列類型及函數(shù)用法,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-09-09Python CSS選擇器爬取京東網(wǎng)商品信息過程解析
這篇文章主要介紹了Python CSS選擇器爬取京東網(wǎng)商品信息過程解析,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-06-06Python網(wǎng)絡(luò)爬蟲信息提取mooc代碼實(shí)例
這篇文章主要介紹了python網(wǎng)絡(luò)爬蟲與信息提取mooc,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-03-03使用pyinstaller打包.exe文件的詳細(xì)教程
PyInstaller是一個跨平臺的Python應(yīng)用打包工具,能夠把 Python 腳本及其所在的 Python 解釋器打包成可執(zhí)行文件,下面這篇文章主要給大家介紹了關(guān)于使用pyinstaller打包.exe文件的相關(guān)資料,需要的朋友可以參考下2022-04-04