Python基于進(jìn)程池實(shí)現(xiàn)多進(jìn)程過程解析
更新時(shí)間：2020年04月30日 11:32:22 作者：杰鑫哥
這篇文章主要介紹了Python基于進(jìn)程池實(shí)現(xiàn)多進(jìn)程過程解析,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
1、注意：pool必須在 if __name__ == '__main__' 下面運(yùn)行，不然會(huì)報(bào)錯(cuò)
2、多進(jìn)程內(nèi)出現(xiàn)錯(cuò)誤會(huì)直接跳過該進(jìn)程，并且默認(rèn)不會(huì)打印錯(cuò)誤信息
3、if__name__下面的數(shù)據(jù)需要通過參數(shù)傳入主函數(shù)里面，不然主函數(shù)獲取不到該數(shù)據(jù)值而報(bào)錯(cuò)。
4、若不通過傳參形式傳入數(shù)據(jù)，可以定義全局變量。但是全局變量的值不能在多進(jìn)程里面進(jìn)行修改。
代碼如下
from multiprocessing import Pool # 進(jìn)程池，用于多進(jìn)程
import os # 用于獲取當(dāng)前執(zhí)行的文件名
import time
import traceback # 用于捕獲異常
import sys # 用于捕獲異常
def main_func(i): # 多進(jìn)程運(yùn)行的函數(shù)
try: # 多進(jìn)程中發(fā)生異常是不會(huì)打印錯(cuò)誤信息，并且當(dāng)前進(jìn)程會(huì)直接跳過，所以異常需要自行捕獲
rand_time = random.randint(1, 3) # 隨機(jī)產(chǎn)生1~3的整數(shù)
time.sleep(rand_time )
print(i)
except:
current_filename = str(os.path.basename(sys.argv[0]))[:-3] # 獲取當(dāng)前文件名稱
cur_err_filname = current_filename + '_error.txt'
error_info = sys.exc_info() # 打印異常
with open(f'{cur_err_filname }', 'a') as f:
error_str = f'{i}:ERROR OCCURRED，{time.strftime("%Y-%m-%d %H:%M:%S")}：\n {error_info[0]}: {error_info[1]}' # 記錄當(dāng)前進(jìn)程特征值，錯(cuò)誤發(fā)生時(shí)間 ，錯(cuò)誤類型，錯(cuò)誤概述
print(error_str, file=f) # 通過打印方式寫入文件
traceback.print_tb(error_info[2], file=f) # 錯(cuò)誤細(xì)節(jié)描述（包括bug的代碼位置）
f.write(f"{'=' * 50}\n") # 分行
if __name__ == '__main__': # 必須在此語句下面運(yùn)行，不然會(huì)報(bào)錯(cuò)
pool = Pool(5) # 定義進(jìn)程數(shù)量
for i in range(20):
pool.apply_async(main_func, (i, )) # 調(diào)用函數(shù)執(zhí)行多進(jìn)程
pool.close() # 關(guān)閉進(jìn)程池
pool.join() # 阻塞進(jìn)程，此兩部不能少，保證多進(jìn)程正常運(yùn)行
以上就是本文的全部內(nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了python urllib.request模塊的使用詳解，幫助大家更好的理解和學(xué)習(xí)使用python，感興趣的朋友可以了解下2021-03-03
Pytorch數(shù)據(jù)類型與轉(zhuǎn)換(torch.tensor,torch.FloatTensor)
這篇文章主要介紹了Pytorch數(shù)據(jù)類型轉(zhuǎn)換(torch.tensor,torch.FloatTensor),之前遇到轉(zhuǎn)為tensor轉(zhuǎn)化為浮點(diǎn)型的問題，今天整理下，我只講幾個(gè)我常用的，對(duì)Pytorch數(shù)據(jù)類型轉(zhuǎn)換相關(guān)知識(shí)感興趣的朋友一起看看吧2023-02-02
這篇文章主要介紹了python如何將圖片生成視頻MP4問題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2023-03-03
python中的queue隊(duì)列類型及函數(shù)用法
這篇文章主要介紹了python中的queue隊(duì)列類型及函數(shù)用法，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教2022-09-09
Python CSS選擇器爬取京東網(wǎng)商品信息過程解析
這篇文章主要介紹了Python CSS選擇器爬取京東網(wǎng)商品信息過程解析,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-06-06
Python網(wǎng)絡(luò)爬蟲信息提取mooc代碼實(shí)例
這篇文章主要介紹了python網(wǎng)絡(luò)爬蟲與信息提取mooc,文中通過示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-03-03
這篇文章主要介紹了python pandas的map函數(shù)使用,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-06-06
這篇文章主要介紹了解決paramiko執(zhí)行命令超時(shí)的問題，具有很好的參考價(jià)值，希望對(duì)大家有所幫助。一起跟隨小編過來看看吧2020-04-04
set是一個(gè)無序且不重復(fù)的元素集合。這篇文章主要介紹了Python set常用操作函數(shù)集錦,需要的朋友可以參考下2017-11-11
使用pyinstaller打包.exe文件的詳細(xì)教程
PyInstaller是一個(gè)跨平臺(tái)的Python應(yīng)用打包工具，能夠把 Python 腳本及其所在的 Python 解釋器打包成可執(zhí)行文件,下面這篇文章主要給大家介紹了關(guān)于使用pyinstaller打包.exe文件的相關(guān)資料,需要的朋友可以參考下2022-04-04