欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python控制多進(jìn)程與多線程并發(fā)數(shù)總結(jié)

 更新時(shí)間:2016年10月26日 10:39:53   作者:張豪飛  
本篇文章主要介紹了Python控制多進(jìn)程與多線程并發(fā)數(shù),詳細(xì)講訴了進(jìn)程和線程的區(qū)別,并介紹了處理方法,有需要的朋友可以了解一下。

一、前言

本來(lái)寫(xiě)了腳本用于暴力破解密碼,可是1秒鐘嘗試一個(gè)密碼2220000個(gè)密碼我的天,想用多線程可是只會(huì)一個(gè)for全開(kāi),難道開(kāi)2220000個(gè)線程嗎?只好學(xué)習(xí)控制線程數(shù)了,官方文檔不好看,覺(jué)得結(jié)構(gòu)不夠清晰,網(wǎng)上找很多文章也都不很清晰,只有for全開(kāi)線程,沒(méi)有控制線程數(shù)的具體說(shuō)明,最終終于根據(jù)多篇文章和官方文檔算是搞明白基礎(chǔ)的多線程怎么實(shí)現(xiàn)法了,怕長(zhǎng)時(shí)間不用又忘記,找著麻煩就貼這了,跟我一樣新手也可以參照參照。

先說(shuō)進(jìn)程和線程的區(qū)別:

  1. 地址空間:進(jìn)程內(nèi)的一個(gè)執(zhí)行單元;進(jìn)程至少有一個(gè)線程;它們共享進(jìn)程的地址空間;而進(jìn)程有自己獨(dú)立的地址空間;
  2. 資源擁有:進(jìn)程是資源分配和擁有的單位,同一個(gè)進(jìn)程內(nèi)的線程共享進(jìn)程的資源
  3. 線程是處理器調(diào)度的基本單位,但進(jìn)程不是.
  4. 二者均可并發(fā)執(zhí)行.

不能理解的話簡(jiǎn)單打比方就是一個(gè)進(jìn)程就像一個(gè)程序一樣,并發(fā)互不干擾。一個(gè)進(jìn)程靠一個(gè)或多個(gè)線程執(zhí)行處理,并發(fā)的線程是cpu在不停的來(lái)回切換執(zhí)行,當(dāng)然是快到你感覺(jué)不出的。

拿上面我遇到的困難來(lái)說(shuō)吧,大量的數(shù)據(jù)需要執(zhí)行相同的處理,一個(gè)操作中間可能會(huì)有一些等待時(shí)間,一個(gè)一個(gè)執(zhí)行浪費(fèi)大量時(shí)間,那么就同時(shí)執(zhí)行吧,我們可以用兩種并行辦法:

進(jìn)程并行或者線程并行

各有優(yōu)缺點(diǎn),要看情況,不是絕對(duì)的,在此不討論這個(gè),這引出下面兩種Python并行處理方法(注釋感覺(jué)很清晰詳細(xì)了,不再多說(shuō))

二、進(jìn)程處理方法

#coding:utf-8
import random
from time import sleep
import sys
import multiprocessing
import os
#
#需求分析:有大批量數(shù)據(jù)需要執(zhí)行,而且是重復(fù)一個(gè)函數(shù)操作(例如爆破密碼),如果全部開(kāi)始線程數(shù)N多,這里控制住線程數(shù)m個(gè)并行執(zhí)行,其他等待
#
lock=multiprocessing.Lock()#一個(gè)鎖
def a(x):#模擬需要重復(fù)執(zhí)行的函數(shù)
  lock.acquire()#輸出時(shí)候上鎖,否則進(jìn)程同時(shí)輸出時(shí)候會(huì)混亂,不可讀
  print '開(kāi)始進(jìn)程:',os.getpid(),'模擬進(jìn)程時(shí)間:',x
  lock.release()
  
  sleep(x)#模擬執(zhí)行操作
  
  lock.acquire()
  print '結(jié)束進(jìn)程:',os.getpid(),'預(yù)測(cè)下一個(gè)進(jìn)程啟動(dòng)會(huì)使用該進(jìn)程號(hào)'
  lock.release()
list=[]
for i in range(10):#產(chǎn)生一個(gè)隨機(jī)數(shù)數(shù)組,模擬每次調(diào)用函數(shù)需要的輸入,這里模擬總共有10組需要處理
  list.append(random.randint(1,10))
  
pool=multiprocessing.Pool(processes=3)#限制并行進(jìn)程數(shù)為3
pool.map(a,list)#創(chuàng)建進(jìn)程池,調(diào)用函數(shù)a,傳入?yún)?shù)為list,此參數(shù)必須是一個(gè)可迭代對(duì)象,因?yàn)閙ap是在迭代創(chuàng)建每個(gè)進(jìn)程

輸出:

三、線程處理方法:

#coding:utf-8
import threading
import random
import Queue
from time import sleep
import sys
#
#需求分析:有大批量數(shù)據(jù)需要執(zhí)行,而且是重復(fù)一個(gè)函數(shù)操作(例如爆破密碼),如果全部開(kāi)始線程數(shù)N多,這里控制住線程數(shù)m個(gè)并行執(zhí)行,其他等待
#
#繼承一個(gè)Thread類(lèi),在run方法中進(jìn)行需要重復(fù)的單個(gè)函數(shù)操作
class Test(threading.Thread):
  def __init__(self,queue,lock,num):
    #傳遞一個(gè)隊(duì)列queue和線程鎖,并行數(shù)
    threading.Thread.__init__(self)
    self.queue=queue
    self.lock=lock
    self.num=num
  def run(self):
    #while True:#不使用threading.Semaphore,直接開(kāi)始所有線程,程序執(zhí)行完畢線程都還不死,最后的print threading.enumerate()可以看出
    with self.num:#同時(shí)并行指定的線程數(shù)量,執(zhí)行完畢一個(gè)則死掉一個(gè)線程
      #以下為需要重復(fù)的單次函數(shù)操作
      n=self.queue.get()#等待隊(duì)列進(jìn)入
      lock.acquire()#鎖住線程,防止同時(shí)輸出造成混亂
      print '開(kāi)始一個(gè)線程:',self.name,'模擬的執(zhí)行時(shí)間:',n
      print '隊(duì)列剩余:',queue.qsize()
      print threading.enumerate()
      lock.release()
      sleep(n)#執(zhí)行單次操作,這里sleep模擬執(zhí)行過(guò)程
      self.queue.task_done()#發(fā)出此隊(duì)列完成信號(hào)
threads=[]
queue=Queue.Queue()
lock=threading.Lock()
num=threading.Semaphore(3)#設(shè)置同時(shí)執(zhí)行的線程數(shù)為3,其他等待執(zhí)行
#啟動(dòng)所有線程
for i in range(10):#總共需要執(zhí)行的次數(shù)
  t=Test(queue,lock,num)
  t.start()
  threads.append(t)
  #吧隊(duì)列傳入線程,是run結(jié)束等待開(kāi)始執(zhí)行,放下面單獨(dú)一個(gè)for也行,這里少個(gè)循環(huán)吧
  n=random.randint(1,10)
  queue.put(n)#模擬執(zhí)行函數(shù)的逐個(gè)不同輸入
#吧隊(duì)列傳入線程,是run結(jié)束等待開(kāi)始執(zhí)行
#for t in threads:
#  n=random.randint(1,10)
#  queue.put(n)
#等待線程執(zhí)行完畢
for t in threads:
  t.join()
queue.join()#等待隊(duì)列執(zhí)行完畢才繼續(xù)執(zhí)行,否則下面語(yǔ)句會(huì)在線程未接受就開(kāi)始執(zhí)行
print '所有執(zhí)行完畢'
print threading.active_count()
print threading.enumerate()

輸出:

以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

  • 哪種Python框架適合你?簡(jiǎn)單介紹幾種主流Python框架

    哪種Python框架適合你?簡(jiǎn)單介紹幾種主流Python框架

    這篇文章主要介紹了幾種主流的Python框架,幫助大家更好的理解和學(xué)習(xí)Python,感興趣的朋友可以了解下
    2020-08-08
  • Python按行讀取文件的實(shí)現(xiàn)方法【小文件和大文件讀取】

    Python按行讀取文件的實(shí)現(xiàn)方法【小文件和大文件讀取】

    這篇文章主要介紹了Python按行讀取文件的實(shí)現(xiàn)方法,結(jié)合實(shí)例形式分析了針對(duì)小文件和大文件的讀取方法,需要的朋友可以參考下
    2016-09-09
  • python算法學(xué)習(xí)雙曲嵌入論文方法與代碼解析說(shuō)明

    python算法學(xué)習(xí)雙曲嵌入論文方法與代碼解析說(shuō)明

    這篇文章主要為大家介紹了python算法學(xué)習(xí)雙曲嵌入論文方法與代碼的實(shí)現(xiàn)解析說(shuō)明,有需要的朋友可以借鑒參考下,希望能夠有所幫助
    2021-11-11
  • Python用戶自定義異常的實(shí)現(xiàn)

    Python用戶自定義異常的實(shí)現(xiàn)

    這篇文章主要介紹了Python用戶自定義異常的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2020-12-12
  • python 編寫(xiě)簡(jiǎn)單網(wǎng)頁(yè)服務(wù)器的實(shí)例

    python 編寫(xiě)簡(jiǎn)單網(wǎng)頁(yè)服務(wù)器的實(shí)例

    今天小編就為大家分享一篇python 編寫(xiě)簡(jiǎn)單網(wǎng)頁(yè)服務(wù)器的實(shí)例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2018-06-06
  • 利用For循環(huán)遍歷Python字典的三種方法實(shí)例

    利用For循環(huán)遍歷Python字典的三種方法實(shí)例

    字典由多個(gè)鍵和其對(duì)應(yīng)的值構(gòu)成的鍵—值對(duì)組成,鍵和值中間以冒號(hào):隔開(kāi),項(xiàng)之間用逗號(hào)隔開(kāi),整個(gè)字典是由大括號(hào){}括起來(lái)的,下面這篇文章主要給大家介紹了關(guān)于如何利用For循環(huán)遍歷Python字典的三種方法,需要的朋友可以參考下
    2022-03-03
  • Tensorflow加載Vgg預(yù)訓(xùn)練模型操作

    Tensorflow加載Vgg預(yù)訓(xùn)練模型操作

    這篇文章主要介紹了Tensorflow加載Vgg預(yù)訓(xùn)練模型操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧
    2020-05-05
  • 詳解Python可視化神器Yellowbrick使用

    詳解Python可視化神器Yellowbrick使用

    Yellowbrick是由一套被稱為"Visualizers"組成的可視化診斷工具組成的套餐,其由Scikit-Learn API延伸而來(lái),對(duì)模型選擇過(guò)程其指導(dǎo)作用。這篇文章主要介紹了Python可視化神器Yellowbrick使用,需要的朋友可以參考下
    2019-11-11
  • Pycharm學(xué)習(xí)教程(4) Python解釋器的相關(guān)配置

    Pycharm學(xué)習(xí)教程(4) Python解釋器的相關(guān)配置

    這篇文章主要為大家詳細(xì)介紹了最全的Pycharm學(xué)習(xí)教程第四篇,Python解釋器配置,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2017-05-05
  • Python中垃圾回收和del語(yǔ)句詳解

    Python中垃圾回收和del語(yǔ)句詳解

    Python語(yǔ)言默認(rèn)采用的垃圾收集機(jī)制是引用計(jì)數(shù)法,本文詳細(xì)的介紹了Python中垃圾回收和del語(yǔ)句詳解,對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2018-11-11

最新評(píng)論