欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python全局鎖中如何合理運用多線程(多進程)

 更新時間:2019年11月06日 13:15:57   作者:不忘初心-Suby  
這篇文章主要介紹了Python全局鎖中如何合理運用多線程(多進程),需要的朋友可以參考下

Python全局鎖

(1)全局鎖導致的問題

全局鎖的英文簡稱是GIL,全稱是Global Interpreter Lock(全局解釋器鎖),來源是python設計之初的考慮,為了數據安全所做的決定,每個線程在執(zhí)行時候都需要先獲取GIL,保證同一時刻只有一個線程可以執(zhí)行代碼,即同一時刻只有一個線程使用CPU,也就是說多線程并不是真正意義上的同時執(zhí)行。
每個CPU在同一時間只能執(zhí)行一個線程(在單核CPU下的多線程其實都只是并發(fā),不是并行,并發(fā)和并行從宏觀上來講都是同時處理多路請求的概念。但并發(fā)和并行又有區(qū)別,并行是指兩個或者多個事件在同一時刻發(fā)生(多個CPU同時執(zhí)行某個任務);而并發(fā)是指兩個或多個事件在同一時間間隔內發(fā)生。)

在Python多線程下,每個線程的執(zhí)行方式:

1、獲取GIL

2、執(zhí)行代碼直到sleep或者是python虛擬機將其掛起。

3、釋放GIL

可見,某個線程想要執(zhí)行,必須先拿到GIL,我們可以把GIL看作是“通行證”,并且在一個python進程中,GIL只有一個。拿不到通行證的線程,就不允許進入CPU執(zhí)行。

在Python2.x里,GIL的釋放邏輯是當前線程遇見IO操作或者ticks計數達到100(ticks可以看作是Python自身的一個計數器,專門做用于GIL,每次釋放后歸零,這個計數可以通過 sys.setcheckinterval 來調整),進行釋放。
而每次釋放GIL鎖,線程進行鎖競爭、切換線程,會消耗資源。并且由于GIL鎖存在,python里一個進程永遠只能同時執(zhí)行一個線程(拿到GIL的線程才能執(zhí)行),這就是為什么在多核CPU上,python的多線程效率并不高。

(2)在有全局鎖的情況下如何運行多線程、多進程

在這里我們進行分類討論:

1、CPU密集型代碼(各種循環(huán)處理、計數等等),在這種情況下,由于計算工作多,ticks計數很快就會達到閾值,然后觸發(fā)GIL的釋放與再競爭(多個線程來回切換當然是需要消耗資源的),所以python下的多線程對CPU密集型代碼并不友好,此時可以采用多進程形式實現多任務。

2、IO密集型代碼(文件處理、網絡爬蟲等),多線程能夠有效提升效率(單線程下有IO操作會進行IO等待,造成不必要的時間浪費,而開啟多線程能在線程A等待時,自動切換到線程B,可以不浪費CPU的資源,從而能提升程序執(zhí)行效率)。所以python的多線程對IO密集型代碼比較友好。

而在python3.x中,GIL不使用ticks計數,改為使用計時器(執(zhí)行時間達到閾值后,當前線程釋放GIL),這樣對CPU密集型程序更加友好,但依然沒有解決GIL導致的同一時間只能執(zhí)行一個線程的問題,所以效率依然不盡如人意。

請注意:多核多線程比單核多線程更差,原因是單核下多線程,每次釋放GIL,喚醒的那個線程都能獲取到GIL鎖,所以能夠無縫執(zhí)行,但多核下,CPU0釋放GIL后,其他CPU上的線程都會進行競爭,但GIL可能會馬上又被CPU0拿到,導致其他幾個CPU上被喚醒后的線程會醒著等待到切換時間后又進入待調度狀態(tài),這樣會造成線程顛簸(thrashing),導致效率更低

回到最開始的問題:經常我們會聽到老手說:“python下想要充分利用多核CPU,就用多進程”,原因是什么呢?
原因是:每個進程有各自獨立的GIL,互不干擾,這樣就可以真正意義上的并行執(zhí)行,所以在python中,多進程的執(zhí)行效率優(yōu)于多線程(僅僅針對多核CPU而言)。

(3)代碼實例

使用一個線程去計數

#encoing:utf-8
import threading
import time
def test_counter():
  i = 0
  for _ in range(100000000):
    i += 1
  return True
def main():
  start_time = time.time()
  for tid in range(2):
    t1 = threading.Thread(target=test_counter)
    t1.start()
    t1.join()
  end_time = time.time()
  print("Total time:{}".format(end_time-start_time))
if __name__ == "__main__":
  main()

結果:

在這里插入圖片描述

使用2個線程,去執(zhí)行非IO操作

#encoding:utf-8
import threading
import time
def test_counter():
  i = 0
  for _ in range(100000000):
    i += 1
  return True
def main():
  thread_array = {}
  start_time = time.time()
  for tid in range(2):
    t = threading.Thread(target=test_counter)
    t.start()
    thread_array[tid] = t
  for i in range(2):
    thread_array[i].join()
  end_time = time.time()
  print("Total time:{}".format(end_time-start_time))
if __name__ == "__main__":
  main()

結果:

在這里插入圖片描述

通過上面的代碼可以得出,對于非IO類型操作,多線程為了獲得GIL去相互競爭,導致程序執(zhí)行效率更低,所以我們要根據實際的業(yè)務功能情況,來確定使用多線程、多進程!

總結

以上所述是小編給大家介紹的在Python全局鎖中如何合理運用多線程(多進程),希望對大家有所幫助,如果大家有任何疑問請給我留言,小編會及時回復大家的。在此也非常感謝大家對腳本之家網站的支持!
如果你覺得本文對你有幫助,歡迎轉載,煩請注明出處,謝謝!

相關文章

  • python實現屏保程序(適用于背單詞)

    python實現屏保程序(適用于背單詞)

    這篇文章主要為大家詳細介紹了python實現屏保程序,適用于背單詞,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2019-07-07
  • 淺談PyTorch的數據讀取機制Dataloader與Dataset

    淺談PyTorch的數據讀取機制Dataloader與Dataset

    這篇文章主要介紹了淺談PyTorch的數據讀取機制Dataloader與Dataset,DataLoader的作用是構建一個可迭代的數據裝載器,每次執(zhí)行循環(huán)的時候,就從中讀取一批Batchsize大小的樣本進行訓練,需要的朋友可以參考下
    2023-07-07
  • 如何將numpy二維數組中的np.nan值替換為指定的值

    如何將numpy二維數組中的np.nan值替換為指定的值

    這篇文章主要介紹了將numpy二維數組中的np.nan值替換為指定的值操作,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2021-05-05
  • wxPython電子表格功能wx.grid實例教程

    wxPython電子表格功能wx.grid實例教程

    這篇文章主要介紹了wxPython電子表格功能wx.grid實例教程,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2019-11-11
  • 巧妙使用Python裝飾器處理if...elif...else

    巧妙使用Python裝飾器處理if...elif...else

    大家好,今天在 Github 閱讀 EdgeDB[1] 的代碼,發(fā)現它在處理大量if…elif…else的時候,巧妙地使用了裝飾器,方法設計精巧,分享給大家一下,歡迎收藏學習,喜歡點贊支持
    2021-11-11
  • Pandas繪圖函數超詳細講解

    Pandas繪圖函數超詳細講解

    matplotlib要組裝一張圖表,需要的各個基礎組件對象。相對工作量較大,但在pandas中我們有行標簽和列標簽以及分組信息。原本制作一張圖表需要一大堆matplotlib代碼。在pandas中只需要一兩條代碼就可以了,今天記錄一下,pandas中常見的幾個繪制圖表的方法
    2022-12-12
  • Python3使用Selenium獲取session和token方法詳解

    Python3使用Selenium獲取session和token方法詳解

    這篇文章主要介紹了Python3使用Selenium獲取session和token方法詳解,需要的朋友可以參考下
    2021-02-02
  • Python保存數據到文件的實現方式

    Python保存數據到文件的實現方式

    這篇文章主要介紹了Python保存數據到文件的實現方式,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2023-11-11
  • Python global全局變量函數詳解

    Python global全局變量函數詳解

    本文詳解了global全局變量函數的用法,還有global的作用。global全局變量在一個腳本中全部作用域都可以訪問,用法很方便,希望本文對大家有所幫助
    2018-09-09
  • 利用python 讀寫csv文件

    利用python 讀寫csv文件

    python中有一個讀寫csv文件的包,直接import csv即可。利用這個python包可以很方便對csv文件進行操作。
    2020-09-09

最新評論