python 多線程死鎖問題的解決方案
死鎖的原理非常簡單,用一句話就可以描述完。就是當(dāng)多線程訪問多個鎖的時候,不同的鎖被不同的線程持有,它們都在等待其他線程釋放出鎖來,于是便陷入了永久等待。比如A線程持有1號鎖,等待2號鎖,B線程持有2號鎖等待1號鎖,那么它們永遠(yuǎn)也等不到執(zhí)行的那天,這種情況就叫做死鎖。
關(guān)于死鎖有一個著名的問題叫做哲學(xué)家就餐問題,有5個哲學(xué)家圍坐在一起,他們每個人需要拿到兩個叉子才可以吃飯。如果他們同時拿起自己左手邊的叉子,那么就會永遠(yuǎn)等待右手邊的叉子釋放出來。這樣就陷入了永久等待,于是這些哲學(xué)家都會餓死。
這是一個很形象的模型,因為在計算機(jī)并發(fā)場景當(dāng)中,一些資源的數(shù)量往往是有限的。很有可能出現(xiàn)多個線程搶占的情況,如果處理不好就會發(fā)生大家都獲取了一個資源,然后在等待另外的資源的情況。
對于死鎖的問題有多種解決方法,這里我們介紹比較簡單的一種,就是對這些鎖進(jìn)行編號。我們規(guī)定當(dāng)一個線程需要同時持有多個鎖的時候,必須要按照序號升序的順序?qū)@些鎖進(jìn)行訪問。通過上下文管理器我們可以很容易實現(xiàn)這一點。
上下文管理器
首先我們來簡單介紹一下上下文管理器,上下文管理器我們其實經(jīng)常使用,比如我們經(jīng)常使用的 with語句 就是一個上下文管理器的經(jīng)典使用。當(dāng)我們通過with語句打開文件的時候,它會自動替我們處理好文件讀取之后的關(guān)閉以及拋出異常的處理,可以節(jié)約我們大量的代碼。
同樣我們也可以自己定義一個上下文處理器,其實很簡單,我們只需要實現(xiàn)__enter__和__exit__這兩個函數(shù)即可。__enter__函數(shù)用來實現(xiàn)進(jìn)入資源之前的操作和處理,那么顯然__exit__函數(shù)對應(yīng)的就是使用資源結(jié)束之后或者是出現(xiàn)異常的處理邏輯。有了這兩個函數(shù)之后,我們就有了自己的上下文處理類了。
我們來看一個樣例:
class Sample: def __enter__(self): print('enter resources') return self def __exit__(self, exc_type, exc_val, exc_tb): print('exit') # print(exc_type) # print(exc_val) # print(exc_tb) def doSomething(self): a = 1/1 return a def getSample(): return Sample() if __name__ == '__main__': with getSample() as sample: print('do something') sample.doSomething()
當(dāng)我們運行這段代碼的時候,屏幕上打印的結(jié)果和我們的預(yù)期是一致的。
我們觀察一下__exit__函數(shù),會發(fā)現(xiàn)它的參數(shù)有4個,后面的三個參數(shù)對應(yīng)的是拋出異常的情況。type對應(yīng)異常的類型,val對應(yīng)異常時的輸出值,trace對應(yīng)異常拋出時的運行堆棧。這些信息都是我們排查異常的時候經(jīng)常需要用到的信息,通過這三個字段,我們可以根據(jù)我們的需要對可能出現(xiàn)的異常進(jìn)行自定義的處理。
實現(xiàn)上下文管理器并不一定要通過類實現(xiàn),Python當(dāng)中也提供了上下文管理的注解,通過使用注解我們可以很方便地實現(xiàn)上下文管理。我們同樣也來看一個例子:
import time from contextlib import contextmanager @contextmanager def timethis(label): start = time.time() try: yield finally: end = time.time() print('{}: {}'.format(label, end - start)) with timethis('timer'): pass
在這個方法當(dāng)中yield之前的部分相當(dāng)于__enter__函數(shù),yield之后的部分相當(dāng)于__exit__。如果出現(xiàn)異常會在try語句當(dāng)中拋出,那么我們編寫except對異常進(jìn)行處理即可。
避免死鎖
了解了上下文管理器之后,我們要做的就是 在lock的外面包裝一層 ,使得我們在獲取和釋放鎖的時候可以根據(jù)我們的需要,對鎖進(jìn)行排序,按照升序的順序進(jìn)行持有。
這段代碼源于Python的著名進(jìn)階書籍《Python cookbook》,非常經(jīng)典:
from contextlib import contextmanager # 用來存儲local的數(shù)據(jù) _local = threading.local() @contextmanager def acquire(*locks): # 對鎖按照id進(jìn)行排序 locks = sorted(locks, key=lambda x: id(x)) # 如果已經(jīng)持有鎖當(dāng)中的序號有比當(dāng)前更大的,說明策略失敗 acquired = getattr(_local,'acquired',[]) if acquired and max(id(lock) for lock in acquired) >= id(locks[0]): raise RuntimeError('Lock Order Violation') # 獲取所有鎖 acquired.extend(locks) _local.acquired = acquired try: for lock in locks: lock.acquire() yield finally: # 倒敘釋放 for lock in reversed(locks): lock.release() del acquired[-len(locks):]
這段代碼寫得非常漂亮,可讀性很高,邏輯我們都應(yīng)該能看懂,但是有一個小問題是這里用到了 threading.local 這個組件。
它是一個多線程場景當(dāng)中的 共享變量 ,雖然說是共享的,但是對于每個線程來說讀取到的值都是獨立的。聽起來有些難以理解,其實我們可以將它理解成一個dict,dict的key是每一個線程的id,value是一個存儲數(shù)據(jù)的dict。每個線程在訪問local變量的時候,都相當(dāng)于先通過線程id獲取了一個獨立的dict,再對這個dict進(jìn)行的操作。
看起來我們在使用的時候直接使用了_local,這是因為通過線程id先進(jìn)行查詢的步驟在其中封裝了。不明就里的話可能會覺得有些難以理解。
我們再來看下這個acquire的使用:
x_lock = threading.Lock() y_lock = threading.Lock() def thread_1(): while True: with acquire(x_lock, y_lock): print('Thread-1') def thread_2(): while True: with acquire(y_lock, x_lock): print('Thread-2') t1 = threading.Thread(target=thread_1) t1.start() t2 = threading.Thread(target=thread_2) t2.start()
運行一下會發(fā)現(xiàn)沒有出現(xiàn)死鎖的情況,但如果我們把代碼稍加調(diào)整,寫成這樣,那么就會觸發(fā)異常了。
def thread_1(): while True: with acquire(x_lock): with acquire(y_lock): print('Thread-1') def thread_2(): while True: with acquire(y_lock): with acquire(x_lock): print('Thread-1')
因為我們把鎖寫成了層次結(jié)構(gòu),這樣就沒辦法進(jìn)行排序保證持有的有序性了,那么就會觸發(fā)我們代碼當(dāng)中定義的異常。
最后我們再來看下哲學(xué)家就餐問題,通過我們自己實現(xiàn)的acquire函數(shù)我們可以非常方便地解決他們死鎖吃不了飯的問題。
import threading def philosopher(left, right): while True: with acquire(left,right): print(threading.currentThread(), 'eating') # 叉子的數(shù)量 NSTICKS = 5 chopsticks = [threading.Lock() for n in range(NSTICKS)] for n in range(NSTICKS): t = threading.Thread(target=philosopher, args=(chopsticks[n],chopsticks[(n+1) % NSTICKS])) t.start()
關(guān)于死鎖的問題,對鎖進(jìn)行排序 只是其中的一種解決方案 ,除此之外還有很多解決死鎖的模型。比如我們可以讓線程在嘗試持有新的鎖失敗的時候主動放棄所有目前已經(jīng)持有的鎖,比如我們可以設(shè)置機(jī)制檢測死鎖的發(fā)生并對其進(jìn)行處理等等。發(fā)散出去其實有很多種方法,這些方法起作用的原理各不相同,其中涉及大量操作系統(tǒng)的基礎(chǔ)概念和知識,感興趣的同學(xué)可以深入研究一下這個部分,一定會對操作系統(tǒng)以及鎖的使用有一個深刻的認(rèn)識。
以上就是python 多線程死鎖問題的解決方案的詳細(xì)內(nèi)容,更多關(guān)于python 多線程死鎖的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
python 根據(jù)列表批量下載網(wǎng)易云音樂的免費音樂
這篇文章主要介紹了python 根據(jù)列表下載網(wǎng)易云音樂的免費音樂,幫助大家更好的理解和學(xué)習(xí)python,感興趣的朋友可以了解下2020-12-12Python?Generator生成器函數(shù)基本概念及高級用途技巧示例
這篇文章主要為大家介紹了Python?Generator生成器函數(shù)基本概念及高級用途技巧示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-12-12pandas 數(shù)據(jù)實現(xiàn)行間計算的方法
今天小編就為大家分享一篇pandas 數(shù)據(jù)實現(xiàn)行間計算的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-06-06python實現(xiàn)在每個獨立進(jìn)程中運行一個函數(shù)的方法
這篇文章主要介紹了python實現(xiàn)在每個獨立進(jìn)程中運行一個函數(shù)的方法,涉及Python操作進(jìn)程的相關(guān)技巧,需要的朋友可以參考下2015-04-04python pandas實現(xiàn)excel轉(zhuǎn)為html格式的方法
今天小編就為大家分享一篇python pandas實現(xiàn)excel轉(zhuǎn)為html格式的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-10-10Python運維自動化之paramiko模塊應(yīng)用實例
paramiko是一個基于SSH用于連接遠(yuǎn)程服務(wù)器并執(zhí)行相關(guān)操作,使用該模塊可以對遠(yuǎn)程服務(wù)器進(jìn)行命令或文件操作,這篇文章主要給大家介紹了關(guān)于Python運維自動化之paramiko模塊應(yīng)用的相關(guān)資料,需要的朋友可以參考下2022-09-09