隊(duì)列是一種只允許在一端進(jìn)行插入操作，而在另一端進(jìn)行刪除操作的線性表。

在Python文檔中搜索隊(duì)列（queue）會發(fā)現(xiàn)，Python標(biāo)準(zhǔn)庫中包含了四種隊(duì)列，分別是queue.Queue / asyncio.Queue / multiprocessing.Queue / collections.deque。

collections.deque

deque是雙端隊(duì)列（double-ended queue）的縮寫，由于兩端都能編輯，deque既可以用來實(shí)現(xiàn)棧（stack）也可以用來實(shí)現(xiàn)隊(duì)列（queue）。

deque支持豐富的操作方法，主要方法如圖：

相比于list實(shí)現(xiàn)的隊(duì)列，deque實(shí)現(xiàn)擁有更低的時(shí)間和空間復(fù)雜度。list實(shí)現(xiàn)在出隊(duì)（pop）和插入（insert）時(shí)的空間復(fù)雜度大約為O(n)，deque在出隊(duì)（pop）和入隊(duì)（append）時(shí)的時(shí)間復(fù)雜度是O(1)。

deque也支持in操作符，可以使用如下寫法：

q = collections.deque([1, 2, 3, 4])
print(5 in q) # False
print(1 in q) # True

deque還封裝了順逆時(shí)針的旋轉(zhuǎn)的方法：rotate。

# 順時(shí)針
q = collections.deque([1, 2, 3, 4])
q.rotate(1)
print(q) # [4, 1, 2, 3]
q.rotate(1)
print(q) # [3, 4, 1, 2]

# 逆時(shí)針
q = collections.deque([1, 2, 3, 4])
q.rotate(-1)
print(q) # [2, 3, 4, 1]
q.rotate(-1)
print(q) # [3, 4, 1, 2]

線程安全方面，通過查看collections.deque中的append()、pop()等方法的源碼可以知道，他們都是原子操作，所以是GIL保護(hù)下的線程安全方法。

static PyObject *
deque_append(dequeobject *deque, PyObject *item) {
Py_INCREF(item);
if (deque_append_internal(deque, item, deque->maxlen) < 0)
return NULL;
Py_RETURN_NONE;
}

通過dis方法可以看到，append是原子操作（一行字節(jié)碼）。

綜上，collections.deque是一個(gè)可以方便實(shí)現(xiàn)隊(duì)列的數(shù)據(jù)結(jié)構(gòu)，具有線程安全的特性，并且有很高的性能。

queue.Queue & asyncio.Queue

queue.Queue和asyncio.Queue都是支持多生產(chǎn)者、多消費(fèi)者的隊(duì)列，基于collections.deque，他們都提供了Queue（FIFO隊(duì)列）、PriorityQueue（優(yōu)先級隊(duì)列）、LifoQueue（LIFO隊(duì)列），接口方面也相同。

區(qū)別在于queue.Queue適用于多線程的場景，asyncio.Queue適用于協(xié)程場景下的通信，由于asyncio的加成，queue.Queue下的阻塞接口在asyncio.Queue中則是以返回協(xié)程對象的方式執(zhí)行，具體差異如下表：

multiprocessing.Queue

multiprocessing提供了三種隊(duì)列，分別是Queue、SimpleQueue、JoinableQueue。

multiprocessing.Queue既是線程安全也是進(jìn)程安全的，相當(dāng)于queue.Queue的多進(jìn)程克隆版。和threading.Queue很像，multiprocessing.Queue支持put和get操作，底層結(jié)構(gòu)是multiprocessing.Pipe。

multiprocessing.Queue底層是基于Pipe構(gòu)建的，但是數(shù)據(jù)傳遞時(shí)并不是直接寫入Pipe，而是寫入進(jìn)程本地buffer，通過一個(gè)feeder線程寫入底層Pipe，這樣做是為了實(shí)現(xiàn)超時(shí)控制和非阻塞put/get，所以Queue提供了join_thread、cancel_join_thread、close函數(shù)來控制feeder的行為，close函數(shù)用來關(guān)閉feeder線程、join_thread用來join feeder線程，cancel_join_thread用來在控制在進(jìn)程退出時(shí)，不自動(dòng)join feeder線程，使用cancel_join_thread有可能導(dǎo)致部分?jǐn)?shù)據(jù)沒有被feeder寫入Pipe而導(dǎo)致的數(shù)據(jù)丟失。

和threading.Queue不同的是，multiprocessing.Queue默認(rèn)不支持join()和task_done操作，這兩個(gè)支持需要使用mp.JoinableQueue對象。

SimpleQueue是一個(gè)簡化的隊(duì)列，去掉了Queue中的buffer，沒有了使用Queue可能出現(xiàn)的問題，但是put和get方法都是阻塞的并且沒有超時(shí)控制。

總結(jié)

通過對比可以發(fā)現(xiàn)，上述四種結(jié)構(gòu)都實(shí)現(xiàn)了隊(duì)列，但是用處卻各有偏重，collections.deque在數(shù)據(jù)結(jié)構(gòu)層面實(shí)現(xiàn)了隊(duì)列，但是并沒有應(yīng)用場景方面的支持，可以看做是一個(gè)基礎(chǔ)的數(shù)據(jù)結(jié)構(gòu)。queue模塊實(shí)現(xiàn)了面向多生產(chǎn)線程、多消費(fèi)線程的隊(duì)列，asyncio.queue模塊則實(shí)現(xiàn)了面向多生產(chǎn)協(xié)程、多消費(fèi)協(xié)程的隊(duì)列，而multiprocessing.queue模塊實(shí)現(xiàn)了面向多成產(chǎn)進(jìn)程、多消費(fèi)進(jìn)程的隊(duì)列。

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

最新評論