欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Python中Async語法協(xié)程的實(shí)現(xiàn)

 更新時(shí)間:2022年06月27日 11:44:56   作者:So1n  
這篇文章主要介紹了Python中Async語法協(xié)程的實(shí)現(xiàn),文章圍繞主題展開詳細(xì)的內(nèi)容介紹,具有一定的參考價(jià)值,需要的小伙伴可以參考一下

前言

在io比較多的場景中, Async語法編寫的程序會(huì)以更少的時(shí)間, 更少的資源來完成相同的任務(wù), 這篇文章則是介紹了PythonAsync語法的協(xié)程是如何實(shí)現(xiàn)的。

1.傳統(tǒng)的Sync語法請求例子

還是一樣, 在了解Async語法的實(shí)現(xiàn)之前, 先從一個(gè)Sync的語法例子開始, 現(xiàn)在假設(shè)有一個(gè)HTTP請求, 這個(gè)程序會(huì)通過這個(gè)請求獲取對應(yīng)的響應(yīng)內(nèi)容, 并打印出來, 代碼如下:

import socket
def request(host: str) -> None:
    """模擬請求并打印響應(yīng)體"""
    url: str = f"http://{host}"
    sock: socket.SocketType = socket.socket()
    sock.connect((host, 80))
    sock.send(f"GET {url} HTTP/1.0\r\nHost: {host}\r\n\r\n".encode("ascii"))

    response_bytes: bytes = b""
    chunk: bytes = sock.recv(4096)
    while chunk:
        response_bytes += chunk
        chunk = sock.recv(4096)
    print("\n".join([i for i in response_bytes.decode().split("\r\n")]))


if __name__ == "__main__":
    request("so1n.me")

運(yùn)行程序, 程序能夠正常輸出, 上部分打印了對應(yīng)的HTTP響應(yīng)Header, 下部分打印了HTTP響應(yīng)體, , 可以看到服務(wù)端叫我們以https的形式重新請求, 輸出結(jié)果如下:

HTTP/1.1 301 Moved Permanently
Server: GitHub.com
Content-Type: text/html
Location: https://so1n.me/
X-GitHub-Request-Id: A744:3871:4136AF:48BD9F:6188DB50
Content-Length: 162
Accept-Ranges: bytes
Date: Mon, 08 Nov 2021 08:11:37 GMT
Via: 1.1 varnish
Age: 104
Connection: close
X-Served-By: cache-qpg1272-QPG
X-Cache: HIT
X-Cache-Hits: 2
X-Timer: S1636359097.026094,VS0,VE0
Vary: Accept-Encoding
X-Fastly-Request-ID: 22fa337f777553d33503cee5282598c6a293fb5e

<html>
<head><title>301 Moved Permanently</title></head>
<body>
<center><h1>301 Moved Permanently</h1></center>
<hr><center>nginx</center>
</body>
</html>

不過這里并不是想說HTTP請求是如何實(shí)現(xiàn)的, 具體我也不太了解, 在這個(gè)代碼中, socket的默認(rèn)調(diào)用是阻塞的, 當(dāng)線程調(diào)用connect或者recv時(shí)(send是不用等待的, 但在高并發(fā)下需要先等待drain后才可以send, 小demo不需要用到drain方法), 程序?qū)?huì)暫停直到操作完成。 當(dāng)一次要下載很多網(wǎng)頁的話, 這將會(huì)如上篇文章所說的一樣, 大部分的等待時(shí)間都花在io上面, cpu卻一直空閑時(shí), 而使用線程池雖然可以解決這個(gè)問題, 但是開銷是很大的, 同時(shí)操作系統(tǒng)往往會(huì)限制一個(gè)進(jìn)程,用戶或者機(jī)器可以使用的線程數(shù), 而協(xié)程卻沒有這些限制, 占用的資源少, 也沒有系統(tǒng)限制瓶頸。

2.異步的請求

異步可以讓一個(gè)單獨(dú)的線程處理并發(fā)的操作, 不過在上面已經(jīng)說過了, socket是默認(rèn)阻塞的, 所以需要把socket設(shè)置為非阻塞的, socket提供了setblocking這個(gè)方法供開發(fā)者選擇是否阻塞, 在設(shè)置了非阻塞后, connectrecv方法也要進(jìn)行更改。

由于沒有了阻塞, 程序在調(diào)用了connect后會(huì)馬上返回, 只不過Python的底層是C, 這段代碼在C中調(diào)用非阻塞的socket.connect后會(huì)拋出一個(gè)異常, 我們需要捕獲它, 就像這樣:

import socket
sock: socket.SocketType = socket.socket()
sock.setblocking(Flase)
try:
    sock.connect(("so1n.me", 80))
except BlockingIOError:
    pass

經(jīng)過一頓操作后, 就開始申請建立連接了, 但是我們還不知道連接啥時(shí)候完成建立, 由于連接沒建立時(shí)調(diào)用send會(huì)報(bào)錯(cuò), 所以可以一直輪詢調(diào)用send直到?jīng)]報(bào)錯(cuò)就認(rèn)為是成功(真實(shí)代碼需要加超時(shí)):

while True:
    try: 
        sock.send(request)
        break
    except OSError as e:
        pass

但是這樣讓CPU空轉(zhuǎn)太浪費(fèi)性能了, 而且期間還不能做別的事情, 就像我們點(diǎn)外賣后一直打電話過去問飯菜做好了沒有, 十分浪費(fèi)電話費(fèi)用, 要是飯菜做完了就打電話告訴我們, 那就只產(chǎn)生了一筆費(fèi)用, 非常的省錢(正常情況下也是這樣子)。
這時(shí)就需要事件循環(huán)登場了,在類UNIX中, 有一個(gè)叫select的功能, 它可以等待事件發(fā)生后再調(diào)用監(jiān)聽的函數(shù), 不過一開始的實(shí)現(xiàn)性能不是很好, 在Linux上被epoll取代, 不過接口是類似的, 所在在Python中把這幾個(gè)不同的事件循環(huán)都封裝在selectors庫中, 同時(shí)可以通過DefaultSelector從系統(tǒng)中挑出最好的類select函數(shù)。
這里先暫時(shí)不說事件循環(huán)的原理, 事件循環(huán)最主要的是他名字的兩部分, 一個(gè)是事件, 一個(gè)是循環(huán), 在Python中, 可以通過如下方法把事件注冊到事件循環(huán)中:

def demo(): pass
selector.register(fd, EVENT_WRITE, demo)

這樣這個(gè)事件循環(huán)就會(huì)監(jiān)聽對應(yīng)的文件描述符fd, 當(dāng)這個(gè)文件描述符觸發(fā)寫入事件(EVENT_WRITE)時(shí),事件循環(huán)就會(huì)告訴我們可以去調(diào)用注冊的函數(shù)demo。不過如果把上面的代碼都改為這種方法去運(yùn)行的話就會(huì)發(fā)現(xiàn), 程序好像沒跑就結(jié)束了, 但程序其實(shí)是有跑的, 只不過他們是完成的了注冊, 然后就等待開發(fā)者接收事件循環(huán)的事件進(jìn)行下一步的操作, 所以我們只需要在代碼的最后面寫上如下代碼:

while True:
    for key, mask in selector.select():
        key.data()

這樣程序就會(huì)一直運(yùn)行, 當(dāng)捕獲到事件的時(shí)候, 就會(huì)通過for循環(huán)告訴我們, 其中key.data是我們注冊的回調(diào)函數(shù), 當(dāng)事件發(fā)生時(shí), 就會(huì)通知我們, 我們可以通過拿到回調(diào)函數(shù)然后就運(yùn)行, 了解完畢后, 我們可以來編寫我們的第一個(gè)并發(fā)程序, 他實(shí)現(xiàn)了一個(gè)簡單的I/O復(fù)用的小邏輯, 代碼和注釋如下:

import socket
from selectors import DefaultSelector, EVENT_READ, EVENT_WRITE
# 選擇事件循環(huán)
selector: DefaultSelector = DefaultSelector()
# 用于判斷是否有事件在運(yùn)行
running_cnt: int = 0
def request(host: str) -> None:
    """模擬請求并打印響應(yīng)體"""
    # 告訴主函數(shù), 自己的事件還在運(yùn)行
    global running_cnt
    running_cnt += 1
    
    # 初始化socket
    url: str = f"http://{host}"
    sock: socket.SocketType = socket.socket()
    sock.setblocking(False)
    try:
        sock.connect((host, 80))
    except BlockingIOError:
        pass

    response_bytes: bytes = b""

    def read_response() -> None:
        """接收響應(yīng)參數(shù), 并判斷請求是否結(jié)束"""
        nonlocal response_bytes
        chunk: bytes = sock.recv(4096)
        print(f"recv {host} body success")
        if chunk:
            response_bytes += chunk
        else:
            # 沒有數(shù)據(jù)代表請求結(jié)束了, 注銷監(jiān)聽
            selector.unregister(sock.fileno())
            global running_cnt
            running_cnt -= 1
    def connected() -> None:
        """socket建立連接時(shí)的回調(diào)"""
        # 取消監(jiān)聽
        selector.unregister(sock.fileno())
        print(f"{host} connect success")
        # 發(fā)送請求, 并監(jiān)聽讀事件, 以及注冊對應(yīng)的接收響應(yīng)函數(shù)
        sock.send(f"GET {url} HTTP/1.0\r\nHost: {host}\r\n\r\n".encode("ascii"))
        selector.register(sock.fileno(), EVENT_READ, read_response)
    selector.register(sock.fileno(), EVENT_WRITE, connected)
if __name__ == "__main__":
    # 同時(shí)多個(gè)請求
    request("so1n.me")
    request("github.com")
    request("google.com")
    request("baidu.com")
    # 監(jiān)聽是否有事件在運(yùn)行
    while running_cnt > 0:
        # 等待事件循環(huán)通知事件是否已經(jīng)完成
        for key, mask in selector.select():
            key.data()

這段代碼接近同時(shí)注冊了4個(gè)請求并注冊建立連接回調(diào), 然后就進(jìn)入事件循環(huán)邏輯, 也就是把控制權(quán)交給事件循環(huán), 直到事件循環(huán)告訴程序說收到了socket建立的通知, 程序就會(huì)取消注冊的回調(diào)然后發(fā)送請求, 并注冊一個(gè)讀的事件回調(diào), 然后又把控制權(quán)交給事件循環(huán), 直到收到了響應(yīng)的結(jié)果才進(jìn)入處理響應(yīng)結(jié)果函數(shù)并且只有收完所有響應(yīng)結(jié)果才會(huì)退出程序。

下面是我其中的一次執(zhí)行結(jié)果

so1n.me connect success
github.com connect success
google.com connect success
recv google.com body success
recv google.com body success
baidu.com connect success
recv github.com body success
recv github.com body success
recv baidu.com body success
recv baidu.com body success
recv so1n.me body success
recv so1n.me body success

可以看到他們的執(zhí)行順序是隨機(jī)的, 不是嚴(yán)格的按照so1n.megithub.comgoogle.combaidu.com順序執(zhí)行, 同時(shí)他們執(zhí)行速度很快, 這個(gè)程序的耗時(shí)約等于響應(yīng)時(shí)長最長的函數(shù)耗時(shí)。
但是可以看出, 這個(gè)程序里面出現(xiàn)了兩個(gè)回調(diào), 回調(diào)會(huì)讓代碼變得非常的奇怪, 降低可讀性, 也容易造成回調(diào)地獄, 而且當(dāng)回調(diào)發(fā)生報(bào)錯(cuò)的時(shí)候, 我們是很難知道這是由于什么導(dǎo)致的錯(cuò)誤, 因?yàn)樗纳舷挛膩G失了, 這樣子排查問題十分的困惑。 作為程序員, 一般都不止?jié)M足于速度快的代碼, 真正想要的是又快, 又能像Sync的代碼一樣簡單, 可讀性強(qiáng), 也能容易排查問題的代碼, 這種組合形式的代碼的設(shè)計(jì)模式就叫協(xié)程。

協(xié)程出現(xiàn)得很早, 它不像線程一樣, 被系統(tǒng)調(diào)度, 而是能自主的暫停, 并等待事件循環(huán)通知恢復(fù)。由于協(xié)程是軟件層面實(shí)現(xiàn)的, 所以它的實(shí)現(xiàn)方式有很多種, 這里要說的是基于生成器的協(xié)程, 因?yàn)樯善鞲鷧f(xié)程一樣, 都有暫停讓步和恢復(fù)的方法(還可以通過throw來拋錯(cuò)), 同時(shí)它跟Async語法的協(xié)程很像, 通過了解基于生成器的協(xié)程, 可以了解Async的協(xié)程是如何實(shí)現(xiàn)的。

3.基于生成器的協(xié)程

3.1生成器

在了解基于生成器的協(xié)程之前, 需要先了解下生成器, Python的生成器函數(shù)與普通的函數(shù)會(huì)有一些不同, 只有普通函數(shù)中帶有關(guān)鍵字yield, 那么它就是生成器函數(shù), 具體有什么不同可以通過他們的字節(jié)碼來了解:

In [1]: import dis

# 普通函數(shù)
In [2]: def aaa(): pass

In [3]: dis.dis(aaa)

  1           0 LOAD_CONST               0 (None)
              2 RETURN_VALUE

# 普通函數(shù)調(diào)用函數(shù)
In [4]: def bbb(): 
   ...:     aaa() 
   ...:


In [5]: dis.dis(bbb)

  2           0 LOAD_GLOBAL              0 (aaa)
              2 CALL_FUNCTION            0
              4 POP_TOP
              6 LOAD_CONST               0 (None)
              8 RETURN_VALUE

# 普通生成器函數(shù)
In [6]: def ccc(): yield

In [7]: dis.dis(ccc)

  1           0 LOAD_CONST               0 (None)
              2 YIELD_VALUE
              4 POP_TOP
              6 LOAD_CONST               0 (None)
              8 RETURN_VALUE

上面分別是普通函數(shù), 普通函數(shù)調(diào)用函數(shù)和普通生成器函數(shù)的字節(jié)碼, 從字節(jié)碼可以看出來, 最簡單的函數(shù)只需要LOAD_CONST來加載變量None壓入自己的棧, 然后通過RETURN_VALUE來返回值, 而有函數(shù)調(diào)用的普通函數(shù)則先加載變量, 把全局變量的函數(shù)aaa加載到自己的棧里面, 然后通過CALL_FUNCTION來調(diào)用函數(shù), 最后通過POP_TOP把函數(shù)的返回值從棧里拋出來, 再把通過LOAD_CONST把None壓入自己的棧, 最后返回值。
而生成器函數(shù)則不一樣, 它會(huì)先通過LOAD_CONST來加載變量None壓入自己的棧, 然后通過YIELD_VALUE返回值, 接著通過POP_TOP彈出剛才的棧并重新把變量None壓入自己的棧, 最后通過RETURN_VALUE來返回值。從字節(jié)碼來分析可以很清楚的看到, 生成器能夠在yield區(qū)分兩個(gè)棧幀, 一個(gè)函數(shù)調(diào)用可以分為多次返回, 很符合協(xié)程多次等待的特點(diǎn)。

接著來看看生成器的一個(gè)使用, 這個(gè)生成器會(huì)有兩次yield調(diào)用, 并在最后返回字符串'None', 代碼如下:

In [8]: def demo(): 
   ...:     a = 1 
   ...:     b = 2 
   ...:     print('aaa', locals()) 
   ...:     yield 1 
   ...:     print('bbb', locals()) 
   ...:     yield 2 
   ...:     return 'None' 
   ...:

In [9]: demo_gen = demo()

In [10]: demo_gen.send(None)

aaa {'a': 1, 'b': 2}
Out[10]: 1

In [11]: demo_gen.send(None)

bbb {'a': 1, 'b': 2}
Out[11]: 2

In [12]: demo_gen.send(None)

---------------------------------------------------------------------------
StopIteration                             Traceback (most recent call last)
<ipython-input-12-8f8cb075d6af> in <module>
----> 1 demo_gen.send(None)
StopIteration: None

這段代碼首先通過函數(shù)調(diào)用生成一個(gè)demo_gen的生成器對象, 然后第一次send調(diào)用時(shí)返回值1, 第二次send調(diào)用時(shí)返回值2, 第三次send調(diào)用則拋出StopIteration異常, 異常提示為None, 同時(shí)可以看到第一次打印aaa和第二次打印bbb時(shí), 他們都能打印到當(dāng)前的函數(shù)局部變量, 可以發(fā)現(xiàn)在即使在不同的棧幀中, 他們讀取到當(dāng)前的局部函數(shù)內(nèi)的局部變量是一致的, 這意味著如果使用生成器來模擬協(xié)程時(shí), 它還是會(huì)一直讀取到當(dāng)前上下文的, 非常的完美。

此外, Python還支持通過yield from語法來返回一個(gè)生成器, 代碼如下:

In [1]: def demo_gen_1(): 
   ...:     for i in range(3): 
   ...:         yield i 
   ...:

In [2]: def demo_gen_2(): 
   ...:     yield from demo_gen_1() 
   ...:

In [3]: demo_gen_obj = demo_gen_2()

In [4]: demo_gen_obj.send(None)

Out[4]: 0

In [5]: demo_gen_obj.send(None)

Out[5]: 1

In [6]: demo_gen_obj.send(None)

Out[6]: 2

In [7]: demo_gen_obj.send(None)

---------------------------------------------------------------------------
StopIteration                             Traceback (most recent call last)
<ipython-input-7-f9922a2f64c9> in <module>
----> 1 demo_gen_obj.send(None)
StopIteration: 

通過yield from就可以很方便的支持生成器調(diào)用, 假如把每個(gè)生成器函數(shù)都當(dāng)做一個(gè)協(xié)程, 那通過yield from就可以很方便的實(shí)現(xiàn)協(xié)程間的調(diào)用, 此外生成器的拋出異常后的提醒非常人性化, 也支持throw來拋出異常, 這樣我們就可以實(shí)現(xiàn)在協(xié)程運(yùn)行時(shí)設(shè)置異常, 比如Cancel,演示代碼如下:

In [1]: def demo_exc(): 
   ...:     yield 1 
   ...:     raise RuntimeError() 
   ...:

In [2]: def demo_exc_1(): 
   ...:     for i in range(3): 
   ...:         yield i 
   ...:

In [3]: demo_exc_gen = demo_exc()

In [4]: demo_exc_gen.send(None)

Out[4]: 1

In [5]: demo_exc_gen.send(None)

---------------------------------------------------------------------------
RuntimeError                              Traceback (most recent call last)
<ipython-input-5-09fbb75fdf7d> in <module>
----> 1 demo_exc_gen.send(None)

<ipython-input-1-69afbc1f9c19> in demo_exc()
      1 def demo_exc():
      2     yield 1
----> 3     raise RuntimeError()
      4 

RuntimeError: 

In [6]: demo_exc_gen_1 = demo_exc_1()

In [7]: demo_exc_gen_1.send(None)
                                                                                                                                        Out[7]: 0
In [8]: demo_exc_gen_1.send(None)
                                                                                                                                        Out[8]: 1
In [9]: demo_exc_gen_1.throw(RuntimeError)
                                                                                                                                        ---------------------------------------------------------------------------
RuntimeError                              Traceback (most recent call last)
<ipython-input-9-1a1cc55d71f4> in <module>
----> 1 demo_exc_gen_1.throw(RuntimeError)

<ipython-input-2-2617b2366dce> in demo_exc_1()
      1 def demo_exc_1():
      2     for i in range(3):
----> 3         yield i
      4 
RuntimeError: 

從中可以看到在運(yùn)行中拋出異常時(shí), 會(huì)有一個(gè)非常清楚的拋錯(cuò), 可以明顯看出錯(cuò)誤堆棧, 同時(shí)throw指定異常后, 會(huì)在下一處yield拋出異常(所以協(xié)程調(diào)用Cancel后不會(huì)馬上取消, 而是下一次調(diào)用的時(shí)候才被取消)。

3.2用生成器實(shí)現(xiàn)協(xié)程

我們已經(jīng)簡單的了解到了生成器是非常的貼合協(xié)程的編程模型, 同時(shí)也知道哪些生成器API是我們需要的API, 接下來可以模仿Asyncio的接口來實(shí)現(xiàn)一個(gè)簡單的協(xié)程。

首先是在Asyncio中有一個(gè)封裝叫Feature, 它用來表示協(xié)程正在等待將來時(shí)的結(jié)果, 以下是我根據(jù)asyncio.Feature封裝的一個(gè)簡單的Feature, 它的API沒有asyncio.Feature全, 代碼和注釋如下:

class Status:
    """用于判斷Future狀態(tài)"""
    pending: int = 1
    finished: int = 2
    cancelled: int = 3
class Future(object):

    def __init__(self) -> None:
        """初始化時(shí), Feature處理pending狀態(tài), 等待set result"""
        self.status: int = Status.pending
        self._result: Any = None
        self._exception: Optional[Exception] = None
        self._callbacks: List[Callable[['Future'], None]] = []

    def add_done_callback(self, fn: [['Future'], None]Callable) -> None:
        """添加完成時(shí)的回調(diào)"""
        self._callbacks.append(fn)

    def cancel(self):
        """取消當(dāng)前的Feature"""
        if self.status != Status.pending:
            return False
        self.status = Status.cancelled
        for fn in self._callbacks:
            fn(self)
        return True

    def set_exception(self, exc: Exception) -> None:
        """設(shè)置異常"""
        if self.status != Status.pending:
            raise RuntimeError("Can not set exc")
        self._exception = exc
        self.status = Status.finished

    def set_result(self, result: Any) -> None:
        """設(shè)置結(jié)果"""
        if self.status != Status.pending:
            raise RuntimeError("Can not set result")
        self.status = Status.finished
        self._result = result
        for fn in self._callbacks:
            fn(self)

    def result(self):
        """獲取結(jié)果"""
        if self.status == Status.cancelled:
            raise asyncio.CancelledError
        elif self.status != Status.finished:
            raise RuntimeError("Result is not read")
        elif self._exception is not None:
            raise self._exception
        return self._result
    def __iter__(self):
        """通過生成器來模擬協(xié)程, 當(dāng)收到結(jié)果通知時(shí), 會(huì)返回結(jié)果"""
        if self.status == Status.pending:
            yield self
        return self.result()

在理解Future時(shí), 可以把它假想為一個(gè)狀態(tài)機(jī), 在啟動(dòng)初始化的時(shí)候是peding狀態(tài), 在運(yùn)行的時(shí)候我們可以切換它的狀態(tài), 并且通過__iter__方法來支持調(diào)用者使用yield from Future()來等待Future本身, 直到收到了事件通知時(shí), 可以得到結(jié)果。

但是可以發(fā)現(xiàn)這個(gè)Future是無法自我驅(qū)動(dòng), 調(diào)用了__iter__的程序不知道何時(shí)被調(diào)用了set_result, 在Asyncio中是通過一個(gè)叫Task的類來驅(qū)動(dòng)Future, 它將一個(gè)協(xié)程的執(zhí)行過程安排好, 并負(fù)責(zé)在事件循環(huán)中執(zhí)行該協(xié)程。它主要有兩個(gè)方法:

  • 1.初始化時(shí), 會(huì)先通過send方法激活生成器
  • 2.后續(xù)被調(diào)度后馬上安排下一次等待, 除非拋出StopIteration異常

還有一個(gè)支持取消運(yùn)行托管協(xié)程的方法(在原代碼中, Task是繼承于Future, 所以Future有的它都有), 經(jīng)過簡化后的代碼如下:

class Task:
    def __init__(self, coro: Generator) -> None:
        # 初始化狀態(tài)
        self.cancelled: bool = False
        self.coro: Generator = coro
        # 預(yù)激一個(gè)普通的future
        f: Future = Future()
        f.set_result(None)
        self.step(f)

    def cancel(self) -> None:
        """用于取消托管的coro"""
        self.coro.throw(asyncio.CancelledError)

    def step(self, f: Future) -> None:
        """用于調(diào)用coro的下一步, 從第一次激活開始, 每次都添加完成時(shí)的回調(diào), 直到遇到取消或者StopIteration異常"""
        try:
            _future = self.coro.send(f.result())
        except asyncio.CancelledError:
            self.cancelled = True
            return
        except StopIteration:
            return
        _future.add_done_callback(self.step)

這樣FutureTask就封裝好了, 可以簡單的試一試效果如何:

In [2]:def wait_future(f: Future, flag_int: int) -> Generator[Future, None, None]: 
   ...:    result = yield from f 
   ...:    print(flag_int, result) 
   ...:
   ...:future: Future = Future() 
   ...:for i in range(3): 
   ...:    coro = wait_future(future, i) 
   ...:    # 托管wait_future這個(gè)協(xié)程, 里面的Future也會(huì)通過yield from被托管 
   ...:    Task(coro) 
   ...:
   ...:print('ready') 
   ...:future.set_result('ok') 
   ...:
   ...:future = Future() 
   ...:Task(wait_future(future, 3)).cancel() 
   ...: 
                                                                                                                                        ready
0 ok
1 ok
2 ok
---------------------------------------------------------------------------
CancelledError                            Traceback (most recent call last)
<ipython-input-2-2d1b04db2604> in <module>
     12 
     13 future = Future()
---> 14 Task(wait_future(future, 3)).cancel()

<ipython-input-1-ec3831082a88> in cancel(self)
     81 
     82     def cancel(self) -> None:
---> 83         self.coro.throw(asyncio.CancelledError)
     84 
     85     def step(self, f: Future) -> None:

<ipython-input-2-2d1b04db2604> in wait_future(f, flag_int)
      1 def wait_future(f: Future, flag_int: int) -> Generator[Future, None, None]:
----> 2     result = yield from f
      3     print(flag_int, result)
      4 
      5 future: Future = Future()

<ipython-input-1-ec3831082a88> in __iter__(self)
     68         """通過生成器來模擬協(xié)程, 當(dāng)收到結(jié)果通知時(shí), 會(huì)返回結(jié)果"""
     69         if self.status == Status.pending:
---> 70             yield self
     71         return self.result()
     72 

CancelledError: 

這段程序會(huì)先初始化Future, 并把Future傳給wait_future并生成生成器, 再交由給Task托管, 預(yù)激, 由于Future是在生成器函數(shù)wait_future中通過yield from與函數(shù)綁定的, 真正被預(yù)激的其實(shí)是Future__iter__方法中的yield self, 此時(shí)代碼邏輯會(huì)暫停在yield self并返回。
在全部預(yù)激后, 通過調(diào)用Futureset_result方法, 使Future變?yōu)榻Y(jié)束狀態(tài), 由于set_result會(huì)執(zhí)行注冊的回調(diào), 這時(shí)它就會(huì)執(zhí)行托管它的Taskstep方法中的send方法, 代碼邏輯回到Future__iter__方法中的yield self, 并繼續(xù)往下走, 然后遇到return返回結(jié)果, 并繼續(xù)走下去, 從輸出可以發(fā)現(xiàn)程序封裝完成且打印了ready后, 會(huì)依次打印對應(yīng)的返回結(jié)果, 而在最后一個(gè)的測試cancel方法中可以看到,Future拋出異常了, 同時(shí)這些異常很容易看懂, 能夠追隨到調(diào)用的地方。

現(xiàn)在FutureTask正常運(yùn)行了, 可以跟我們一開始執(zhí)行的程序進(jìn)行整合, 代碼如下:

class HttpRequest(object):
    def __init__(self, host: str):
        """初始化變量和sock"""
        self._host: str = host
        global running_cnt
        running_cnt += 1
        self.url: str = f"http://{host}"
        self.sock: socket.SocketType = socket.socket()
        self.sock.setblocking(False)
        try:
            self.sock.connect((host, 80))
        except BlockingIOError:
            pass
    def read(self) -> Generator[Future, None, bytes]:
        """從socket獲取響應(yīng)數(shù)據(jù), 并set到Future中, 并通過Future.__iter__方法或得到數(shù)據(jù)并通過變量chunk_future返回"""
        f: Future = Future()
        selector.register(self.sock.fileno(), EVENT_READ, lambda: f.set_result(self.sock.recv(4096)))
        chunk_future = yield from f
        selector.unregister(self.sock.fileno())
        return chunk_future  # type: ignore

    def read_response(self) -> Generator[Future, None, bytes]:
        """接收響應(yīng)參數(shù), 并判斷請求是否結(jié)束"""
        response_bytes: bytes = b""
        chunk = yield from self.read()
        while chunk:
            response_bytes += chunk
            chunk = yield from self.read()
        return response_bytes

    def connected(self) -> Generator[Future, None, None]:
        """socket建立連接時(shí)的回調(diào)"""
        # 取消監(jiān)聽
        f: Future = Future()
        selector.register(self.sock.fileno(), EVENT_WRITE, lambda: f.set_result(None))
        yield f
        selector.unregister(self.sock.fileno())
        print(f"{self._host} connect success")
    def request(self) -> Generator[Future, None, None]:
        # 發(fā)送請求, 并監(jiān)聽讀事件, 以及注冊對應(yīng)的接收響應(yīng)函數(shù)
        yield from self.connected()
        self.sock.send(f"GET {self.url} HTTP/1.0\r\nHost: {self._host}\r\n\r\n".encode("ascii"))
        response = yield from self.read_response()
        print(f"request {self._host} success, length:{len(response)}")
        global running_cnt
        running_cnt -= 1
if __name__ == "__main__":
    # 同時(shí)多個(gè)請求
    Task(HttpRequest("so1n.me").request())
    Task(HttpRequest("github.com").request())
    Task(HttpRequest("google.com").request())
    Task(HttpRequest("baidu.com").request())
    # 監(jiān)聽是否有事件在運(yùn)行
    while running_cnt > 0:
        # 等待事件循環(huán)通知事件是否已經(jīng)完成
        for key, mask in selector.select():
            key.data()

這段代碼通過Future和生成器方法盡量的解耦回調(diào)函數(shù), 如果忽略了HttpRequest中的connectedread方法則可以發(fā)現(xiàn)整段代碼跟同步的代碼基本上是一樣的, 只是通過yieldyield from交出控制權(quán)和通過事件循環(huán)恢復(fù)控制權(quán)。 同時(shí)通過上面的異常例子可以發(fā)現(xiàn)異常排查非常的方便, 這樣一來就沒有了回調(diào)的各種糟糕的事情, 開發(fā)者只需要按照同步的思路進(jìn)行開發(fā)即可, 不過我們的事件循環(huán)是一個(gè)非常簡單的事件循環(huán)例子, 同時(shí)對于socket相關(guān)都沒有進(jìn)行封裝, 也缺失一些常用的API, 而這些都會(huì)被Python官方封裝到Asyncio這個(gè)庫中, 通過該庫, 我們可以近乎完美的編寫Async語法的代碼。

NOTE: 由于生成器協(xié)程中無法通過yield from語法使用生成器, 所以Python在3.5之后使用了Await的原生協(xié)程。

到此這篇關(guān)于Python中Async語法協(xié)程的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)Python協(xié)程內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

  • 利用python操作SQLite數(shù)據(jù)庫及文件操作詳解

    利用python操作SQLite數(shù)據(jù)庫及文件操作詳解

    這篇文章主要給大家介紹了關(guān)于利用python操作SQLite數(shù)據(jù)庫及文件操作的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧。
    2017-09-09
  • python字典序問題實(shí)例

    python字典序問題實(shí)例

    這篇文章主要介紹了python字典序問題,是字符串操作一個(gè)比較典型的應(yīng)用,需要的朋友可以參考下
    2014-09-09
  • python動(dòng)態(tài)進(jìn)度條的實(shí)現(xiàn)代碼

    python動(dòng)態(tài)進(jìn)度條的實(shí)現(xiàn)代碼

    有時(shí)候我們需要使用print打印工作進(jìn)度,正常使用print函數(shù)會(huì)導(dǎo)致刷屏的現(xiàn)象,本文通過實(shí)例代碼給大家介紹python動(dòng)態(tài)進(jìn)度條的實(shí)現(xiàn)方法,感興趣的朋友跟隨小編一起看看吧
    2019-07-07
  • 帶你徹底搞懂python操作mysql數(shù)據(jù)庫(cursor游標(biāo)講解)

    帶你徹底搞懂python操作mysql數(shù)據(jù)庫(cursor游標(biāo)講解)

    這篇文章主要介紹了帶你徹底搞懂python操作mysql數(shù)據(jù)庫(cursor游標(biāo)講解),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-01-01
  • Pycharm安裝第三方庫的超詳細(xì)步驟

    Pycharm安裝第三方庫的超詳細(xì)步驟

    使用python時(shí),為了提高效率,安裝添加第三方庫是必不可少的,下面這篇文章主要給大家介紹了關(guān)于Pycharm安裝第三方庫的相關(guān)資料,需要的朋友可以參考下
    2022-04-04
  • python實(shí)現(xiàn)簡單登陸流程的方法

    python實(shí)現(xiàn)簡單登陸流程的方法

    下面小編就為大家分享一篇python實(shí)現(xiàn)簡單登陸流程的方法,具有很好的參考價(jià)值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2018-04-04
  • pytorch加載語音類自定義數(shù)據(jù)集的方法教程

    pytorch加載語音類自定義數(shù)據(jù)集的方法教程

    這篇文章主要給大家介紹了關(guān)于pytorch加載語音類自定義數(shù)據(jù)集的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-11-11
  • 使用python如何提取JSON數(shù)據(jù)指定內(nèi)容

    使用python如何提取JSON數(shù)據(jù)指定內(nèi)容

    這篇文章主要介紹了使用python如何提取JSON數(shù)據(jù)指定內(nèi)容,具有很好的參考價(jià)值,希望對大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2022-07-07
  • 使用Python實(shí)現(xiàn)圖像標(biāo)記點(diǎn)的坐標(biāo)輸出功能

    使用Python實(shí)現(xiàn)圖像標(biāo)記點(diǎn)的坐標(biāo)輸出功能

    這篇文章主要介紹了使用Python實(shí)現(xiàn)圖像標(biāo)記點(diǎn)的坐標(biāo)輸出功能,非常不錯(cuò),具有一定的參考借鑒價(jià)值,需要的朋友參考下吧
    2019-08-08
  • 最新評論