Python多路復用selector模塊的基本使用
1. IO多路復用
O多路復用技術是使用一個可以同時監(jiān)視多個IO阻塞的中間人去監(jiān)視這些不同的IO對象,這些被監(jiān)視的任何一個或多個IO對象有消息返回,都將會觸發(fā)這個中間人將這些有消息IO對象返回,以供獲取他們的消息。
使用IO多路復用的優(yōu)點在于,進程在單線程的情況下同樣可以同時處理多個IO阻塞。與傳統的多線程/多進程模型比,I/O多路復用系統開銷小,系統不需要創(chuàng)建新的進程或者線程,也不需要維護這些進程和線程的運行,降底了系統的維護工作量,節(jié)省了系統資源,
Python提供了selector模塊來實現IO多路復用。同時,不同的操作系統上,這中間人的可選則的類型是不同的,目前常見的有,epoll, kqueue, devpoll, poll,select等;kqueue(BSD,mac支持),devpoll(solaris支持)和epoll的實現基本相同,epoll在Linux2.5+內核中實現,Windows系統只實現了select。
1.1. epoll,poll, select的比較
select和poll使用輪詢的方式去檢測監(jiān)視的所有IO是否有數據返回,需要不斷的遍歷每一個IO對象,這是一種費時的操作,效率較低。poll優(yōu)于select的一點是select限制了最大監(jiān)視IO數為1024,這對于需要大量網絡IO連接的服務器來顯然是不夠的;而poll對于這個個數沒有限制。但是這同樣面臨問題,在使用輪詢的方式監(jiān)視這些IO時,IO數越大,意味著每一次輪詢消耗的時間越多。效率也就越低,這是輪詢無法解決的問題。
epoll就是為了解決這樣的問題誕生的,首先他沒有最大的監(jiān)視的IO數的限制,并且沒有使用輪詢的方式去檢測這些IO,而是采用了事件通知機制和回調來獲取這些有消息返回的IO對象,只有“活躍”的IO才會主動的去調用callback函數。這個IO將會直接被處理而不需要輪詢。
2. selector模塊的基本使用
import selectors import socket # 創(chuàng)建一個socketIO對象,監(jiān)聽后將可以接受請求消息了 sock = socket.socket() sock.bind(("127.0.0.1", 80)) sock.listen() slt = selectors.DefaultSelector() # 使用系統默認selector,Windows為select,linux為epoll # 將這個socketIO對象加入到,select中監(jiān)視 slt.register(fileobj=sock, events=selectors.EVENT_READ, data=None) # 循環(huán)處理消息 while True: # select方法:輪詢這個selector,當有至少一個IO對象有消息返回時候,將會返回這個有消息的IO對象 ready_events = slt.select(timeout=None) print(ready_events) # 準備好的IO對象們 break
ready_events
為一個列表(代表注冊到這個select中的所有的有數據可接收IO對象),列表中的每一個元組為:
SelectorKey對象:
- fileobj:注冊的socket對象
- fd:文件描述符
- data:注冊時我們傳入的參數,可以是任意值,綁定到一個屬性上,方便之后使用。
mask值
- EVENT_READ : 表示可讀的; 它的值其實是1;
- EVENT_WRITE: 表示可寫的; 它的值其實是2;
- 或者二者的組合
例如:
[(SelectorKey(fileobj=<socket.socket fd=456, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, proto=0, laddr=('127.0.0.1', 80)>, fd=456, events=1, data=None),
1)]
處理這個請求,只需要使用該socket對應方法即可,該socket用于接收請求的連接,使用accept方法就可以處理這個請求。
當接受請求之后,又將會產生新的客戶端,我們將其放入selector中一并監(jiān)視,當有消息來時,如果是連接請求,handle_request()函數處理,如果是客戶端的消息,handle_client_msg()函數處理。
對于select中有兩類socket,所以我們需要判斷被激活后返回的socket是哪一種,再調用不同的函數做不同的請求。如果這個select中的socket種類有很多,將無法如此判斷。解決辦法就是將處理函數綁定到對應的selectkey對象中,可以使用data參數。
def handle_request(sock:socket.socket, mask): # 處理新連接 conn, addr = sock.accept() conn.setblocking(False) # 設定非阻塞 slt.register(conn, selector.EVENT_READ, data=handle_client_msg) def handle_client_msg(sock:socket.socket, mask) # 處理消息 data = sock.recv() print(data.decode()) sock = socket.socket() sock.bind(("127.0.0.1", 80)) sock.listen() slt = selectors.DefaultSelector() slt.register(fileobj=sock, events=selectors.EVENT_READ, data=handle_request) while True: ready_events = slt.select(timeout=None) for event, mask in ready_events: event.data(event.fileobj, mask) # 不同的socket有不同data函數,使用自己綁定的data函數調用,再將自己的socket作為參數。就可以處理不同類型的socket。
上面使用data很好的解決了上面問題,但是需要注意,綁定到data屬性上函數(或者說可調用對象)最終會使用event.data(event.fileobj)的方式調用,這些函數接受的參數應該相同。
到此這篇關于Python多路復用selector模塊的文章就介紹到這了,更多相關Python selector模塊內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
使用Python裝飾器在Django框架下去除冗余代碼的教程
這篇文章主要介紹了使用Python裝飾器在Django框架下去除冗余代碼的教程,主要是處理JSON代碼的一些冗余,需要的朋友可以參考下2015-04-04python SQLAlchemy的Mapping與Declarative詳解
這篇文章主要介紹了python SQLAlchemy的Mapping與Declarative詳解,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下2019-07-07