快捷導(dǎo)航

Nginx之QPS限制模塊的具體使用

更新時(shí)間：2023年09月26日 11:50:16 作者：一個(gè)風(fēng)輕云淡

本文主要介紹了Nginx之QPS限制模塊的具體使用,主要介紹Nginx QPS限制模塊的原理、安裝和使用方法,具有一定的參考價(jià)值,感興趣的可以了解一下

基本介紹

NGINX通過(guò)limit_req_zone和limit_req兩條指令來(lái)實(shí)現(xiàn)速率限制。指令limit_req_zone定義了限速的參數(shù)，指令limit_req在所在的location使能定義的速率。

QPS即每秒查詢率，是對(duì)一個(gè)特定的查詢服務(wù)器在規(guī)定時(shí)間內(nèi)所處理流量多少的衡量標(biāo)準(zhǔn)。QPS = req/sec = 請(qǐng)求數(shù)/秒，即每秒的響應(yīng)請(qǐng)求數(shù)，也即是最大吞吐能力。

模塊配置具體解讀

limit_req_zone指令設(shè)置了速率限制和共享內(nèi)存區(qū)域的參數(shù)，但它實(shí)際上并不限制請(qǐng)求速率。因此我們需要通過(guò)在contexts中使用limit_req指令來(lái)將其限制應(yīng)用于特定location或server塊。

limit_req_zone

定義一個(gè)以IP為限制請(qǐng)求的方式，名字為req_limit_zone，開(kāi)辟10M的共享內(nèi)存區(qū)域，每秒處理的速率為10個(gè)請(qǐng)求

limit_req_zone $binary_remote_addr zone=req_limit_zone:10m rate=10r/s;

說(shuō)明：limit_req_zone指令通常在 HTTP 塊中定義，使其可在多個(gè)上下文中使用，它需要以下三個(gè)參數(shù)：

key - 定義應(yīng)用限制的請(qǐng)求特性。示例中使用的是 Nginx 嵌入變量binary_remote_addr（二進(jìn)制客戶端地址）
zone - 定義用于存儲(chǔ)每個(gè) IP 地址狀態(tài)以及被限制請(qǐng)求 URL 訪問(wèn)頻率的共享內(nèi)存區(qū)域。保存在內(nèi)存共享區(qū)域的信息，意味著可以在 Nginx 的 worker 進(jìn)程之間共享。定義分為兩個(gè)部分：通過(guò)zone=keyword標(biāo)識(shí)區(qū)域的名字，以及冒號(hào)后面跟區(qū)域大小。16000 個(gè) IP 地址的狀態(tài)信息，大約需要 1MB，所以示例中區(qū)域可以存儲(chǔ) 160000 個(gè) IP 地址。
rate - 定義最大請(qǐng)求速率。在示例中，速率不能超過(guò)每秒 10 個(gè)請(qǐng)求。Nginx 實(shí)際上以毫秒的粒度來(lái)跟蹤請(qǐng)求，所以速率限制相當(dāng)于每 100 毫秒 1 個(gè)請(qǐng)求。因?yàn)椴辉试S”突發(fā)情況”，這意味著在距離前一個(gè)請(qǐng)求 100 毫秒內(nèi)到達(dá)的請(qǐng)求將被拒絕。

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=10r/s;
server {
    location /login/ {
        limit_req zone=mylimit;
        proxy_pass http://my_upstream;
    }
}

limit_req

limit_req指令來(lái)將其限制應(yīng)用于特定location或server塊。

limit_req zone=req_limit_zone burst=10 nodelay;

limit_req zone=req_limit_zone; 每個(gè) IP 地址被限制為每秒只能請(qǐng)求 10 次 URL，更準(zhǔn)確地說(shuō)，在距離前一個(gè)請(qǐng)求的 100 毫秒內(nèi)不能請(qǐng)求該 URL。
limit_req zone=req_limit_zone burst=10; burst 參數(shù)定義了超出 req_limit_zone指定速率的情況下(示例中的 req_limit_zone區(qū)域，速率限制在每秒 10 個(gè)請(qǐng)求，或每 100 毫秒一個(gè)請(qǐng)求)，客戶端還能發(fā)起多少請(qǐng)求。距離上一個(gè)請(qǐng)求 100 毫秒內(nèi)到達(dá)的請(qǐng)求將會(huì)被放入隊(duì)列，我們將隊(duì)列大小設(shè)置為 10。

也就是說(shuō)，如果從一個(gè)給定 IP 地址發(fā)送 11 個(gè)請(qǐng)求，Nginx 會(huì)立即將第一個(gè)請(qǐng)求發(fā)送到上游服務(wù)器群，然后將余下 10 個(gè)請(qǐng)求放在隊(duì)列中。然后每 100 毫秒轉(zhuǎn)發(fā)一個(gè)排隊(duì)的請(qǐng)求，只有當(dāng)傳入請(qǐng)求使隊(duì)列中排隊(duì)的請(qǐng)求數(shù)超過(guò) 10 時(shí)，Nginx 才會(huì)向客戶端返回503。

limit_req zone=req_limit_zone burst=10 nodelay; 使用 nodelay 參數(shù)，可以實(shí)現(xiàn)無(wú)延遲的排隊(duì)；Nginx 仍將根據(jù) burst 參數(shù)分配隊(duì)列中的位置，當(dāng)一個(gè)請(qǐng)求到達(dá)時(shí)，只要在隊(duì)列中能分配位置，Nginx 將立即轉(zhuǎn)發(fā)這個(gè)請(qǐng)求。將隊(duì)列中的該位置標(biāo)記為”taken”(占據(jù))，并且不會(huì)被釋放以供另一個(gè)請(qǐng)求使用，直到一段時(shí)間后才會(huì)被釋放(在這個(gè)示例中是，100 毫秒后)。

limit_req zone=name [burst=number] [nodelay | delay=number];

location /login/ {
    limit_req zone=mylimit burst=20 nodelay;
    proxy_pass http://my_upstream;
}

上面這段配置中我們?cè)O(shè)置了burst=20，該配置定義了客戶端可以超過(guò)區(qū)域指定速率的請(qǐng)求數(shù)（對(duì)于我們前面定義的mylimit區(qū)域，請(qǐng)求速率限制為每秒 10 個(gè)請(qǐng)求即每 100 毫秒 1 個(gè)）。在前一個(gè)請(qǐng)求之后 100 毫秒內(nèi)到達(dá)的請(qǐng)求會(huì)被放入到隊(duì)列中，這里我們將隊(duì)列大小設(shè)置為 20。
說(shuō)如果有22個(gè)請(qǐng)求同時(shí)發(fā)送過(guò)來(lái)，那么NGINX會(huì)馬上把第1個(gè)請(qǐng)求根據(jù)相關(guān)規(guī)則轉(zhuǎn)發(fā)給upstream服務(wù)器，然后把接下來(lái)的第2到21共計(jì)20個(gè)請(qǐng)求放入隊(duì)列中，接著直接返回503代碼給第22個(gè)請(qǐng)求，隨后的2秒時(shí)間內(nèi)，每100毫秒從隊(duì)列中取出一個(gè)請(qǐng)求發(fā)送給upstream服務(wù)器進(jìn)行處理。

原理：漏桶算法

漏桶算法（Leaky Bucket Algorithm）是一種用于流量控制和限流的經(jīng)典算法。其基本原理是將請(qǐng)求放入一個(gè)有固定容量的“桶”中，桶內(nèi)的請(qǐng)求以固定速率傳出。當(dāng)桶滿時(shí)，新進(jìn)入的請(qǐng)求將被丟棄。漏桶算法可以保證處理請(qǐng)求的速率恒定，從而有效防止流量激增導(dǎo)致的服務(wù)不穩(wěn)定。

當(dāng)主機(jī)接口向網(wǎng)絡(luò)中傳送數(shù)據(jù)包時(shí)，可采取漏桶算法，使得接口輸出數(shù)據(jù)流的速率恒定。

輸出不規(guī)則數(shù)據(jù)流的主機(jī)類似灌水的水龍頭
算法中定義的漏桶類似水桶
不規(guī)則數(shù)據(jù)流輸入漏桶類似向漏桶中灌水

流量輸出漏桶類似漏桶漏水

接下來(lái)，詳細(xì)分解一下漏桶算法在數(shù)據(jù)包傳送過(guò)程中的實(shí)現(xiàn)原理。

1、隊(duì)列接收到準(zhǔn)備轉(zhuǎn)發(fā)的數(shù)據(jù)包。

2、隊(duì)列被調(diào)度，得到轉(zhuǎn)發(fā)機(jī)會(huì)。由于隊(duì)列配置了流量整形，隊(duì)列中的數(shù)據(jù)包首先進(jìn)入漏桶中。

3、根據(jù)數(shù)據(jù)包到達(dá)漏桶的速率與漏桶的輸出速率關(guān)系，確定數(shù)據(jù)包是否被轉(zhuǎn)發(fā)。

如果到達(dá)速率≤輸出速率，則漏桶不起作用。

如果到達(dá)速率>輸出速率，則需考慮漏桶是否能承擔(dān)這個(gè)瞬間的流量。

1）若數(shù)據(jù)包到達(dá)的速率-漏桶流出的速率≤配置的漏桶突發(fā)速率，則數(shù)據(jù)包可被不延時(shí)的送出。
2）若數(shù)據(jù)包到達(dá)的速率-漏桶流出的速率>配置的漏桶突發(fā)速率，則多余的數(shù)據(jù)包被存儲(chǔ)到漏桶中。暫存在漏桶中的數(shù)據(jù)包在不超過(guò)漏桶容量的情況下延時(shí)發(fā)出。
3）若數(shù)據(jù)包到達(dá)的速率-漏桶流出的速率>配置的漏桶突發(fā)速率，且數(shù)據(jù)包的數(shù)量已經(jīng)超過(guò)漏桶的容量，則這些數(shù)據(jù)包將被丟棄。