寫(xiě)在前面的話

• 高并發(fā)的三駕馬車(chē)：緩存、降級(jí)、限流，這里僅僅說(shuō)限流
• 常用的限流算法有：計(jì)數(shù)器算法、固定窗口算法、滑動(dòng)窗口算法、漏桶算法、令牌桶算法；每種算法的特點(diǎn)和優(yōu)缺點(diǎn)這里不展開(kāi)，比較適用的限流算法基本都會(huì)選擇令牌桶，并且這里基于Spring Cloud Gateway Redis本身默認(rèn)就是基于令牌桶算法實(shí)現(xiàn)
• 限流按照類型分為：?jiǎn)螜C(jī)、分布式；
• 限流按照請(qǐng)求流量的路徑分為：nginx、gateway、微服務(wù)
• 如果僅僅使用于單機(jī)環(huán)境：谷歌guava的RateLimiter、（AtomicInteger、Semaphore）【AQS】都是可以選擇的； 但是在說(shuō)到高并發(fā)基本已經(jīng)是分布式環(huán)境，此時(shí)的常用方案可以基于nginx的ngx_http_limit_req_module模塊、 gateway層基于 redis（底層使用lua腳本）、阿里的sentinel（需要單獨(dú)搭建服務(wù)）等方案

當(dāng)前是限流的Nginx層處理，使用漏桶算法實(shí)現(xiàn)，Nginx層限流允許基于客戶端ip進(jìn)行控制，允許基于服務(wù)端與客戶端建立的鏈接數(shù)進(jìn)行控制。

一定要清楚，當(dāng)前在這個(gè)位置：

1、基于ip數(shù)進(jìn)行限制

更詳細(xì)官方文檔可以參考：https://www.nginx.com/blog/rate-limiting-nginx/

Ngixn層運(yùn)行對(duì)請(qǐng)求的ip使用漏桶算法（leaky bucket algorithm）進(jìn)行請(qǐng)求速率控制，速率限制配置有兩個(gè)主要指令，limit_req_zone和 limit_req

比如配置如下：

http {
    limit_req_zone $binary_remote_addr zone=iplimit:10m rate=1r/s;
    limit_req_zone $server_name zone=iplimit:10m rate=1r/s;
    server {
        server_name  www.nginx-lyntest.com;
        listen       80;
        location ^~/my-api/ {
            proxy_pass   http://127.0.0.1:9999/;
            limit_req zone=iplimit burst=20 nodelay;
            limit_req_status 429; # 默認(rèn)返回 http 503狀態(tài)碼
            limit_req_log_level warn; # 默認(rèn)為 error級(jí)別
        }
    }
}

參數(shù)說(shuō)明（當(dāng)定義并且配置了多個(gè)限流規(guī)則時(shí)，以最嚴(yán)格的為準(zhǔn)）：

limit_req_zone指令：在http模塊進(jìn)行設(shè)置；limit_conn_zone key鏈接限制的可選項(xiàng)，可以是下面的 $server_name 或 $binary_remote_addr

• $binaty_remote_addr NGINX 變量以保存客戶端 IP 地址（$remote_addr）的二進(jìn)制；
• $server_name Nginx的變量，按照Server的server_name進(jìn)行限流；
• zone=iplimit:10m 指定一個(gè)變量名（iplimit）以保存上面指定的客戶端ip，當(dāng)前配置大小為10M，1M可以存儲(chǔ)大約 16,000 個(gè) IP，這里的10M可以存儲(chǔ)16w個(gè)IP；
• rate=1r/s 漏桶請(qǐng)求速率，控制在每秒1個(gè)請(qǐng)求；

limit_req指令：在location模塊指定上面http模塊約定的配置

• zone=iplimit 這里使用上面定義的zone區(qū)域以保存當(dāng)前l(fā)ocation的請(qǐng)求；
• burst=20 設(shè)置一個(gè)大小20的槽的隊(duì)列，當(dāng)前超過(guò)漏桶速率數(shù)時(shí)將請(qǐng)求放入槽內(nèi)，并且每 100 毫秒釋放 1 個(gè)插槽；官方解釋是以應(yīng)對(duì)流量突刺的情況。
• nodelay（或delay=8）：當(dāng)前超過(guò)令牌桶速率時(shí)，并且上面配置的burst槽都滿的情況下，對(duì)請(qǐng)求處理。nodelay即不允許延遲馬上進(jìn)行拒絕比較適用于需要高性能的接口?？梢栽O(shè)置delay=一個(gè)指定的數(shù)值

• limit_req_status：可以在【http、server、location】中使用，當(dāng)需要執(zhí)行拒絕時(shí)的http狀態(tài)碼，默認(rèn)為503，這里也可以指定為 429（Too Many Request）限流
• limit_req_log_level：可以在【http、server、location】中使用，限流的日志，默認(rèn)為error級(jí)別，這里可以指定為warm級(jí)別，官方的日志格式如

2015/06/13 04:20:00 [error] 120315#0: *32086 limiting requests, excess: 1.000 by 
zone "mylimit", client: 192.168.1.2, server: nginx.com, request: "GET / HTTP/1.0", 
host: "nginx.com"

正常請(qǐng)求沒(méi)有被限流的效果為：

默認(rèn)返回狀態(tài)狀態(tài)碼（limit_req_status默認(rèn)返回Http 503 狀態(tài)碼），效果為：

可以將limit_req_status調(diào)整為 Http 429狀態(tài)碼，效果為：

2、基于客戶端鏈接數(shù)進(jìn)行控制

基于ngx_http_limit_conn_module，更詳細(xì)官方文檔可以參考：https://nginx.org/en/docs/http/ngx_http_limit_conn_module.html#limit_zone

http {
    limit_conn_zone $binary_remote_addr zone=perip:10m;
    limit_conn_zone $server_name zone=perserver:10m;
    server {
        server_name  www.nginx-lyntest.com;
        listen       80;
        location /my-api/ {
            proxy_pass   http://127.0.0.1:9999/;
            # 每個(gè)server最多保持100個(gè)連接
            limit_conn perserver 100;
            # 每個(gè)ip最多保持1個(gè)連接
            limit_conn perip 1;
            limit_conn_log_level warm;
        }
    }
}

limit_conn_zone指令，同樣在http模塊中進(jìn)行設(shè)置；limit_conn_zone key鏈接限制的可選項(xiàng)，可以是下面的 $server_name 或 $binary_remote_addr

• $binaty_remote_addr NGINX 變量以保存客戶端 IP 地址（$remote_addr）的二進(jìn)制；
• $server_name Nginx的變量，按照Server的server_name進(jìn)行限流；
• zone= perip:10m 指定一個(gè)變量名（perip）以保存上面指定的客戶端ip，當(dāng)前配置大小為10M，1M可以存儲(chǔ)大約 16,000 個(gè) IP，這里的10M可以存儲(chǔ)16w個(gè)IP；
• zone=perserver:10m 指定一個(gè)變量名（perserver）以保存根據(jù)server模塊名請(qǐng)求的統(tǒng)計(jì)進(jìn)行限流；

limit_conn：配置上面設(shè)置的配置，并且設(shè)置鏈接個(gè)數(shù)， 如上配置的是ip就限制ip的鏈接個(gè)數(shù)，設(shè)置的是server模塊的名稱就限制其鏈接的個(gè)數(shù)；

limit_conn_status：限制鏈接的返回Http 狀態(tài)碼，可以在【http、server、location】中使用，默認(rèn)返回值為 Http 503狀態(tài)碼，可以設(shè)置為 429 （Too Many Request）

limit_conn_log_level：可以在【http、server、location】中使用，連接日志可選項(xiàng)有：info| notice| warn| error，默認(rèn)級(jí)別為 error

總結(jié)

以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。

最新評(píng)論