詳解Nginx限流配置
本文以示例的形式,由淺入深講解Nginx限流相關(guān)配置,是對(duì)簡(jiǎn)略的官方文檔的積極補(bǔ)充。
Nginx限流使用的是leaky bucket算法,如對(duì)算法感興趣,可移步維基百科先行閱讀。不過(guò)不了解此算法,不影響閱讀本文。
空桶
我們從最簡(jiǎn)單的限流配置開(kāi)始:
limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s; server { location /login/ { limit_req zone=ip_limit; proxy_pass http://login_upstream; } }
- $binary_remote_addr 針對(duì)客戶(hù)端ip限流;
- zone=ip_limit:10m 限流規(guī)則名稱(chēng)為ip_limit,允許使用10MB的內(nèi)存空間來(lái)記錄ip對(duì)應(yīng)的限流狀態(tài);
- rate=10r/s 限流速度為每秒10次請(qǐng)求
- location /login/ 對(duì)登錄進(jìn)行限流
限流速度為每秒10次請(qǐng)求,如果有10次請(qǐng)求同時(shí)到達(dá)一個(gè)空閑的nginx,他們都能得到執(zhí)行嗎?
漏桶漏出請(qǐng)求是勻速的。10r/s是怎樣勻速的呢?每100ms漏出一個(gè)請(qǐng)求。
在這樣的配置下,桶是空的,所有不能實(shí)時(shí)漏出的請(qǐng)求,都會(huì)被拒絕掉。
所以如果10次請(qǐng)求同時(shí)到達(dá),那么只有一個(gè)請(qǐng)求能夠得到執(zhí)行,其它的,都會(huì)被拒絕。
這不太友好,大部分業(yè)務(wù)場(chǎng)景下我們希望這10個(gè)請(qǐng)求都能得到執(zhí)行。
Burst
我們把配置改一下,解決上一節(jié)的問(wèn)題
limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s; server { location /login/ { limit_req zone=ip_limit burst=12; proxy_pass http://login_upstream; } }
burst=12 漏桶的大小設(shè)置為12
邏輯上叫漏桶,實(shí)現(xiàn)起來(lái)是FIFO隊(duì)列,把得不到執(zhí)行的請(qǐng)求暫時(shí)緩存起來(lái)。
這樣漏出的速度仍然是100ms一個(gè)請(qǐng)求,但并發(fā)而來(lái),暫時(shí)得不到執(zhí)行的請(qǐng)求,可以先緩存起來(lái)。只有當(dāng)隊(duì)列滿(mǎn)了的時(shí)候,才會(huì)拒絕接受新請(qǐng)求。
這樣漏桶在限流的同時(shí),也起到了削峰填谷的作用。
在這樣的配置下,如果有10次請(qǐng)求同時(shí)到達(dá),它們會(huì)依次執(zhí)行,每100ms執(zhí)行1個(gè)。
雖然得到執(zhí)行了,但因?yàn)榕抨?duì)執(zhí)行,延遲大大增加,在很多場(chǎng)景下仍然是不能接受的。
NoDelay
繼續(xù)修改配置,解決Delay太久導(dǎo)致延遲增加的問(wèn)題
limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s; server { location /login/ { limit_req zone=ip_limit burst=12 nodelay; proxy_pass http://login_upstream; } }
nodelay 把開(kāi)始執(zhí)行請(qǐng)求的時(shí)間提前,以前是delay到從桶里漏出來(lái)才執(zhí)行,現(xiàn)在不delay了,只要入桶就開(kāi)始執(zhí)行
要么立刻執(zhí)行,要么被拒絕,請(qǐng)求不會(huì)因?yàn)橄蘖鞫黾友舆t了。
因?yàn)檎?qǐng)求從桶里漏出來(lái)還是勻速的,桶的空間又是固定的,最終平均下來(lái),還是每秒執(zhí)行了5次請(qǐng)求,限流的目的還是達(dá)到了。
但這樣也有缺點(diǎn),限流是限了,但是限得不那么勻速。以上面的配置舉例,如果有12個(gè)請(qǐng)求同時(shí)到達(dá),那么這12個(gè)請(qǐng)求都能夠立刻執(zhí)行,然后后面的請(qǐng)求只能勻速進(jìn)桶,100ms執(zhí)行1個(gè)。如果有一段時(shí)間沒(méi)有請(qǐng)求,桶空了,那么又可能出現(xiàn)并發(fā)的12個(gè)請(qǐng)求一起執(zhí)行。
大部分情況下,這種限流不勻速,不算是大問(wèn)題。不過(guò)nginx也提供了一個(gè)參數(shù)才控制并發(fā)執(zhí)行也就是nodelay的請(qǐng)求的數(shù)量。
limit_req_zone $binary_remote_addr zone=ip_limit:10m rate=10r/s; server { location /login/ { limit_req zone=ip_limit burst=12 delay=4; proxy_pass http://login_upstream; } }
delay=4 從桶內(nèi)第5個(gè)請(qǐng)求開(kāi)始delay
這樣通過(guò)控制delay參數(shù)的值,可以調(diào)整允許并發(fā)執(zhí)行的請(qǐng)求的數(shù)量,使得請(qǐng)求變的均勻起來(lái),在有些耗資源的服務(wù)上控制這個(gè)數(shù)量,還是有必要的。
Reference
http://nginx.org/en/docs/http/ngx_http_limit_req_module.html
https://www.nginx.com/blog/rate-limiting-nginx/
總結(jié)
以上所述是小編給大家介紹的Nginx限流配置,希望對(duì)大家有所幫助,如果大家有任何疑問(wèn)請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!
如果你覺(jué)得本文對(duì)你有幫助,歡迎轉(zhuǎn)載,煩請(qǐng)注明出處,謝謝!
相關(guān)文章
Nginx靜態(tài)壓縮和代碼壓縮提高訪(fǎng)問(wèn)速度詳解
Nginx提供靜態(tài)壓縮功能,對(duì)于比較大的文件,可以自動(dòng)默認(rèn)查找.gz后綴的壓縮包,下面這篇文章主要給大家介紹了關(guān)于Nginx靜態(tài)壓縮和代碼壓縮提高訪(fǎng)問(wèn)速度的相關(guān)資料,需要的朋友可以參考下2022-05-05詳解Nginx服務(wù)器中配置全站HTTPS安全連接的方法
這篇文章主要介紹了詳解Nginx服務(wù)器中配置全站HTTPS安全連接的方法,其中要點(diǎn)還是在于SSL證書(shū)的申請(qǐng),需要的朋友可以參考下2016-01-01樹(shù)莓派如何搭建web服務(wù)器(nginx?+php?+?mysql?+?vsftpd?+phpmyadmin)
本文介紹如何使用樹(shù)莓派搭建Web服務(wù)器,包括安裝Nginx、PHP、MySQL、ftp和phpMyAdmin,步驟詳盡,涵蓋不同架構(gòu)的PHP安裝,提供了配置MySQL遠(yuǎn)程訪(fǎng)問(wèn)和管理數(shù)據(jù)庫(kù)的方法,是搭建個(gè)人Web服務(wù)器的實(shí)用指南2024-11-11Nginx日志中request_time和upstream_response_time區(qū)別
Nginx日志中的request_time和upstream_response_time是關(guān)鍵的性能指標(biāo),本文就來(lái)介紹一下Nginx日志中request_time和upstream_response_time區(qū)別,具有一定的參考價(jià)值,感興趣的可以了解一下2024-11-11Nginx?Tomcat負(fù)載均衡動(dòng)靜分離原理解析
這篇文章主要為大家介紹了Nginx?Tomcat負(fù)載均衡動(dòng)靜分離原理解析,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-10-10