詳解Nginx服務(wù)器之負(fù)載均衡策略(6種)
一、關(guān)于Nginx的負(fù)載均衡
在服務(wù)器集群中,Nginx起到一個(gè)代理服務(wù)器的角色(即反向代理),為了避免單獨(dú)一個(gè)服務(wù)器壓力過大,將來自用戶的請(qǐng)求轉(zhuǎn)發(fā)給不同的服務(wù)器。詳情請(qǐng)查看我的另一篇博客。
二、Nginx負(fù)載均衡策略
負(fù)載均衡用于從“upstream”模塊定義的后端服務(wù)器列表中選取一臺(tái)服務(wù)器接受用戶的請(qǐng)求。一個(gè)最基本的upstream模塊是這樣的,模塊內(nèi)的server是服務(wù)器列表:
#動(dòng)態(tài)服務(wù)器組 upstream dynamic_zuoyu { server localhost:8080; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083; #tomcat 9.0 }
在upstream模塊配置完成后,要讓指定的訪問反向代理到服務(wù)器列表:
#其他頁(yè)面反向代理到tomcat容器 location ~ .*$ { index index.jsp index.html; proxy_pass http://dynamic_zuoyu; }
這就是最基本的負(fù)載均衡實(shí)例,但這不足以滿足實(shí)際需求;目前Nginx服務(wù)器的upstream模塊支持6種方式的分配:
負(fù)載均衡策略
輪詢 | 默認(rèn)方式 |
weight | 權(quán)重方式 |
ip_hash | 依據(jù)ip分配方式 |
least_conn | 最少連接方式 |
fair(第三方) | 響應(yīng)時(shí)間方式 |
url_hash(第三方) | 依據(jù)URL分配方式 |
在這里,只詳細(xì)說明Nginx自帶的負(fù)載均衡策略,第三方不多描述。
1、輪詢
最基本的配置方法,上面的例子就是輪詢的方式,它是upstream模塊默認(rèn)的負(fù)載均衡默認(rèn)策略。每個(gè)請(qǐng)求會(huì)按時(shí)間順序逐一分配到不同的后端服務(wù)器。
有如下參數(shù):
fail_timeout | 與max_fails結(jié)合使用。 |
max_fails |
設(shè)置在fail_timeout參數(shù)設(shè)置的時(shí)間內(nèi)最大失敗次數(shù),如果在這個(gè)時(shí)間內(nèi),所有針對(duì)該服務(wù)器的請(qǐng)求都失敗了,那么認(rèn)為該服務(wù)器會(huì)被認(rèn)為是停機(jī)了,
|
fail_time | 服務(wù)器會(huì)被認(rèn)為停機(jī)的時(shí)間長(zhǎng)度,默認(rèn)為10s。 |
backup | 標(biāo)記該服務(wù)器為備用服務(wù)器。當(dāng)主服務(wù)器停止時(shí),請(qǐng)求會(huì)被發(fā)送到它這里。 |
down | 標(biāo)記服務(wù)器永久停機(jī)了。 |
注意:
- 在輪詢中,如果服務(wù)器down掉了,會(huì)自動(dòng)剔除該服務(wù)器。
- 缺省配置就是輪詢策略。
- 此策略適合服務(wù)器配置相當(dāng),無狀態(tài)且短平快的服務(wù)使用。
2、weight
權(quán)重方式,在輪詢策略的基礎(chǔ)上指定輪詢的幾率。例子如下:
#動(dòng)態(tài)服務(wù)器組 upstream dynamic_zuoyu { server localhost:8080 weight=2; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082 backup; #tomcat 8.5 server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0 }
在該例子中,weight參數(shù)用于指定輪詢幾率,weight的默認(rèn)值為1,;weight的數(shù)值與訪問比率成正比,比如Tomcat 7.0被訪問的幾率為其他服務(wù)器的兩倍。
注意:
- 權(quán)重越高分配到需要處理的請(qǐng)求越多。
- 此策略可以與least_conn和ip_hash結(jié)合使用。
- 此策略比較適合服務(wù)器的硬件配置差別比較大的情況。
3、ip_hash
指定負(fù)載均衡器按照基于客戶端IP的分配方式,這個(gè)方法確保了相同的客戶端的請(qǐng)求一直發(fā)送到相同的服務(wù)器,以保證session會(huì)話。這樣每個(gè)訪客都固定訪問一個(gè)后端服務(wù)器,可以解決session不能跨服務(wù)器的問題。
#動(dòng)態(tài)服務(wù)器組 upstream dynamic_zuoyu { ip_hash; #保證每個(gè)訪客固定訪問一個(gè)后端服務(wù)器 server localhost:8080 weight=2; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0 }
注意:
- 在nginx版本1.3.1之前,不能在ip_hash中使用權(quán)重(weight)。
- ip_hash不能與backup同時(shí)使用。
- 此策略適合有狀態(tài)服務(wù),比如session。
- 當(dāng)有服務(wù)器需要剔除,必須手動(dòng)down掉。
4、least_conn
把請(qǐng)求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器。輪詢算法是把請(qǐng)求平均的轉(zhuǎn)發(fā)給各個(gè)后端,使它們的負(fù)載大致相同;但是,有些請(qǐng)求占用的時(shí)間很長(zhǎng),會(huì)導(dǎo)致其所在的后端負(fù)載較高。這種情況下,least_conn這種方式就可以達(dá)到更好的負(fù)載均衡效果。
#動(dòng)態(tài)服務(wù)器組 upstream dynamic_zuoyu { least_conn; #把請(qǐng)求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器 server localhost:8080 weight=2; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082 backup; #tomcat 8.5 server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0 }
注意:
- 此負(fù)載均衡策略適合請(qǐng)求處理時(shí)間長(zhǎng)短不一造成服務(wù)器過載的情況。
5、第三方策略
第三方的負(fù)載均衡策略的實(shí)現(xiàn)需要安裝第三方插件。
①fair
按照服務(wù)器端的響應(yīng)時(shí)間來分配請(qǐng)求,響應(yīng)時(shí)間短的優(yōu)先分配。
#動(dòng)態(tài)服務(wù)器組 upstream dynamic_zuoyu { server localhost:8080; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083; #tomcat 9.0 fair; #實(shí)現(xiàn)響應(yīng)時(shí)間短的優(yōu)先分配 }
②url_hash
按訪問url的hash結(jié)果來分配請(qǐng)求,使每個(gè)url定向到同一個(gè)后端服務(wù)器,要配合緩存命中來使用。同一個(gè)資源多次請(qǐng)求,可能會(huì)到達(dá)不同的服務(wù)器上,導(dǎo)致不必要的多次下載,緩存命中率不高,以及一些資源時(shí)間的浪費(fèi)。而使用url_hash,可以使得同一個(gè)url(也就是同一個(gè)資源請(qǐng)求)會(huì)到達(dá)同一臺(tái)服務(wù)器,一旦緩存住了資源,再此收到請(qǐng)求,就可以從緩存中讀取?!?/p>
#動(dòng)態(tài)服務(wù)器組 upstream dynamic_zuoyu { hash $request_uri; #實(shí)現(xiàn)每個(gè)url定向到同一個(gè)后端服務(wù)器 server localhost:8080; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083; #tomcat 9.0 }
三、總結(jié)
以上便是6種負(fù)載均衡策略的實(shí)現(xiàn)方式,其中除了輪詢和輪詢權(quán)重外,都是Nginx根據(jù)不同的算法實(shí)現(xiàn)的。在實(shí)際運(yùn)用中,需要根據(jù)不同的場(chǎng)景選擇性運(yùn)用,大都是多種策略結(jié)合使用以達(dá)到實(shí)際需求。希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
- nginx 作為反向代理實(shí)現(xiàn)負(fù)載均衡的例子
- Nginx負(fù)載均衡的4種方案配置實(shí)例
- 使用nginx+lua進(jìn)行token鑒權(quán)的方法
- Nginx+Windows負(fù)載均衡配置方法
- windows使用nginx實(shí)現(xiàn)網(wǎng)站負(fù)載均衡測(cè)試實(shí)例
- nginx負(fù)載均衡配置,宕機(jī)自動(dòng)切換方式
- nginx 負(fù)載均衡 多站點(diǎn)共享Session
- Nginx負(fù)載均衡配置簡(jiǎn)單配置方法
- nginx?負(fù)載均衡輪詢方式配置詳解
- Nginx搭載負(fù)載均衡及前端項(xiàng)目部署
相關(guān)文章
centos7系統(tǒng)下nginx安裝并配置開機(jī)自啟動(dòng)操作
這篇文章主要介紹了centos7系統(tǒng)下nginx安裝并配置開機(jī)自啟動(dòng)操作方法,非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友可以參考下2017-02-02Nginx配置之實(shí)現(xiàn)多臺(tái)服務(wù)器負(fù)載均衡
這篇文章主要介紹了Nginx配置之實(shí)現(xiàn)多臺(tái)服務(wù)器負(fù)載均衡,本篇文章通過簡(jiǎn)要的案例,講解了該項(xiàng)技術(shù)的了解與使用,以下就是詳細(xì)內(nèi)容,需要的朋友可以參考下2021-07-07ngin配置301重定向設(shè)置方法和nginx子目錄301重定向
這篇文章主要介紹了ngin配置301重定向設(shè)置方法和nginx子目錄301重定向,需要的朋友可以參考下2014-04-04nginx中一個(gè)請(qǐng)求的count計(jì)數(shù)跟蹤淺析
這篇文章主要給大家介紹了關(guān)于nginx中一個(gè)請(qǐng)求的count計(jì)數(shù)跟蹤的相關(guān)資料,文中通過實(shí)例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2022-01-01關(guān)于nginx+php5.3.8+eclipse3.7工作空間的配置方法
以前用eclipse3.6時(shí)設(shè)置php服務(wù)器時(shí)完全可以在base url欄填寫自己工作空間的目錄,然后修改nginx.conf加一個(gè)alias就行了2011-11-11nginx實(shí)現(xiàn)根據(jù)URL轉(zhuǎn)發(fā)請(qǐng)求的實(shí)戰(zhàn)經(jīng)歷
這篇文章主要給大家介紹了一次關(guān)于nginx實(shí)現(xiàn)根據(jù)URL轉(zhuǎn)發(fā)請(qǐng)求的實(shí)戰(zhàn)經(jīng)歷,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用nginx具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-11-11使用nginx搭建點(diǎn)播和直播流媒體服務(wù)器的方法步驟
本篇文章主要介紹了使用nginx搭建點(diǎn)播和直播流媒體服務(wù)器的方法步驟,小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2018-03-03