詳解Nginx服務(wù)器之負(fù)載均衡策略(6種)
一、關(guān)于Nginx的負(fù)載均衡
在服務(wù)器集群中,Nginx起到一個代理服務(wù)器的角色(即反向代理),為了避免單獨一個服務(wù)器壓力過大,將來自用戶的請求轉(zhuǎn)發(fā)給不同的服務(wù)器。詳情請查看我的另一篇博客。
二、Nginx負(fù)載均衡策略
負(fù)載均衡用于從“upstream”模塊定義的后端服務(wù)器列表中選取一臺服務(wù)器接受用戶的請求。一個最基本的upstream模塊是這樣的,模塊內(nèi)的server是服務(wù)器列表:
#動態(tài)服務(wù)器組 upstream dynamic_zuoyu { server localhost:8080; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083; #tomcat 9.0 }
在upstream模塊配置完成后,要讓指定的訪問反向代理到服務(wù)器列表:
#其他頁面反向代理到tomcat容器 location ~ .*$ { index index.jsp index.html; proxy_pass http://dynamic_zuoyu; }
這就是最基本的負(fù)載均衡實例,但這不足以滿足實際需求;目前Nginx服務(wù)器的upstream模塊支持6種方式的分配:
負(fù)載均衡策略
輪詢 | 默認(rèn)方式 |
weight | 權(quán)重方式 |
ip_hash | 依據(jù)ip分配方式 |
least_conn | 最少連接方式 |
fair(第三方) | 響應(yīng)時間方式 |
url_hash(第三方) | 依據(jù)URL分配方式 |
在這里,只詳細(xì)說明Nginx自帶的負(fù)載均衡策略,第三方不多描述。
1、輪詢
最基本的配置方法,上面的例子就是輪詢的方式,它是upstream模塊默認(rèn)的負(fù)載均衡默認(rèn)策略。每個請求會按時間順序逐一分配到不同的后端服務(wù)器。
有如下參數(shù):
fail_timeout | 與max_fails結(jié)合使用。 |
max_fails |
設(shè)置在fail_timeout參數(shù)設(shè)置的時間內(nèi)最大失敗次數(shù),如果在這個時間內(nèi),所有針對該服務(wù)器的請求都失敗了,那么認(rèn)為該服務(wù)器會被認(rèn)為是停機了,
|
fail_time | 服務(wù)器會被認(rèn)為停機的時間長度,默認(rèn)為10s。 |
backup | 標(biāo)記該服務(wù)器為備用服務(wù)器。當(dāng)主服務(wù)器停止時,請求會被發(fā)送到它這里。 |
down | 標(biāo)記服務(wù)器永久停機了。 |
注意:
- 在輪詢中,如果服務(wù)器down掉了,會自動剔除該服務(wù)器。
- 缺省配置就是輪詢策略。
- 此策略適合服務(wù)器配置相當(dāng),無狀態(tài)且短平快的服務(wù)使用。
2、weight
權(quán)重方式,在輪詢策略的基礎(chǔ)上指定輪詢的幾率。例子如下:
#動態(tài)服務(wù)器組 upstream dynamic_zuoyu { server localhost:8080 weight=2; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082 backup; #tomcat 8.5 server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0 }
在該例子中,weight參數(shù)用于指定輪詢幾率,weight的默認(rèn)值為1,;weight的數(shù)值與訪問比率成正比,比如Tomcat 7.0被訪問的幾率為其他服務(wù)器的兩倍。
注意:
- 權(quán)重越高分配到需要處理的請求越多。
- 此策略可以與least_conn和ip_hash結(jié)合使用。
- 此策略比較適合服務(wù)器的硬件配置差別比較大的情況。
3、ip_hash
指定負(fù)載均衡器按照基于客戶端IP的分配方式,這個方法確保了相同的客戶端的請求一直發(fā)送到相同的服務(wù)器,以保證session會話。這樣每個訪客都固定訪問一個后端服務(wù)器,可以解決session不能跨服務(wù)器的問題。
#動態(tài)服務(wù)器組 upstream dynamic_zuoyu { ip_hash; #保證每個訪客固定訪問一個后端服務(wù)器 server localhost:8080 weight=2; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0 }
注意:
- 在nginx版本1.3.1之前,不能在ip_hash中使用權(quán)重(weight)。
- ip_hash不能與backup同時使用。
- 此策略適合有狀態(tài)服務(wù),比如session。
- 當(dāng)有服務(wù)器需要剔除,必須手動down掉。
4、least_conn
把請求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器。輪詢算法是把請求平均的轉(zhuǎn)發(fā)給各個后端,使它們的負(fù)載大致相同;但是,有些請求占用的時間很長,會導(dǎo)致其所在的后端負(fù)載較高。這種情況下,least_conn這種方式就可以達(dá)到更好的負(fù)載均衡效果。
#動態(tài)服務(wù)器組 upstream dynamic_zuoyu { least_conn; #把請求轉(zhuǎn)發(fā)給連接數(shù)較少的后端服務(wù)器 server localhost:8080 weight=2; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082 backup; #tomcat 8.5 server localhost:8083 max_fails=3 fail_timeout=20s; #tomcat 9.0 }
注意:
- 此負(fù)載均衡策略適合請求處理時間長短不一造成服務(wù)器過載的情況。
5、第三方策略
第三方的負(fù)載均衡策略的實現(xiàn)需要安裝第三方插件。
①fair
按照服務(wù)器端的響應(yīng)時間來分配請求,響應(yīng)時間短的優(yōu)先分配。
#動態(tài)服務(wù)器組 upstream dynamic_zuoyu { server localhost:8080; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083; #tomcat 9.0 fair; #實現(xiàn)響應(yīng)時間短的優(yōu)先分配 }
②url_hash
按訪問url的hash結(jié)果來分配請求,使每個url定向到同一個后端服務(wù)器,要配合緩存命中來使用。同一個資源多次請求,可能會到達(dá)不同的服務(wù)器上,導(dǎo)致不必要的多次下載,緩存命中率不高,以及一些資源時間的浪費。而使用url_hash,可以使得同一個url(也就是同一個資源請求)會到達(dá)同一臺服務(wù)器,一旦緩存住了資源,再此收到請求,就可以從緩存中讀取?!?/p>
#動態(tài)服務(wù)器組 upstream dynamic_zuoyu { hash $request_uri; #實現(xiàn)每個url定向到同一個后端服務(wù)器 server localhost:8080; #tomcat 7.0 server localhost:8081; #tomcat 8.0 server localhost:8082; #tomcat 8.5 server localhost:8083; #tomcat 9.0 }
三、總結(jié)
以上便是6種負(fù)載均衡策略的實現(xiàn)方式,其中除了輪詢和輪詢權(quán)重外,都是Nginx根據(jù)不同的算法實現(xiàn)的。在實際運用中,需要根據(jù)不同的場景選擇性運用,大都是多種策略結(jié)合使用以達(dá)到實際需求。希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
centos7系統(tǒng)下nginx安裝并配置開機自啟動操作
這篇文章主要介紹了centos7系統(tǒng)下nginx安裝并配置開機自啟動操作方法,非常不錯,具有參考借鑒價值,需要的朋友可以參考下2017-02-02Nginx配置之實現(xiàn)多臺服務(wù)器負(fù)載均衡
這篇文章主要介紹了Nginx配置之實現(xiàn)多臺服務(wù)器負(fù)載均衡,本篇文章通過簡要的案例,講解了該項技術(shù)的了解與使用,以下就是詳細(xì)內(nèi)容,需要的朋友可以參考下2021-07-07ngin配置301重定向設(shè)置方法和nginx子目錄301重定向
這篇文章主要介紹了ngin配置301重定向設(shè)置方法和nginx子目錄301重定向,需要的朋友可以參考下2014-04-04關(guān)于nginx+php5.3.8+eclipse3.7工作空間的配置方法
以前用eclipse3.6時設(shè)置php服務(wù)器時完全可以在base url欄填寫自己工作空間的目錄,然后修改nginx.conf加一個alias就行了2011-11-11nginx實現(xiàn)根據(jù)URL轉(zhuǎn)發(fā)請求的實戰(zhàn)經(jīng)歷
這篇文章主要給大家介紹了一次關(guān)于nginx實現(xiàn)根據(jù)URL轉(zhuǎn)發(fā)請求的實戰(zhàn)經(jīng)歷,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用nginx具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-11-11