欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

nginx反向代理時(shí)如何保持長(zhǎng)連接

 更新時(shí)間:2020年10月30日 14:25:03   作者:流年的夏天  
如果我們使用了nginx去作為反向代理或者負(fù)載均衡,從客戶端過(guò)來(lái)的長(zhǎng)連接請(qǐng)求就會(huì)被轉(zhuǎn)換成短連接發(fā)送給服務(wù)器端。為了支持長(zhǎng)連接,我們需要在nginx服務(wù)器上做一些配置。

·【場(chǎng)景描述】

HTTP1.1之后,HTTP協(xié)議支持持久連接,也就是長(zhǎng)連接,優(yōu)點(diǎn)在于在一個(gè)TCP連接上可以傳送多個(gè)HTTP請(qǐng)求和響應(yīng),減少了建立和關(guān)閉連接的消耗和延遲。

如果我們使用了nginx去作為反向代理或者負(fù)載均衡,從客戶端過(guò)來(lái)的長(zhǎng)連接請(qǐng)求就會(huì)被轉(zhuǎn)換成短連接發(fā)送給服務(wù)器端。

為了支持長(zhǎng)連接,我們需要在nginx服務(wù)器上做一些配置。

·【要求】

使用nginx時(shí),想要做到長(zhǎng)連接,我們必須做到以下兩點(diǎn):

  • 從client到nginx是長(zhǎng)連接
  • 從nginx到server是長(zhǎng)連接

對(duì)于客戶端而言,nginx其實(shí)扮演著server的角色,反之,之于server,nginx就是一個(gè)client。

·【保持和 Client 的長(zhǎng)連接】

我們要想做到Client與Nginx之間保持長(zhǎng)連接,需要:

  • Client發(fā)送過(guò)來(lái)的請(qǐng)求攜帶"keep-alive"header。
  • Nginx設(shè)置支持keep-alive

【HTTP配置】

默認(rèn)情況下,nginx已經(jīng)開啟了對(duì)client連接的 keepalive 支持。對(duì)于特殊場(chǎng)景,可以調(diào)整相關(guān)參數(shù)。

http {

keepalive_timeout 120s;    #客戶端鏈接超時(shí)時(shí)間。為0的時(shí)候禁用長(zhǎng)連接。

keepalive_requests 10000;  #在一個(gè)長(zhǎng)連接上可以服務(wù)的最大請(qǐng)求數(shù)目。

                         #當(dāng)達(dá)到最大請(qǐng)求數(shù)目且所有已有請(qǐng)求結(jié)束后,連接被關(guān)閉。

                         #默認(rèn)值為100

}

大多數(shù)情況下,keepalive_requests = 100也夠用,但是對(duì)于 QPS 較高的場(chǎng)景,非常有必要加大這個(gè)參數(shù),以避免出現(xiàn)大量連接被生成再拋棄的情況,減少TIME_WAIT。

QPS=10000 時(shí),客戶端每秒發(fā)送 10000 個(gè)請(qǐng)求 (通常建立有多個(gè)長(zhǎng)連接),每個(gè)連接只能最多跑 100 次請(qǐng)求,意味著平均每秒鐘就會(huì)有 100 個(gè)長(zhǎng)連接因此被 nginx 關(guān)閉。

同樣意味著為了保持 QPS,客戶端不得不每秒中重新新建 100 個(gè)連接。

因此,如果用netstat命令看客戶端機(jī)器,就會(huì)發(fā)現(xiàn)有大量的TIME_WAIT的socket連接 (即使此時(shí)keep alive已經(jīng)在 Client 和 NGINX 之間生效)。

·【保持和Server的長(zhǎng)連接】

想讓Nginx和Server之間維持長(zhǎng)連接,最樸素的設(shè)置如下:

http {

upstream backend {

  server 192.168.0.1:8080 weight=1 max_fails=2 fail_timeout=30s;

  server 192.168.0.2:8080 weight=1 max_fails=2 fail_timeout=30s;

  keepalive 300; // 這個(gè)很重要!

}   

server {

listen 8080 default_server;

server_name "";

   

location / {

proxy_pass http://backend;

proxy_http_version 1.1;                         # 設(shè)置http版本為1.1

proxy_set_header Connection "";      # 設(shè)置Connection為長(zhǎng)連接(默認(rèn)為no)}

}

}

}

【upstream配置】

upstream中,有一個(gè)參數(shù)特別的重要,就是keepalive。

這個(gè)參數(shù)和之前http里面的 keepalive_timeout 不一樣。

這個(gè)參數(shù)的含義是,連接池里面最大的空閑連接數(shù)量。

不理解?沒(méi)關(guān)系,我們來(lái)舉個(gè)例子:

場(chǎng)景:

有一個(gè)HTTP服務(wù),作為upstream服務(wù)器接收請(qǐng)求,響應(yīng)時(shí)間為100毫秒。

要求性能達(dá)到10000 QPS,我們需要在nginx與upstream服務(wù)器之間建立大概1000條HTTP請(qǐng)求。(1000/0.1s=10000) 

最優(yōu)情況:

假設(shè)請(qǐng)求非常的均勻平穩(wěn),每一個(gè)請(qǐng)求都是100ms,請(qǐng)求結(jié)束會(huì)被馬上放入連接池并置為idle(空閑)狀態(tài)。

我們以0.1s為單位:

1. 我們現(xiàn)在keepalive的值設(shè)置為10,每0.1s鐘有1000個(gè)連接

2. 第0.1s的時(shí)候,我們一共有1000個(gè)請(qǐng)求收到并釋放

3. 第0.2s的時(shí)候,我們又來(lái)了1000個(gè)請(qǐng)求,在0.2s結(jié)束的時(shí)候釋放   

請(qǐng)求和應(yīng)答都比較均勻,0.1s釋放的連接正好夠用,不需要建立新連接,且連接池中沒(méi)有idle狀態(tài)的連接。   

第一種情況:

應(yīng)答非常平穩(wěn),但是請(qǐng)求不平穩(wěn)的時(shí)候

4. 第0.3s的時(shí)候,我們只有500個(gè)請(qǐng)求收到,有500個(gè)請(qǐng)求因?yàn)榫W(wǎng)絡(luò)延遲等原因沒(méi)有進(jìn)來(lái)

這個(gè)時(shí)候,Nginx檢測(cè)到連接池中有500個(gè)idle狀態(tài)的連接,就直接關(guān)閉了(500-10)個(gè)連接

5. 第0.4s的時(shí)候,我們收到了1500個(gè)請(qǐng)求,但是現(xiàn)在池里面只有(500+10)個(gè)連接,所以Nginx不得不重新建立了(1500-510)個(gè)連接。

如果在第4步的時(shí)候,沒(méi)有關(guān)閉那490個(gè)連接的話,只需要重新建立500個(gè)連接。   

第二種情況:

請(qǐng)求非常平穩(wěn),但是應(yīng)答不平穩(wěn)的時(shí)候

4. 第0.3s的時(shí)候,我們一共有1500個(gè)請(qǐng)求收到

但是池里面只有1000個(gè)連接,這個(gè)時(shí)候,Nginx又創(chuàng)建了500個(gè)連接,一共1500個(gè)連接

5. 第0.3s的時(shí)候,第0.3s的連接全部被釋放,我們收到了500個(gè)請(qǐng)求

Nginx檢測(cè)到池里面有1000個(gè)idle狀態(tài)的連接,所以不得不釋放了(1000-10)個(gè)連接 

造成連接數(shù)量反復(fù)震蕩的一個(gè)推手,就是這個(gè)keepalive 這個(gè)最大空閑連接數(shù)。

上面的兩種情況說(shuō)的都是 keepalive 設(shè)置的不合理導(dǎo)致Nginx有多次釋放與創(chuàng)建連接的過(guò)程,造成資源浪費(fèi)。 

keepalive 這個(gè)參數(shù)設(shè)置一定要小心,尤其是對(duì)于 QPS 要求比較高或者網(wǎng)絡(luò)環(huán)境不穩(wěn)定的場(chǎng)景,一般根據(jù) QPS 值和 平均響應(yīng)時(shí)間能大致推算出需要的長(zhǎng)連接數(shù)量。

然后將keepalive設(shè)置為長(zhǎng)連接數(shù)量的10%到30%。 

【location配置】

http {

server {

location / {

proxy_pass http://backend;

proxy_http_version 1.1;                         # 設(shè)置http版本為1.1

proxy_set_header Connection "";      # 設(shè)置Connection為長(zhǎng)連接(默認(rèn)為no)

}

}

}

HTTP 協(xié)議中對(duì)長(zhǎng)連接的支持是從 1.1 版本之后才有的,因此最好通過(guò) proxy_http_version 指令設(shè)置為 1.1。

HTTP1.0不支持keepalive特性,當(dāng)沒(méi)有使用HTTP1.1的時(shí)候,后端服務(wù)會(huì)返回101錯(cuò)誤,然后斷開連接。   

而 "Connection" header 可以選擇被清理,這樣即便是 Client 和 Nginx 之間是短連接,Nginx 和 upstream 之間也是可以開啟長(zhǎng)連接的。

【另外一種高級(jí)方式】

http {

map $http_upgrade $connection_upgrade {

default upgrade;

'' close;

}   

upstream backend {

server 192.168.0.1:8080 weight=1 max_fails=2 fail_timeout=30s;

server 192.168.0.2:8080 weight=1 max_fails=2 fail_timeout=30s;

keepalive 300;

}   

server {

listen 8080 default_server;

server_name "";

location / {

proxy_pass http://backend;

   

proxy_connect_timeout 15;       #與upstream server的連接超時(shí)時(shí)間(沒(méi)有單位,最大不可以超過(guò)75s)

proxy_read_timeout 60s;           #nginx會(huì)等待多長(zhǎng)時(shí)間來(lái)獲得請(qǐng)求的響應(yīng)

proxy_send_timeout 12s;           #發(fā)送請(qǐng)求給upstream服務(wù)器的超時(shí)時(shí)間   

proxy_http_version 1.1;

proxy_set_header Upgrade $http_upgrade;

proxy_set_header Connection $connection_upgrade;

}

}

}

http里面的map的作用是:

讓轉(zhuǎn)發(fā)到代理服務(wù)器的 "Connection" 頭字段的值,取決于客戶端請(qǐng)求頭的 "Upgrade" 字段值。

如果 $http_upgrade沒(méi)有匹配,那 "Connection" 頭字段的值會(huì)是upgrade。

如果 $http_upgrade為空字符串的話,那 "Connection" 頭字段的值會(huì)是 close。

【補(bǔ)充】

NGINX支持WebSocket。

對(duì)于NGINX將升級(jí)請(qǐng)求從客戶端發(fā)送到后臺(tái)服務(wù)器,必須明確設(shè)置Upgrade和Connection標(biāo)題。

這也算是上面情況所非常常用的場(chǎng)景。

HTTP的Upgrade協(xié)議頭機(jī)制用于將連接從HTTP連接升級(jí)到WebSocket連接,Upgrade機(jī)制使用了Upgrade協(xié)議頭和Connection協(xié)議頭。

為了讓Nginx可以將來(lái)自客戶端的Upgrade請(qǐng)求發(fā)送到后端服務(wù)器,Upgrade和Connection的頭信息必須被顯式的設(shè)置。 

【注意】

在nginx的配置文件中,如果當(dāng)前模塊中沒(méi)有proxy_set_header的設(shè)置,則會(huì)從上級(jí)別繼承配置。

繼承順序?yàn)椋篽ttp, server, location。   

如果在下一層使用proxy_set_header修改了header的值,則所有的header值都可能會(huì)發(fā)生變化,之前繼承的所有配置將會(huì)被丟棄。

所以,盡量在同一個(gè)地方進(jìn)行proxy_set_header,否則可能會(huì)有別的問(wèn)題。   

·【參考】

Nginx中文官方文檔: http://www.nginx.cn/doc/

測(cè)試參考文檔: https://www.lijiaocn.com/問(wèn)題/2019/05/08/nginx-ingress-keep-alive-not-work.html

keep-alive參考文檔: https://wglee.org/2018/12/02/nginx-keepalive/

以上就是nginx反向代理時(shí)如何保持長(zhǎng)連接的詳細(xì)內(nèi)容,更多關(guān)于nginx 保持長(zhǎng)連接的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!

相關(guān)文章

  • 詳解Nginx 工作原理

    詳解Nginx 工作原理

    這篇文章主要介紹了Nginx 工作原理,幫助大家更好的理解和學(xué)習(xí)nginx,感興趣的朋友可以了解下
    2020-10-10
  • nginx重寫rewrite基礎(chǔ)及實(shí)例分享

    nginx重寫rewrite基礎(chǔ)及實(shí)例分享

    這篇文章主要介紹了nginx重寫rewrite基礎(chǔ)及實(shí)例分享,需要的朋友可以參考下
    2016-04-04
  • 如何讓你的Nginx支持分布式追蹤詳解

    如何讓你的Nginx支持分布式追蹤詳解

    分布式追蹤系統(tǒng)(Tracing)旨在分析請(qǐng)求背后調(diào)用了哪些服務(wù),服務(wù)的調(diào)用順序、耗時(shí)、錯(cuò)誤原因等,下面這篇文章主要給大家介紹了關(guān)于如何讓你的Nginx支持分布式追蹤的相關(guān)資料,需要的朋友可以參考下
    2022-07-07
  • 騰訊云CentOS 6.6快速安裝 Nginx服務(wù)器圖文教程

    騰訊云CentOS 6.6快速安裝 Nginx服務(wù)器圖文教程

    本文通過(guò)圖文并茂的形式給大家介紹了騰訊云CentOS 6.6快速安裝 Nginx服務(wù)器的方法,介紹的非常詳細(xì),具有參考借鑒價(jià)值,感興趣的朋友一起看看吧
    2016-09-09
  • Nginx的HA高可用的搭建的實(shí)現(xiàn)

    Nginx的HA高可用的搭建的實(shí)現(xiàn)

    高可用是一種系統(tǒng)設(shè)計(jì)策略,旨在確保服務(wù)或應(yīng)用在面對(duì)硬件故障、軟件缺陷或任何其他異常情況時(shí),仍能持續(xù)穩(wěn)定地運(yùn)行,本文主要介紹了Nginx的HA高可用的搭建,感興趣的可以了解一下
    2024-08-08
  • 詳解Nginx 502錯(cuò)誤解決辦法

    詳解Nginx 502錯(cuò)誤解決辦法

    這篇文章主要介紹了詳解Nginx 502錯(cuò)誤解決辦法的相關(guān)資料,這里說(shuō)明幾種可能出現(xiàn)的502錯(cuò)誤的實(shí)例,并一一說(shuō)明如何解決,需要的朋友可以參考下
    2017-08-08
  • 配置Nginx出現(xiàn)403(Forbidden)靜態(tài)文件加載不出來(lái)的解決方法

    配置Nginx出現(xiàn)403(Forbidden)靜態(tài)文件加載不出來(lái)的解決方法

    本文主要介紹了配置Nginx出現(xiàn)403(Forbidden)靜態(tài)文件加載不出來(lái)的解決方法,文中通過(guò)圖文介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2023-12-12
  • Nginx代理接口訪問(wèn)返回404的實(shí)現(xiàn)示例

    Nginx代理接口訪問(wèn)返回404的實(shí)現(xiàn)示例

    因?yàn)椴煌瑯I(yè)務(wù)系統(tǒng)間有接口調(diào)用,存在跨域問(wèn)題,為了解決同源策略,需要將接口通過(guò)nginx去轉(zhuǎn)發(fā),本文主要介紹了Nginx代理接口訪問(wèn)返回404的實(shí)現(xiàn)示例,感興趣的可以了解一下
    2024-06-06
  • Nginx+keepalived雙機(jī)熱備技術(shù)實(shí)踐

    Nginx+keepalived雙機(jī)熱備技術(shù)實(shí)踐

    在互聯(lián)網(wǎng)的高可用性 服務(wù)中,單一的服務(wù)節(jié)點(diǎn)往往無(wú)法滿足業(yè)務(wù)對(duì)穩(wěn)定性和可用性的要求,雙機(jī)熱備是一種常見的高可用性解決方案,它通過(guò)兩臺(tái)服務(wù)器同時(shí)運(yùn)行相同的服務(wù),本文將詳細(xì)介紹如何在 Nginx 環(huán)境中部署雙機(jī)熱備方案,需要的朋友可以參考下
    2025-01-01
  • Nginx服務(wù)器中配置GeoIP模塊來(lái)攔截指定國(guó)家IP

    Nginx服務(wù)器中配置GeoIP模塊來(lái)攔截指定國(guó)家IP

    Nginx中自帶GeoIP模塊可以屏蔽指定IP的請(qǐng)求,只不過(guò)默認(rèn)沒(méi)有被編譯,打開以后我們只要再下載一個(gè)IP規(guī)則就行,Nginx服務(wù)器中配置GeoIP模塊來(lái)攔截指定國(guó)家IP
    2016-06-06

最新評(píng)論