快捷導(dǎo)航

SpringCloud中使用Sentinel實(shí)現(xiàn)限流的實(shí)戰(zhàn)

更新時間：2022年01月19日 12:01:54 作者：蹊源的奇思妙想

限流在很多地方都可以使用的到，本篇博客將介紹如何使用SpringCloud中使用Sentinel實(shí)現(xiàn)限流，從而達(dá)到服務(wù)降級的目的，感興趣的可以了解一下

前言

在分布式的項(xiàng)目中經(jīng)常會遇到那種高并發(fā)的場景，為了保證系統(tǒng)不會被突然激增的請求導(dǎo)致宕機(jī)，我們常常會使用一種服務(wù)降級的手段來保護(hù)我們的系統(tǒng)，本篇博客將介紹如何使用SpringCloud中使用Sentinel實(shí)現(xiàn)限流，從而達(dá)到服務(wù)降級的目的。

正文 Sentinel

Sentinel 是面向微服務(wù)的輕量級流量控制框架，從流量控制、熔斷降級、系統(tǒng)負(fù)載保護(hù)等多個維度保護(hù)服務(wù)的穩(wěn)定性。

Sentinel可以作為Hystrix的替代品，為系統(tǒng)提供服務(wù)熔斷和服務(wù)降級的功能。

服務(wù)熔斷:根據(jù)保險絲的熔斷是一個原理，當(dāng)調(diào)用目標(biāo)服務(wù)大量超時和失敗，這時候應(yīng)該熔斷掉該服務(wù)的調(diào)用，從而快速釋放資源，這段時間所有對其調(diào)用都是快速返回，保證整體服務(wù)系統(tǒng)的穩(wěn)定
服務(wù)降級：針對核心業(yè)務(wù)服務(wù)的壓力劇增，根據(jù)當(dāng)前業(yè)務(wù)場景和流量對其他非核心服務(wù)進(jìn)行降級處理，可以進(jìn)行限流，快速返回等處理，釋放資源保證核心任務(wù)的正常運(yùn)行。

Sentinel的限流原理

Sentinel以Bucket（桶）為單位記錄一個時間窗口內(nèi)的請求總數(shù)、異常總數(shù)、總耗時等指標(biāo)數(shù)據(jù)。
而一個Bucket可以是記錄一秒內(nèi)的數(shù)據(jù)，也可以是10毫秒內(nèi)的數(shù)據(jù)，我們稱這個時間窗口為Bucket的統(tǒng)計單位，由使用者自定義。

所以Sentinel是基于滑動窗口算法來實(shí)現(xiàn)的。

設(shè)置Sentinel的閾值指標(biāo)：

線程數(shù)模式
線程數(shù)的模式采用信號隔離的方式來防止線程池被占用。
用于防止線程池被占用，一般有兩種方式：

線程池隔離：為應(yīng)對太多線程占用的情況，業(yè)內(nèi)有使用隔離的方案，比如通過不同業(yè)務(wù)邏輯使用不同線程池來隔離業(yè)務(wù)自身之間的資源爭搶，這種隔離方案雖然隔離性比較好，但是代價就是線程數(shù)目太多，線程上下文切換的 overhead 比較大，特別是對低延時的調(diào)用有比較大的影響。
信號隔離：sentinel采用的是信號隔離的方案，簡單統(tǒng)計當(dāng)前請求上下文的線程數(shù)目（正在執(zhí)行的調(diào)用數(shù)目），如果超出閾值，新的請求會被立即拒絕。

所以業(yè)務(wù)處理是多線程的情況下使用線程數(shù)模式。

Sentinel采用信號隔離的方式，通過并發(fā)線程數(shù)模式，并結(jié)合基于響應(yīng)時間的熔斷降級模式，可以在不穩(wěn)定的平均相應(yīng)時間比較高的時候自動降級，防止過多的慢調(diào)用占滿并發(fā)數(shù)，影響整個系統(tǒng)，避免慢調(diào)用引起依賴雪崩的現(xiàn)象。

QPS模式
QPS即每秒查詢率,是對一個特定的查詢服務(wù)器在規(guī)定時間內(nèi)所處理流量多少的衡量標(biāo)準(zhǔn)。
QPS模式適合單讀線程情況（如servlet請求），這種模式下提供了三種更加精確的流控方式：

直接拒絕 ：直接失敗
Warm Up：即請求 QPS 從 threshold / 3 開始，經(jīng)預(yù)熱時長逐漸升至設(shè)定的 QPS 閾值，通常用于秒殺系統(tǒng)。
勻速排隊(duì)：設(shè)置一個等待時間，勻速處理請求，保證服務(wù)的均勻性，不能處理QPS>1000的場景。

Sentinel 兩種計算閾值的模式：

集群總體模式：即限制整個集群內(nèi)的某個資源的總體 qps 不超過此閾值。
單機(jī)均攤模式：單機(jī)均攤模式下配置的閾值等同于單機(jī)能夠承受的限額，token server 會根據(jù)連接數(shù)來計算總的閾值（比如獨(dú)立模式下有 3個 client 連接到了 token server，然后配的單機(jī)均攤閾值為 10，則計算出的集群總量就為30），按照計算出的總的閾值來進(jìn)行限制。這種方式根據(jù)當(dāng)前的連接數(shù)實(shí)時計算總的閾值，對于機(jī)器經(jīng)常進(jìn)行變更的環(huán)境非常適合。

這里要說明的是：qps是每秒查詢數(shù)， tps是每秒內(nèi)的事務(wù)數(shù)， pv 是指頁面被瀏覽的次數(shù)。

Sentinel流控模式

直接模式：接口達(dá)到限流條件時，開啟限流
關(guān)聯(lián)模式：當(dāng)關(guān)聯(lián)的資源達(dá)到限流條件時，開啟限流
鏈路模式：當(dāng)從某個接口過來的資源達(dá)到限流條件時，開啟限流

Sentinel限流的方式

在Sentinel控制臺中根據(jù)url進(jìn)行限流設(shè)置
通過注解的方式進(jìn)行自定義限流，又可以分為：自定義url限流和自定義資源限流。

第一步：部署sentinel-dashboard

sentinel-dashboard（點(diǎn)擊下載jar包）是一個單獨(dú)的應(yīng)用，通過spring-boot進(jìn)行啟動，主要提供一個輕量級的控制臺，它提供機(jī)器發(fā)現(xiàn)、單機(jī)資源實(shí)時監(jiān)控、集群資源匯總，以及規(guī)則管理的功能。
這里可以理解為sentinel服務(wù)治理中心。

java -Dserver.port=18080 -jar sentinel-dashboard.jar

在這里插入圖片描述

第二步：在項(xiàng)目中整合sentinel

注入依賴

<!--springCloud-Alibaba-->
<dependency>
  <groupId>com.alibaba.cloud</groupId>
  <artifactId>spring-cloud-alibaba-dependencies</artifactId>
  <version>2.2.0.RELEASE</version>
  <type>pom</type>
  <scope>import</scope>
</dependency>

<!--sentinel限流-->
<dependency>
  <groupId>com.alibaba.cloud</groupId>
  <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
  <version>2.2.1.RELEASE</version>
</dependency>

在application.properties中的相關(guān)配置

spring.application.name=imagerepair
server.port=8080
spring.cloud.sentinel.transport.dashboard=127.0.0.1:18080
spring.cloud.sentinel.eager=true

Controller層

@RestController
public class UserController {

    @Autowired
    UserService userService;

    @RequestMapping("/hello")
    public String hello(){
      return userService.sayHello();
    }
}

Service

@Service
public class UserService {

    @SentinelResource(value = "sayHello",fallback = "sayHellofail")
    public String sayHello(){
        return "Hello,World";
    }

    public  String sayHellofail(){
        return "I'am sorry";
    }

}

在這里插入圖片描述

設(shè)置限流，快速訪問，從而觸發(fā)服務(wù)降級

設(shè)置Sentinel的資源

在這里插入圖片描述

當(dāng)請求超過設(shè)定的閾值，啟動限流降級,展示如下：

在這里插入圖片描述

項(xiàng)目源碼

該項(xiàng)目源碼可從我的github中獲取。

到此這篇關(guān)于SpringCloud中使用Sentinel實(shí)現(xiàn)限流的實(shí)戰(zhàn)的文章就介紹到這了,更多相關(guān)SpringCloud Sentinel限流內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: