前言

限流的目的是通過對并發(fā)訪問/請求進(jìn)行限速，或者對一個(gè)時(shí)間窗口內(nèi)的請求進(jìn)行限速來保護(hù)系統(tǒng)，一旦達(dá)到限制速率則可以拒絕服務(wù)、排隊(duì)或等待、降級等處理

Sentinel是阿里中間件團(tuán)隊(duì)開源的，面向分布式服務(wù)架構(gòu)的輕量級高可用流量控制組件，主要以流量為切入點(diǎn)，從流量控制、熔斷降級、系統(tǒng)負(fù)載保護(hù)等多個(gè)維度來幫助用戶保護(hù)服務(wù)的穩(wěn)定性。

在 Sentinel 中，實(shí)現(xiàn)限流的方法有以下兩種：

• 通過代碼方法實(shí)現(xiàn)限流。
• 通過 Sentinel 控制臺設(shè)置實(shí)現(xiàn)限流。

接下來我們講解以上兩種方式形式如何實(shí)現(xiàn)限流保護(hù)

通過代碼實(shí)現(xiàn)限流

通過代碼實(shí)現(xiàn)限流需要以下兩步方可實(shí)現(xiàn)：

• 定義資源
• 定義限流規(guī)則

定義資源

定義資源可以通過代碼方式或注解方式來實(shí)現(xiàn)，具體實(shí)現(xiàn)如下。

通過代碼定義資源

可以通過代碼的的方式 SphU.entry("resourceName") 來定義資源，具體實(shí)現(xiàn)代碼如下：

@RequestMapping("/getuser")
public String getUser() {
    try (Entry entry = SphU.entry("getuser")) {
        // 被保護(hù)邏輯
        return "User";
    } catch (Exception e) {
        // 限流之后的業(yè)務(wù)邏輯
        return "限流";
    }
}

PS：SphU 是 Sentinel Protection Hotspot Util 的縮寫，Sentinel 熱點(diǎn)保護(hù)工具類。

通過注解方式定義資源

通過注解 @SentinelResource 也可以實(shí)現(xiàn)資源的定義，如下代碼所示：

// 定義資源和限流后觸發(fā)的方法
@SentinelResource(value = "resourceName", blockHandler = "myBlockHandler")
@RequestMapping("/getnamebyid")
public String getNameById(Integer id) {
return id + "-lei";
}
// 限流后觸發(fā)的方法
public String myBlockHandler(Integer id, BlockException blockException) {
    String msg = "Do myBlockHandler method.";
    System.out.println(msg);
    return msg;
}

其中，value 屬性定義的資源名稱，blockHandler 定義的是原方法被限流/降級/系統(tǒng)保護(hù)之后執(zhí)行的方法。

注意事項(xiàng)

• 定義的限流方法 myBlockHandler 必須和原方法的返回值、參數(shù)保持一致，否則會報(bào)錯(cuò)(Sentinel通過反射調(diào)用的限流方法)；
• 限流方法必須添加 BlockException 參數(shù)，不然會因?yàn)檎也坏胶线m的限流后執(zhí)行方法，而提示報(bào)錯(cuò)；

@SentinelResource 注解屬性說明：

• value：資源名稱，必需項(xiàng)（不能為空）。
• entryType：資源調(diào)用的流量類型：入口流量（EntryType.IN）和出口流量（EntryType.OUT），注意系統(tǒng)規(guī)則只對 IN 生效。
• blockHandler/blockHandlerClass: 限流和熔斷時(shí)執(zhí)行 BlockException 所對應(yīng)的方法名。
• fallback/fallbackClass：非 BlockException 時(shí)，其他非限流、非熔斷時(shí)異常對應(yīng)的方法。
• exceptionsToIgnore：用于指定哪些異常被排除掉，不會計(jì)入異常統(tǒng)計(jì)中，也不會進(jìn)入 fallback 邏輯中，而是會原樣拋出。

注：1.6.0 之前的版本 fallback 函數(shù)只針對熔斷降級異常（DegradeException）進(jìn)行處理，不能針對業(yè)務(wù)異常進(jìn)行處理。

定義限流規(guī)則

在 Spring Boot 項(xiàng)目中，只需要將限流規(guī)則添加到項(xiàng)目啟動時(shí)執(zhí)行即可，如下代碼所示：

public static void main(String[] args) {
    SpringApplication.run(SentinelDemoApplication.class, args);
    // 加載限流規(guī)則
    initFlowRules();
}

而限流規(guī)則定義如下：

private static void initFlowRules() {
    List<FlowRule> rules = new ArrayList<>();
    FlowRule rule = new FlowRule();
    rule.setResource("resourceName"); // 資源名稱
    rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // 根據(jù) QPS 限流
    rule.setCount(1); // QPS 閾值【每秒只允許通過一個(gè)請求】
    rule.setStrategy(RuleConstant.STRATEGY_DIRECT); // 調(diào)用關(guān)系限流策略【非必須設(shè)置】
    rule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_DEFAULT); // 流控效果【非必須設(shè)置】
    rule.setClusterMode(false); // 是否集群限流【非必須設(shè)置，默認(rèn)非集群】
    rules.add(rule);
    FlowRuleManager.loadRules(rules);
}

其中：

• setStrategy：設(shè)置調(diào)用關(guān)系限流策略，包含的值有：
  • 直接（RuleConstant.STRATEGY_DIRECT）【默認(rèn)值】
  • 鏈路（RuleConstant.STRATEGY_RELATE）
  • 關(guān)聯(lián)（RuleConstant.STRATEGY_CHAIN）
• setControlBehavior：設(shè)置流控效果，包含的值有：
  • 直接拒絕（RuleConstant.CONTROL_BEHAVIOR_DEFAULT）【默認(rèn)值】
  • 冷啟動（RuleConstant.CONTROL_BEHAVIOR_WARM_UP）
  • 勻速啟動（RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER）
  • 冷啟動+勻速啟動（RuleConstant.CONTROL_BEHAVIOR_WARM_UP_RATE_LIMITER）

通過控制臺實(shí)現(xiàn)限流

Sentinel 還可以使用控制臺的方式進(jìn)行限流，這樣子可以減少對原項(xiàng)目代碼的入侵，不過默認(rèn)情況下限流規(guī)則是保存在內(nèi)存中，所以重啟之后規(guī)則會丟失，默認(rèn)情況下下的推送流程如下：

它的實(shí)現(xiàn)步驟如下：

• 下載并運(yùn)行 Sentinel Dashboard（控制臺）。
• 在程序中加入并配置 Sentinel Dashboard。
• 在 Sentinel Dashboard 配置限流/熔斷等規(guī)則。
• 驗(yàn)證效果。

驗(yàn)證效果。

下載并運(yùn)行Sentinel控制臺

我們可以從 Sentinel 官方倉庫下載最新版本的控制臺 jar 包，訪問地址：github.com/sentinel

使用如下命令啟動控制臺：

java -jar sentinel-dashboard.jar --server.port=18080

從 Sentinel 1.6.0 起，Sentinel 控制臺引入基本的登錄功能，默認(rèn)用戶名和密碼都是 sentinel?？梢詤⒖?鑒權(quán)模塊文檔 配置用戶名和密碼，命令如下：

java -Dserver.port=18080 -Dsentinel.dashboard.auth.username=sentinel -Dsentinel.dashboard.auth.password=123456 -jar sentinel-dashboard.jar

Sentinel 控制臺啟動時(shí)的可選配置項(xiàng)：

在程序中加入并配置 Sentinel

在需要進(jìn)行流控的項(xiàng)目中加入 Sentinel 依賴：

<dependency>
  <groupId>com.alibaba.cloud</groupId>
  <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

在項(xiàng)目中配置 Sentinel Dashboard 地址：

spring:
  application:
    name: sentinel-dashboard-demo
  cloud:
    sentinel:
      transport:
        dashboard: localhost:18080
        client-ip: 127.0.0.1 
        port: 8721
        heartbeat-interval-ms: 10000

其中，只有 dashboard 是必輸項(xiàng)，其他的都可以省略，他們的含義如下：

• dashboard：sentinel 控制臺地址。
• client-ip：當(dāng)前客戶端 IP，不設(shè)置自動選擇一個(gè) IP 注冊。
• port：與 sentinel 通訊的端口，如不設(shè)置，會從 8719 開始掃描，依次 +1，直到找到未被占用的接口。
• heartbeat-interval-ms：心跳發(fā)送周期，默認(rèn)值是 10s。

設(shè)置規(guī)則

新增限流規(guī)則

參數(shù)說明：

• 針對來源：Sentinel 可以針對調(diào)用者進(jìn)行限流，填寫具體微服務(wù)名時(shí)，指定對此微服務(wù)進(jìn)行限流 ，默認(rèn)值為 default（不區(qū)分來源，全部限制）。
• 閾值類型/單機(jī)閾值：用于限制和控制流量的一種度量標(biāo)準(zhǔn)的類型，可以為 QPS（Queries Per Second，每秒請求數(shù)）也可以為“并發(fā)線程數(shù)”。
  • QPS：每秒請求達(dá)到此值開始限流。
  • 并發(fā)線程數(shù)：請求此資源的線程達(dá)到某個(gè)值時(shí)限流。每個(gè)請求分配一個(gè)線程，當(dāng)請求執(zhí)行時(shí)間長時(shí)，很快就會觸發(fā)限流，相反如果線程執(zhí)行速度快，那么限流觸發(fā)就會概率就會比較小。
• 流控模式：流量控制模式。
  • 直接：接口達(dá)到限流條件時(shí)，直接限流。
  • 關(guān)聯(lián)：當(dāng)關(guān)聯(lián)的資源達(dá)到閾值時(shí)，就限流自己。
  • 鏈路：指定資源從入口資源進(jìn)來的流量，如果達(dá)到閾值，就進(jìn)行限流。
• 流控效果：流量控制效果。
  • 快速失?。涸摲绞绞悄J(rèn)的流量控制方式，比如 QPS 超過任意規(guī)則的閾值后，新的請求就會被立即拒絕，拒絕方式為拋出 FlowException。這種方式適用于對系統(tǒng)處理能力確切已知的情況下，比如通過壓測確定了系統(tǒng)的準(zhǔn)確水位時(shí)。
  • 排隊(duì)等待（也叫勻速通過）：排隊(duì)等待會嚴(yán)格控制請求通過的間隔時(shí)間，讓請求穩(wěn)定且勻速的通過，可以用來處理間隔性突發(fā)的高流量。例如搶票軟件，在某一秒或者一分鐘內(nèi)有大量的請求到來，而接下來的一段時(shí)間里處于空閑狀態(tài)，我們希望系統(tǒng)能夠在接下來的空余時(shí)間里也能出去這些請求，而不是直接拒絕。在設(shè)置排隊(duì)等待時(shí)，需要填寫超時(shí)時(shí)間。
  • Warm Up：此項(xiàng)叫做預(yù)熱或者冷啟動方式，此模式主要是防止流量突然增加時(shí)，直接把系統(tǒng)拉升到高水位可能瞬間把系統(tǒng)壓垮，通過"冷啟動"，讓通過的流量緩慢增加，在一定時(shí)間內(nèi)逐漸增加到閾值上限，給冷系統(tǒng)一個(gè)預(yù)熱的時(shí)間，避免冷系統(tǒng)被壓垮。當(dāng)使用 Warm Up 模式時(shí)，我們還需要指定啟動時(shí)開放的 QPS 比例（DEFAULT_COLD_FACTOR，默認(rèn)值為 3，代表 30%），以及系統(tǒng)預(yù)熱所需時(shí)長（warmUpPeriodSec，默認(rèn)值是 10 秒）。

限流頁面當(dāng)“是否集群”選中之后，就會是這樣的界面：

其中最后一項(xiàng)“失敗退化”中的 Token Server 含義如下： Token Server 是 Sentinel 用于集群流量控制的關(guān)鍵組件，它負(fù)責(zé)分發(fā)令牌并進(jìn)行流量控制。當(dāng) Sentinel 的應(yīng)用程序配置為集群限流模式時(shí)，它會向 Token Server 請求令牌，然后根據(jù)令牌情況來進(jìn)行流量控制。如果 Token Server 不可用，可能是由于網(wǎng)絡(luò)故障、Token Server 實(shí)例崩潰等原因，這時(shí)候無法從 Token Server 獲取令牌。 Token Server 配置的含義如下：

• 當(dāng)配置選項(xiàng)為"是"時(shí)：表示當(dāng) Token Server 不可用時(shí)，Sentinel 會自動切換為單機(jī)限流模式。在單機(jī)限流模式中，Sentine 會從本地的限流規(guī)則進(jìn)行流量控制，不再依賴 Token Server。這樣可以保證即使 Token Server 不可用，也能夠繼續(xù)對流量進(jìn)行限制。
• 當(dāng)配置選項(xiàng)為"否"時(shí)：表示當(dāng) Token Server 不可用時(shí)，Sentinel 不會自動切換為單機(jī)限流模式，流量控制會被暫停，即無法進(jìn)行限流，可能會導(dǎo)致服務(wù)負(fù)載過高。 自定義限流錯(cuò)誤信息

當(dāng)請求被限流后，返回的響應(yīng)信息往往不是很友好，我們這里統(tǒng)一處理返回異常信息，實(shí)現(xiàn)BlockExceptionHandler接口

@Configuration
public class MySentinelConfig implements BlockExceptionHandler {
    @Override
    public void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception {
        // BlockException 異常接口，其子類為Sentinel五種規(guī)則異常的實(shí)現(xiàn)類
        // AuthorityException 授權(quán)異常
        // DegradeException 降級異常
        // FlowException 限流異常
        // ParamFlowException 參數(shù)限流異常
        // SystemBlockException 系統(tǒng)負(fù)載異常
        String msg = null;
        if (e instanceof FlowException) {
            msg = "限流";
        } else if (e instanceof DegradeException) {
            msg = "降級";
        } else if (e instanceof ParamFlowException) {
            msg = "熱點(diǎn)參數(shù)限流";
        } else if (e instanceof SystemBlockException) {
            msg = "系統(tǒng)規(guī)則（負(fù)載/...不滿足要求）";
        } else if (e instanceof AuthorityException) {
            msg = "授權(quán)規(guī)則不通過";
        }
        R error = R.error(500, msg);
        response.setCharacterEncoding("UTF-8");
        response.setContentType("application/json");
        response.getWriter().write(JSON.toJSONString(error));
    }
}

測試 

當(dāng)訪問超出閾值時(shí)，響應(yīng)返回自定義錯(cuò)誤信息

{"msg":"限流","code":500}

總結(jié)

本篇文章主要介紹了Sentinel的兩種實(shí)現(xiàn)限流的方式，除此之外當(dāng)然還有許多功能與限流規(guī)則，這里由于篇幅問題就不一一介紹了，有興趣的朋友可以自己探索一下。我個(gè)人覺得Sentinel是一個(gè)非常優(yōu)秀的組件，比原來用的Hystrix的確有著非常大的改進(jìn)，值得推薦。

到此這篇關(guān)于Spring Cloud 中使用 Sentinel 實(shí)現(xiàn)服務(wù)限流的文章就介紹到這了,更多相關(guān)Spring Cloud 服務(wù)限流內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論