限流是一種通過(guò)控制系統(tǒng)對(duì)外提供的資源、服務(wù)或接口的訪問數(shù)量或速率，以保護(hù)系統(tǒng)免受過(guò)載的一種策略。

它的目的是確保系統(tǒng)能夠在承受范圍內(nèi)提供穩(wěn)定和可靠的服務(wù)，避免因過(guò)多的請(qǐng)求而導(dǎo)致系統(tǒng)崩潰、資源耗盡或響應(yīng)延遲過(guò)高的情況發(fā)生。

在 Sentinel 中，實(shí)現(xiàn)限流的方法有以下兩種：

• 通過(guò)代碼方法實(shí)現(xiàn)限流。
• 通過(guò) Sentinel 控制臺(tái)設(shè)置實(shí)現(xiàn)限流。

1.通過(guò)代碼實(shí)現(xiàn)限流

通過(guò)代碼實(shí)現(xiàn)限流需要以下兩步方可實(shí)現(xiàn)：

• 定義資源

  通過(guò)代碼定義資源。

  通過(guò)注解定義資源。

• 定義限流規(guī)則

具體實(shí)現(xiàn)如下。

1.1 定義資源

定義資源可以通過(guò)代碼方式或注解方式來(lái)實(shí)現(xiàn)，具體實(shí)現(xiàn)如下。

① 通過(guò)代碼定義資源

可以通過(guò)代碼的的方式 SphU.entry("resourceName") 來(lái)定義資源，具體實(shí)現(xiàn)代碼如下：

@RequestMapping("/getuser")
public String getUser() {
    try (Entry entry = SphU.entry("getuser")) {
        // 被保護(hù)邏輯
        return "User";
    } catch (Exception e) {
        // 限流之后的業(yè)務(wù)邏輯
        return "被限流了";
    }
}

PS：SphU 是 Sentinel Protection Hotspot Util 的縮寫，Sentinel 熱點(diǎn)保護(hù)工具類。

② 通過(guò)注解方式定義資源

通過(guò)注解 @SentinelResource 也可以實(shí)現(xiàn)資源的定義，如下代碼所示：

// 定義資源和限流后觸發(fā)的方法
@SentinelResource(value = "resourceName", blockHandler = "myBlockHandler")
@RequestMapping("/getnamebyid")
public String getNameById(Integer id) {
return id + "-lei";
}
// 限流后觸發(fā)的方法
public String myBlockHandler(Integer id, BlockException blockException) {
    String msg = "Do myBlockHandler method.";
    System.out.println(msg);
    return msg;
}

其中，value 屬性定義的資源名稱，blockHandler 定義的是原方法被限流/降級(jí)/系統(tǒng)保護(hù)之后執(zhí)行的方法。

注意事項(xiàng)

• 定義的限流方法 myBlockHandler 必須和原方法的返回值、參數(shù)保持一致；
• 限流方法必須添加 BlockException 參數(shù)，不然會(huì)因?yàn)檎也坏胶线m的限流后執(zhí)行方法，而提示以下錯(cuò)誤：

PS：其中“csp”表示 Concurrent Service Protection，即并發(fā)服務(wù)保護(hù)。

@SentinelResource 注解屬性說(shuō)明：

• value：資源名稱，必需項(xiàng)（不能為空）。
• entryType：資源調(diào)用的流量類型：入口流量（EntryType.IN）和出口流量（EntryType.OUT），注意系統(tǒng)規(guī)則只對(duì) IN 生效。
• blockHandler/blockHandlerClass: 限流和熔斷時(shí)執(zhí)行 BlockException 所對(duì)應(yīng)的方法名。
• fallback/fallbackClass：非 BlockException 時(shí)，其他非限流、非熔斷時(shí)異常對(duì)應(yīng)的方法。
• exceptionsToIgnore：用于指定哪些異常被排除掉，不會(huì)計(jì)入異常統(tǒng)計(jì)中，也不會(huì)進(jìn)入 fallback 邏輯中，而是會(huì)原樣拋出。

注：1.6.0 之前的版本 fallback 函數(shù)只針對(duì)熔斷降級(jí)異常（DegradeException）進(jìn)行處理，不能針對(duì)業(yè)務(wù)異常進(jìn)行處理。

1.2 定義限流規(guī)則

在 Spring Boot 項(xiàng)目中，只需要將限流規(guī)則添加到項(xiàng)目啟動(dòng)時(shí)執(zhí)行即可，如下代碼所示：

public static void main(String[] args) {
    SpringApplication.run(SentinelDemoApplication.class, args);
    // 加載限流規(guī)則
    initFlowRules();
}

而限流規(guī)則定義如下：

private static void initFlowRules() {
    List<FlowRule> rules = new ArrayList<>();
    FlowRule rule = new FlowRule();
    rule.setResource("resourceName"); // 資源名稱
    rule.setGrade(RuleConstant.FLOW_GRADE_QPS); // 根據(jù) QPS 限流
    rule.setCount(1); // QPS 閾值【每秒只允許通過(guò)一個(gè)請(qǐng)求】
    rule.setStrategy(RuleConstant.STRATEGY_DIRECT); // 調(diào)用關(guān)系限流策略【非必須設(shè)置】
    rule.setControlBehavior(RuleConstant.CONTROL_BEHAVIOR_DEFAULT); // 流控效果【非必須設(shè)置】
    rule.setClusterMode(false); // 是否集群限流【非必須設(shè)置，默認(rèn)非集群】
    rules.add(rule);
    FlowRuleManager.loadRules(rules);
}

其中：

• setStrategy：設(shè)置調(diào)用關(guān)系限流策略，包含的值有：
  • 直接（RuleConstant.STRATEGY_DIRECT）【默認(rèn)值】
  • 鏈路（RuleConstant.STRATEGY_RELATE）
  • 關(guān)聯(lián)（RuleConstant.STRATEGY_CHAIN）
• setControlBehavior：設(shè)置流控效果，包含的值有：
  • 直接拒絕（RuleConstant.CONTROL_BEHAVIOR_DEFAULT）【默認(rèn)值】
  • 冷啟動(dòng)（RuleConstant.CONTROL_BEHAVIOR_WARM_UP）
  • 勻速啟動(dòng)（RuleConstant.CONTROL_BEHAVIOR_RATE_LIMITER）
  • 冷啟動(dòng)+勻速啟動(dòng)（RuleConstant.CONTROL_BEHAVIOR_WARM_UP_RATE_LIMITER）

2.通過(guò)控制臺(tái)實(shí)現(xiàn)限流

Sentinel 還可以使用控制臺(tái)的方式進(jìn)行限流，不過(guò)默認(rèn)情況下限流規(guī)則是保存在內(nèi)存中，所以重啟之后規(guī)則會(huì)丟失，默認(rèn)情況下下的推送流程如下：

它的實(shí)現(xiàn)步驟如下：

• 下載并運(yùn)行 Sentinel Dashboard（控制臺(tái)）。
• 在程序中加入并配置 Sentinel Dashboard。
• 在 Sentinel Dashboard 配置限流/熔斷等規(guī)則。
• 驗(yàn)證效果。

2.1 下載并運(yùn)行Sentinel控制臺(tái)

我們可以從 Sentinel 官方倉(cāng)庫(kù)下載最新版本的控制臺(tái) jar 包，訪問地址：https://github.com/alibaba/Sentinel/releases

從 Sentinel 1.6.0 起，Sentinel 控制臺(tái)引入基本的登錄功能，默認(rèn)用戶名和密碼都是 sentinel?？梢詤⒖?鑒權(quán)模塊文檔 配置用戶名和密碼，命令如下：

java -Dserver.port=18080 -Dsentinel.dashboard.auth.username=sentinel -Dsentinel.dashboard.auth.password=123456 -jar sentinel-dashboard.jar

Sentinel 控制臺(tái)啟動(dòng)時(shí)的可選配置項(xiàng)：

2.2 在程序中加入并配置 Sentinel

在需要進(jìn)行流控的項(xiàng)目中加入 Sentinel 依賴：

<dependency>
  <groupId>com.alibaba.cloud</groupId>
  <artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

其中，只有 dashboard 是必輸項(xiàng)，其他的都可以省略，他們的含義如下：

• dashboard：sentinel 控制臺(tái)地址。
• client-ip：當(dāng)前客戶端 IP，不設(shè)置自動(dòng)選擇一個(gè) IP 注冊(cè)。
• port：與 sentinel 通訊的端口，如不設(shè)置，會(huì)從 8719 開始掃描，依次 +1，直到找到未被占用的接口。
• heartbeat-interval-ms：心跳發(fā)送周期，默認(rèn)值是 10s。

2.3 設(shè)置規(guī)則

2.4 新增限流規(guī)則

參數(shù)說(shuō)明：

• 針對(duì)來(lái)源：Sentinel 可以針對(duì)調(diào)用者進(jìn)行限流，填寫具體微服務(wù)名時(shí)，指定對(duì)此微服務(wù)進(jìn)行限流 ，默認(rèn)值為 default（不區(qū)分來(lái)源，全部限制）。
• 閾值類型/單機(jī)閾值：用于限制和控制流量的一種度量標(biāo)準(zhǔn)的類型，可以為 QPS（Queries Per Second，每秒請(qǐng)求數(shù)）也可以為“并發(fā)線程數(shù)”。
  • QPS：每秒請(qǐng)求達(dá)到此值開始限流。
  • 并發(fā)線程數(shù)：請(qǐng)求此資源的線程達(dá)到某個(gè)值時(shí)限流。每個(gè)請(qǐng)求分配一個(gè)線程，當(dāng)請(qǐng)求執(zhí)行時(shí)間長(zhǎng)時(shí)，很快就會(huì)觸發(fā)限流，相反如果線程執(zhí)行速度快，那么限流觸發(fā)就會(huì)概率就會(huì)比較小。
• 流控模式：流量控制模式。
  • 直接：接口達(dá)到限流條件時(shí)，直接限流。
  • 關(guān)聯(lián)：當(dāng)關(guān)聯(lián)的資源達(dá)到閾值時(shí)，就限流自己。
  • 鏈路：指定資源從入口資源進(jìn)來(lái)的流量，如果達(dá)到閾值，就進(jìn)行限流。
• 流控效果：流量控制效果。
  • 快速失敗：該方式是默認(rèn)的流量控制方式，比如 QPS 超過(guò)任意規(guī)則的閾值后，新的請(qǐng)求就會(huì)被立即拒絕，拒絕方式為拋出 FlowException。這種方式適用于對(duì)系統(tǒng)處理能力確切已知的情況下，比如通過(guò)壓測(cè)確定了系統(tǒng)的準(zhǔn)確水位時(shí)。
  • 排隊(duì)等待（也叫勻速通過(guò)）：排隊(duì)等待會(huì)嚴(yán)格控制請(qǐng)求通過(guò)的間隔時(shí)間，讓請(qǐng)求穩(wěn)定且勻速的通過(guò)，可以用來(lái)處理間隔性突發(fā)的高流量。例如搶票軟件，在某一秒或者一分鐘內(nèi)有大量的請(qǐng)求到來(lái)，而接下來(lái)的一段時(shí)間里處于空閑狀態(tài)，我們希望系統(tǒng)能夠在接下來(lái)的空余時(shí)間里也能出去這些請(qǐng)求，而不是直接拒絕。在設(shè)置排隊(duì)等待時(shí)，需要填寫超時(shí)時(shí)間。
  • Warm Up：此項(xiàng)叫做預(yù)熱或者冷啟動(dòng)方式，此模式主要是防止流量突然增加時(shí)，直接把系統(tǒng)拉升到高水位可能瞬間把系統(tǒng)壓垮，通過(guò)"冷啟動(dòng)"，讓通過(guò)的流量緩慢增加，在一定時(shí)間內(nèi)逐漸增加到閾值上限，給冷系統(tǒng)一個(gè)預(yù)熱的時(shí)間，避免冷系統(tǒng)被壓垮。當(dāng)使用 Warm Up 模式時(shí)，我們還需要指定啟動(dòng)時(shí)開放的 QPS 比例（DEFAULT_COLD_FACTOR，默認(rèn)值為 3，代表 30%），以及系統(tǒng)預(yù)熱所需時(shí)長(zhǎng)（warmUpPeriodSec，默認(rèn)值是 10 秒）。

限流頁(yè)面當(dāng)“是否集群”選中之后，就會(huì)是這樣的界面：

其中最后一項(xiàng)“失敗退化”中的 Token Server 含義如下： Token Server 是 Sentinel 用于集群流量控制的關(guān)鍵組件，它負(fù)責(zé)分發(fā)令牌并進(jìn)行流量控制。當(dāng) Sentinel 的應(yīng)用程序配置為集群限流模式時(shí)，它會(huì)向 Token Server 請(qǐng)求令牌，然后根據(jù)令牌情況來(lái)進(jìn)行流量控制。如果 Token Server 不可用，可能是由于網(wǎng)絡(luò)故障、Token Server 實(shí)例崩潰等原因，這時(shí)候無(wú)法從 Token Server 獲取令牌。 Token Server 配置的含義如下：

• 當(dāng)配置選項(xiàng)為"是"時(shí)：表示當(dāng) Token Server 不可用時(shí)，Sentinel 會(huì)自動(dòng)切換為單機(jī)限流模式。在單機(jī)限流模式中，Sentine 會(huì)從本地的限流規(guī)則進(jìn)行流量控制，不再依賴 Token Server。這樣可以保證即使 Token Server 不可用，也能夠繼續(xù)對(duì)流量進(jìn)行限制。
• 當(dāng)配置選項(xiàng)為"否"時(shí)：表示當(dāng) Token Server 不可用時(shí)，Sentinel 不會(huì)自動(dòng)切換為單機(jī)限流模式，流量控制會(huì)被暫停，即無(wú)法進(jìn)行限流，可能會(huì)導(dǎo)致服務(wù)負(fù)載過(guò)高。

最后

以上就是Sentinel中實(shí)現(xiàn)限流的兩種方法的詳細(xì)內(nèi)容，更多關(guān)于Sentinel限流的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

最新評(píng)論