Spring?Boot整合流控組件Sentinel的場景分析
一、百度百科
Sentinel 是面向分布式服務架構的高可用流量防護組件,主要以流量為切入點,從限流、流量整形、熔斷降級、系統(tǒng)負載保護、熱點防護等多個維度來幫助開發(fā)者保障微服務的穩(wěn)定性。
1、Sentinel 特性
豐富的應用場景:Sentinel 承接了阿里巴巴近 10 年的雙十一大促流量的核心場景,例如秒殺(即突發(fā)流量控制在系統(tǒng)容量可以承受的范圍)、消息削峰填谷、集群流量控制、實時熔斷下游不可用應用等。
完備的實時監(jiān)控:Sentinel 同時提供實時的監(jiān)控功能。您可以在控制臺中看到接入應用的單臺機器秒級數據,甚至 500 臺以下規(guī)模的集群的匯總運行情況。
廣泛的開源生態(tài):Sentinel 提供開箱即用的與其它開源框架/庫的整合模塊,例如與 Spring Cloud、Dubbo、gRPC 的整合。您只需要引入相應的依賴并進行簡單的配置即可快速地接入 Sentinel。
完善的 SPI 擴展點:Sentinel 提供簡單易用、完善的 SPI 擴展接口。您可以通過實現擴展接口來快速地定制邏輯。例如定制規(guī)則管理、適配動態(tài)數據源等。
2、Sentinel 的開源生態(tài)
二、Sentinel 的歷史
2012 年,Sentinel 誕生,主要功能為入口流量控制。
2013-2017 年,Sentinel 在阿里巴巴集團內部迅速發(fā)展,成為基礎技術模塊,覆蓋了所有的核心場景。Sentinel 也因此積累了大量的流量歸整場景以及生產實踐。
2018 年,Sentinel 開源,并持續(xù)演進。
2019 年,Sentinel 朝著多語言擴展的方向不斷探索,推出C++原生版本,同時針對 Service Mesh 場景也推出了Envoy 集群流量控制支持,以解決 Service Mesh 架構下多語言限流的問題。
2020 年,推出Sentinel Go 版本,繼續(xù)朝著云原生方向演進。
三、Sentinel 基本概念
1、資源
資源是 Sentinel 的關鍵概念。它可以是 Java 應用程序中的任何內容,例如,由應用程序提供的服務,或由應用程序調用的其它應用提供的服務,甚至可以是一段代碼。在接下來的文檔中,我們都會用資源來描述代碼塊。
只要通過 Sentinel API 定義的代碼,就是資源,能夠被 Sentinel 保護起來。大部分情況下,可以使用方法簽名,URL,甚至服務名稱作為資源名來標示資源。
2、規(guī)則
圍繞資源的實時狀態(tài)設定的規(guī)則,可以包括流量控制規(guī)則、熔斷降級規(guī)則以及系統(tǒng)保護規(guī)則。所有規(guī)則可以動態(tài)實時調整。
四、sentinel的優(yōu)勢
友好的控制面板
支持實時監(jiān)控
支持多種限流,比如QPS限流,線程數以及多種限流策略
支持多種降級模式,支持按平均返回時間降級,按多種異常數降級,按異常比例降級等
方便擴展開發(fā),支持SPI模式對chain進行擴展
支持鏈路的關聯,可以實現按鏈路統(tǒng)計限流,系統(tǒng)保護,熱門資源保護等等
五、Sentinel 功能和設計理念
1、什么是流量控制
流量控制在網絡傳輸中是一個常用的概念,它用于調整網絡包的發(fā)送數據。然而,從系統(tǒng)穩(wěn)定性角度考慮,在處理請求的速度上,也有非常多的講究。任意時間到來的請求往往是隨機不可控的,而系統(tǒng)的處理能力是有限的。我們需要根據系統(tǒng)的處理能力對流量進行控制。Sentinel 作為一個調配器,可以根據需要把隨機的請求調整成合適的形狀,如下圖所示:
2、流量控制設計理念
流量控制有以下幾個角度:
資源的調用關系,例如資源的調用鏈路,資源和資源之間的關系;
運行指標,例如 QPS、線程池、系統(tǒng)負載等;
控制的效果,例如直接限流、冷啟動、排隊等。
Sentinel 的設計理念是讓您自由選擇控制的角度,并進行靈活組合,從而達到想要的效果。
3、什么是熔斷降級
除了流量控制以外,及時對調用鏈路中的不穩(wěn)定因素進行熔斷也是 Sentinel 的使命之一。由于調用關系的復雜性,如果調用鏈路中的某個資源出現了不穩(wěn)定,可能會導致請求發(fā)生堆積,進而導致級聯錯誤。
Sentinel 和 Hystrix 的原則是一致的: 當檢測到調用鏈路中某個資源出現不穩(wěn)定的表現,例如請求響應時間長或異常比例升高的時候,則對這個資源的調用進行限制,讓請求快速失敗,避免影響到其它的資源而導致級聯故障。
這里是引用Hystrix源自Netflix API團隊于2011年開始的彈性工程工作。2012年Hystrix不斷發(fā)展和成熟,Netflix內的許多團隊都采用了它。如今,每天在Netflix執(zhí)行數以千億計的線程隔離和數以千計的信號隔離調用,這大大的提高了運行時間和彈性。
4、熔斷降級設計理念
在限制的手段上,Sentinel 和 Hystrix 采取了完全不一樣的方法。
Hystrix 通過線程池隔離的方式,來對依賴(在 Sentinel 的概念中對應 資源)進行了隔離。這樣做的好處是資源和資源之間做到了最徹底的隔離。缺點是除了增加了線程切換的成本(過多的線程池導致線程數目過多),還需要預先給各個資源做線程池大小的分配,并且對于一些使用了 ThreadLocal 的場景來說會有問題(如 Spring 事務)。
Sentinel 對這個問題采取了兩種手段:
(1)通過并發(fā)線程數進行限制
和資源池隔離的方法不同,Sentinel 通過限制資源并發(fā)線程的數量,來減少不穩(wěn)定資源對其它資源的影響。這樣不但沒有線程切換的損耗,也不需要您預先分配線程池的大小。當某個資源出現不穩(wěn)定的情況下,例如響應時間變長,對資源的直接影響就是會造成線程數的逐步堆積。當線程數在特定資源上堆積到一定的數量之后,對該資源的新請求就會被拒絕。堆積的線程完成任務后才開始繼續(xù)接收請求。
(2)針對慢調用和異常對資源進行降級
除了對并發(fā)線程數進行控制以外,Sentinel 還可以根據響應時間和異常等不穩(wěn)定因素來快速對不穩(wěn)定的調用進行熔斷。當依賴的資源出現響應時間過長后,所有對該資源的訪問都會被直接拒絕,直到過了指定的時間窗口之后才重新漸進式地恢復。
5、系統(tǒng)自適應保護
Sentinel 同時提供系統(tǒng)維度的自適應保護能力。防止雪崩,是系統(tǒng)防護中重要的一環(huán)。當系統(tǒng)負載較高的時候,如果還持續(xù)讓請求進入,可能會導致系統(tǒng)崩潰,無法響應。在集群環(huán)境下,網絡負載均衡會把本應這臺機器承載的流量轉發(fā)到其它的機器上去。如果這個時候其它的機器也處在一個邊緣狀態(tài)的時候,這個增加的流量就會導致這臺機器也崩潰,最后導致整個集群不可用。
針對這個情況,Sentinel 提供了對應的保護機制,讓系統(tǒng)的入口流量和系統(tǒng)的負載達到一個平衡,保證系統(tǒng)在能力范圍之內處理最多的請求。
6、Sentinel 是如何工作的
Sentinel 的主要工作機制如下:
對主流框架提供適配或者顯示的 API,來定義需要保護的資源,并提供設施對資源進行實時統(tǒng)計和調用鏈路分析。
根據預設的規(guī)則,結合對資源的實時統(tǒng)計信息,對流量進行控制。同時,Sentinel 提供開放的接口,方便您定義及改變規(guī)則。
Sentinel 提供實時的監(jiān)控系統(tǒng),方便您快速了解目前系統(tǒng)的狀態(tài)。
7、競品對比
六、SpringBoot整合sentinel
1、加入pom
<dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-nacos-config</artifactId> <version>0.2.1.RELEASE</version> </dependency>
2、編寫sentinel規(guī)則
@PostConstruct public void initFlowRules(){ //1.創(chuàng)建存放限流規(guī)則的集合 List<FlowRule> rules = new ArrayList<>(); //2.創(chuàng)建限流規(guī)則 FlowRule rule = new FlowRule(); //定義資源,表示sentinel會對這個資源生效 rule.setResource("helloSentinel"); //定義限流規(guī)則類型 rule.setGrade(RuleConstant.FLOW_GRADE_QPS); //定義QPS每秒能通過的請求個數 rule.setCount(2); //3.將限流規(guī)則放入集合中 rules.add(rule); //4.加載限流規(guī)則 FlowRuleManager.loadRules(rules); }
@GetMapping("/helloSentinel") public String hello(){ try{ Entry entry = SphU.entry("helloSentinel"); return "helloSentinel success."; }catch (Exception e){ log.error(e.getMessage()); return "helloSentinel error"; } }
3、測試
(1)頻率小于1秒兩次時,訪問成功
(2)頻率大于1秒兩次時,由于限流規(guī)則的設立,故失敗
七、springboot整合sentinel dashboard
1、安裝sentinel dashboard
(1)下載jar包
sentinel-1.7.1jar包下載鏈接
鏈接: https://pan.baidu.com/s/1MSwFNSaE_3gRxe6nsNXNDQ
提取碼: e5j2?
(2)啟動jar包
java -Dserver.port=9000 -jar sentinel-dashboard.jar
2、springboot整合sentinel dashboard
(1)引入pom
<dependency> <groupId>com.alibaba.csp</groupId> <artifactId>sentinel-transport-simple-http</artifactId> <version>1.7.2</version> </dependency>
(2)配置啟動類
-Dcsp.sentinel.dashboard.server=localhost:9000 -Dproject.name=GooReeyProject
(3)通過調用接口,使其在dashboard顯示出來
3、用sentinel dashboard配置流控
(1)注釋掉代碼中的流控設置代碼
(2)用控制臺的配置取代代碼
八、sentinel中其它定義資源的方式
1、拋出異常的方式定義資源
@GetMapping("/helloSentinel") public String hello(){ try{ Entry entry = SphU.entry("helloSentinel"); return "helloSentinel success."; }catch (Exception e){ log.error(e.getMessage()); return "helloSentinel error"; } }
2、返回布爾值方式定義資源
代碼示例:
@GetMapping("/sentinelBoolean") public boolean sentinelBoolean(){ if(SphO.entry("sentinelBoolean")){ try { log.info("sentinelBoolean success."); return true; }finally { SphO.exit(); } }else{ log.warn("sentinelBoolean error."); return false; } }
3、sentinel支持異步調用鏈路的統(tǒng)計
在異步調用中,需要通過SphU.asynvEntry(xxx)方法定義資源,并通常需要在異步的回調函數中調用exit()方法。
代碼編寫:
(1)啟動類加入@EnableAsync注解
@EnableDiscoveryClient @SpringBootApplication(scanBasePackages = "com.guor") @MapperScan("com.guor.management.dao") @RefreshScope @EnableAsync public class ManagementApplication { public static void main(String[] args) { SpringApplication.run(ManagementApplication.class, args); } }
(3)控制層
@GetMapping("/sentinelAsync") public void sentinelAsync(){ AsyncEntry asyncEntry = null; try { asyncEntry = SphU.asyncEntry("sentinelAsync"); userService.sentinelAsync(); log.info("sentinelAsync success."); }catch (BlockException e){ log.error("sentinelAsync error."); }finally { if(asyncEntry != null){ asyncEntry.exit(); } } }
sentinel dashboard未定義時:
sentinel dashboard定義后:流控成功!
4、注解形式定義資源
(1)pom文件
<dependency> <groupId>com.alibaba.csp</groupId> <artifactId>sentinel-annotation-aspectj</artifactId> <version>1.7.2</version> </dependency>
(2)配置類
package com.guor.management.config; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import com.alibaba.csp.sentinel.annotation.aspectj.SentinelResourceAspect; @Configuration public class SentinelAspectConfig { @Bean public SentinelResourceAspect sentinelResourceAspect(){ return new SentinelResourceAspect(); } }
(3)控制類
@SentinelResource(value = "sentinel_Annotation", blockHandler = "exceptionHandler") @GetMapping("/annotation") public String sentinelAnnotation(){ return "sentinelAnnotation"; } public String exceptionHandler(BlockException e){ e.printStackTrace(); return "系統(tǒng)繁忙,請稍后"; }
(4)定義流控規(guī)則
到此這篇關于Spring?Boot整合流控組件Sentinel的文章就介紹到這了,更多相關Spring?Boot流控組件Sentinel內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
Spring Boot 和 Spring 到底有啥區(qū)別你知道嗎
Spring Boot框架的核心就是自動配置,只要存在相應的jar包,Spring就幫我們自動配置。接下來通過本文給大家介紹Spring與Spring boot的區(qū)別介紹,非常不錯,需要的朋友參考下吧2021-08-08解決spring mvc 多數據源切換,不支持事務控制的問題
下面小編就為大家?guī)硪黄鉀Qspring mvc 多數據源切換,不支持事務控制的問題。小編覺得挺不錯的,現在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2017-09-09Springboot開發(fā)OAuth2認證授權與資源服務器操作
這篇文章主要介紹了Springboot開發(fā)OAuth2認證授權與資源服務器操作,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06詳解JAVA 線程-線程的狀態(tài)有哪些?它是如何工作的?
這篇文章主要介紹了詳解JAVA 線程的的相關資料,文中講解非常細致,源碼幫助大家更好的理解和學習,感興趣的朋友可以參考下2020-06-06