Java RPC框架熔斷降級(jí)機(jī)制原理解析
熔斷與降級(jí)
為什么在RPC環(huán)節(jié)中有熔斷以及降級(jí)的需求,詳細(xì)的原因這里不多解釋,從網(wǎng)上搜索一張圖做示意。
熔斷
我理解熔段主要解決如下幾個(gè)問題:
當(dāng)所依賴的對(duì)象不穩(wěn)定時(shí),能夠起到快速失敗的目的快速失敗后,能夠根據(jù)一定的算法動(dòng)態(tài)試探所依賴對(duì)象是否恢復(fù)
比如產(chǎn)品詳細(xì)頁獲取產(chǎn)品的好評(píng)總數(shù)時(shí),由于后端服務(wù)異常導(dǎo)致客戶端每次都需要等到超時(shí)。如果短時(shí)間內(nèi)服務(wù)不能恢復(fù),那么這段時(shí)間內(nèi)的所有請(qǐng)求時(shí)間都將是最大的超時(shí)時(shí)間,這類消費(fèi)時(shí)間又得不到正確結(jié)果的現(xiàn)象是不能容忍的。所以遇到這類情況,就需要根據(jù)一定的算法判定服務(wù)短時(shí)間不可用,將后面的請(qǐng)求進(jìn)行快速失敗處理,這樣可以節(jié)省服務(wù)等待時(shí)間。
同時(shí),后端服務(wù)是有可能自主或者人為在一定時(shí)間內(nèi)恢復(fù)的,所以之前被判定為快速失敗的服務(wù),需要有能力去試探服務(wù)是否已經(jīng)恢復(fù)。
上面提到的快速失敗以及自主恢復(fù)現(xiàn)象就是熔斷
降級(jí)
降級(jí)是指自己的待遇下降了,從RPC調(diào)用環(huán)節(jié)來講,就是去訪問一個(gè)本地的偽裝者而不是真實(shí)的服務(wù),但這對(duì)調(diào)用端來說是沒有區(qū)別的。拿電商展示某個(gè)產(chǎn)品的詳細(xì)頁來說:
當(dāng)加載評(píng)論時(shí),由于評(píng)論服務(wù)不可用,此時(shí)可以返回一些默認(rèn)的評(píng)論當(dāng)加載產(chǎn)品庫存,由于庫存服務(wù)不可用,此時(shí)可以固定顯示一個(gè)庫存數(shù)
上面提供返回默認(rèn)評(píng)論,固定庫存的服務(wù)就是偽裝服務(wù),這類服務(wù)一般不依賴其它服務(wù),穩(wěn)定性最高。由偽裝者提供服務(wù)給客戶端的現(xiàn)象就是服務(wù)降級(jí)。
RPC如何支持熔斷與降級(jí)
一種最簡單的辦法就是借用hystrix來實(shí)現(xiàn)。
引入包依賴
由于示例未采用注解式方案,所以只需要引用下面兩個(gè)包即可。
<dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-core</artifactId> <version>${hystrix-version}</version> </dependency> <dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-metrics-event-stream</artifactId> <version>${hystrix-version}</version> </dependency>
實(shí)現(xiàn)命令模式
hystrix遵循命令模式,這里可以往這個(gè)標(biāo)準(zhǔn)的UML圖上去套。
創(chuàng)建一個(gè)新的類,RpcHystrixCommand,繼承自HystrixCommand即可。
我這里采用線程隔離方式。
構(gòu)造函數(shù)參數(shù)
由于需要遠(yuǎn)程調(diào)用,所以構(gòu)造函數(shù)需要接收遠(yuǎn)程調(diào)用所需求必要參數(shù)
/** * 遠(yuǎn)程目標(biāo)方法 */ private Method method; /** * 遠(yuǎn)程目標(biāo)接口 */ private Object obj; /** * 遠(yuǎn)程方法所需要的參數(shù) */ private Object[] params; /** * 遠(yuǎn)程接口客戶端引用注解 */ private RpcReference rpcReference; /** * RPC客戶端配置 */ private ReferenceConfig referenceConfig;
構(gòu)造函數(shù)方法簽名:
public RpcHystrixCommand(Object obj, Method method, Object[] params, RpcReference rpcReference, ReferenceConfig referenceConfig)
初始化hystrix
這里只是一個(gè)示例,所以參數(shù)設(shè)置比較隨意,詳細(xì)的可參考文檔。
super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("CircuitBreakerRpcHystrixCommandGroup")) .andCommandKey(HystrixCommandKey.Factory.asKey("CircuitBreakerRpcHystrixCommandKey")) .andCommandPropertiesDefaults( HystrixCommandProperties.Setter() .withCircuitBreakerEnabled(true) .withCircuitBreakerRequestVolumeThreshold(1) .withCircuitBreakerErrorThresholdPercentage(50) .withCircuitBreakerSleepWindowInMilliseconds(5*1000) .withMetricsRollingStatisticalWindowInMilliseconds(10*1000) ) .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("CircuitBreakerRpcHystrixCommandPool")) .andThreadPoolPropertiesDefaults( HystrixThreadPoolProperties.Setter().withCoreSize(100) ) );
run()函數(shù)
run()函數(shù)就是正常調(diào)用時(shí)所需要執(zhí)行的方法,將調(diào)用遠(yuǎn)程通信的邏輯遷移到此,由于此處不涉及今天講的熔斷降級(jí),所以不用關(guān)心里面的代碼。
@Override protected Object run() { // 執(zhí)行遠(yuǎn)程調(diào)用 }
擴(kuò)展rpcReference注解以支持降級(jí)
在之前的注解中增加一個(gè)屬性,用來配置服務(wù)偽裝者所屬的類對(duì)象
public @interface RpcReference { /** * 服務(wù)降級(jí)的偽裝者類對(duì)象 * @return */ Class<?> fallbackServiceClazz() default Object.class; }
getFallback()函數(shù)
當(dāng)快速失敗時(shí),我們希望返回一些預(yù)先準(zhǔn)備好的值給到客戶端,實(shí)現(xiàn)這個(gè)需求就需要實(shí)現(xiàn)這個(gè)fallback函數(shù)。
偽裝者的邏輯由于是客戶端控制,所以我們通過參數(shù)來動(dòng)態(tài)支持。 通過rpcReference注解可以獲取配置的偽裝者
protected Object getFallback() { Method[] methods = this.rpcReference.fallbackServiceClazz().getMethods(); for (Method methodFallback : methods) { if(this.method.getName().equals(methodFallback.getName())){ try { Object fallbackServiceMock= ApplicationContextUtils.getApplicationContext().getBean(this.rpcReference.fallbackServiceClazz()); return methodFallback.invoke(fallbackServiceMock,this.params); } catch (IllegalAccessException e) { logger.error("RpcHystrixCommand.getFallback error",e); } catch (InvocationTargetException e) { logger.error("RpcHystrixCommand.getFallback error",e); } } } throw new RpcException("service fallback unimplement"); }
RpcProxy嵌入熔斷降級(jí)機(jī)制
代理的invoke方法,將改調(diào)用命令模式的execute方法來代替。
@Override public Object invoke(Object proxy, Method method, Object[] args) throws Throwable { RpcHystrixCommand rpcHystrixCommand=new RpcHystrixCommand(proxy,method,args,this.reference,this.referenceConfig); return rpcHystrixCommand.execute(); }
客戶端使用
dubbo有一個(gè)mock機(jī)制,功能有些弱,有興趣可以自行研究。我這里更加傾向于根據(jù)邏輯來判斷是否使用熔斷降級(jí),降級(jí)的邏輯需要有更多的支持。
Spring Cloud的熔斷降級(jí)的做法與我的類似,它是通過注解在接口上
@FeignClient(value = "JIM-CLOUD-PROVIDER-SERVER",fallback = ProductServiceHystrix.class) public interface ProductService { @RequestMapping(value = "/product/{productId}",method = RequestMethod.GET) String getById(@PathVariable("productId") final long productId); }
創(chuàng)建偽裝者接口
定義偽裝者接口,約定成員方法的簽名與真身相同。
public interface ProductCommentMockService { Product getById(Long productId); }
實(shí)現(xiàn)偽裝者接口
實(shí)現(xiàn)偽裝者接口,這里不光是簡單的固定數(shù)據(jù),可心任意編寫偽裝者業(yè)務(wù)邏輯,與普通的service bean 沒有區(qū)別。
@Service public class ProductCommentMockServiceImpl implements ProductCommentMockService { @Override public Product getById(Long productId) { Product mockProduct=new Product(); mockProduct.setId(0L); mockProduct.setName("mock product name"); return mockProduct; } }
服務(wù)引用使用熔斷降級(jí)機(jī)制
在引用遠(yuǎn)程服務(wù)接口的注解上,配置偽裝者接口的類即可。
@RpcReference( maxExecutesCount = 1, fallbackServiceClazz = ProductCommentMockService.class ) private ProductService productService;
測(cè)試
故意不啟動(dòng)服務(wù)端,請(qǐng)求接口,此時(shí)出現(xiàn)mock數(shù)據(jù)說明組件功能正常。
{"id":0,"name":"mock product name"}
待解決問題
由于熔斷器采用的是新線程執(zhí)行,所以會(huì)影響Rpc上下文傳遞的參數(shù)傳遞。
本文源碼
https://github.com/jiangmin168168/jim-framework
文中代碼是依賴上述項(xiàng)目的,如果有不明白的可下載源碼
以上就是本文的全部內(nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
SpringBoot中使用AOP實(shí)現(xiàn)日志記錄功能
AOP的全稱是Aspect-Oriented Programming,即面向切面編程(也稱面向方面編程),它是面向?qū)ο缶幊蹋∣OP)的一種補(bǔ)充,目前已成為一種比較成熟的編程方式,本文給大家介紹了SpringBoot中使用AOP實(shí)現(xiàn)日志記錄功能,需要的朋友可以參考下2024-05-05Java實(shí)現(xiàn)Excel表單控件的添加與刪除
本文通過Java代碼示例介紹如何在Excel表格中添加表單控件,包括文本框、單選按鈕、復(fù)選框、組合框、微調(diào)按鈕等,以及如何刪除Excel中的指定表單控件,需要的可以參考一下2022-05-05Java的動(dòng)態(tài)代理和靜態(tài)代理及反射常用API詳解
這篇文章主要介紹了Java的動(dòng)態(tài)代理和靜態(tài)代理及反射常用API詳解,動(dòng)態(tài)代理是一種在運(yùn)行時(shí)動(dòng)態(tài)生成代理對(duì)象的技術(shù),它是一種設(shè)計(jì)模式,用于在不修改原始對(duì)象的情況下,通過代理對(duì)象來間接訪問原始對(duì)象,并在訪問前后執(zhí)行額外的操作,需要的朋友可以參考下2024-01-01統(tǒng)一建模語言_動(dòng)力節(jié)點(diǎn)Java學(xué)院整理
這篇文章主要介紹了統(tǒng)一建模語言的相關(guān)知識(shí),非常不錯(cuò),具有參考借鑒價(jià)值,需要的的朋友參考下吧2017-06-06關(guān)于WeakhashMap與HashMap之間的區(qū)別和聯(lián)系
這篇文章主要介紹了關(guān)于WeakhashMap與HashMap之間的區(qū)別和聯(lián)系,WeakHashMap從名字可以得知主要和Map有關(guān),不過還有一個(gè)Weak,我們就更能自然而然的想到這里面還牽扯到一種弱引用結(jié)構(gòu),因此想要徹底搞懂,我們還需要知道四種引用,需要的朋友可以參考下2023-09-09Java 中jasperReport實(shí)現(xiàn)動(dòng)態(tài)列打印的實(shí)現(xiàn)代碼
這篇文章主要介紹了Java 中jasperReport實(shí)現(xiàn)動(dòng)態(tài)列打印的實(shí)現(xiàn)代碼的相關(guān)資料,希望通過本文大家能掌握這部分內(nèi)容,需要的朋友可以參考下2017-09-09java集合_淺談Iterable和Iterator的區(qū)別
下面小編就為大家?guī)硪黄猨ava集合_淺談Iterable和Iterator的區(qū)別。小編覺得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2016-09-09SpringCloud?Gateway之請(qǐng)求應(yīng)答日志打印方式
這篇文章主要介紹了SpringCloud?Gateway之請(qǐng)求應(yīng)答日志打印方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-03-03SpringCloud?Alibaba環(huán)境集成之nacos詳解
Spring?Cloud?Alibaba提供了越來越完善的各類微服務(wù)治理組件,比如分布式服務(wù)配置與注冊(cè)中心nacos,服務(wù)限流、熔斷組件sentinel等,本篇先來介紹SpringCloud?Alibaba環(huán)境集成之nacos詳解,需要的朋友可以參考下2023-03-03