Java RPC框架熔斷降級機制原理解析
熔斷與降級
為什么在RPC環(huán)節(jié)中有熔斷以及降級的需求，詳細的原因這里不多解釋，從網上搜索一張圖做示意。
熔斷
我理解熔段主要解決如下幾個問題：
當所依賴的對象不穩(wěn)定時，能夠起到快速失敗的目的快速失敗后，能夠根據一定的算法動態(tài)試探所依賴對象是否恢復
比如產品詳細頁獲取產品的好評總數時，由于后端服務異常導致客戶端每次都需要等到超時。如果短時間內服務不能恢復，那么這段時間內的所有請求時間都將是最大的超時時間，這類消費時間又得不到正確結果的現象是不能容忍的。所以遇到這類情況，就需要根據一定的算法判定服務短時間不可用，將后面的請求進行快速失敗處理，這樣可以節(jié)省服務等待時間。
同時，后端服務是有可能自主或者人為在一定時間內恢復的，所以之前被判定為快速失敗的服務，需要有能力去試探服務是否已經恢復。
上面提到的快速失敗以及自主恢復現象就是熔斷
降級
降級是指自己的待遇下降了，從RPC調用環(huán)節(jié)來講，就是去訪問一個本地的偽裝者而不是真實的服務，但這對調用端來說是沒有區(qū)別的。拿電商展示某個產品的詳細頁來說：
當加載評論時，由于評論服務不可用，此時可以返回一些默認的評論當加載產品庫存，由于庫存服務不可用，此時可以固定顯示一個庫存數
上面提供返回默認評論，固定庫存的服務就是偽裝服務，這類服務一般不依賴其它服務，穩(wěn)定性最高。由偽裝者提供服務給客戶端的現象就是服務降級。
RPC如何支持熔斷與降級
一種最簡單的辦法就是借用hystrix來實現。
引入包依賴
由于示例未采用注解式方案，所以只需要引用下面兩個包即可。
<dependency>
<groupId>com.netflix.hystrix</groupId>
<artifactId>hystrix-core</artifactId>
<version>${hystrix-version}</version>
</dependency>
<dependency>
<groupId>com.netflix.hystrix</groupId>
<artifactId>hystrix-metrics-event-stream</artifactId>
<version>${hystrix-version}</version>
</dependency>
實現命令模式
hystrix遵循命令模式，這里可以往這個標準的UML圖上去套。
創(chuàng)建一個新的類，RpcHystrixCommand，繼承自HystrixCommand即可。
我這里采用線程隔離方式。
構造函數參數
由于需要遠程調用，所以構造函數需要接收遠程調用所需求必要參數
/** * 遠程目標方法 */ private Method method; /** * 遠程目標接口 */ private Object obj; /** * 遠程方法所需要的參數 */ private Object[] params; /** * 遠程接口客戶端引用注解 */ private RpcReference rpcReference; /** * RPC客戶端配置 */ private ReferenceConfig referenceConfig;
構造函數方法簽名:
public RpcHystrixCommand(Object obj, Method method, Object[] params, RpcReference rpcReference, ReferenceConfig referenceConfig)
初始化hystrix
這里只是一個示例，所以參數設置比較隨意，詳細的可參考文檔。
super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey("CircuitBreakerRpcHystrixCommandGroup"))
.andCommandKey(HystrixCommandKey.Factory.asKey("CircuitBreakerRpcHystrixCommandKey"))
.andCommandPropertiesDefaults(
HystrixCommandProperties.Setter()
.withCircuitBreakerEnabled(true)
.withCircuitBreakerRequestVolumeThreshold(1)
.withCircuitBreakerErrorThresholdPercentage(50)
.withCircuitBreakerSleepWindowInMilliseconds(5*1000)
.withMetricsRollingStatisticalWindowInMilliseconds(10*1000)
)
.andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey("CircuitBreakerRpcHystrixCommandPool"))
.andThreadPoolPropertiesDefaults(
HystrixThreadPoolProperties.Setter().withCoreSize(100)
)
);
run()函數
run()函數就是正常調用時所需要執(zhí)行的方法，將調用遠程通信的邏輯遷移到此，由于此處不涉及今天講的熔斷降級，所以不用關心里面的代碼。
@Override
protected Object run() {
// 執(zhí)行遠程調用
}
擴展rpcReference注解以支持降級
在之前的注解中增加一個屬性，用來配置服務偽裝者所屬的類對象
public @interface RpcReference {
/**
* 服務降級的偽裝者類對象
* @return
*/
Class<?> fallbackServiceClazz() default Object.class;
}
getFallback()函數
當快速失敗時，我們希望返回一些預先準備好的值給到客戶端，實現這個需求就需要實現這個fallback函數。
偽裝者的邏輯由于是客戶端控制，所以我們通過參數來動態(tài)支持。 通過rpcReference注解可以獲取配置的偽裝者
protected Object getFallback() {
Method[] methods = this.rpcReference.fallbackServiceClazz().getMethods();
for (Method methodFallback : methods) {
if(this.method.getName().equals(methodFallback.getName())){
try {
Object fallbackServiceMock= ApplicationContextUtils.getApplicationContext().getBean(this.rpcReference.fallbackServiceClazz());
return methodFallback.invoke(fallbackServiceMock,this.params);
} catch (IllegalAccessException e) {
logger.error("RpcHystrixCommand.getFallback error",e);
} catch (InvocationTargetException e) {
logger.error("RpcHystrixCommand.getFallback error",e);
}
}
}
throw new RpcException("service fallback unimplement");
}
RpcProxy嵌入熔斷降級機制
代理的invoke方法，將改調用命令模式的execute方法來代替。
@Override
public Object invoke(Object proxy, Method method, Object[] args) throws Throwable {
RpcHystrixCommand rpcHystrixCommand=new RpcHystrixCommand(proxy,method,args,this.reference,this.referenceConfig);
return rpcHystrixCommand.execute();
}
客戶端使用
dubbo有一個mock機制，功能有些弱，有興趣可以自行研究。我這里更加傾向于根據邏輯來判斷是否使用熔斷降級，降級的邏輯需要有更多的支持。
Spring Cloud的熔斷降級的做法與我的類似,它是通過注解在接口上
@FeignClient(value = "JIM-CLOUD-PROVIDER-SERVER",fallback = ProductServiceHystrix.class)
public interface ProductService {
@RequestMapping(value = "/product/{productId}",method = RequestMethod.GET)
String getById(@PathVariable("productId") final long productId);
}
創(chuàng)建偽裝者接口
定義偽裝者接口，約定成員方法的簽名與真身相同。
public interface ProductCommentMockService {
Product getById(Long productId);
}
實現偽裝者接口
實現偽裝者接口，這里不光是簡單的固定數據,可心任意編寫偽裝者業(yè)務邏輯，與普通的service bean 沒有區(qū)別。
@Service
public class ProductCommentMockServiceImpl implements ProductCommentMockService {
@Override
public Product getById(Long productId) {
Product mockProduct=new Product();
mockProduct.setId(0L);
mockProduct.setName("mock product name");
return mockProduct;
}
}
服務引用使用熔斷降級機制
在引用遠程服務接口的注解上，配置偽裝者接口的類即可。
@RpcReference(
maxExecutesCount = 1,
fallbackServiceClazz = ProductCommentMockService.class
)
private ProductService productService;
測試
故意不啟動服務端，請求接口，此時出現mock數據說明組件功能正常。
{"id":0,"name":"mock product name"}
待解決問題
由于熔斷器采用的是新線程執(zhí)行，所以會影響Rpc上下文傳遞的參數傳遞。
本文源碼
https://github.com/jiangmin168168/jim-framework
文中代碼是依賴上述項目的，如果有不明白的可下載源碼
以上就是本文的全部內容，希望對大家的學習有所幫助，也希望大家多多支持腳本之家。
相關文章
當參數有值,添加條件查詢,附帶一個字符串的in查詢,下面這篇文章主要給大家介紹了關于Mybatis中使用in()查詢的方式,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下2022-08-08
AOP的全稱是Aspect-Oriented Programming,即面向切面編程（也稱面向方面編程）,它是面向對象編程（OOP）的一種補充,目前已成為一種比較成熟的編程方式,本文給大家介紹了SpringBoot中使用AOP實現日志記錄功能,需要的朋友可以參考下2024-05-05
本文通過Java代碼示例介紹如何在Excel表格中添加表單控件，包括文本框、單選按鈕、復選框、組合框、微調按鈕等，以及如何刪除Excel中的指定表單控件，需要的可以參考一下2022-05-05
Java的動態(tài)代理和靜態(tài)代理及反射常用API詳解
這篇文章主要介紹了Java的動態(tài)代理和靜態(tài)代理及反射常用API詳解,動態(tài)代理是一種在運行時動態(tài)生成代理對象的技術,它是一種設計模式,用于在不修改原始對象的情況下,通過代理對象來間接訪問原始對象,并在訪問前后執(zhí)行額外的操作,需要的朋友可以參考下2024-01-01
統(tǒng)一建模語言_動力節(jié)點Java學院整理
這篇文章主要介紹了統(tǒng)一建模語言的相關知識，非常不錯，具有參考借鑒價值，需要的的朋友參考下吧2017-06-06
關于WeakhashMap與HashMap之間的區(qū)別和聯系
這篇文章主要介紹了關于WeakhashMap與HashMap之間的區(qū)別和聯系,WeakHashMap從名字可以得知主要和Map有關,不過還有一個Weak,我們就更能自然而然的想到這里面還牽扯到一種弱引用結構,因此想要徹底搞懂,我們還需要知道四種引用,需要的朋友可以參考下2023-09-09
Java 中jasperReport實現動態(tài)列打印的實現代碼
這篇文章主要介紹了Java 中jasperReport實現動態(tài)列打印的實現代碼的相關資料,希望通過本文大家能掌握這部分內容，需要的朋友可以參考下2017-09-09
java集合_淺談Iterable和Iterator的區(qū)別
下面小編就為大家?guī)硪黄猨ava集合_淺談Iterable和Iterator的區(qū)別。小編覺得挺不錯的，現在就分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2016-09-09
SpringCloud?Gateway之請求應答日志打印方式
這篇文章主要介紹了SpringCloud?Gateway之請求應答日志打印方式，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2022-03-03
SpringCloud?Alibaba環(huán)境集成之nacos詳解
Spring?Cloud?Alibaba提供了越來越完善的各類微服務治理組件，比如分布式服務配置與注冊中心nacos，服務限流、熔斷組件sentinel等，本篇先來介紹SpringCloud?Alibaba環(huán)境集成之nacos詳解,需要的朋友可以參考下2023-03-03