使用springboot整合RateLimiter限流過(guò)程
RateLimiter官方文檔
RateLimiter令牌桶原理圖

- 隨著時(shí)間流逝,系統(tǒng)會(huì)按恒定1/QPS時(shí)間間隔(如果QPS=100,則間隔是10ms)往桶里加入Token(想象和漏洞漏水相反,有個(gè)水龍頭在不斷的加水),如果桶已經(jīng)滿了就不再加了.新請(qǐng)求來(lái)臨時(shí),會(huì)各自拿走一個(gè)Token,如果沒(méi)有Token可拿了就阻塞或者拒絕服務(wù).
- 令牌桶的另外一個(gè)好處是可以方便的改變速度. 一旦需要提高速率,則按需提高放入桶中的令牌的速率. 一般會(huì)定時(shí)(比如100毫秒)往桶中增加一定數(shù)量的令牌, 有些變種算法則實(shí)時(shí)的計(jì)算應(yīng)該增加的令牌的數(shù)量.
令牌桶是一種常用的流量控制技術(shù)。令牌桶本身沒(méi)有丟棄和優(yōu)先級(jí)策略。
原理
1.令牌以一定的速率放入桶中。
2.每個(gè)令牌允許源發(fā)送一定數(shù)量的比特。
3.發(fā)送一個(gè)包,流量調(diào)節(jié)器就要從桶中刪除與包大小相等的令牌數(shù)。
4.如果沒(méi)有足夠的令牌發(fā)送包,這個(gè)包就會(huì)等待直到有足夠的令牌(在整形器的情況下)或者包被丟棄,也有可能被標(biāo)記更低的DSCP(在策略者的情況下)。
5.桶有特定的容量,如果桶已經(jīng)滿了,新加入的令牌就會(huì)被丟棄。因此,在任何時(shí)候,源發(fā)送到網(wǎng)絡(luò)上的最大突發(fā)數(shù)據(jù)量與桶的大小成比例。令牌桶允許突發(fā),但是不能超過(guò)限制。
方法摘要
| 修飾符和類型 | 方法和描述 |
|---|---|
| double | acquire() 從RateLimiter獲取一個(gè)許可,該方法會(huì)被阻塞直到獲取到請(qǐng)求 |
| double | acquire(int permits) 從RateLimiter獲取指定許可數(shù),該方法會(huì)被阻塞直到獲取到請(qǐng)求 |
| static RateLimiter | create(double permitsPerSecond) 根據(jù)指定的穩(wěn)定吞吐率創(chuàng)建RateLimiter,這里的吞吐率是指每秒多少許可數(shù)(通常是指QPS,每秒多少查詢) |
| static RateLimiter | create(double permitsPerSecond, long warmupPeriod, TimeUnit unit) 根據(jù)指定的穩(wěn)定吞吐率和預(yù)熱期來(lái)創(chuàng)建RateLimiter,這里的吞吐率是指每秒多少許可數(shù)(通常是指QPS,每秒多少個(gè)請(qǐng)求量),在這段預(yù)熱時(shí)間內(nèi),RateLimiter每秒分配的許可數(shù)會(huì)平穩(wěn)地增長(zhǎng)直到預(yù)熱期結(jié)束時(shí)達(dá)到其最大速率。(只要存在足夠請(qǐng)求數(shù)來(lái)使其飽和) |
| double | getRate() 返回RateLimiter 配置中的穩(wěn)定速率,該速率單位是每秒多少許可數(shù) |
| void | setRate(double permitsPerSecond) 更新RateLimite的穩(wěn)定速率,參數(shù)permitsPerSecond 由構(gòu)造RateLimiter的工廠方法提供。 |
| String | toString() 返回對(duì)象的字符表現(xiàn)形式 |
| boolean | tryAcquire() 從RateLimiter 獲取許可,如果該許可可以在無(wú)延遲下的情況下立即獲取得到的話 |
| boolean | tryAcquire(int permits) 從RateLimiter 獲取許可數(shù),如果該許可數(shù)可以在無(wú)延遲下的情況下立即獲取得到的話 |
| boolean | tryAcquire(int permits, long timeout, TimeUnit unit) 從RateLimiter 獲取指定許可數(shù)如果該許可數(shù)可以在不超過(guò)timeout的時(shí)間內(nèi)獲取得到的話,或者如果無(wú)法在timeout 過(guò)期之前獲取得到許可數(shù)的話,那么立即返回false (無(wú)需等待) |
| boolean | tryAcquire(long timeout, TimeUnit unit) 從RateLimiter 獲取許可如果該許可可以在不超過(guò)timeout的時(shí)間內(nèi)獲取得到的話,或者如果無(wú)法在timeout 過(guò)期之前獲取得到許可的話,那么立即返回false(無(wú)需等待) |
開(kāi)始貼代碼
pom.xml
<!--guava RateLimiter限流-->
<!-- https://mvnrepository.com/artifact/com.google.guava/guava -->
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>28.2-jre</version>
</dependency>自定義接口Limit
package com.zjy.knife4j.inte;
import java.lang.annotation.*;
/**
* 限流注解
*/
@Inherited
@Documented
@Target(ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
public @interface Limit {
// 默認(rèn)每秒放入桶中的token
double limitNum() default 20;
String name() default "";
}aop切面
package com.zjy.knife4j.aspect;
import com.google.common.util.concurrent.RateLimiter;
import com.zjy.knife4j.inte.Limit;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.Signature;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Pointcut;
import org.aspectj.lang.reflect.MethodSignature;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Component;
import java.lang.reflect.Method;
import java.util.concurrent.ConcurrentHashMap;
@Aspect
@Component
public class RateLimitAspect {
/**日志對(duì)象*/
private static final Logger logger = LoggerFactory.getLogger(RateLimitAspect.class);
private ConcurrentHashMap<String, RateLimiter> RATE_LIMITER = new ConcurrentHashMap<>();
private RateLimiter rateLimiter;
@Pointcut("@annotation(com.zjy.knife4j.inte.Limit)")
public void serviceLimit() {
}
@Around("serviceLimit()")
public Object around(ProceedingJoinPoint point) throws Throwable {
Object obj = null;
//獲取攔截的方法名
Signature sig = point.getSignature();
//獲取攔截的方法名
MethodSignature msig = (MethodSignature) sig;
//返回被織入增加處理目標(biāo)對(duì)象
Object target = point.getTarget();
//為了獲取注解信息
Method currentMethod = target.getClass().getMethod(msig.getName(), msig.getParameterTypes());
//獲取注解信息
Limit annotation = currentMethod.getAnnotation(Limit.class);
double limitNum = annotation.limitNum(); //獲取注解每秒加入桶中的token
String functionName = msig.getName(); // 注解所在方法名區(qū)分不同的限流策略
if(RATE_LIMITER.containsKey(functionName)){
rateLimiter=RATE_LIMITER.get(functionName);
}else {
RATE_LIMITER.put(functionName, RateLimiter.create(limitNum));
rateLimiter=RATE_LIMITER.get(functionName);
}
if(rateLimiter.tryAcquire()) {
logger.info("執(zhí)行成功?。。?..做一些業(yè)務(wù)處理");
return point.proceed();
} else {
logger.info("請(qǐng)求繁忙...做一些業(yè)務(wù)處理");
return null;
}
}
}RateLimiterController
package com.zjy.knife4j.controller;
import com.zjy.knife4j.inte.Limit;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
@RequestMapping("/ratelimiter")
@RestController
public class RateLimiterController {
/**
* 開(kāi)啟限流
* @return
*/
@GetMapping("/open")
@Limit(limitNum = 1, name = "test1")
public String openRateLimiter1() {
System.out.println("【限流執(zhí)行了....編寫(xiě)業(yè)務(wù)....】");
return "限流執(zhí)行了";
}
/**
* 開(kāi)啟限流
* @return
*/
@GetMapping("/open2")
@Limit(limitNum = 1, name = "test2")
public String openRateLimiter2() {
System.out.println("【限流執(zhí)行了222】");
return "限流執(zhí)行了222";
}
/**
* 未開(kāi)啟限流
* @return
*/
@GetMapping("/close")
public String closeRateLimiter() {
System.out.println("【不限流執(zhí)行了】");
return "不限流執(zhí)行了";
}
}代碼貼完了,開(kāi)始測(cè)試
啟動(dòng)服務(wù),訪問(wèn)添加限流注解的接口

再訪問(wèn)沒(méi)加注解的接口

控制臺(tái)打印結(jié)果:

測(cè)試OK!
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
使用socket實(shí)現(xiàn)網(wǎng)絡(luò)聊天室和私聊功能
這篇文章主要介紹了使用socket實(shí)現(xiàn)網(wǎng)絡(luò)聊天室和私聊功能,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2017-12-12
Java反射之靜態(tài)加載和動(dòng)態(tài)加載的簡(jiǎn)單實(shí)例
下面小編就為大家?guī)?lái)一篇Java反射之靜態(tài)加載和動(dòng)態(tài)加載的簡(jiǎn)單實(shí)例。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2016-10-10
關(guān)于JSqlparser使用攻略(高效的SQL解析工具)
這篇文章主要介紹了關(guān)于JSqlparser使用攻略(高效的SQL解析工具),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-11-11
springmvc處理響應(yīng)數(shù)據(jù)的解析
今天小編就為大家分享一篇關(guān)于springmvc處理響應(yīng)數(shù)據(jù)的解析,小編覺(jué)得內(nèi)容挺不錯(cuò)的,現(xiàn)在分享給大家,具有很好的參考價(jià)值,需要的朋友一起跟隨小編來(lái)看看吧2019-01-01
SpringBoot+Redis實(shí)現(xiàn)數(shù)據(jù)字典的方法
這篇文章主要介紹了SpringBoot+Redis實(shí)現(xiàn)數(shù)據(jù)字典的方法,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-10-10
解決運(yùn)行jar包出錯(cuò):ClassNotFoundException問(wèn)題
這篇文章主要介紹了解決運(yùn)行jar包出錯(cuò):ClassNotFoundException問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-12-12
ThreadLocal?在上下文傳值場(chǎng)景實(shí)踐源碼
這篇文章主要為大家介紹了ThreadLocal在上下文傳值場(chǎng)景下的實(shí)踐源碼,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步2022-03-03

