Javaweb應用使用限流處理大量的并發(fā)請求詳解
在web應用中,同一時間有大量的客戶端請求同時發(fā)送到服務器,例如搶購、秒殺等。這個時候如何避免將大量的請求同時發(fā)送到業(yè)務系統(tǒng)。
第一種方法:在容器中配置最大請求數(shù),如果大于改請求數(shù),則客戶端阻塞。該方法有效的阻止了大量的請求同時訪問業(yè)務系統(tǒng),但對用戶不友好。
第二種方法:使用過濾器,保證一定數(shù)量的請求能夠正常訪問系統(tǒng),多余的請求先跳轉(zhuǎn)到排隊頁面,由排隊頁面定時發(fā)起請求。過濾器實現(xiàn)如下:
public class ServiceFilter implements Filter {
private static final int MAX_COUNT = 20;
private AtomicInteger filterCount = 0;
public void doFilter(ServletRequest request, ServletResponse response,
FilterChain chain) throws IOException, ServletException {
System.out.println("before"+filterCount);
if(filterCount > MAX_COUNT) {
//請求個數(shù)太多,跳轉(zhuǎn)到排隊頁面
request.getRequestDispatcher("index.jsp").forward(request, response);
} else {
//請求個數(shù)加1
filterCount.incrementAndGet();
chain.doFilter(request, response);
//訪問結(jié)束,請求個數(shù)減1
filterCount.decrementAndGet();
}
}
此種方式的實現(xiàn)就是限流。可以參考RateLimiter的令牌桶限流策略的實現(xiàn)。
public class RateLimiterUtils {
private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class);
private static final ConcurrentHashMap<String, RateLimiter> resourceLimitMap =
new ConcurrentHashMap<String, RateLimiter>();
/**
* 限流
* @param resource 需要限流的對象的標識
* @return true表示得到了許可,沒有達到限流閥值,false表示得不到許可,達到了限流閥值。
* @author: hejinen
* @date:2016年10月19日 上午11:08:49
*/
public static boolean rateLimit(String resource) {
RateLimiter limit = getRateLimit(resource);
return limit.tryAcquire();
}
/**
* 獲取某個需限流對象的RateLimiter,如不存在則創(chuàng)建新的
* @param resouce 需要限流的對象標識
*/
public static RateLimiter getRateLimit(String resource) {
RateLimiter limit = resourceLimitMap.get(resource);
if(limit == null) {
synchronized(RateLimiterUtils.class) {
limit = resourceLimitMap.get(resource);
double qps = getQpsByResource(resource);
if(limit == null) {
limit = RateLimiter.create(qps);
resourceLimitMap.put(resource, limit);
LoggerUtil.info(RateLimiterUtils.class, "create rate limiter for key:{0},QPS:{1}", resource,qps);
}
}
}
return resourceLimitMap.get(resource);
}
}
總結(jié)
以上就是本文關于Javaweb應用使用限流處理大量的并發(fā)請求詳解的全部內(nèi)容,希望對大家有所幫助。感興趣的朋友可以繼續(xù)參閱本站:javaweb設計中filter粗粒度權(quán)限控制代碼示例、Javaweb項目session超時解決方案、Javaweb使用cors完成跨域ajax數(shù)據(jù)交互等,有什么問題可以隨時留言,小編會及時回復大家的。感謝朋友們對本站的支持!
相關文章
SpringBoot定時任務實現(xiàn)數(shù)據(jù)同步的方法
業(yè)務需求是,通過中臺調(diào)用api接口獲得,設備數(shù)據(jù),要求現(xiàn)實設備數(shù)據(jù)的同步,這篇文章主要介紹了SpringBoot定時任務實現(xiàn)數(shù)據(jù)同步的方法,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2022-08-08
SpringBoot+easypoi實現(xiàn)數(shù)據(jù)的Excel導出
這篇文章主要為大家詳細介紹了SpringBoot+easypoi實現(xiàn)數(shù)據(jù)的Excel導出,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2021-05-05
如何在 Java 中實現(xiàn)一個 redis 緩存服務
為什么要使用緩存?說到底是為了提高系統(tǒng)的運行速度。將用戶頻繁訪問的內(nèi)容存放在離用戶最近,訪問速度最快的地方,提高用戶的響應速度。下面我們來一起深入學習一下吧2019-06-06

