Javaweb應(yīng)用使用限流處理大量的并發(fā)請(qǐng)求詳解
在web應(yīng)用中,同一時(shí)間有大量的客戶(hù)端請(qǐng)求同時(shí)發(fā)送到服務(wù)器,例如搶購(gòu)、秒殺等。這個(gè)時(shí)候如何避免將大量的請(qǐng)求同時(shí)發(fā)送到業(yè)務(wù)系統(tǒng)。
第一種方法:在容器中配置最大請(qǐng)求數(shù),如果大于改請(qǐng)求數(shù),則客戶(hù)端阻塞。該方法有效的阻止了大量的請(qǐng)求同時(shí)訪(fǎng)問(wèn)業(yè)務(wù)系統(tǒng),但對(duì)用戶(hù)不友好。
第二種方法:使用過(guò)濾器,保證一定數(shù)量的請(qǐng)求能夠正常訪(fǎng)問(wèn)系統(tǒng),多余的請(qǐng)求先跳轉(zhuǎn)到排隊(duì)頁(yè)面,由排隊(duì)頁(yè)面定時(shí)發(fā)起請(qǐng)求。過(guò)濾器實(shí)現(xiàn)如下:
public class ServiceFilter implements Filter { private static final int MAX_COUNT = 20; private AtomicInteger filterCount = 0; public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { System.out.println("before"+filterCount); if(filterCount > MAX_COUNT) { //請(qǐng)求個(gè)數(shù)太多,跳轉(zhuǎn)到排隊(duì)頁(yè)面 request.getRequestDispatcher("index.jsp").forward(request, response); } else { //請(qǐng)求個(gè)數(shù)加1 filterCount.incrementAndGet(); chain.doFilter(request, response); //訪(fǎng)問(wèn)結(jié)束,請(qǐng)求個(gè)數(shù)減1 filterCount.decrementAndGet(); } }
此種方式的實(shí)現(xiàn)就是限流??梢詤⒖糝ateLimiter的令牌桶限流策略的實(shí)現(xiàn)。
public class RateLimiterUtils { private static Logger logger = LoggerFactory.getLogger(RateLimiterUtils.class); private static final ConcurrentHashMap<String, RateLimiter> resourceLimitMap = new ConcurrentHashMap<String, RateLimiter>(); /** * 限流 * @param resource 需要限流的對(duì)象的標(biāo)識(shí) * @return true表示得到了許可,沒(méi)有達(dá)到限流閥值,false表示得不到許可,達(dá)到了限流閥值。 * @author: hejinen * @date:2016年10月19日 上午11:08:49 */ public static boolean rateLimit(String resource) { RateLimiter limit = getRateLimit(resource); return limit.tryAcquire(); } /** * 獲取某個(gè)需限流對(duì)象的RateLimiter,如不存在則創(chuàng)建新的 * @param resouce 需要限流的對(duì)象標(biāo)識(shí) */ public static RateLimiter getRateLimit(String resource) { RateLimiter limit = resourceLimitMap.get(resource); if(limit == null) { synchronized(RateLimiterUtils.class) { limit = resourceLimitMap.get(resource); double qps = getQpsByResource(resource); if(limit == null) { limit = RateLimiter.create(qps); resourceLimitMap.put(resource, limit); LoggerUtil.info(RateLimiterUtils.class, "create rate limiter for key:{0},QPS:{1}", resource,qps); } } } return resourceLimitMap.get(resource); } }
總結(jié)
以上就是本文關(guān)于Javaweb應(yīng)用使用限流處理大量的并發(fā)請(qǐng)求詳解的全部?jī)?nèi)容,希望對(duì)大家有所幫助。感興趣的朋友可以繼續(xù)參閱本站:javaweb設(shè)計(jì)中filter粗粒度權(quán)限控制代碼示例、Javaweb項(xiàng)目session超時(shí)解決方案、Javaweb使用cors完成跨域ajax數(shù)據(jù)交互等,有什么問(wèn)題可以隨時(shí)留言,小編會(huì)及時(shí)回復(fù)大家的。感謝朋友們對(duì)本站的支持!
相關(guān)文章
SpringBoot定時(shí)任務(wù)實(shí)現(xiàn)數(shù)據(jù)同步的方法
業(yè)務(wù)需求是,通過(guò)中臺(tái)調(diào)用api接口獲得,設(shè)備數(shù)據(jù),要求現(xiàn)實(shí)設(shè)備數(shù)據(jù)的同步,這篇文章主要介紹了SpringBoot定時(shí)任務(wù)實(shí)現(xiàn)數(shù)據(jù)同步的方法,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-08-08SpringBoot+easypoi實(shí)現(xiàn)數(shù)據(jù)的Excel導(dǎo)出
這篇文章主要為大家詳細(xì)介紹了SpringBoot+easypoi實(shí)現(xiàn)數(shù)據(jù)的Excel導(dǎo)出,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2021-05-05Java接口操作(繼承父類(lèi)并實(shí)現(xiàn)多個(gè)接口)
這篇文章主要介紹了Java接口操作(繼承父類(lèi)并實(shí)現(xiàn)多個(gè)接口),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-10-10如何在 Java 中實(shí)現(xiàn)一個(gè) redis 緩存服務(wù)
為什么要使用緩存?說(shuō)到底是為了提高系統(tǒng)的運(yùn)行速度。將用戶(hù)頻繁訪(fǎng)問(wèn)的內(nèi)容存放在離用戶(hù)最近,訪(fǎng)問(wèn)速度最快的地方,提高用戶(hù)的響應(yīng)速度。下面我們來(lái)一起深入學(xué)習(xí)一下吧2019-06-06使用javassist動(dòng)態(tài)生成類(lèi)的配置代碼
Javassist它是一個(gè)用 Java 編輯字節(jié)碼的類(lèi)庫(kù),它使 Java 程序能夠在運(yùn)行時(shí)定義新類(lèi),并在 JVM 加載時(shí)修改類(lèi)文件,本文給大家介紹使用javassist動(dòng)態(tài)生成類(lèi)的實(shí)例代碼,感興趣的朋友一起看看吧2022-09-09