java分布式面試系統(tǒng)限流最佳實踐
引言
前面講了系統(tǒng)中的降級熔斷設(shè)計和對 Hystrix 組件的功能了解,關(guān)于限流降級還有一個比較重要的知識點就是限流算法。
如果你面試的是電商相關(guān)公司,這一塊就顯得更加重要了,秒殺、搶購等場景,需有一種手段來限制這些場景的并發(fā)/請求量,手段就是限流。
沒有配置限流,如果遇到上游系統(tǒng)頻繁調(diào)用,會導(dǎo)致下游系統(tǒng)被擊垮。
配置了限流,但是限流算法不合理,會導(dǎo)致正常訪問被拒絕,所以限流算法不能亂用,要充分評估系統(tǒng)是否需要限流,如果要限流,流量大小如何評估。
1、面試官:
哪些場景系統(tǒng)使用了限流?為什么要使用限流?
問題分析:這個問題比較簡單,所有訪問頻繁的服務(wù)都可以做限流,相比公司內(nèi)部運營系統(tǒng),用戶加起來不過十幾個,這種系統(tǒng)就沒必要限流了。
答:限流呀,無非就是秒殺活動,或者容易被爬蟲爬的信息類頁面,以及系統(tǒng)核心服務(wù),這些都需要做限流,比如大眾點評首頁,因為推薦了一些高質(zhì)量店鋪信息,經(jīng)常被同行或者門戶類公司的爬蟲爬取信息,這個時候我們就要對首頁做限流操作。秒殺活動,系統(tǒng)核心高QPS服務(wù),都需要考慮限流。
使用限流的目的就是我們不能輕易被別人干倒,要7x24h保證服務(wù)正常,同時,限流也是為了我們的下游系統(tǒng)不會輕易被我們拖垮,流量合理放行。
2、面試官:
那你了解哪些常用限流算法?
答:常用的限流算法就3種:
1.計數(shù)器方法:
固定時間窗口,比如1min/1h,設(shè)置一個計數(shù)器統(tǒng)計單位時間內(nèi)一個請求的訪問量,超過計數(shù)器最大值,可以讓請求放入等待隊列 or 直接拒接訪問,這種方法簡單粗暴,但是易造成突刺現(xiàn)象。
2.漏斗算法:
可以理解成一個固定容量的漏桶,不管流量多還是少,我都按照常量固定速率流出水滴,如果流入水滴超出了桶的容量,就讓水溢出。這種算法優(yōu)點是穩(wěn)定速率,缺點是無法面對突發(fā)流量。
3.令牌桶算法:
讓每次請求調(diào)用需要先獲取令牌,只有拿到令牌,才有機會繼續(xù)執(zhí)行,否則選擇等待可用的令牌,或者直接拒絕。優(yōu)點是系統(tǒng)發(fā)放令牌的速率是可變的,能夠面對突發(fā)流量,缺點是有點復(fù)雜。
具體使用哪種算法,要根據(jù)具體業(yè)務(wù)場景,比如系統(tǒng)時候會有突發(fā)流量,調(diào)用方重要程度等,如果調(diào)用方不是很重要,為了顧全大局,直接放調(diào)用方稍后重試。
3、面試官:
那具體這值該如何評估,說到現(xiàn)在我還是不知道限流到底要怎么設(shè)置,可以給我一點經(jīng)驗方法嗎?
(我繼續(xù)…)
對于核心服務(wù)限流的值可以通過以下方法來設(shè)置合理的值:
- 觀察評估法:系統(tǒng)總該有QPS監(jiān)控系統(tǒng)吧,看看流量環(huán)比最大值,最小值,平均值,這就是很好的參考,總不能我一拍腦袋設(shè)置一個250上去。
- 壓力測試法:找QA,半夜業(yè)務(wù)低峰期,看看系統(tǒng)能承受的最大QPS。
同時,限流還有和重試、降級、熔斷等作為組合方法一起使用。
深入分析
于具體使用的技術(shù)和工具并不是重點,還有人說我也不用Guava,也不用Thread sleep,更不用Hystrix,我用Nginx,前系統(tǒng)最前端同樣可以做限流,方案可行,條條大路通羅馬。
使用線程池實現(xiàn):
@SpringBootTest @RunWith(SpringRunner.class) public class RejectTest { @Test public void testReject() { for (int i = 0; i < 25; ++i) { new Thread(() -> // do something )).start(); } // 防止主線程提前結(jié)束執(zhí)行 TimeUtils.sleep(50); } }
借助Guava實現(xiàn):
RateLimiter rateLimiter = RateLimiter.create(20.0); boolean token = rateLimiter.tryAcquire(); if (token) { System.out.println("pass"); } else { System.out.println("refuse"); }
總結(jié)
我認為學(xué)習(xí)限流最重要的點是掌握解決問題的思路,至于具體使用的技術(shù)和工具并不是重點,還有人說我也不用Guava,也不用Thread sleep,更不用Hystrix,我用Nginx,前系統(tǒng)最前端同樣可以做限流,方案可行,條條大路通羅馬。
以上就是java分布式面試系統(tǒng)限流最佳實踐的詳細內(nèi)容,更多關(guān)于分布式系統(tǒng)限流面試的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
java連接SQL?Server數(shù)據(jù)庫的超詳細教程
最近在java連接SQL數(shù)據(jù)庫時會出現(xiàn)一些問題,所以這篇文章主要給大家介紹了關(guān)于java連接SQL?Server數(shù)據(jù)庫的超詳細教程,文中通過圖文介紹的非常詳細,需要的朋友可以參考下2022-06-06springboot實現(xiàn)防重復(fù)提交和防重復(fù)點擊的示例
這篇文章主要介紹了springboot實現(xiàn)防重復(fù)提交和防重復(fù)點擊的示例,幫助大家更好的理解和學(xué)習(xí)springboot框架,感興趣的朋友可以了解下2020-09-09解決本機安裝的JDK8,啟動IDEA2019沒反應(yīng)的問題(開發(fā)工具)
這篇文章主要介紹了解決本機安裝的JDK8啟動IDEA2019沒反應(yīng)的問題(開發(fā)工具),非常不錯,具有一定的參考借鑒價值,需要的朋友可以參考下2019-10-10springboot如何使用thymeleaf模板訪問html頁面
springboot中推薦使用thymeleaf模板,使用html作為頁面展示。那么如何通過Controller來訪問來訪問html頁面呢?下面通過本文給大家詳細介紹,感興趣的朋友跟隨腳本之家小編一起看看吧2018-05-05