在我們的日常開發(fā)中, 常用的中間件有很多, 今天來(lái)講一下怎么集成限流中間件, 它可以很好地用限制并發(fā)訪問(wèn)數(shù)來(lái)保護(hù)系統(tǒng)服務(wù), 避免系統(tǒng)服務(wù)崩潰, 資源占用過(guò)大甚至服務(wù)器崩潰進(jìn)而影響到其他應(yīng)用!

分布式版

簡(jiǎn)介

通常我們的服務(wù)會(huì)同時(shí)存在多個(gè)進(jìn)程, 也就是負(fù)載來(lái)保證服務(wù)的性能和穩(wěn)定性, 那么就需要走一個(gè)統(tǒng)一的限流, 這個(gè)時(shí)候就需要借助我們的老朋友-redis, 來(lái)進(jìn)行分布式限流;

算法

漏桶算法

即一個(gè)水桶, 進(jìn)水(接受請(qǐng)求)的速率不限, 出水(處理請(qǐng)求)的速率是一定的, 如果出水的速率小于進(jìn)水的速率, 就會(huì)造成水桶溢出(也就是拒絕請(qǐng)求); 主要是從出口限制, 以固定的速率控制訪問(wèn)速度, 缺點(diǎn)是難以應(yīng)對(duì)突發(fā)請(qǐng)求;

實(shí)現(xiàn)

下面是一個(gè)簡(jiǎn)單的實(shí)現(xiàn), 對(duì) /v1/hello接口進(jìn)行每分鐘2次的速率限制

// RateLimitConf 速率配置, 允許多長(zhǎng)時(shí)間通過(guò)多少次.
type RateLimitConf struct {
	Limit int64
	Timer time.Duration
}
// exampleLimiterMap 接口請(qǐng)求速率配置, 建議放入redis/數(shù)據(jù)庫(kù)同步本地緩存.
var exampleLimiterMap = map[string]RateLimitConf{
	"/v1/hello": {Limit: 2, Timer: time.Minute},
}
// LimiterMiddle 分布式限流中間件.
func LimiterMiddle(ctx iris.Context) {
	var (
		uri    = ctx.Request().RequestURI
		client = redis.NewClusterClient()
		key    = uri
	)
	conf, ok := exampleLimiterMap[uri]
	if ok {
		limiter := redis_rate.NewLimiter(client)
		if _, _, b := limiter.Allow(key, conf.Limit, conf.Timer); !b {
			r, _ := httpcode.NewRequest(ctx, nil)
			r.Code(httpcode.TooManyReq, fmt.Errorf("req rate limit"), nil)
			return
		}
	}
	ctx.Next()
}

注意

接口速率配置如果需要進(jìn)行實(shí)時(shí)配置, 則建議將配置寫入數(shù)據(jù)庫(kù), 然后刷新到本地緩存/存到redis;
如果需要對(duì)設(shè)備/ip/用戶進(jìn)行接口限制訪問(wèn), 則將 key加上唯一標(biāo)志即可;

單機(jī)版

簡(jiǎn)介

這個(gè)就只適用于單個(gè)服務(wù)進(jìn)程的限流, 比如個(gè)人搭的一些小網(wǎng)站之類的;

算法

令牌桶算法

即也是一個(gè)桶, 按照設(shè)定的速率往桶里放令牌, 10s二十次即1s放兩個(gè)令牌(允許處理兩次請(qǐng)求), 然后請(qǐng)求來(lái)之后必須從桶里取出來(lái)令牌才可以進(jìn)行處理, 沒(méi)有令牌則選擇拒絕或等待; 主要是從入口限制, 允許一定量的突發(fā)請(qǐng)求(即桶內(nèi)所有的令牌);

依賴庫(kù)

golang.org/x/time/rate

實(shí)現(xiàn)

下面是一個(gè)簡(jiǎn)單的實(shí)現(xiàn), 對(duì) /v1/hello接口進(jìn)行每分鐘2次的速率限制

// exampleStandAloneLimiterMap 單機(jī)接口請(qǐng)求速率配置.
var exampleStandAloneLimiterMap = map[string]*rate.Limiter{
	"/v1/hello": rate.NewLimiter(rate.Every(time.Minute), 2),
}
// StandAloneLimiterMiddle 單機(jī)限流中間件.
func StandAloneLimiterMiddle(ctx iris.Context) {
	var (
		uri = ctx.Request().RequestURI
	)
	limiter, ok := exampleStandAloneLimiterMap[uri]
	if ok {
		if b := limiter.Allow(); !b {
			r, _ := httpcode.NewRequest(ctx, nil)
			r.Code(httpcode.TooManyReq, fmt.Errorf("req rate limit"), nil)
			return
		}
	}
	ctx.Next()
}