欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

java限流算法詳細(xì)

 更新時間：2021年09月01日 16:37:34   作者：水煮魚又失敗了  
這篇文章詳細(xì)的介紹了java限流算法常用到的算法計數(shù)算法、漏桶算法、令牌桶等算法的相關(guān)資料,需要的朋友可以參考下文，希望本篇文章能幫助到您

1、場景

程序中經(jīng)常需要對接口進(jìn)行限流，防止訪問量太大，導(dǎo)致程序崩潰。

常用的算法有：計數(shù)算法、漏桶算法、令牌桶算法，最常用的算法是后面兩種。

2、算法詳解

2.1 計數(shù)算法

2.1.1 說明

技術(shù)算法，為最簡單的限流算法。

核心思想是，每隔一段時間，為計數(shù)器設(shè)定最大值，請求一次，計數(shù)器數(shù)量減一，如果計數(shù)器為0，則拒絕請求。

計數(shù)器算法圖示：

2.1.2 適用場景

雖然此算法是大多數(shù)人第一個想到可以限流的算法，但是不推薦使用此算法。

因為，此算法有個致命性的問題，如果1秒允許的訪問次數(shù)為100，前0.99秒內(nèi)沒有任何請求，在最后0.01秒內(nèi)，出現(xiàn)了200個請求，則這200個請求，都會獲取調(diào)用許可，給程序帶來一次請求的高峰。

如下圖所示：計數(shù)器算法缺點

2.1.3 代碼

import java.time.LocalDateTime;
import java.util.concurrent.TimeUnit;

/**
 * 計數(shù)器限流器
 */
public class CountLimiter {
    /**
     * 執(zhí)行區(qū)間(毫秒)
     */
    private int secondMill;
    
    /**
     * 區(qū)間內(nèi)計數(shù)多少次
     */
    private int maxCount;
    
    /**
     * 當(dāng)前計數(shù)
     */
    private int currentCount;
    
    /**
     * 上次更新時間（毫秒）
     */
    private long lastUpdateTime;
    
    public CountLimiter(int second, int count) {
        if (second <= 0 || count <= 0) {
            throw new IllegalArgumentException("second and time must by positive");
        }
        this.secondMill = second * 1000;
        this.maxCount = count;
        this.currentCount = this.maxCount;
        this.lastUpdateTime = System.currentTimeMillis();
    }
    
    /**
     * 刷新計數(shù)器
     */
    private void refreshCount() {
        long now = System.currentTimeMillis();
        if ((now - this.lastUpdateTime) >= secondMill) {
            this.currentCount = maxCount;
            this.lastUpdateTime = now;
        }
    }
    
    /**
     * 獲取授權(quán)
     * @return
     */
    public synchronized boolean tryAcquire() {
        // 刷新計數(shù)器
        this.refreshCount();
        if ((this.currentCount - 1) >= 0) {
            this.currentCount--;
            return true;
        } else {
            return false;
        }
    }
}

測試方法：

public static void main(String[] args) throws Exception {
    // 1秒限制執(zhí)行2次
    CountLimiter countLimiter = new CountLimiter(1, 2);
    for (int i = 0; i < 10; i++) {
        System.out.println(LocalDateTime.now() + " " + countLimiter.tryAcquire());
        TimeUnit.MILLISECONDS.sleep(200);
    }
}

執(zhí)行結(jié)果：

2021-05-31T22:01:08.660 true
2021-05-31T22:01:08.868 true
2021-05-31T22:01:09.074 false
2021-05-31T22:01:09.275 false
2021-05-31T22:01:09.485 false
2021-05-31T22:01:09.698 true
2021-05-31T22:01:09.901 true
2021-05-31T22:01:10.104 false
2021-05-31T22:01:10.316 false
2021-05-31T22:01:10.520 false

2.2 漏桶算法

2.2.1 說明

漏桶算法稱為leaky bucket，可限制指定時間內(nèi)的最大流量，如限制60秒內(nèi)，最多允許100個請求。

其中接受請求的速度是不恒定的（水滴入桶），處理請求的速度是恒定的（水滴出桶）。

算法總體描述如下：

  • 有個固定容量的桶B（指定時間區(qū)間X，允許的的最大流量B），如60秒內(nèi)最多允許100個請求，則B為100，X為60。
  • 有水滴流進(jìn)來（有請求進(jìn)來），桶里的水+1。
  • 有水滴流出去（執(zhí)行請求對應(yīng)的業(yè)務(wù)），桶里的水-1（業(yè)務(wù)方法，真正開始執(zhí)行=>這是保證漏桶勻速處理業(yè)務(wù)的根本），水滴流出去的速度是勻速的，流速為B/X（1毫秒100/60次，約1毫秒0.00167次，精度可根據(jù)實際情況自己控制）
  • 水桶滿了后（60秒內(nèi)請求達(dá)到了100次），水滴無法進(jìn)入水桶，請求被拒絕

2.2.2 漏桶算法圖示

實際開發(fā)中，漏桶的使用方式可參考下圖：

注意：水滴滴落的時候，才開始執(zhí)行業(yè)務(wù)代碼，而不是水滴進(jìn)桶的時候，去執(zhí)行業(yè)務(wù)代碼。

業(yè)務(wù)代碼的執(zhí)行方式，個人認(rèn)為有如下兩種：

同步執(zhí)行：

  • 調(diào)用方請求時，如水滴可以放入桶中，調(diào)用方所在的線程“阻塞”
  • 水滴漏出時，喚醒調(diào)用方線程，調(diào)用方線程，執(zhí)行具體業(yè)務(wù)

異步執(zhí)行：

  • 調(diào)用方請求時，如水滴可以放入桶中，調(diào)用方所在的線程收到響應(yīng)，方法將異步執(zhí)行
  • 水滴漏出時，水桶代理執(zhí)行具體業(yè)務(wù)

網(wǎng)上很多滴桶的實現(xiàn)代碼，在水滴進(jìn)桶的時候，就去執(zhí)行業(yè)務(wù)代碼了。這樣會導(dǎo)致業(yè)務(wù)代碼，無法勻速地執(zhí)行，仍然對被調(diào)用的接口有一瞬間流量的沖擊（和令牌桶算法的最終實現(xiàn)效果一樣）。

2.2.3 適用場景

水桶的進(jìn)水速度是不可控的，有可能一瞬間有大量的請求進(jìn)入水桶。處理請求的速度是恒定的（滴水的時候處理請求）。

此算法，主要應(yīng)用于自己的服務(wù)，調(diào)用外部接口。以均勻的速度調(diào)用外部接口，防止對外部接口的壓力過大，而影響外部系統(tǒng)的穩(wěn)定性。如果影響了別人的系統(tǒng)，接口所在公司會來找你喝茶。

漏桶算法，主要用來保護(hù)別人的接口。

2.2.4 代碼

本實例代碼的實現(xiàn)，在水滴滴下，執(zhí)行具體業(yè)務(wù)代碼時，采用同步執(zhí)行的方式。即喚醒調(diào)用方的線程，讓"調(diào)用者"所屬的線程去執(zhí)行具體業(yè)務(wù)代碼，去調(diào)用接口。

import java.net.SocketTimeoutException;
import java.time.LocalDateTime;
import java.util.Queue;
import java.util.UUID;
import java.util.concurrent.ArrayBlockingQueue;
import java.util.concurrent.BlockingQueue;
import java.util.concurrent.LinkedBlockingQueue;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.locks.LockSupport;

/**
 * 漏桶算法
 */
public class LeakyBucketLimiterUtil {
    
    /**
     * 漏桶流出速率(多少納秒執(zhí)行一次)
     */
    private long outflowRateNanos;
    
    /**
     * 漏桶容器
     */
    private volatile BlockingQueue<Drip> queue;
    
    /**
     * 滴水線程
     */
    private Thread outflowThread;
    
    /**
     * 水滴
     */
    private static class Drip {
        /**
         * 業(yè)務(wù)主鍵
         */
        private String busId;
        
        /**
         * 水滴對應(yīng)的調(diào)用者線程
         */
        private Thread thread;
        
        public Drip(String busId, Thread thread) {
            this.thread = thread;
        }
        
        public String getBusId() {
            return this.busId;
        }
        
        public Thread getThread() {
            return this.thread;
        }
    }
    
    /**
     * @param second 秒
     * @param time   調(diào)用次數(shù)
     */
    public LeakyBucketLimiterUtil(int second, int time) {
        if (second <= 0 || time <= 0) {
            throw new IllegalArgumentException("second and time must by positive");
        }
        
        outflowRateNanos = TimeUnit.SECONDS.toNanos(second) / time;
        queue = new LinkedBlockingQueue<>(time);
        
        outflowThread = new Thread(() -> {
            while (true) {
                Drip drip = null;
                try {
                    // 阻塞，直到從桶里拿到水滴
                    drip = queue.take();
                } catch (Exception e) {
                    e.printStackTrace();
                }
                if (drip != null && drip.getThread() != null) {
                    // 喚醒阻塞的水滴里面的線程
                    LockSupport.unpark(drip.getThread());
                }
                // 休息一段時間，開始下一次滴水
                LockSupport.parkNanos(this, outflowRateNanos);
            }
        }, "漏水線程");
        outflowThread.start();
    }
    
    /**
     * 業(yè)務(wù)請求
     *
     * @return
     */
    public boolean acquire(String busId) {
        Thread thread = Thread.currentThread();
        Drip drip = new Drip(busId, thread);
        if (this.queue.offer(drip)) {
            LockSupport.park();
            return true;
        } else {
            return false;
        }
    }
}

測試代碼如下：

public static void main(String[] args) throws Exception {
    // 1秒限制執(zhí)行1次
    LeakyBucketLimiterUtil leakyBucketLimiter = new LeakyBucketLimiterUtil(5, 2);
    for (int i = 0; i < 10; i++) {
        new Thread(new Runnable() {
            @Override
            public void run() {
                String busId = "[業(yè)務(wù)ID：" + LocalDateTime.now().toString() + "]";
                if (leakyBucketLimiter.acquire(busId)) {
                    System.out.println(LocalDateTime.now() + " " + Thread.currentThread().getName() + "：調(diào)用外部接口...成功：" + busId);
                } else {
                    System.out.println(LocalDateTime.now() + " " + Thread.currentThread().getName() + "：調(diào)用外部接口...失?。? + busId);
                }
            }
        }, "測試線程-" + i).start();
        TimeUnit.MILLISECONDS.sleep(500);
    }
}

執(zhí)行結(jié)果如下：

2021-05-31T20:52:52.297 測試線程-0：調(diào)用外部接口...成功：[業(yè)務(wù)ID：2021-05-31T20:52:52.295]
2021-05-31T20:52:53.782 測試線程-3：調(diào)用外部接口...失敗：[業(yè)務(wù)ID：2021-05-31T20:52:53.782]
2021-05-31T20:52:54.286 測試線程-4：調(diào)用外部接口...失?。篬業(yè)務(wù)ID：2021-05-31T20:52:54.286]
2021-05-31T20:52:54.799 測試線程-1：調(diào)用外部接口...成功：[業(yè)務(wù)ID：2021-05-31T20:52:52.761]
2021-05-31T20:52:55.300 測試線程-6：調(diào)用外部接口...失敗：[業(yè)務(wù)ID：2021-05-31T20:52:55.300]
2021-05-31T20:52:55.806 測試線程-7：調(diào)用外部接口...失?。篬業(yè)務(wù)ID：2021-05-31T20:52:55.806]
2021-05-31T20:52:56.307 測試線程-8：調(diào)用外部接口...失敗：[業(yè)務(wù)ID：2021-05-31T20:52:56.307]
2021-05-31T20:52:56.822 測試線程-9：調(diào)用外部接口...失?。篬業(yè)務(wù)ID：2021-05-31T20:52:56.822]
2021-05-31T20:52:57.304 測試線程-2：調(diào)用外部接口...成功：[業(yè)務(wù)ID：2021-05-31T20:52:53.271]
2021-05-31T20:52:59.817 測試線程-5：調(diào)用外部接口...成功：[業(yè)務(wù)ID：2021-05-31T20:52:54.799]

2.3 令牌桶算法

2.3.1 說明

令牌桶算法，主要是勻速地增加可用令牌，令牌數(shù)因為桶的限制有數(shù)量上限。

請求拿到令牌，相當(dāng)于拿到授權(quán)，即可進(jìn)行相應(yīng)的業(yè)務(wù)操作。

2.3.2 令牌桶算法圖示

2.3.3 適用場景

和漏桶算法比，有可能導(dǎo)致短時間內(nèi)的請求數(shù)上升（因為拿到令牌后，就可以訪問接口，有可能一瞬間將所有令牌拿走），但是不會有計數(shù)算法那樣高的峰值（因為令牌數(shù)量是勻速增加的）。

一般自己調(diào)用自己的接口，接口會有一定的伸縮性，令牌桶算法，主要用來保護(hù)自己的服務(wù)器接口。

2.3.4 代碼

代碼實現(xiàn)如下：

import java.time.LocalDateTime;
import java.util.concurrent.TimeUnit;

/**
 * 令牌桶限流算法
 */
public class TokenBucketLimiter {
    
    /**
     * 桶的大小
     */
    private double bucketSize;
    
    /**
     * 桶里的令牌數(shù)
     */
    private double tokenCount;
    
    /**
     * 令牌增加速度(每毫秒)
     */
    private double tokenAddRateMillSecond;
    
    /**
     * 上次更新時間（毫秒）
     */
    private long lastUpdateTime;
    
    /**
     * @param second 秒
     * @param time   調(diào)用次數(shù)
     */
    public TokenBucketLimiter(double second, double time) {
        if (second <= 0 || time <= 0) {
            throw new IllegalArgumentException("second and time must by positive");
        }
        // 桶的大小
        this.bucketSize = time;
        // 桶里的令牌數(shù)
        this.tokenCount = this.bucketSize;
        // 令牌增加速度(每毫秒)
        this.tokenAddRateMillSecond = time / second / 1000;
        // 上次更新時間（毫秒）
        this.lastUpdateTime = System.currentTimeMillis();
    }
    
    /**
     * 刷新桶內(nèi)令牌數(shù)(令牌數(shù)不得超過桶的大小)
     * 計算“上次刷新時間”到“當(dāng)前刷新時間”中間，增加的令牌數(shù)
     */
    private void refreshTokenCount() {
        long now = System.currentTimeMillis();
        this.tokenCount = Math.min(this.bucketSize, this.tokenCount + ((now - this.lastUpdateTime) * this.tokenAddRateMillSecond));
        this.lastUpdateTime = now;
    }
    
    /**
     * 嘗試拿到權(quán)限
     *
     * @return
     */
    public synchronized boolean tryAcquire() {
        // 刷新桶內(nèi)令牌數(shù)
        this.refreshTokenCount();
        if ((this.tokenCount - 1) >= 0) {
            // 如果桶中有令牌，令牌數(shù)-1
            this.tokenCount--;
            return true;
        } else {
            // 桶中已無令牌
            return false;
        }
    }
}

測試代碼：

public static void main(String[] args) throws Exception{
    // 2秒執(zhí)行1次
    TokenBucketLimiter leakyBucketLimiter = new TokenBucketLimiter(2, 1);
    for (int i = 0; i < 10; i++) {
        System.out.println(LocalDateTime.now() + " " + leakyBucketLimiter.tryAcquire());
        TimeUnit.SECONDS.sleep(1);
    }
}

執(zhí)行結(jié)果如下：

2021-05-31T21:38:34.560 true
2021-05-31T21:38:35.582 false
2021-05-31T21:38:36.588 true
2021-05-31T21:38:37.596 false
2021-05-31T21:38:38.608 true
2021-05-31T21:38:39.610 false
2021-05-31T21:38:40.615 true
2021-05-31T21:38:41.627 false
2021-05-31T21:38:42.641 true
2021-05-31T21:38:43.649 false

2.3.5 第三方工具類

可以使用Guava中的RateLimiter來實現(xiàn)令牌桶的限流功能。

maven依賴如下：

<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
    <version>30.1.1-jre</version>
</dependency>

直接獲取令牌（true為獲取到令牌，false為獲取失?。?/strong>

RateLimiter rateLimiter = RateLimiter.create(2);
boolean acquireResule = rateLimiter.tryAcquire();
if (acquireResule) {
    System.out.println("獲取令牌：成功");
} else {
    System.out.println("獲取令牌：失敗");
}

等待嘗試獲取令牌（阻塞當(dāng)前線程，直到獲取到令牌）：

RateLimiter rateLimiter = RateLimiter.create(2);
// 阻塞獲取令牌
double waitCount = rateLimiter.acquire();
System.out.println("阻塞等待時間：" + waitCount);

以上就是java限流算法詳細(xì)的詳細(xì)內(nèi)容，更多關(guān)于java限流算法的資料請關(guān)注腳本之家其它相關(guān)文章！希望大家以后多多支持腳本之家！

相關(guān)文章

  • SpringMVC對日期類型的轉(zhuǎn)換示例

    SpringMVC對日期類型的轉(zhuǎn)換示例

    本篇文章主要介紹了SpringMVC對日期類型的轉(zhuǎn)換示例，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧
    2017-02-02
  • Java圖像處理之獲取用戶感興趣的區(qū)域

    Java圖像處理之獲取用戶感興趣的區(qū)域

    OpenCV（Open?Source?Computer?Vision?Library）是一個開源的計算機(jī)視覺庫，它提供了很多函數(shù)，這些函數(shù)非常高效地實現(xiàn)了計算機(jī)視覺算法。本文將利用OpenCV實現(xiàn)獲取用戶感興趣的區(qū)域，從而達(dá)到摳圖效果
    2022-07-07
  • 性能爆棚的實體轉(zhuǎn)換復(fù)制工具M(jìn)apStruct使用詳解

    性能爆棚的實體轉(zhuǎn)換復(fù)制工具M(jìn)apStruct使用詳解

    這篇文章主要為大家介紹了性能爆棚的實體轉(zhuǎn)換復(fù)制工具M(jìn)apStruct使用詳解，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪
    2023-03-03
  • 在java中判斷兩個浮點型(float)數(shù)據(jù)是否相等的案例

    在java中判斷兩個浮點型(float)數(shù)據(jù)是否相等的案例

    這篇文章主要介紹了在java中判斷兩個浮點型(float)數(shù)據(jù)是否相等的案例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-10-10
  • Pattern.compile函數(shù)提取字符串中指定的字符(推薦)

    Pattern.compile函數(shù)提取字符串中指定的字符(推薦)

    這篇文章主要介紹了Pattern.compile函數(shù)提取字符串中指定的字符,使用的是Java中的Pattern.compile函數(shù)來實現(xiàn)對指定字符串的截取，本文給大家介紹的非常詳細(xì)，對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下
    2022-12-12
  • Mybatis批量插入Oracle數(shù)據(jù)的方法實例

    Mybatis批量插入Oracle數(shù)據(jù)的方法實例

    在開發(fā)中或多或少都會遇到數(shù)據(jù)批量插入的功能，最近我在做項目的過程中就遇到了這樣一個問題,下面這篇文章主要給大家介紹了關(guān)于Mybatis批量插入Oracle數(shù)據(jù)的相關(guān)資料,需要的朋友可以參考下
    2022-01-01
  • 詳解java 中的CAS與ABA

    詳解java 中的CAS與ABA

    這篇文章主要介紹了java 中的CAS與ABA的相關(guān)資料，幫助大家更好的理解和學(xué)習(xí)使用Java，感興趣的朋友可以了解下
    2021-05-05
  • Java從零編寫汽車租賃系統(tǒng)全程分析

    Java從零編寫汽車租賃系統(tǒng)全程分析

    這篇文章介紹了Java實現(xiàn)汽車租賃系統(tǒng)的方法，文中通過示例代碼介紹的非常詳細(xì)。對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值，需要的朋友可以參考下
    2022-12-12
  • Java標(biāo)識接口的使用方法

    Java標(biāo)識接口的使用方法

    在本篇文章中小編給大家分享了關(guān)于Java標(biāo)識接口的使用方法和教程內(nèi)容，有需要的朋友們學(xué)習(xí)下。
    2019-01-01
  • Java實現(xiàn)base64圖片編碼數(shù)據(jù)轉(zhuǎn)換為本地圖片的方法

    Java實現(xiàn)base64圖片編碼數(shù)據(jù)轉(zhuǎn)換為本地圖片的方法

    這篇文章主要介紹了Java實現(xiàn)base64圖片編碼數(shù)據(jù)轉(zhuǎn)換為本地圖片的方法,涉及java編碼轉(zhuǎn)換及圖片文件生成相關(guān)操作技巧,需要的朋友可以參考下
    2018-06-06

最新評論