Java常見延遲隊列的實現(xiàn)方案總結(jié)
一、延時隊列的應(yīng)用
什么是延時隊列？顧名思義：首先它要具有隊列的特性，再給它附加一個延遲消費隊列消息的功能，也就是說可以指定隊列中的消息在哪個時間點被消費。
延時隊列在項目中的應(yīng)用還是比較多的，尤其像電商類平臺：
1、訂單成功后，在30分鐘內(nèi)沒有支付，自動取消訂單
2、外賣平臺發(fā)送訂餐通知，下單成功后60s給用戶推送短信。
3、如果訂單一直處于某一個未完結(jié)狀態(tài)時，及時處理關(guān)單，并退還庫存
4、淘寶新建商戶一個月內(nèi)還沒上傳商品信息，將凍結(jié)商鋪等
上邊的這些場景都可以應(yīng)用延時隊列解決。
二、延時隊列的實現(xiàn)
我個人一直秉承的觀點：工作上能用JDK自帶API實現(xiàn)的功能，就不要輕易自己重復(fù)造輪子，或者引入三方中間件。一方面自己封裝很容易出問題（大佬除外），再加上調(diào)試驗證產(chǎn)生許多不必要的工作量；另一方面一旦接入三方的中間件就會讓系統(tǒng)復(fù)雜度成倍的增加，維護成本也大大的增加。
1、DelayQueue 延時隊列
JDK 中提供了一組實現(xiàn)延遲隊列的API，位于Java.util.concurrent包下DelayQueue。
DelayQueue是一個BlockingQueue（無界阻塞）隊列，它本質(zhì)就是封裝了一個PriorityQueue（優(yōu)先隊列），PriorityQueue內(nèi)部使用完全二叉堆（不知道的自行了解哈）來實現(xiàn)隊列元素排序，我們在向DelayQueue隊列中添加元素時，會給元素一個Delay（延遲時間）作為排序條件，隊列中最小的元素會優(yōu)先放在隊首。隊列中的元素只有到了Delay時間才允許從隊列中取出。隊列中可以放基本數(shù)據(jù)類型或自定義實體類，在存放基本數(shù)據(jù)類型時，優(yōu)先隊列中元素默認升序排列，自定義實體類就需要我們根據(jù)類屬性值比較計算了。
先簡單實現(xiàn)一下看看效果，添加三個order入隊DelayQueue，分別設(shè)置訂單在當前時間的5秒、10秒、15秒后取消。
要實現(xiàn)DelayQueue延時隊列，隊中元素要implements Delayed 接口，這哥接口里只有一個getDelay方法，用于設(shè)置延期時間。Order類中compareTo方法負責對隊列中的元素進行排序。
public class Order implements Delayed {
/**
* 延遲時間
*/
@JsonFormat(locale = "zh", timezone = "GMT+8", pattern = "yyyy-MM-dd HH:mm:ss")
private long time;
String name;
public Order(String name, long time, TimeUnit unit) {
this.name = name;
this.time = System.currentTimeMillis() + (time > 0 ? unit.toMillis(time) : 0);
}
@Override
public long getDelay(TimeUnit unit) {
return time - System.currentTimeMillis();
}
@Override
public int compareTo(Delayed o) {
Order Order = (Order) o;
long diff = this.time - Order.time;
if (diff <= 0) {
return -1;
} else {
return 1;
}
}
}DelayQueue的put方法是線程安全的，因為put方法內(nèi)部使用了ReentrantLock鎖進行線程同步。DelayQueue還提供了兩種出隊的方法 poll() 和 take() ， poll() 為非阻塞獲取，沒有到期的元素直接返回null；take() 阻塞方式獲取，沒有到期的元素線程將會等待。
public class DelayQueueDemo {
public static void main(String[] args) throws InterruptedException {
Order Order1 = new Order("Order1", 5, TimeUnit.SECONDS);
Order Order2 = new Order("Order2", 10, TimeUnit.SECONDS);
Order Order3 = new Order("Order3", 15, TimeUnit.SECONDS);
DelayQueue<Order> delayQueue = new DelayQueue<>();
delayQueue.put(Order1);
delayQueue.put(Order2);
delayQueue.put(Order3);
System.out.println("訂單延遲隊列開始時間:" + LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
while (delayQueue.size() != 0) {
/**
* 取隊列頭部元素是否過期
*/
Order task = delayQueue.poll();
if (task != null) {
System.out.format("訂單:{%s}被取消, 取消時間:{%s}\n", task.name, LocalDateTime.now().format(DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss")));
}
Thread.sleep(1000);
}
}
}上邊只是簡單的實現(xiàn)入隊與出隊的操作，實際開發(fā)中會有專門的線程，負責消息的入隊與消費。
執(zhí)行后看到結(jié)果如下，Order1、Order2、Order3 分別在 5秒、10秒、15秒后被執(zhí)行，至此就用DelayQueue實現(xiàn)了延時隊列。
訂單延遲隊列開始時間:2020-05-06 14:59:09
訂單:{Order1}被取消, 取消時間:{2020-05-06 14:59:14}
訂單:{Order2}被取消, 取消時間:{2020-05-06 14:59:19}
訂單:{Order3}被取消, 取消時間:{2020-05-06 14:59:24}2、Quartz 定時任務(wù)
Quartz一款非常經(jīng)典任務(wù)調(diào)度框架，在Redis、RabbitMQ還未廣泛應(yīng)用時，超時未支付取消訂單功能都是由定時任務(wù)實現(xiàn)的。定時任務(wù)它有一定的周期性，可能很多單子已經(jīng)超時，但還沒到達觸發(fā)執(zhí)行的時間點，那么就會造成訂單處理的不夠及時。
引入quartz框架依賴包
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-quartz</artifactId>
</dependency>在啟動類中使用@EnableScheduling注解開啟定時任務(wù)功能。
@EnableScheduling
@SpringBootApplication
public class DelayqueueApplication {
public static void main(String[] args) {
SpringApplication.run(DelayqueueApplication.class, args);
}
}編寫一個定時任務(wù)，每個5秒執(zhí)行一次。
@Component
public class QuartzDemo {
//每隔五秒
@Scheduled(cron = "0/5 * * * * ? ")
public void process(){
System.out.println("我是定時任務(wù)！");
}
}3、Redis sorted set
Redis的數(shù)據(jù)結(jié)構(gòu)Zset，同樣可以實現(xiàn)延遲隊列的效果，主要利用它的score屬性，redis通過score來為集合中的成員進行從小到大的排序。
通過zadd命令向隊列delayqueue 中添加元素，并設(shè)置score值表示元素過期的時間；向delayqueue 添加三個order1、order2、order3，分別是10秒、20秒、30秒后過期。
zadd delayqueue 3 order3
消費端輪詢隊列delayqueue， 將元素排序后取最小時間與當前時間比對，如小于當前時間代表已經(jīng)過期移除key。
/**
* 消費消息
*/
public void pollOrderQueue() {
while (true) {
Set<Tuple> set = jedis.zrangeWithScores(DELAY_QUEUE, 0, 0);
String value = ((Tuple) set.toArray()[0]).getElement();
int score = (int) ((Tuple) set.toArray()[0]).getScore();
Calendar cal = Calendar.getInstance();
int nowSecond = (int) (cal.getTimeInMillis() / 1000);
if (nowSecond >= score) {
jedis.zrem(DELAY_QUEUE, value);
System.out.println(sdf.format(new Date()) + " removed key:" + value);
}
if (jedis.zcard(DELAY_QUEUE) <= 0) {
System.out.println(sdf.format(new Date()) + " zset empty ");
return;
}
Thread.sleep(1000);
}
}我們看到執(zhí)行結(jié)果符合預(yù)期
2020-05-07 13:24:09 add finished. 2020-05-07 13:24:19 removed key:order1 2020-05-07 13:24:29 removed key:order2 2020-05-07 13:24:39 removed key:order3 2020-05-07 13:24:39 zset empty
4、Redisson延時隊列(推薦)
我們上面第三點講解了如何使用Redis sorted set實現(xiàn)延時隊列，其實Redisson已經(jīng)幫我們封裝好這一塊的代碼，我們可以直接使用，十分方便
我們可以通過getBlockingQueue和getDelayedQueue這兩個方法來分別獲取堵塞隊列和延時隊列
其中g(shù)etBlockingQueue需要傳入一個key標識參數(shù)，而getDelayedQueue需要傳入一個堵塞隊列參數(shù)
@Override
public <T> RBlockingQueue<T> getBlockingQueue(String key) {
return redissonClient.getBlockingQueue(key);
}
@Override
public <T> RDelayedQueue<T> getDelayedQueue(RBlockingQueue<T> rBlockingQueue) {
return redissonClient.getDelayedQueue(rBlockingQueue);
}如下，我們可以通過先獲取堵塞隊列，再獲取對應(yīng)堵塞隊列的延時隊列，當我們往延時隊列中存放元素后，經(jīng)過指定時間后會被放入堵塞隊列中。
// 將庫存入庫任務(wù)存放到延時隊列中
@Override
public void awardStockConsumeSendQueue(StrategyAwardStockKeyVO strategyAwardStockKeyVO) {
String cacheKey = Constants.RedisKey.STRATEGY_AWARD_COUNT_QUERY_KEY;
// 獲取對應(yīng)key的堵塞隊列
RBlockingQueue<StrategyAwardStockKeyVO> blockingQueue = redisService.getBlockingQueue(cacheKey);
// 獲取對應(yīng)堵塞隊列的延時隊列
RDelayedQueue<StrategyAwardStockKeyVO> delayedQueue = redisService.getDelayedQueue(blockingQueue);
// 將任務(wù)對象(你自己定義的對象)放入延時隊列中，三秒后會放入堵塞隊列
delayedQueue.offer(strategyAwardStockKeyVO, 3, TimeUnit.SECONDS);
}
// 從堵塞隊列中獲取任務(wù)
@Override
public StrategyAwardStockKeyVO takeStockQueueValue() throws InterruptedException {
String cacheKey = Constants.RedisKey.STRATEGY_AWARD_COUNT_QUERY_KEY;
RBlockingQueue<StrategyAwardStockKeyVO> destinationQueue = redisService.getBlockingQueue(cacheKey);
return destinationQueue.poll();
}使用定時任務(wù)消費堵塞隊列的任務(wù)
// 庫存數(shù)據(jù)同步任務(wù)
@Scheduled(cron = "0/5 * * * * ?")
public void awardStockUpdate() {
try {
log.info("定時任務(wù)，更新獎品消耗庫存【延遲隊列獲取】");
StrategyAwardStockKeyVO strategyAwardStockKeyVO = raffleStock.takeStockQueueValue();
if (null == strategyAwardStockKeyVO) return;
log.info("定時任務(wù)，更新獎品消耗庫存 strategyId:{} awardId:{}", strategyAwardStockKeyVO.getStrategyId(), strategyAwardStockKeyVO.getAwardId());
raffleStock.updateStrategyAwardStock(strategyAwardStockKeyVO.getStrategyId(), strategyAwardStockKeyVO.getAwardId());
} catch (Exception e) {
log.error("定時任務(wù)，更新獎品消耗庫存失敗", e);
}
}5、Redis 過期回調(diào)
Redis 的key過期回調(diào)事件，也能達到延遲隊列的效果，簡單來說我們開啟監(jiān)聽key是否過期的事件，一旦key過期會觸發(fā)一個callback事件。
修改redis.conf文件開啟notify-keyspace-events Ex
notify-keyspace-events Ex
Redis監(jiān)聽配置，注入Bean RedisMessageListenerContainer
@Configuration
public class RedisListenerConfig {
@Bean
RedisMessageListenerContainer container(RedisConnectionFactory connectionFactory) {
RedisMessageListenerContainer container = new RedisMessageListenerContainer();
container.setConnectionFactory(connectionFactory);
return container;
}
}編寫Redis過期回調(diào)監(jiān)聽方法，必須繼承KeyExpirationEventMessageListener ，有點類似于MQ的消息監(jiān)聽。
@Component
public class RedisKeyExpirationListener extends KeyExpirationEventMessageListener {
public RedisKeyExpirationListener(RedisMessageListenerContainer listenerContainer) {
super(listenerContainer);
}
@Override
public void onMessage(Message message, byte[] pattern) {
String expiredKey = message.toString();
System.out.println("監(jiān)聽到key：" + expiredKey + "已過期");
}
}到這代碼就編寫完成，非常的簡單，接下來測試一下效果，在redis-cli客戶端添加一個key 并給定3s的過期時間。
set xiaofu 123 ex 3
在控制臺成功監(jiān)聽到了這個過期的key。
監(jiān)聽到過期的key為：xiaofu
6、RabbitMQ 延時隊列(推薦)
利用 RabbitMQ 做延時隊列是比較常見的一種方式，而實際上RabbitMQ 自身并沒有直接支持提供延遲隊列功能，而是通過 RabbitMQ 消息隊列的 TTL和 DXL這兩個屬性間接實現(xiàn)的。
先來認識一下 TTL和 DXL兩個概念：
Time To Live(TTL) ：
TTL 顧名思義：指的是消息的存活時間，RabbitMQ可以通過x-message-tt參數(shù)來設(shè)置指定Queue（隊列）和 Message（消息）上消息的存活時間，它的值是一個非負整數(shù)，單位為微秒。
RabbitMQ 可以從兩種維度設(shè)置消息過期時間，分別是隊列和消息本身
- 設(shè)置隊列過期時間，那么隊列中所有消息都具有相同的過期時間。
- 設(shè)置消息過期時間，對隊列中的某一條消息設(shè)置過期時間，每條消息
TTL都可以不同。
如果同時設(shè)置隊列和隊列中消息的TTL，則TTL值以兩者中較小的值為準。而隊列中的消息存在隊列中的時間，一旦超過TTL過期時間則成為Dead Letter（死信）。
Dead Letter Exchanges（DLX）：
DLX即死信交換機，綁定在死信交換機上的即死信隊列。RabbitMQ的 Queue（隊列）可以配置兩個參數(shù)x-dead-letter-exchange 和 x-dead-letter-routing-key（可選），一旦隊列內(nèi)出現(xiàn)了Dead Letter（死信），則按照這兩個參數(shù)可以將消息重新路由到另一個Exchange（交換機），讓消息重新被消費。
x-dead-letter-exchange：隊列中出現(xiàn)Dead Letter后將Dead Letter重新路由轉(zhuǎn)發(fā)到指定 exchange（交換機）。
x-dead-letter-routing-key：指定routing-key發(fā)送，一般為要指定轉(zhuǎn)發(fā)的隊列。
隊列出現(xiàn)Dead Letter的情況有：
- 消息或者隊列的
TTL過期 - 隊列達到最大長度
- 消息被消費端拒絕（basic.reject or basic.nack）
下邊結(jié)合一張圖看看如何實現(xiàn)超30分鐘未支付關(guān)單功能，我們將訂單消息A0001發(fā)送到延遲隊列order.delay.queue，并設(shè)置x-message-tt消息存活時間為30分鐘，當?shù)竭_30分鐘后訂單消息A0001成為了Dead Letter（死信），延遲隊列檢測到有死信，通過配置x-dead-letter-exchange，將死信重新轉(zhuǎn)發(fā)到能正常消費的關(guān)單隊列，直接監(jiān)聽關(guān)單隊列處理關(guān)單邏輯即可。
發(fā)送消息時指定消息延遲的時間
public void send(String delayTimes) {
amqpTemplate.convertAndSend("order.pay.exchange", "order.pay.queue","大家好我是延遲數(shù)據(jù)", message -> {
// 設(shè)置延遲毫秒值
message.getMessageProperties().setExpiration(String.valueOf(delayTimes));
return message;
});
}
}設(shè)置延遲隊列出現(xiàn)死信后的轉(zhuǎn)發(fā)規(guī)則
/**
* 延時隊列
*/
@Bean(name = "order.delay.queue")
public Queue getMessageQueue() {
return QueueBuilder
.durable(RabbitConstant.DEAD_LETTER_QUEUE)
// 配置到期后轉(zhuǎn)發(fā)的交換
.withArgument("x-dead-letter-exchange", "order.close.exchange")
// 配置到期后轉(zhuǎn)發(fā)的路由鍵
.withArgument("x-dead-letter-routing-key", "order.close.queue")
.build();
}7、時間輪（netty延時隊列）
前邊幾種延時隊列的實現(xiàn)方法相對簡單，比較容易理解，時間輪算法就稍微有點抽象了。kafka、netty都有基于時間輪算法實現(xiàn)延時隊列，下邊主要實踐Netty的延時隊列講一下時間輪是什么原理。
先來看一張時間輪的原理圖，解讀一下時間輪的幾個基本概念
wheel ：時間輪，圖中的圓盤可以看作是鐘表的刻度。比如一圈round 長度為24秒，刻度數(shù)為 8，那么每一個刻度表示 3秒。那么時間精度就是 3秒。時間長度 / 刻度數(shù)值越大，精度越大。
當添加一個定時、延時任務(wù)A，假如會延遲25秒后才會執(zhí)行，可時間輪一圈round 的長度才24秒，那么此時會根據(jù)時間輪長度和刻度得到一個圈數(shù) round和對應(yīng)的指針位置 index，也是就任務(wù)A會繞一圈指向0格子上，此時時間輪會記錄該任務(wù)的round和 index信息。當round=0，index=0 ，指針指向0格子 任務(wù)A并不會執(zhí)行，因為 round=0不滿足要求。
所以每一個格子代表的是一些時間，比如1秒和25秒 都會指向0格子上，而任務(wù)則放在每個格子對應(yīng)的鏈表中，這點和HashMap的數(shù)據(jù)有些類似。
Netty構(gòu)建延時隊列主要用HashedWheelTimer，HashedWheelTimer底層數(shù)據(jù)結(jié)構(gòu)依然是使用DelayedQueue，只是采用時間輪的算法來實現(xiàn)。
下面我們用Netty 簡單實現(xiàn)延時隊列，HashedWheelTimer構(gòu)造函數(shù)比較多，解釋一下各參數(shù)的含義。
ThreadFactory ：表示用于生成工作線程，一般采用線程池；
tickDuration和unit：每格的時間間隔，默認100ms；
ticksPerWheel：一圈下來有幾格，默認512，而如果傳入數(shù)值的不是2的N次方，則會調(diào)整為大于等于該參數(shù)的一個2的N次方數(shù)值，有利于優(yōu)化hash值的計算。
public HashedWheelTimer(ThreadFactory threadFactory, long tickDuration, TimeUnit unit, int ticksPerWheel) {
this(threadFactory, tickDuration, unit, ticksPerWheel, true);
}TimerTask：一個定時任務(wù)的實現(xiàn)接口，其中run方法包裝了定時任務(wù)的邏輯。
Timeout：一個定時任務(wù)提交到Timer之后返回的句柄，通過這個句柄外部可以取消這個定時任務(wù)，并對定時任務(wù)的狀態(tài)進行一些基本的判斷。
Timer：是HashedWheelTimer實現(xiàn)的父接口，僅定義了如何提交定時任務(wù)和如何停止整個定時機制。
public class NettyDelayQueue {
public static void main(String[] args) {
final Timer timer = new HashedWheelTimer(Executors.defaultThreadFactory(), 5, TimeUnit.SECONDS, 2);
//定時任務(wù)
TimerTask task1 = new TimerTask() {
public void run(Timeout timeout) throws Exception {
System.out.println("order1 5s 后執(zhí)行 ");
timer.newTimeout(this, 5, TimeUnit.SECONDS);//結(jié)束時候再次注冊
}
};
timer.newTimeout(task1, 5, TimeUnit.SECONDS);
TimerTask task2 = new TimerTask() {
public void run(Timeout timeout) throws Exception {
System.out.println("order2 10s 后執(zhí)行");
timer.newTimeout(this, 10, TimeUnit.SECONDS);//結(jié)束時候再注冊
}
};
timer.newTimeout(task2, 10, TimeUnit.SECONDS);
//延遲任務(wù)
timer.newTimeout(new TimerTask() {
public void run(Timeout timeout) throws Exception {
System.out.println("order3 15s 后執(zhí)行一次");
}
}, 15, TimeUnit.SECONDS);
}
}從執(zhí)行的結(jié)果看，order3、order3延時任務(wù)只執(zhí)行了一次，而order2、order1為定時任務(wù)，按照不同的周期重復(fù)執(zhí)行。
order1 5s 后執(zhí)行 order2 10s 后執(zhí)行 order3 15s 后執(zhí)行一次 order1 5s 后執(zhí)行 order2 10s 后執(zhí)行
總結(jié)
以上就是Java常見延遲隊列的實現(xiàn)方案總結(jié)的詳細內(nèi)容，更多關(guān)于Java延遲隊列的資料請關(guān)注腳本之家其它相關(guān)文章！
相關(guān)文章
java POI 如何實現(xiàn)Excel單元格內(nèi)容換行
這篇文章主要介紹了java POI 如何實現(xiàn)Excel單元格內(nèi)容換行的操作，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2021-07-07
如何在IDE部署springboot項目(有swagger和無swagger都是一樣的)到服務(wù)器或者虛擬機上的docke
這篇文章主要介紹了如何在IDE部署springboot項目(有swagger和無swagger都是一樣的)到服務(wù)器或者虛擬機上的docker,本文給大家分享我的安裝歷程，需要的朋友可以參考下2023-01-01
eclipse下整合springboot和mybatis的方法步驟
這篇文章主要介紹了eclipse下整合springboot和mybatis的方法步驟，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2019-03-03
這篇文章主要介紹了Java方法的參數(shù)傳遞機制,結(jié)合實例形式詳細分析了java方法參數(shù)傳遞機制原理、實現(xiàn)方法及操作注意事項,需要的朋友可以參考下2019-09-09
Java Idea TranslationPlugin翻譯插件使用解析
這篇文章主要介紹了Java Idea TranslationPlugin翻譯插件使用解析,文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-04-04
mybatis查詢默認是一次獲取全部，如果數(shù)據(jù)過于龐大，就會導(dǎo)致OOM問題，本文就介紹了tk.mybatis 流式查詢，具有一定的參考價值，感興趣的可以了解一下2021-12-12
這篇文章主要介紹了Kafka之kafka-topics.sh的使用解讀，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2023-03-03
這篇文章主要為大家詳細介紹了java日期時間操作工具類，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-12-12
這篇文章主要為大家介紹了springboot亂碼問題排查思路解析，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進步，早日升職加薪2023-06-06
這篇文章主要介紹了Java Spring AOP之PointCut案例詳解,本篇文章通過簡要的案例,講解了該項技術(shù)的了解與使用,以下就是詳細內(nèi)容,需要的朋友可以參考下2021-09-09