如何擴展Spring Cache實現(xiàn)支持多級緩存
為什么多級緩存
緩存的引入是現(xiàn)在大部分系統(tǒng)所必須考慮的
redis 作為常用中間件,雖然我們一般業(yè)務系統(tǒng)(畢竟業(yè)務量有限)不會遇到如下圖 在隨著 data-size 的增大和數(shù)據(jù)結構的復雜的造成性能下降,但網(wǎng)絡 IO 消耗會成為整個調(diào)用鏈路中不可忽視的部分。尤其在 微服務架構中,一次調(diào)用往往會涉及多次調(diào)用 例如pig oauth2.0 的 client 認證
Caffeine 來自未來的本地內(nèi)存緩存,性能比如常見的內(nèi)存緩存實現(xiàn)性能高出不少詳細對比。
綜合所述:我們需要構建 L1 Caffeine JVM 級別緩存 , L2 Redis 緩存。
設計難點
目前大部分應用緩存都是基于 Spring Cache 實現(xiàn),基于注解(annotation)的緩存(cache)技術,存在的問題如下:
- Spring Cache 僅支持 單一的緩存來源,即:只能選擇 Redis 實現(xiàn)或者 Caffeine 實現(xiàn),并不能同時使用。
- 數(shù)據(jù)一致性:各層緩存之間的數(shù)據(jù)一致性問題,如應用層緩存和分布式緩存之前的數(shù)據(jù)一致性問題。
- 緩存過期:Spring Cache 不支持主動的過期策略
業(yè)務流程
如何使用
引入依賴
<dependency> <groupId>com.pig4cloud.plugin</groupId> <artifactId>multilevel-cache-spring-boot-starter</artifactId> <version>0.0.1</version> </dependency>
開啟緩存支持
@EnableCaching public class App { public static void main(String[] args) { SpringApplication.run(App.class, args); } }
目標接口聲明 Spring Cache 注解
@Cacheable(value = "get",key = "#key") @GetMapping("/get") public String get(String key){ return "success"; }
性能比較
為保證性能 redis 在 127.0.0.1 環(huán)路安裝
- OS: macOS Mojave
- CPU: 2.3 GHz Intel Core i5
- RAM: 8 GB 2133 MHz LPDDR3
- JVM: corretto_11.jdk
Benchmark | Mode | Cnt | Score | Units |
---|---|---|---|---|
多級實現(xiàn) | thrpt | 2 | 2716.074 | ops/s |
默認 redis | thrpt | 2 | 1373.476 | ops/s |
代碼原理
自定義 CacheManager 多級緩存實現(xiàn)
public class RedisCaffeineCacheManager implements CacheManager { @Override public Cache getCache(String name) { Cache cache = cacheMap.get(name); if (cache != null) { return cache; } cache = new RedisCaffeineCache(name, stringKeyRedisTemplate, caffeineCache(), cacheConfigProperties); Cache oldCache = cacheMap.putIfAbsent(name, cache); log.debug("create cache instance, the cache name is : {}", name); return oldCache == null ? cache : oldCache; } }
多級讀取、過期策略實現(xiàn)
public class RedisCaffeineCache extends AbstractValueAdaptingCache { protected Object lookup(Object key) { Object cacheKey = getKey(key); // 1. 先調(diào)用 caffeine 查詢是否存在指定的值 Object value = caffeineCache.getIfPresent(key); if (value != null) { log.debug("get cache from caffeine, the key is : {}", cacheKey); return value; } // 2. 調(diào)用 redis 查詢在指定的值 value = stringKeyRedisTemplate.opsForValue().get(cacheKey); if (value != null) { log.debug("get cache from redis and put in caffeine, the key is : {}", cacheKey); caffeineCache.put(key, value); } return value; } }
過期策略,所有更新操作都基于 redis pub/sub 消息機制更新
public class RedisCaffeineCache extends AbstractValueAdaptingCache { @Override public void put(Object key, Object value) { push(new CacheMessage(this.name, key)); } @Override public ValueWrapper putIfAbsent(Object key, Object value) { push(new CacheMessage(this.name, key)); } @Override public void evict(Object key) { push(new CacheMessage(this.name, key)); } @Override public void clear() { push(new CacheMessage(this.name, null)); } private void push(CacheMessage message) { stringKeyRedisTemplate.convertAndSend(topic, message); } }
MessageListener 刪除指定 Caffeine 的指定值
public class CacheMessageListener implements MessageListener { private final RedisTemplate<Object, Object> redisTemplate; private final RedisCaffeineCacheManager redisCaffeineCacheManager; @Override public void onMessage(Message message, byte[] pattern) { CacheMessage cacheMessage = (CacheMessage) redisTemplate.getValueSerializer().deserialize(message.getBody()); cacheMessage.getCacheName(), cacheMessage.getKey()); redisCaffeineCacheManager.clearLocal(cacheMessage.getCacheName(), cacheMessage.getKey()); } }
https://github.com/pig-mesh/multilevel-cache-spring-boot-starter
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
Spring整合Quartz定時任務并在集群、分布式系統(tǒng)中的應用
這篇文章主要介紹了Spring整合Quartz定時任務并在集群、分布式系統(tǒng)中的應用,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2019-04-04springboot web項目打jar或者war包并運行的實現(xiàn)
這篇文章主要介紹了springboot web項目打jar或者war包并運行的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2019-11-11SpringBoot攔截器與文件上傳實現(xiàn)方法與源碼分析
其實spring boot攔截器的配置方式和springMVC差不多,只有一些小的改變需要注意下就ok了。本文主要給大家介紹了關于如何在Springboot實現(xiàn)登陸攔截器與文件上傳功能,需要的朋友可以參考下2022-10-10關于maven打包時的報錯: Return code is: 501 , ReasonPhrase:HTTPS Requ
這篇文章主要介紹了關于maven打包時的報錯: Return code is: 501 , ReasonPhrase:HTTPS Required,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-09-09淺談SpringMVC的攔截器(Interceptor)和Servlet 的過濾器(Filter)的區(qū)別與聯(lián)系 及Spr
這篇文章主要介紹了淺談SpringMVC的攔截器(Interceptor)和Servlet 的過濾器(Filter)的區(qū)別與聯(lián)系 及SpringMVC 的配置文件,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-07-07