緩存，我相信大家對(duì)它一定不陌生，在項(xiàng)目中，緩存肯定是必不可少的。市面上有非常多的緩存工具，比如 Redis、Guava Cache 或者 EHcache。對(duì)于這些工具，我想大家肯定都非常熟悉，所以今天我們不聊它們，我們來聊一聊如何實(shí)現(xiàn)本地緩存。參考上面幾種工具，要實(shí)現(xiàn)一個(gè)較好的本地緩存，平頭哥認(rèn)為要從以下三個(gè)方面開始。

1、存儲(chǔ)集合的選擇

實(shí)現(xiàn)本地緩存，存儲(chǔ)容器肯定是 key/value 形式的數(shù)據(jù)結(jié)構(gòu)，在 Java 中，也就是我們常用的 Map 集合。Map 中有 HashMap、Hashtable、ConcurrentHashMap 幾種供我們選擇，如果不考慮高并發(fā)情況下數(shù)據(jù)安全問題，我們可以選擇HashMap，如果考慮高并發(fā)情況下數(shù)據(jù)安全問題，我們可以選擇 Hashtable、ConcurrentHashMap 中的一種集合，但是我們優(yōu)先選擇 ConcurrentHashMap，因?yàn)?ConcurrentHashMap 的性能比 Hashtable 要好。

2、過期緩存處理

因?yàn)榫彺嬷苯哟鎯?chǔ)在內(nèi)存中，如果我們不處理過期緩存，內(nèi)存將被大量無效緩存占用，這不是我們想要的，所以我們需要清理這些失效的緩存。過期緩存處理可以參考 Redis 的策略來實(shí)現(xiàn)，Redis 采用的是定期刪除 + 懶惰淘汰策略。

定期刪除策略

定期刪除策略是每隔一段時(shí)間檢測(cè)已過期的緩存，并且降之刪除。這個(gè)策略的優(yōu)點(diǎn)是能夠確保過期的緩存都會(huì)被刪除。同時(shí)也存在著缺點(diǎn)，過期的緩存不一定能夠及時(shí)的被刪除，這跟我們?cè)O(shè)置的定時(shí)頻率有關(guān)系，另一個(gè)缺點(diǎn)是如果緩存數(shù)據(jù)較多時(shí)，每次檢測(cè)也會(huì)給 cup 帶來不小的壓力。

懶惰淘汰策略

懶惰淘汰策略是在使用緩存時(shí)，先判斷緩存是否過期，如果過期將它刪除，并且返回空。這個(gè)策略的優(yōu)點(diǎn)是只有在查找的時(shí)候，才判斷是否過期，對(duì) CUP 影響較。同時(shí)這種策略有致命的缺點(diǎn)，當(dāng)存入了大量的緩存，這些緩存都沒有被使用并且已過期，都將成為無效緩存，這些無效的緩存將占用你大量的內(nèi)存空間，最后導(dǎo)致服務(wù)器內(nèi)存溢出。

我們簡(jiǎn)單的了解了一下 Redis 的兩種過期緩存處理策略，每種策略都存在自己的優(yōu)缺點(diǎn)。所以我們?cè)谑褂眠^程中，可以將兩種策略組合起來，結(jié)合效果還是非常理想的。

3、緩存淘汰策略

緩存淘汰跟過期緩存處理要區(qū)別開來，緩存淘汰是指當(dāng)我們的緩存?zhèn)€數(shù)達(dá)到我們指定的緩存?zhèn)€數(shù)時(shí)，畢竟我們的內(nèi)存不是無限的。如果我們需要繼續(xù)添加緩存的話，我們就需要在現(xiàn)有的緩存中根據(jù)某種策略淘汰一些緩存，給新添加的緩存騰出位置，下面一起來認(rèn)識(shí)幾種常用的緩存淘汰策略。

先進(jìn)先出策略

最先進(jìn)入緩存的數(shù)據(jù)在緩存空間不夠的情況下會(huì)被優(yōu)先被清除掉，以騰出新的空間接受新的數(shù)據(jù)。該策略主要比較緩存元素的創(chuàng)建時(shí)間。在一些對(duì)數(shù)據(jù)實(shí)效性要求比較高的場(chǎng)景下，可考慮選擇該類策略，優(yōu)先保障最新數(shù)據(jù)可用。

最少使用策略

無論是否過期，根據(jù)元素的被使用次數(shù)判斷，清除使用次數(shù)較少的元素釋放空間。該策略主要比較元素的hitCount（命中次數(shù)），在保證高頻數(shù)據(jù)有效性場(chǎng)景下，可選擇這類策略。

最近最少使用策略

無論是否過期，根據(jù)元素最后一次被使用的時(shí)間戳，清除最遠(yuǎn)使用時(shí)間戳的元素釋放空間。該策略主要比較緩存最近一次被get使用時(shí)間。在熱點(diǎn)數(shù)據(jù)場(chǎng)景下較適用，優(yōu)先保證熱點(diǎn)數(shù)據(jù)的有效性。

隨機(jī)淘汰策略

無論是否過期，隨機(jī)淘汰某個(gè)緩存，如果對(duì)緩存數(shù)據(jù)沒有任何要求，可以考慮使用該策略。

不淘汰策略

當(dāng)緩存達(dá)到指定值之后，不淘汰任何緩存，而是不能新增緩存，直到有緩存淘汰時(shí)，才能繼續(xù)添加緩存。

上面是實(shí)現(xiàn)本地緩存需要考慮的三個(gè)點(diǎn)，看完我們應(yīng)該知該如何實(shí)現(xiàn)一個(gè)本地緩存了，不妨我們一起來實(shí)現(xiàn)一個(gè)本地緩存。

實(shí)現(xiàn)本地緩存

在該 Demo 中，我們采用 ConcurrentHashMap 作為存儲(chǔ)集合，這樣即使在高并發(fā)的情況下，我們也能夠保證緩存的安全。過期緩存處理在這里我只使用了定時(shí)刪除策略，并沒有使用定時(shí)刪除 + 懶惰淘汰策略，你可以自己動(dòng)手嘗試一下使用這兩種策略進(jìn)行過期緩存處理。在緩存淘汰方面，我在這里采用了最少使用策略。好了，技術(shù)選型都知道了，我們一起來看看代碼實(shí)現(xiàn)。

緩存對(duì)象類

public class Cache implements Comparable<Cache>{
  // 鍵
  private Object key;
  // 緩存值
  private Object value;
  // 最后一次訪問時(shí)間
  private long accessTime;
  // 創(chuàng)建時(shí)間
  private long writeTime;
  // 存活時(shí)間
  private long expireTime;
  // 命中次數(shù)
  private Integer hitCount;
  ...getter/setter()...

添加緩存

/**
 * 添加緩存
 *
 * @param key
 * @param value
 */
public void put(K key, V value,long expire) {
  checkNotNull(key);
  checkNotNull(value);
  // 當(dāng)緩存存在時(shí)，更新緩存
  if (concurrentHashMap.containsKey(key)){
    Cache cache = concurrentHashMap.get(key);
    cache.setHitCount(cache.getHitCount()+1);
    cache.setWriteTime(System.currentTimeMillis());
    cache.setAccessTime(System.currentTimeMillis());
    cache.setExpireTime(expire);
    cache.setValue(value);
    return;
  }
  // 已經(jīng)達(dá)到最大緩存
  if (isFull()) {
    Object kickedKey = getKickedKey();
    if (kickedKey !=null){
      // 移除最少使用的緩存
      concurrentHashMap.remove(kickedKey);
    }else {
      return;
    }
  }
  Cache cache = new Cache();
  cache.setKey(key);
  cache.setValue(value);
  cache.setWriteTime(System.currentTimeMillis());
  cache.setAccessTime(System.currentTimeMillis());
  cache.setHitCount(1);
  cache.setExpireTime(expire);
  concurrentHashMap.put(key, cache);
}

獲取緩存

/**
 * 獲取緩存
 *
 * @param key
 * @return
 */
public Object get(K key) {
  checkNotNull(key);
  if (concurrentHashMap.isEmpty()) return null;
  if (!concurrentHashMap.containsKey(key)) return null;
  Cache cache = concurrentHashMap.get(key);
  if (cache == null) return null;
  cache.setHitCount(cache.getHitCount()+1);
  cache.setAccessTime(System.currentTimeMillis());
  return cache.getValue();
}

獲取最少使用的緩存

  /**
   * 獲取最少使用的緩存
   * @return
   */
  private Object getKickedKey() {
    Cache min = Collections.min(concurrentHashMap.values());
    return min.getKey();
  }

過期緩存檢測(cè)方法

/**
 * 處理過期緩存
 */
class TimeoutTimerThread implements Runnable {
  public void run() {
    while (true) {
      try {
        TimeUnit.SECONDS.sleep(60);
        expireCache();
      } catch (Exception e) {
        e.printStackTrace();
      }
    }
  }

  /**
   * 創(chuàng)建多久后，緩存失效
   *
   * @throws Exception
   */
  private void expireCache() throws Exception {
    System.out.println("檢測(cè)緩存是否過期緩存");
    for (Object key : concurrentHashMap.keySet()) {
      Cache cache = concurrentHashMap.get(key);
      long timoutTime = TimeUnit.NANOSECONDS.toSeconds(System.nanoTime()
          - cache.getWriteTime());
      if (cache.getExpireTime() > timoutTime) {
        continue;
      }
      System.out.println(" 清除過期緩存 ： " + key);
      //清除過期緩存
      concurrentHashMap.remove(key);
    }
  }
}

上面是主要代碼，完整的代碼我已經(jīng)上傳至 GitHub

本文從實(shí)現(xiàn)本地緩存的設(shè)計(jì)角度，一起簡(jiǎn)單的探討了一下實(shí)現(xiàn)本地緩存需要注意的地方，其實(shí)這些也是緩存的核心技術(shù)，不管是 Redis、Guava Cache 還是 EHcache或者其他緩存工具，它們?cè)趯?shí)現(xiàn)原理上，跟我們本地緩存的實(shí)現(xiàn)原理都差不多。只要我們理解了本地緩存的實(shí)現(xiàn)原理，在去學(xué)習(xí)這些緩存工具，我相信還是會(huì)比較輕松的。

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

最新評(píng)論