引言

前兩篇文章我們介紹了緩存使用的各種最佳實(shí)踐，首先介紹了緩存使用的基本姿勢(shì)，分別是如何利用go-zero自動(dòng)生成的緩存和邏輯代碼中緩存代碼如何寫，接著講解了在面對(duì)緩存的穿透、擊穿、雪崩等常見問題時(shí)的解決方案，最后還重點(diǎn)講解了如何保證緩存的一致性。

因?yàn)榫彺鎸?duì)于高并發(fā)服務(wù)來說實(shí)在是太重要了，所以這篇文章我們還會(huì)繼續(xù)一起學(xué)習(xí)下緩存相關(guān)的知識(shí)。

本地緩存

當(dāng)我們遇到極端熱點(diǎn)數(shù)據(jù)查詢的時(shí)候，這個(gè)時(shí)候就要考慮本地緩存了。熱點(diǎn)本地緩存主要部署在應(yīng)用服務(wù)器的代碼中，用于阻擋熱點(diǎn)查詢對(duì)于Redis等分布式緩存或者數(shù)據(jù)庫的壓力。

在我們的商城中，首頁Banner中會(huì)放一些廣告商品或者推薦商品，這些商品的信息由運(yùn)營在管理后臺(tái)錄入和變更。這些商品的請(qǐng)求量非常大，即使是Redis也很難扛住，所以這里我們可以使用本地緩存來進(jìn)行優(yōu)化。

在product庫中先建一張商品運(yùn)營表product_operation，為了簡化只保留必要字段，product_id為推廣運(yùn)營的商品id，status為運(yùn)營商品的狀態(tài)，status為1的時(shí)候會(huì)在首頁Banner中展示該商品。

CREATE TABLE `product_operation` (
  `id` bigint unsigned NOT NULL AUTO_INCREMENT,
  `product_id` bigint unsigned NOT NULL DEFAULT 0 COMMENT '商品id',
  `status` int NOT NULL DEFAULT '1' COMMENT '運(yùn)營商品狀態(tài) 0-下線 1-上線',
  `create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '創(chuàng)建時(shí)間',
  `update_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新時(shí)間',
  PRIMARY KEY (`id`),
  KEY `ix_update_time` (`update_time`)
) ENGINE=InnoDB  DEFAULT CHARSET=utf8mb4 COMMENT='商品運(yùn)營表';

本地緩存的實(shí)現(xiàn)比較簡單，我們可以使用map來自己實(shí)現(xiàn)，在go-zero的collection中提供了Cache來實(shí)現(xiàn)本地緩存的功能，我們直接拿來用，重復(fù)造輪子從來不是一個(gè)明智的選擇，localCacheExpire為本地緩存過期時(shí)間，Cache提供了Get和Set方法，使用非常簡單

localCache, err := collection.NewCache(localCacheExpire)

先從本地緩存中查找，如果命中緩存則直接返回。沒有命中緩存的話需要先從數(shù)據(jù)庫中查詢運(yùn)營位商品id，然后再聚合商品信息，最后回塞到本地緩存中。詳細(xì)代碼邏輯如下：

func (l *OperationProductsLogic) OperationProducts(in *product.OperationProductsRequest) (*product.OperationProductsResponse, error) {
  opProducts, ok := l.svcCtx.LocalCache.Get(operationProductsKey)
  if ok {
    return &product.OperationProductsResponse{Products: opProducts.([]*product.ProductItem)}, nil
  }
  pos, err := l.svcCtx.OperationModel.OperationProducts(l.ctx, validStatus)
  if err != nil {
    return nil, err
  }
  var pids []int64
  for _, p := range pos {
    pids = append(pids, p.ProductId)
  }
  products, err := l.productListLogic.productsByIds(l.ctx, pids)
  if err != nil {
    return nil, err
  }
  var pItems []*product.ProductItem
  for _, p := range products {
    pItems = append(pItems, &product.ProductItem{
      ProductId: p.Id,
      Name:      p.Name,
    })
  }
  l.svcCtx.LocalCache.Set(operationProductsKey, pItems)
  return &product.OperationProductsResponse{Products: pItems}, nil
}

使用grpurl調(diào)試工具請(qǐng)求接口，第一次請(qǐng)求cache miss后，后面的請(qǐng)求都會(huì)命中本地緩存，等到本地緩存過期后又會(huì)重新回源db加載數(shù)據(jù)到本地緩存中

~ grpcurl -plaintext -d '{}' 127.0.0.1:8081 product.Product.OperationProducts
{
  "products": [
    {
      "productId": "32",
      "name": "電風(fēng)扇6"
    },
    {
      "productId": "31",
      "name": "電風(fēng)扇5"
    },
    {
      "productId": "33",
      "name": "電風(fēng)扇7"
    }
  ]
}

注意，并不是所有信息都適用于本地緩存，本地緩存的特點(diǎn)是請(qǐng)求量超高，同時(shí)業(yè)務(wù)上能夠允許一定的不一致，因?yàn)楸镜鼐彺嬉话悴粫?huì)主動(dòng)做更新操作，需要等到過期后重新回源db后再更新。所以在業(yè)務(wù)中要視情況而定看是否需要使用本地緩存。

自動(dòng)識(shí)別熱點(diǎn)數(shù)據(jù)

首頁Banner場景是由運(yùn)營人員來配置的，也就是我們能提前知道可能產(chǎn)生的熱點(diǎn)數(shù)據(jù)，但有些情況我們是不能提前預(yù)知數(shù)據(jù)會(huì)成為熱點(diǎn)的。

所以就需要我們能自適應(yīng)地自動(dòng)的識(shí)別這些熱點(diǎn)數(shù)據(jù)，然后把這些數(shù)據(jù)提升為本地緩存。

我們維護(hù)一個(gè)滑動(dòng)窗口，比如滑動(dòng)窗口設(shè)置為10s，就是要統(tǒng)計(jì)這10s內(nèi)有哪些key被高頻訪問，一個(gè)滑動(dòng)窗口中對(duì)應(yīng)多個(gè)Bucket，每個(gè)Bucket中對(duì)應(yīng)一個(gè)map，map的key為商品的id，value為商品對(duì)應(yīng)的請(qǐng)求次數(shù)。

接著我們可以定時(shí)的(比如10s)去統(tǒng)計(jì)當(dāng)前所有Buckets中的key的數(shù)據(jù)，然后把這些數(shù)據(jù)導(dǎo)入到大頂堆中，輕而易舉的可以從大頂堆中獲取topK的key，我們可以設(shè)置一個(gè)閾值，比如在一個(gè)滑動(dòng)窗口時(shí)間內(nèi)某一個(gè)key訪問頻次超過500次，就認(rèn)為該key為熱點(diǎn)key，從而自動(dòng)地把該key升級(jí)為本地緩存。

緩存使用技巧

下面介紹一些緩存使用的小技巧

• key的命名要盡量易讀，即見名知意，在易讀的前提下長度要盡可能的小，以減少資源的占用，對(duì)于value來說可以用int就盡量不要用string，對(duì)于小于N的value，redis內(nèi)部有shared_object緩存。
• 在redis使用hash的情況下進(jìn)行key的拆分，同一個(gè)hash key會(huì)落到同一個(gè)redis節(jié)點(diǎn)，hash過大的情況下會(huì)導(dǎo)致內(nèi)存以及請(qǐng)求分布的不均勻，考慮對(duì)hash進(jìn)行拆分為小的hash，使得節(jié)點(diǎn)內(nèi)存均勻避免單節(jié)點(diǎn)請(qǐng)求熱點(diǎn)。
• 為了避免不存在的數(shù)據(jù)請(qǐng)求，導(dǎo)致每次請(qǐng)求都緩存miss直接打到數(shù)據(jù)庫中，進(jìn)行空緩存的設(shè)置。
• 緩存中需要存對(duì)象的時(shí)候，序列化盡量使用protobuf，盡可能減少數(shù)據(jù)大小。
• 新增數(shù)據(jù)的時(shí)候要保證緩存務(wù)必存在的情況下再去操作新增，使用Expire來判斷緩存是否存在。
• 對(duì)于存儲(chǔ)每日登錄場景的需求，可以使用BITSET，為了避免單個(gè)BITSET過大或者熱點(diǎn)，可以進(jìn)行sharding。
• 在使用sorted set的時(shí)候，避免使用zrange或者zrevrange返回過大的集合，復(fù)雜度較高。
• 在進(jìn)行緩存操作的時(shí)候盡量使用PIPELINE，但也要注意避免集合過大。
• 避免超大的value。
• 緩存盡量要設(shè)置過期時(shí)間。
• 慎用全量操作命令，比如Hash類型的HGETALL、Set類型的SMEMBERS等，這些操作會(huì)對(duì)Hash和Set的底層數(shù)據(jù)結(jié)構(gòu)進(jìn)行全量掃描，如果數(shù)據(jù)量較多的話，會(huì)阻塞Redis主線程。
• 獲取集合類型的全量數(shù)據(jù)可以使用SSCAN、HSCAN等命令分批返回集合中的數(shù)據(jù)，減少對(duì)主線程的阻塞。
• 慎用MONITOR命令，MONITOR命令會(huì)把監(jiān)控到的內(nèi)容持續(xù)寫入輸出緩沖區(qū)，如果線上命令操作很多，輸出緩沖區(qū)很快就會(huì)溢出，會(huì)對(duì)Redis性能造成影響。
• 生產(chǎn)環(huán)境禁用KEYS、FLUSHALL、FLUSHDB等命令。

結(jié)束語

已知的熱點(diǎn)緩存比較簡單，從數(shù)據(jù)庫中提前加載到內(nèi)存中即可，未知的熱點(diǎn)緩存我們需要自適應(yīng)的識(shí)別出熱點(diǎn)的數(shù)據(jù)，然后把這些熱點(diǎn)的數(shù)據(jù)升級(jí)為本地緩存。最后介紹了一些實(shí)際生產(chǎn)中緩存使用的一些小技巧，在生產(chǎn)環(huán)境中要活靈活用盡量避免問題的產(chǎn)生。

代碼倉庫: https://github.com/zhoushuguang/lebron

項(xiàng)目地址: https://github.com/zeromicro/go-zero

本篇文章介紹了如何使用本地?zé)狳c(diǎn)緩存應(yīng)對(duì)超高的請(qǐng)求，熱點(diǎn)緩存又分為已知的熱點(diǎn)緩存和未知的熱點(diǎn)緩存,希望大家以后多多支持腳本之家！

最新評(píng)論