1. 簡介

如圖所示，一個正常的請求

1.客戶端請求張鐵牛的博客。

2.服務(wù)首先會請求redis，查看請求的內(nèi)容是否存在。

3.redis將請求結(jié)果返回給服務(wù)，如果返回的結(jié)果有數(shù)據(jù)則執(zhí)行7；如果沒有數(shù)據(jù)則會繼續(xù)往下執(zhí)行。

4.服務(wù)從數(shù)據(jù)庫中查詢請求的數(shù)據(jù)。

5.數(shù)據(jù)庫將查詢的結(jié)果返回給服務(wù)。

6.如果數(shù)據(jù)庫有返回數(shù)據(jù)，則將返回的結(jié)果添加到redis。

7.將請求到的數(shù)據(jù)返回給客戶端。

2. 緩存穿透

2.1描述

通過接口訪問一個緩存和數(shù)據(jù)庫都不存在的數(shù)據(jù)。

因為服務(wù)出于容錯考慮，當(dāng)請求從持久層查不到數(shù)據(jù)則不寫入緩存，這將導(dǎo)致請求這個不存在的數(shù)據(jù)每次都要到持久層去查詢，失去了緩存的意義。

此時，緩存起不到保護后端持久層的意義，就像被穿透了一樣。導(dǎo)致數(shù)據(jù)庫存在被打掛的風(fēng)險。

2.2 解決方案

1.接口請求參數(shù)的校驗。對請求的接口進行鑒權(quán)，數(shù)據(jù)合法性的校驗等；比如查詢的userId不能是負值或者包含非法字符等。

2.當(dāng)數(shù)據(jù)庫返回空值時，將空值緩存到redis，并設(shè)置合理的過期時間。

3.布隆過濾器。使用布隆過濾器存儲所有可能訪問的 key，不存在的 key 直接被過濾，存在的 key 則再進一步查詢緩存和數(shù)據(jù)庫。

3. 緩存擊穿

3.1 描述

某個熱點 key，在緩存過期的一瞬間，同時有大量的請求打進來，由于此時緩存過期了，所以請求最終都會走到數(shù)據(jù)庫，造成瞬時數(shù)據(jù)庫請求量大、壓力驟增，導(dǎo)致數(shù)據(jù)庫存在被打掛的風(fēng)險。

3.2 解決方案

1.加互斥鎖。當(dāng)熱點key過期后，大量的請求涌入時，只有第一個請求能獲取鎖并阻塞，此時該請求查詢數(shù)據(jù)庫，并將查詢結(jié)果寫入redis后釋放鎖。后續(xù)的請求直接走緩存。

2.設(shè)置緩存不過期或者后臺有線程一直給熱點數(shù)據(jù)續(xù)期。

4. 緩存雪崩

4.1 描述

大量的熱點數(shù)據(jù)過期時間相同，導(dǎo)致數(shù)據(jù)在同一時刻集體失效。造成瞬時數(shù)據(jù)庫請求量大、壓力驟增，引起雪崩，導(dǎo)致數(shù)據(jù)庫存在被打掛的風(fēng)險。

4.1 解決方案

1.將熱點數(shù)據(jù)的過期時間打散。給熱點數(shù)據(jù)設(shè)置過期時間時加個隨機值。

2.加互斥鎖。當(dāng)熱點key過期后，大量的請求涌入時，只有第一個請求能獲取鎖并阻塞，此時該請求查詢數(shù)據(jù)庫，并將查詢結(jié)果寫入redis后釋放鎖。后續(xù)的請求直接走緩存。

3.設(shè)置緩存不過期或者后臺有線程一直給熱點數(shù)據(jù)續(xù)期。

5. 布隆過濾器

5.1 描述

布隆過濾器是防止緩存穿透的方案之一。布隆過濾器主要是解決大規(guī)模數(shù)據(jù)下不需要精確過濾的業(yè)務(wù)場景，如檢查垃圾郵件地址，爬蟲URL地址去重， 解決緩存穿透問題等。

布隆過濾器：在一個存在一定數(shù)量的集合中過濾一個對應(yīng)的元素，判斷該元素是否一定不在集合中或者可能在集合中。它的優(yōu)點是空間效率和查詢時間都比一般的算法要好的多，缺點是有一定的誤識別率和刪除困難。

5.2 數(shù)據(jù)結(jié)構(gòu)

布隆過濾器是基于bitmap和若干個hash算法實現(xiàn)的。如下圖所示：

1.元素tie經(jīng)過hash1，hash2，hash3運算出對應(yīng)的三個值落到了數(shù)組下標為4，6，8的位置上，并將其位置的默認值0，修改成1。

2.元素niu同理落到了數(shù)組下標為1，3，4的位置上，并將其位置的默認值0，修改成1。

此時bitmap中已經(jīng)存儲了tie，niu數(shù)據(jù)元素。

當(dāng)請求想通過布隆過濾器判斷tie元素在程序中是否存在時，通過hash運算結(jié)果到數(shù)組對應(yīng)下標位置上發(fā)現(xiàn)值已經(jīng)都被置為1，此時返回true。

5.3 “一定不在集合中”

如圖所示：

​ 元素zhang通過布隆過濾器判斷時，下標0，2都為0，則直接返回false。

也就是當(dāng)判斷不在bitmap中的元素時，經(jīng)過hash運算得到的結(jié)果在bitmap中只要有一個為0，則該數(shù)據(jù)一定不存在。

5.4 “可能在集合中”

如圖所示：

​ 元素shuaibi通過布隆過濾器判斷時，hash運算的結(jié)果落到了下標1,3,8上，此時對應(yīng)下標位置的值都為1，則直接返回true。

這下就尷尬了，因為實際程序中并沒有數(shù)據(jù)shuaibi，但布隆過濾器返回的結(jié)果顯示有這個元素。這就是布隆過濾器的缺點，存在誤判情況。

5.5 ”刪除困難“

為什么布隆過濾器刪除困難呢，如圖所示：

如果刪除了“tie”元素，4號位被置為0，則會影響niu元素的判斷，因為4號位為0，進行數(shù)據(jù)校驗時返回0，則會認為程序中沒有niu元素。

那小伙伴會問，4號位不置為0，行不行？

如果刪除了元素，hash碰撞的數(shù)組下標不置為0，那么如果繼續(xù)驗證該元素的話，布隆過濾器會繼續(xù)返回true，但實際上元素已經(jīng)刪除了。

所以布隆過濾器數(shù)據(jù)刪除困難，如果要刪除的話，可以參考Counting Bloom Filter。

5.6 為什么不使用HashMap呢？

如果用HashSet或Hashmap存儲的話，每一個用戶ID都要存成int，占4個字節(jié)即32bit。而一個用戶在bitmap中只需要1個bit，內(nèi)存節(jié)省了32倍。

并且大數(shù)據(jù)量會產(chǎn)生大量的hash沖突，結(jié)果就是產(chǎn)生hash沖突的數(shù)據(jù)，仍然會進行遍歷挨個比對（即使轉(zhuǎn)成紅黑樹），這樣對內(nèi)存空間和查詢效率的提升，仍然是有限的。

當(dāng)然：數(shù)據(jù)量不大時，盡管使用。而且hashmap方便進行CRUD😂

到此這篇關(guān)于詳解緩存穿透/擊穿/雪崩原理及其解決方案的文章就介紹到這了,更多相關(guān)緩存穿透/擊穿/雪崩內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論