c++實(shí)現(xiàn)的常見(jiàn)緩存算法和LRU
前言
對(duì)于web開(kāi)發(fā)而言,緩存必不可少,也是提高性能最常用的方式。無(wú)論是瀏覽器緩存(如果是chrome瀏覽器,可以通過(guò)chrome:://cache查看),還是服務(wù)端的緩存(通過(guò)memcached或者redis等內(nèi)存數(shù)據(jù)庫(kù))。緩存不僅可以加速用戶的訪問(wèn),同時(shí)也可以降低服務(wù)器的負(fù)載和壓力。那么,了解常見(jiàn)的緩存淘汰算法的策略和原理就顯得特別重要。
常見(jiàn)的緩存算法
- LRU (Least recently used) 最近最少使用,如果數(shù)據(jù)最近被訪問(wèn)過(guò),那么將來(lái)被訪問(wèn)的幾率也更高。
- LFU (Least frequently used) 最不經(jīng)常使用,如果一個(gè)數(shù)據(jù)在最近一段時(shí)間內(nèi)使用次數(shù)很少,那么在將來(lái)一段時(shí)間內(nèi)被使用的可能性也很小。
- FIFO (Fist in first out) 先進(jìn)先出, 如果一個(gè)數(shù)據(jù)最先進(jìn)入緩存中,則應(yīng)該最早淘汰掉。
LRU緩存
像瀏覽器的緩存策略、memcached的緩存策略都是使用LRU這個(gè)算法,LRU算法會(huì)將近期最不會(huì)訪問(wèn)的數(shù)據(jù)淘汰掉。LRU如此流行的原因是實(shí)現(xiàn)比較簡(jiǎn)單,而且對(duì)于實(shí)際問(wèn)題也很實(shí)用,良好的運(yùn)行時(shí)性能,命中率較高。下面談?wù)勅绾螌?shí)現(xiàn)LRU緩存:
- 新數(shù)據(jù)插入到鏈表頭部
- 每當(dāng)緩存命中(即緩存數(shù)據(jù)被訪問(wèn)),則將數(shù)據(jù)移到鏈表頭部
- 當(dāng)鏈表滿的時(shí)候,將鏈表尾部的數(shù)據(jù)丟棄
LRU Cache具備的操作:
- set(key,value):如果key在hashmap中存在,則先重置對(duì)應(yīng)的value值,然后獲取對(duì)應(yīng)的節(jié)點(diǎn)cur,將cur節(jié)點(diǎn)從鏈表刪除,并移動(dòng)到鏈表的頭部;若果key在hashmap不存在,則新建一個(gè)節(jié)點(diǎn),并將節(jié)點(diǎn)放到鏈表的頭部。當(dāng)Cache存滿的時(shí)候,將鏈表最后一個(gè)節(jié)點(diǎn)刪除即可。
- get(key):如果key在hashmap中存在,則把對(duì)應(yīng)的節(jié)點(diǎn)放到鏈表頭部,并返回對(duì)應(yīng)的value值;如果不存在,則返回-1。
LRU的c++實(shí)現(xiàn)
LRU實(shí)現(xiàn)采用雙向鏈表 + Map 來(lái)進(jìn)行實(shí)現(xiàn)。這里采用雙向鏈表的原因是:如果采用普通的單鏈表,則刪除節(jié)點(diǎn)的時(shí)候需要從表頭開(kāi)始遍歷查找,效率為O(n),采用雙向鏈表可以直接改變節(jié)點(diǎn)的前驅(qū)的指針指向進(jìn)行刪除達(dá)到O(1)的效率。使用Map來(lái)保存節(jié)點(diǎn)的key、value值便于能在O(logN)的時(shí)間查找元素,對(duì)應(yīng)get操作。
雙鏈表節(jié)點(diǎn)的定義:
struct CacheNode { int key; // 鍵 int value; // 值 CacheNode *pre, *next; // 節(jié)點(diǎn)的前驅(qū)、后繼指針 CacheNode(int k, int v) : key(k), value(v), pre(NULL), next(NULL) {} };
對(duì)于LRUCache這個(gè)類(lèi)而言,構(gòu)造函數(shù)需要指定容量大小
LRUCache(int capacity) { size = capacity; // 容量 head = NULL; // 鏈表頭指針 tail = NULL; // 鏈表尾指針 }
雙鏈表的節(jié)點(diǎn)刪除操作:
void remove(CacheNode *node) { if (node -> pre != NULL) { node -> pre -> next = node -> next; } else { head = node -> next; } if (node -> next != NULL) { node -> next -> pre = node -> pre; } else { tail = node -> pre; } }
將節(jié)點(diǎn)插入到頭部的操作:
void setHead(CacheNode *node) { node -> next = head; node -> pre = NULL; if (head != NULL) { head -> pre = node; } head = node; if (tail == NULL) { tail = head; } }
get(key)
操作的實(shí)現(xiàn)比較簡(jiǎn)單,直接通過(guò)判斷Map是否含有key值即可,如果查找到key,則返回對(duì)應(yīng)的value,否則返回-1;
int get(int key) { map<int, CacheNode *>::iterator it = mp.find(key); if (it != mp.end()) { CacheNode *node = it -> second; remove(node); setHead(node); return node -> value; } else { return -1; } }
set(key, value)
操作需要分情況判斷。如果當(dāng)前的key值對(duì)應(yīng)的節(jié)點(diǎn)已經(jīng)存在,則將這個(gè)節(jié)點(diǎn)取出來(lái),并且刪除節(jié)點(diǎn)所處的原有的位置,并在頭部插入該節(jié)點(diǎn);如果節(jié)點(diǎn)不存在節(jié)點(diǎn)中,這個(gè)時(shí)候需要在鏈表的頭部插入新節(jié)點(diǎn),插入新節(jié)點(diǎn)可能導(dǎo)致容量溢出,如果出現(xiàn)溢出的情況,則需要?jiǎng)h除鏈表尾部的節(jié)點(diǎn)。
void set(int key, int value) { map<int, CacheNode *>::iterator it = mp.find(key); if (it != mp.end()) { CacheNode *node = it -> second; node -> value = value; remove(node); setHead(node); } else { CacheNode *newNode = new CacheNode(key, value); if (mp.size() >= size) { map<int, CacheNode *>::iterator iter = mp.find(tail -> key); remove(tail); mp.erase(iter); } setHead(newNode); mp[key] = newNode; } }
總結(jié)
好了,至此,LRU算法的實(shí)現(xiàn)操作就完成了,希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來(lái)一定的幫助,如果有疑問(wèn)大家可以留言交流。
相關(guān)文章
C語(yǔ)言中break與continue的用法和區(qū)別詳解
當(dāng)我們使用while或for循環(huán)時(shí),如果想提前結(jié)束循環(huán)(在不滿足結(jié)束條件的情況下結(jié)束循環(huán)),可以使用break或continue關(guān)鍵字,這篇文章主要給大家介紹了關(guān)于C語(yǔ)言中break與continue的用法和區(qū)別的相關(guān)資料,需要的朋友可以參考下2021-10-10C語(yǔ)言中g(shù)etchar的用法以及實(shí)例解析
getchar()是stdio.h中的庫(kù)函數(shù),它的作用是從stdin流中讀入一個(gè)字符,下面這篇文章主要給大家介紹了關(guān)于C語(yǔ)言中g(shù)etchar的用法以及實(shí)例的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-03-03C語(yǔ)言實(shí)現(xiàn)常用字符串庫(kù)函數(shù)(推薦)
這篇文章主要介紹了C語(yǔ)言實(shí)現(xiàn)常用字符串庫(kù)函數(shù),本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-11-11詳解C++循環(huán)創(chuàng)建多級(jí)目錄及判斷目錄是否存在的方法
這篇文章主要介紹了C++循環(huán)創(chuàng)建多級(jí)目錄及判斷目錄是否存在的方法,文中代碼有一個(gè)針對(duì)各種系統(tǒng)進(jìn)行判斷來(lái)加載不同頭文件的方法,需要的朋友可以參考下2016-03-03C++中綴表達(dá)式轉(zhuǎn)后綴表達(dá)式的方法
這篇文章主要介紹了C++中綴表達(dá)式轉(zhuǎn)后綴表達(dá)式的方法,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2020-04-04C++調(diào)用libcurl開(kāi)源庫(kù)實(shí)現(xiàn)郵件的發(fā)送功能流程詳解
libcurl是一個(gè)免費(fèi)開(kāi)源的網(wǎng)絡(luò)傳輸庫(kù),支持ftp、ftps、tftp,http、https、telnet、ldap、pop3、smtp等多種協(xié)議,接下來(lái)讓我們一起來(lái)了解吧2021-11-11C++利用std::forward_list查找插入數(shù)據(jù)方法示例
這篇文章主要給大家介紹了關(guān)于C++利用std::forward_list查找插入數(shù)據(jù)的相關(guān)資料,文中先對(duì)std::forward_list進(jìn)行了詳細(xì)的介紹,而后通過(guò)示例代碼給大家介紹了查找的方法,需要的朋友可以參考借鑒,下面話不多說(shuō)了,來(lái)一起看看吧。2017-08-08