c++實現(xiàn)的常見緩存算法和LRU
前言
對于web開發(fā)而言,緩存必不可少,也是提高性能最常用的方式。無論是瀏覽器緩存(如果是chrome瀏覽器,可以通過chrome:://cache查看),還是服務端的緩存(通過memcached或者redis等內(nèi)存數(shù)據(jù)庫)。緩存不僅可以加速用戶的訪問,同時也可以降低服務器的負載和壓力。那么,了解常見的緩存淘汰算法的策略和原理就顯得特別重要。
常見的緩存算法
- LRU (Least recently used) 最近最少使用,如果數(shù)據(jù)最近被訪問過,那么將來被訪問的幾率也更高。
- LFU (Least frequently used) 最不經(jīng)常使用,如果一個數(shù)據(jù)在最近一段時間內(nèi)使用次數(shù)很少,那么在將來一段時間內(nèi)被使用的可能性也很小。
- FIFO (Fist in first out) 先進先出, 如果一個數(shù)據(jù)最先進入緩存中,則應該最早淘汰掉。
LRU緩存
像瀏覽器的緩存策略、memcached的緩存策略都是使用LRU這個算法,LRU算法會將近期最不會訪問的數(shù)據(jù)淘汰掉。LRU如此流行的原因是實現(xiàn)比較簡單,而且對于實際問題也很實用,良好的運行時性能,命中率較高。下面談談如何實現(xiàn)LRU緩存:
- 新數(shù)據(jù)插入到鏈表頭部
- 每當緩存命中(即緩存數(shù)據(jù)被訪問),則將數(shù)據(jù)移到鏈表頭部
- 當鏈表滿的時候,將鏈表尾部的數(shù)據(jù)丟棄
LRU Cache具備的操作:
- set(key,value):如果key在hashmap中存在,則先重置對應的value值,然后獲取對應的節(jié)點cur,將cur節(jié)點從鏈表刪除,并移動到鏈表的頭部;若果key在hashmap不存在,則新建一個節(jié)點,并將節(jié)點放到鏈表的頭部。當Cache存滿的時候,將鏈表最后一個節(jié)點刪除即可。
- get(key):如果key在hashmap中存在,則把對應的節(jié)點放到鏈表頭部,并返回對應的value值;如果不存在,則返回-1。
LRU的c++實現(xiàn)
LRU實現(xiàn)采用雙向鏈表 + Map 來進行實現(xiàn)。這里采用雙向鏈表的原因是:如果采用普通的單鏈表,則刪除節(jié)點的時候需要從表頭開始遍歷查找,效率為O(n),采用雙向鏈表可以直接改變節(jié)點的前驅(qū)的指針指向進行刪除達到O(1)的效率。使用Map來保存節(jié)點的key、value值便于能在O(logN)的時間查找元素,對應get操作。
雙鏈表節(jié)點的定義:
struct CacheNode { int key; // 鍵 int value; // 值 CacheNode *pre, *next; // 節(jié)點的前驅(qū)、后繼指針 CacheNode(int k, int v) : key(k), value(v), pre(NULL), next(NULL) {} };
對于LRUCache這個類而言,構造函數(shù)需要指定容量大小
LRUCache(int capacity) { size = capacity; // 容量 head = NULL; // 鏈表頭指針 tail = NULL; // 鏈表尾指針 }
雙鏈表的節(jié)點刪除操作:
void remove(CacheNode *node) { if (node -> pre != NULL) { node -> pre -> next = node -> next; } else { head = node -> next; } if (node -> next != NULL) { node -> next -> pre = node -> pre; } else { tail = node -> pre; } }
將節(jié)點插入到頭部的操作:
void setHead(CacheNode *node) { node -> next = head; node -> pre = NULL; if (head != NULL) { head -> pre = node; } head = node; if (tail == NULL) { tail = head; } }
get(key)
操作的實現(xiàn)比較簡單,直接通過判斷Map是否含有key值即可,如果查找到key,則返回對應的value,否則返回-1;
int get(int key) { map<int, CacheNode *>::iterator it = mp.find(key); if (it != mp.end()) { CacheNode *node = it -> second; remove(node); setHead(node); return node -> value; } else { return -1; } }
set(key, value)
操作需要分情況判斷。如果當前的key值對應的節(jié)點已經(jīng)存在,則將這個節(jié)點取出來,并且刪除節(jié)點所處的原有的位置,并在頭部插入該節(jié)點;如果節(jié)點不存在節(jié)點中,這個時候需要在鏈表的頭部插入新節(jié)點,插入新節(jié)點可能導致容量溢出,如果出現(xiàn)溢出的情況,則需要刪除鏈表尾部的節(jié)點。
void set(int key, int value) { map<int, CacheNode *>::iterator it = mp.find(key); if (it != mp.end()) { CacheNode *node = it -> second; node -> value = value; remove(node); setHead(node); } else { CacheNode *newNode = new CacheNode(key, value); if (mp.size() >= size) { map<int, CacheNode *>::iterator iter = mp.find(tail -> key); remove(tail); mp.erase(iter); } setHead(newNode); mp[key] = newNode; } }
總結
好了,至此,LRU算法的實現(xiàn)操作就完成了,希望本文的內(nèi)容對大家的學習或者工作能帶來一定的幫助,如果有疑問大家可以留言交流。
相關文章
C語言中break與continue的用法和區(qū)別詳解
當我們使用while或for循環(huán)時,如果想提前結束循環(huán)(在不滿足結束條件的情況下結束循環(huán)),可以使用break或continue關鍵字,這篇文章主要給大家介紹了關于C語言中break與continue的用法和區(qū)別的相關資料,需要的朋友可以參考下2021-10-10詳解C++循環(huán)創(chuàng)建多級目錄及判斷目錄是否存在的方法
這篇文章主要介紹了C++循環(huán)創(chuàng)建多級目錄及判斷目錄是否存在的方法,文中代碼有一個針對各種系統(tǒng)進行判斷來加載不同頭文件的方法,需要的朋友可以參考下2016-03-03C++調(diào)用libcurl開源庫實現(xiàn)郵件的發(fā)送功能流程詳解
libcurl是一個免費開源的網(wǎng)絡傳輸庫,支持ftp、ftps、tftp,http、https、telnet、ldap、pop3、smtp等多種協(xié)議,接下來讓我們一起來了解吧2021-11-11C++利用std::forward_list查找插入數(shù)據(jù)方法示例
這篇文章主要給大家介紹了關于C++利用std::forward_list查找插入數(shù)據(jù)的相關資料,文中先對std::forward_list進行了詳細的介紹,而后通過示例代碼給大家介紹了查找的方法,需要的朋友可以參考借鑒,下面話不多說了,來一起看看吧。2017-08-08