Redis核心原理詳細(xì)解說(shuō)
1、Redis為什么這么快
C語(yǔ)言編寫
網(wǎng)絡(luò)IO是nio
單線程避免了多線程上下文切換造成的性能損耗
在內(nèi)存中運(yùn)算速度快
2、Redis網(wǎng)絡(luò)模型
IO多路復(fù)用(reactor)
redis利用epoll實(shí)現(xiàn)IO多路復(fù)用,將連接信息和事件放到隊(duì)列中,依次放到文件事件分派器,事件分派器將事件分發(fā)給事件處理器。
3、Redis數(shù)據(jù)結(jié)構(gòu)
4、Redis持久化
RDB快照(snapshot)
配置# save 60 1000 //關(guān)閉RDB只需要將所有的save保存策略注釋掉即可
AOF(append-only file)
將修改的每一條指令記錄進(jìn)文件appendonly.aof中(先寫入os cache,每隔一段時(shí)間fsync到磁盤)。
AOF重寫:AOF文件里可能有太多沒(méi)用指令,所以AOF會(huì)定期根據(jù)內(nèi)存的最新數(shù)據(jù)生成aof文件。AOF重寫redis會(huì)fork出一個(gè)子進(jìn)程去做(與bgsave命令類似),不會(huì)對(duì)redis正常命令處理有太多影響。bgrewriteao手動(dòng)重寫。
Redis 4.0 混合持久化:aof-use-rdb-preamble yes
如果開啟了混合持久化,AOF在重寫時(shí),不再是單純將內(nèi)存數(shù)據(jù)轉(zhuǎn)換為RESP命令寫入AOF文件,而是將重寫這一刻之前的內(nèi)存做RDB快照處理,并且將RDB快照內(nèi)容和增量的AOF修改內(nèi)存數(shù)據(jù)的命令存在一起,都寫入新的AOF文件,新的文件一開始不叫appendonly.aof,等到重寫完新的AOF文件才會(huì)進(jìn)行改名,覆蓋原有的AOF文件,完成新舊兩個(gè)AOF文件的替換。于是在 Redis 重啟的時(shí)候,可以先加載 RDB 的內(nèi)容,然后再重放增量 AOF 日志就可以完全替代之前的 AOF 全量文件重放,因此重啟效率大幅得到提升。
RDB與AOF區(qū)別
Redis數(shù)據(jù)備份策略
- (1)寫crontab定時(shí)調(diào)度腳本,每小時(shí)都copy一份rdb或aof的備份到一個(gè)目錄中去,僅僅保留最近48小時(shí)的備份。
- (2)每天都保留一份當(dāng)日的數(shù)據(jù)備份到一個(gè)目錄中去,可以保留最近1個(gè)月的備份。
- (3)每次copy備份的時(shí)候,都把太舊的備份給刪了。
- (4)每天晚上將當(dāng)前機(jī)器上的備份復(fù)制一份到其他機(jī)器上,以防機(jī)器損壞。
5、Redis管道(Pipeline)
客戶端可以一次性發(fā)送多個(gè)請(qǐng)求而不用等待服務(wù)器的響應(yīng),待所有命令都發(fā)送完后再一次性讀取服務(wù)的響應(yīng),這樣可以極大的降低多條命令執(zhí)行的網(wǎng)絡(luò)傳輸開銷,管道執(zhí)行多條命令的網(wǎng)絡(luò)開銷實(shí)際上只相當(dāng)于一次命令執(zhí)行的網(wǎng)絡(luò)開銷。需要注意到是用pipeline方式打包命令發(fā)送,redis必須在處理完所有命令前先緩存起所有命令的處理結(jié)果。打包的命令越多,緩存消耗內(nèi)存也越多。所以并不是打包的命令越多越好。
pipeline中發(fā)送的每個(gè)command都會(huì)被server立即執(zhí)行,如果執(zhí)行失敗,將會(huì)在此后的響應(yīng)中得到信息;也就是pipeline并不是表達(dá)“所有command都一起成功”的語(yǔ)義,管道中前面命令失敗,后面命令不會(huì)有影響,繼續(xù)執(zhí)行。
6、Redis使用lua腳本
- 1、減少網(wǎng)絡(luò)開銷:本來(lái)5次網(wǎng)絡(luò)請(qǐng)求的操作,可以用一個(gè)請(qǐng)求完成,原先5次請(qǐng)求的邏輯放在redis服務(wù)器上完成。使用腳本,減少了網(wǎng)絡(luò)往返時(shí)延。這點(diǎn)跟管道類似。
- 2、原子操作:Redis會(huì)將整個(gè)腳本作為一個(gè)整體執(zhí)行,中間不會(huì)被其他命令插入。管道不是原子的,不過(guò)redis的批量操作命令(類似mset)是原子的。
- 3、替代redis的事務(wù)功能:redis自帶的事務(wù)功能很雞肋,而redis的lua腳本幾乎實(shí)現(xiàn)了常規(guī)的事務(wù)功能,官方推薦如果要使用redis的事務(wù)功能可以用redis lua替代。
7、Redis分布式鎖
nx通過(guò)共享內(nèi)存實(shí)現(xiàn)
8、Redis主從架構(gòu)
9、Redis哨兵架構(gòu)
sentinel哨兵是特殊的redis服務(wù),不提供讀寫服務(wù),主要用來(lái)監(jiān)控redis實(shí)例節(jié)點(diǎn)。
10、Redis集群
11、Redis優(yōu)化
- 1、redis配置
合理的配置最大連接數(shù);最大,最小空閑數(shù)。
- 2、規(guī)約
- 3、慢日志
slowlog
Redis慢日志命令說(shuō)明: config get slow* #查詢有關(guān)慢日志的配置信息 config set slowlog-log-slower-than 20000 #設(shè)置慢日志使時(shí)間閾值,單位微秒,此處為20毫秒,即超過(guò)20毫秒的操作都會(huì)記錄下來(lái),生產(chǎn)環(huán)境建議設(shè)置1000,也就是1ms,這樣理論上redis并發(fā)至少達(dá)到1000,如果要求單機(jī)并發(fā)達(dá)到1萬(wàn)以上,這個(gè)值可以設(shè)置為100 config set slowlog-max-len 1024 #設(shè)置慢日志記錄保存數(shù)量,如果保存數(shù)量已滿,會(huì)刪除最早的記錄,最新的記錄追加進(jìn)來(lái)。記錄慢查詢?nèi)罩緯r(shí)Redis會(huì)對(duì)長(zhǎng)命令做截?cái)嗖僮?,并不?huì)占用大量?jī)?nèi)存,建議設(shè)置稍大些,防止丟失日志 config rewrite #將服務(wù)器當(dāng)前所使用的配置保存到redis.conf slowlog len #獲取慢查詢?nèi)罩玖斜淼漠?dāng)前長(zhǎng)度 slowlog get 5 #獲取最新的5條慢查詢?nèi)罩?。慢查詢?nèi)罩居伤膫€(gè)屬性組成:標(biāo)識(shí)ID,發(fā)生時(shí)間戳,命令耗時(shí),執(zhí)行命令和參數(shù) slowlog reset #重置慢查詢?nèi)罩?/pre>
- 4、操作系統(tǒng)配置
(1)vm.swapiness
如果linux內(nèi)核版本<3.5,那么swapiness設(shè)置為0,這樣系統(tǒng)寧愿swap也不會(huì)oom killer(殺掉進(jìn)程)
如果linux內(nèi)核版本>=3.5,那么swapiness設(shè)置為1,這樣系統(tǒng)寧愿swap也不會(huì)oom killer
cat /proc/version #查看linux內(nèi)核版本 echo 1 > /proc/sys/vm/swappiness echo vm.swapiness=1 >> /etc/sysctl.conf cat /proc/sys/vm/overcommitmemory echo "vm.overcommitmemory=1" >> /etc/sysctl.conf sysctl vm.overcommit_memory=1
(2)合理設(shè)置文件句柄數(shù)
ulimit -a #查看系統(tǒng)文件句柄數(shù),看open files那項(xiàng) ulimit -n 65535 #設(shè)置系統(tǒng)文件句柄數(shù)
12、Redis問(wèn)題
緩存穿透
緩存穿透是指查詢一個(gè)根本不存在的數(shù)據(jù),緩存層和存儲(chǔ)層都不會(huì)命中,通常出于容錯(cuò)的考慮,如果從存儲(chǔ)層查不到數(shù)據(jù)則不寫入緩存層。緩存穿透將導(dǎo)致不存在的數(shù)據(jù)每次請(qǐng)求都要到存儲(chǔ)層去查詢,失去了緩存保護(hù)后端存儲(chǔ)的意義。
- 第一,自身業(yè)務(wù)代碼或者數(shù)據(jù)出現(xiàn)問(wèn)題。
- 第二,一些惡意攻擊、爬蟲等造成大量空命中。
(1)緩存空對(duì)象
(2)布隆過(guò)濾器
緩存失效(擊穿)
由于大批量緩存在同一時(shí)間失效可能導(dǎo)致大量請(qǐng)求同時(shí)穿透緩存直達(dá)數(shù)據(jù)庫(kù),可能會(huì)造成數(shù)據(jù)庫(kù)瞬間壓力過(guò)大甚至掛掉,對(duì)于這種情況我們?cè)谂吭黾泳彺鏁r(shí)最好將這一批數(shù)據(jù)的緩存過(guò)期時(shí)間設(shè)置為一個(gè)時(shí)間段內(nèi)的不同時(shí)間。
緩存雪崩
- (1)保證緩存層服務(wù)高可用性,比如使用Redis Sentinel或Redis Cluster。
- (2)依賴隔離組件為后端限流熔斷并降級(jí)。比如使用Sentinel或Hystrix限流降級(jí)組件。比如服務(wù)降級(jí),我們可以針對(duì)不同的數(shù)據(jù)采取不同的處理方式。當(dāng)業(yè)務(wù)應(yīng)用訪問(wèn)的是非核心數(shù)據(jù)(例如電商商品屬性,用戶信息等)時(shí),暫時(shí)停止從緩存中查詢這些數(shù)據(jù),而是直接返回預(yù)定義的默認(rèn)降級(jí)信息、空值或是錯(cuò)誤提示信息;當(dāng)業(yè)務(wù)應(yīng)用訪問(wèn)的是核心數(shù)據(jù)(例如電商商品庫(kù)存)時(shí),仍然允許查詢緩存,如果緩存缺失,也可以繼續(xù)通過(guò)數(shù)據(jù)庫(kù)讀取。
- (3)提前演練。在項(xiàng)目上線前,演練緩存層宕掉后,應(yīng)用以及后端的負(fù)載情況以及可能出現(xiàn)的問(wèn)題,在此基礎(chǔ)上做一些預(yù)案設(shè)定。
到此這篇關(guān)于Redis核心原理詳細(xì)解說(shuō)的文章就介紹到這了,更多相關(guān)Redis原理內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Redis中ziplist壓縮列表的實(shí)現(xiàn)
本文主要介紹了Redis中ziplist壓縮列表的實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2023-06-06基于redis.properties文件的配置及說(shuō)明介紹
今天小編就為大家分享一篇基于redis.properties文件的配置及說(shuō)明介紹,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-05-05Redis 如何批量設(shè)置過(guò)期時(shí)間(PIPLINE的使用)
有時(shí)候我們并不希望redis的key一直存在。例如緩存,驗(yàn)證碼等數(shù)據(jù),我們希望它們能在一定時(shí)間內(nèi)自動(dòng)的被銷毀。本文就詳細(xì)的介紹一下Redis 如何批量設(shè)置過(guò)期時(shí)間,感興趣的可以了解一下2021-11-11