Nginx緩存Cache的配置方案以及相關(guān)內(nèi)存占用問題解決
nginx緩存cache的5種方案
1、傳統(tǒng)緩存之一(404)
這個辦法是把nginx的404錯誤定向到后端,然后用proxy_store把后端返回的頁面保存。
配置:
location / { root /home/html/;#主目錄 expires 1d;#網(wǎng)頁的過期時間 error_page 404 =200 /fetch$request_uri;#404定向到/fetch目錄下 } location /fetch/ {#404定向到這里 internal;#指明這個目錄不能在外部直接訪問到 expires 1d;#網(wǎng)頁的過期時間 alias /html/; proxy_store會將文件保存到這目錄下 proxy_passhttp://www.dbjr.com.cn/;#后端upstream地址,/fetch同時是一個代理 proxy_set_header Accept-Encoding '';#讓后端不要返回壓縮(gzip或deflate)的內(nèi)容,保存壓縮后的內(nèi)容會引發(fā)亂子。 proxy_store on;#指定nginx將代理返回的文件保存 proxy_temp_path /home/tmp;#臨時目錄,這個目錄要和/home/html在同一個硬盤分區(qū)內(nèi) }
使用的時候還有要注意是nginx要有權(quán)限往/home/tmp和/home/html下有寫入文件的權(quán)限,在linux下nginx一般會配置成nobody用戶運行,這樣這兩個目錄就要chown nobody,設(shè)成nobody用戶專用,當然也可以chmod 777,不過所有有經(jīng)驗的系統(tǒng)管理員都會建議不要隨便使用777。
2、傳統(tǒng)緩存之二(!-e)
原理和404跳轉(zhuǎn)基本一致,但更簡潔一些:
location / { root /home/html/; proxy_store on; proxy_set_header Accept-Encoding ''; proxy_temp_path /home/tmp; if ( !-f $request_filename ) { proxy_passhttp://www.dbjr.com.cn/; } }
可以看到這個配置比404節(jié)約了不少代碼,它是用!-f來判斷請求的文件在文件系統(tǒng)上存不存在,不存在就proxy_pass到后端,返回同樣是用proxy_store保存。
兩種傳統(tǒng)緩存都有著基本一樣的優(yōu)點和缺點:
缺點1:不支持帶參數(shù)的動態(tài)鏈接,比如read.php?id=1,因為nginx只保存文件名,所以這個鏈接只在文件系統(tǒng)下保存為read.php,這樣用戶訪問read.php?id=2時會返回不正確的結(jié)果。同時不支持http://www.dbjr.com.cn/這種形式的首頁和二級目錄http://www.dbjr.com.cn/download/,因為nginx非常老實,會將這樣的請求照鏈接寫入文件系統(tǒng),而這個鏈接顯然是一個目錄,所以保存失敗。這些情況都需要寫rewrite才能正確保存。
缺點2:nginx內(nèi)部沒有緩存過期和清理的任何機制,這些緩存的文件會永久性地保存在機器上,如果要緩存的東西非常多,那就會撐暴整個硬盤空間。為此可以使用一個shell腳本定期清理,同時可以撰寫php等動態(tài)程序來做實時更新。
缺點3:只能緩存200狀態(tài)碼,因此后端返回301/302/404等狀態(tài)碼都不會緩存,假如恰好有一個訪問量很大的偽靜態(tài)鏈接被刪除,那就會不停穿透導(dǎo)致后端承載不小壓力。
缺點4:nginx不會自動選擇內(nèi)存或硬盤作為存儲介質(zhì),一切由配置決定,當然在當前的操作系統(tǒng)里都會有操作系統(tǒng)級的文件緩存機制,所以存在硬盤上也不需要過分擔心大并發(fā)讀取造成的io性能問題。
nginx傳統(tǒng)緩存的缺點也是它和squid等緩存軟件的不同之特色,所以也可看作其優(yōu)點。在生產(chǎn)應(yīng)用中它常常用作和squid的搭檔,squid對于帶?的鏈接往往無法阻擋,而nginx能將其訪問攔住,例如:http://jb51.net/?和http://jb51.net/在squid上會被當做兩個鏈接,所以會造成兩次穿透;而nginx只會保存一次,無論鏈接變成http://jb51.net/?1還是http://jb51.net/?123,均不能透過nginx緩存,從而有效地保護了后端主機。
nginx會非常老實地將鏈接形式保存到文件系統(tǒng)中,這樣對于一個鏈接,可以很方便地查閱它在緩存機器上的緩存狀態(tài)和內(nèi)容,也可以很方便地和別的文件管理器如rsync等配合使用,它完完全全就是一個文件系統(tǒng)結(jié)構(gòu)。
這兩種傳統(tǒng)緩存都可以在linux下將文件保存到/dev/shm里,一般我也是這么做的,這樣可以利用系統(tǒng)內(nèi)存來做緩存,利用內(nèi)存的話,清理過期內(nèi)容速度就會快得多。使用/dev/shm/時除了要把tmp目錄也指向到/dev/shm這個分區(qū)外,如果有大量小文件和目錄,還要修改一下這個內(nèi)存分區(qū)的inode數(shù)量和最大容量:
mount -o size=2500M -o nr_inodes=480000 -o noatime,nodiratime -o remount /dev/shm
上面的命令在一臺有3G內(nèi)存的機器上使用,因為/dev/shm默認最大內(nèi)存是系統(tǒng)內(nèi)存的一半就是1500M,這條命令將其調(diào)大成2500M,同時shm系統(tǒng)inode數(shù)量默認情況下可能是不夠用的,但有趣的是它可以隨意調(diào)節(jié),這里調(diào)節(jié)為480000保守了點,但也基本夠用了。
3、基于memcached的緩存
nginx對memcached有所支持,但是功能并不是特別之強,性能上還是非常之優(yōu)秀。
location /mem/ { if ( $uri ~ "^/mem/([0-9A-Za-z_]*)$" ) { set $memcached_key "$1"; memcached_pass 192.168.1.2:11211; } expires 70; }
這個配置會將http://jb51.net/mem/abc指明到memcached的abc這個key去取數(shù)據(jù)。
nginx目前沒有寫入memcached的任何機制,所以要往memcached里寫入數(shù)據(jù)得用后臺的動態(tài)語言完成,可以利用404定向到后端去寫入數(shù)據(jù)。
4、基于第三方插件ncache
ncache是新浪兄弟開發(fā)的一個不錯的項目,它利用nginx和memcached實現(xiàn)了一部分類似squid緩存的功能,我并沒有使用這個插件的經(jīng)驗,可以參考:
http://code.google.com/p/ncache/
5、nginx新開發(fā)的proxy_cache功能
從nginx-0.7.44版開始,nginx支持了類似squid較為正規(guī)的cache功能,目前還處于開發(fā)階段,支持相當有限,這個緩存是把鏈接用md5編碼hash后保存,所以它可以支持任意鏈接,同時也支持404/301/302這樣的非200狀態(tài)。
配置:
首先配置一個cache空間:
proxy_cache_path /path/to/cache levels=1:2 keys_zone=NAME:10m inactive=5m max_size=2m clean_time=1m;
注意這個配置是在server標簽外,levels指定該緩存空間有兩層hash目錄,第一層目錄是1個字母,第二層為2個字母,保存的文件名就會類似/path/to/cache/c/29/b7f54b2df7773722d382f4809d65029c;keys_zone為這個空間起個名字,10m指空間大小為10MB;inactive的5m指緩存默認時長5分鐘;max_size的2m是指單個文件超過2m的就不緩存;clean_time指定一分鐘清理一次緩存。
location / { proxy_passhttp://www.dbjr.com.cn/; proxy_cache NAME;#使用NAME這個keys_zone proxy_cache_valid 200 302 1h;#200和302狀態(tài)碼保存1小時 proxy_cache_valid 301 1d;#301狀態(tài)碼保存一天 proxy_cache_valid any 1m;#其它的保存一分鐘 }
ps:支持cache的0.7.44到0.7.51這幾個版本的穩(wěn)定性均有問題,訪問有些鏈接會出現(xiàn)錯誤,所以這幾個版本最好不要在生產(chǎn)環(huán)境中使用。nginx-0.7下目前所知較為穩(wěn)定的版本是0.7.39。穩(wěn)定版0.6.36版也是近期更新,如果在配置里沒有使用到0.7的一些新標簽新功能,也可以使用0.6.36版。
Nginx緩存的內(nèi)存占用問題的一般解決方法
1、前些日子某服務(wù)被刷,每分鐘達到上幾百萬請求;當時采用了nginx cache來解決的;但是因為某服務(wù)不能緩存太久,當時設(shè)置了5s,那么帶來的問題就是產(chǎn)生大量小文件,而且很快就刪除了。
2、通過
free -m

會發(fā)現(xiàn)used是27G;但是通過top查看進程占的內(nèi)存并沒有那么多
那內(nèi)存去哪了?
3、通過查閱資料會發(fā)現(xiàn)(cat /proc/meminfo)
Slab: 22464312 kB
SReclaimable: 16474128 kB (這些是內(nèi)核保持的但是可以釋放的inode和dentry的緩存)
SUnreclaim: 5990184 kB
4、這些內(nèi)存為什么會不自動清理呢?
某機房機器系統(tǒng)版本:Linux 2.6.32-431.el6.x86_64 #1 SMP Fri Nov 22 03:15:09 UTC 2013 x86_64 x86_64 x86_64 GNU/Linux(正常,沒出現(xiàn)內(nèi)存快到100%的情況)
某機房機器系統(tǒng)版本:Linux 2.6.32-279.el6.x86_64 #1 SMP Fri Jun 22 12:19:21 UTC 2012 x86_64 x86_64 x86_64 GNU/Linux (不釋放)
5、通過設(shè)置如下參數(shù)來設(shè)置內(nèi)存閥值
sysctl -w vm.extra_free_kbytes=6436787 sysctl -w vm.vfs_cache_pressure=10000
相關(guān)文章
Nginx?Gunicorn?flask項目部署思路分析詳解
這篇文章主要為大家介紹了Nginx?Gunicorn?flask項目部署思路分析詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪2022-12-12解讀nginx反向代理location和proxy_pass的映射關(guān)系
這篇文章主要介紹了解讀nginx反向代理location和proxy_pass的映射關(guān)系,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-01-01基于Nginx禁止指定IP、國外IP訪問我的網(wǎng)站
這篇文章主要介紹了用Nginx禁止指定IP、國外IP訪問我的網(wǎng)站,想要實現(xiàn)這個功能方法有很多種,這里基于 Nginx 的 ngx_http_geoip2 模塊來禁止國外 IP 訪問網(wǎng)站,需要的朋友可以參考下2022-05-05Nginx服務(wù)器中414錯誤和504錯誤的配置解決方法
這篇文章主要介紹了Nginx服務(wù)器中414錯誤和504錯誤的配置解決方法,分別對應(yīng)Request-URI Too Large和Gateway Time-out這樣的錯誤提示,需要的朋友可以參考下2015-12-12通過Nginx反向代理實現(xiàn)IP訪問分流的示例代碼
本篇文章主要介紹了通過Nginx反向代理實現(xiàn)IP訪問分流的示例代碼,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2017-11-11