Nginx利用Logrotate實現(xiàn)日志分割的詳細過程
前言
nginx默認沒有提供對日志文件的分割功能,所以隨著時間的增長,access.log和error.log文件會越來越大,尤其是access.log,其日志記錄量比較大,更容易增長文件大小,影響日志寫入性能
分割nginx日志的方法有很多,這里推薦利用Logrotate來完成
Logrotate用法
1.安裝
logrotate是一個linux系統(tǒng)日志的管理工具。可以對單個日志文件或者某個目錄下的文件按時間/大小進行切割,壓縮操作;指定日志保存數(shù)量;還可以在切割之后運行自定義命令
logrotate是基于crontab運行的,所以這個時間點是由crontab控制的,具體可以查詢crontab的配置文件/etc/anacrontab。系統(tǒng)會按照計劃的頻率運行l(wèi)ogrotate,通常是每天。在大多數(shù)的Linux發(fā)行版本上,計劃每天運行的腳本位于/etc/cron.daily/logrotate
主流Linux發(fā)行版上都默認安裝有l(wèi)ogrotate包,如果你的linux系統(tǒng)中找不到logrotate, 可以使用apt-get或yum命令來安裝
yum install -y logrotate
一般linux都已經(jīng)自帶logrotate,下列命令可以查看是否已安裝
rpm -ql logrotate
2.基本用法詳解
2.1 入門
/etc/logrotate.conf這個文件是logrotate的主配置文件
# see "man logrotate" for details # rotate log files weekly weekly # keep 4 weeks worth of backlogs rotate 4 # create new (empty) log files after rotating old ones create # use date as a suffix of the rotated file dateext # uncomment this if you want your log files compressed #compress # 包含自定義配置目錄 include /etc/logrotate.d # no packages own wtmp and btmp -- we'll rotate them here /var/log/wtmp { monthly create 0664 root utmp minsize 1M rotate 1 } /var/log/btmp { missingok monthly create 0600 root utmp rotate 1 } # system-specific logs may be also be configured here.
這個主配置文件中定義了日志文件分割的通用參數(shù)。并且include /etc/logrotate.d表示其會加載/etc/logrotate.d的所有自定義配置文件,自定義配置文件中的配置可以覆蓋掉通用配置
我們來到自定義配置文件的目錄/etc/logrotate.d
嘗試在該目錄中創(chuàng)建一個日志分割配置test,對/opt/logtest目錄中所有以.log結(jié)尾的文件進行分割
vim test # test配置文件的內(nèi)容 /opt/logtest/*.log { daily rotate 2 copytruncate missingok }
test配置的第一行指定要對哪個路徑的哪些文件進行分割,然后攜帶的4個參數(shù)解釋如下:
- daily:按天切割。觸發(fā)切割時如果時間不到一天不會執(zhí)行切割。除了daily,還可以選monthly,weekly,yearly
- rotate:對于同一個日志文件切割后最多保留的文件個數(shù)
- copytruncate:將源日志文件切割成新文件后,清空并保留源日志文件。默認如果不啟用該配置,分割后源日志文件將被刪除。設置該值,以便分割后可以繼續(xù)在源日志文件寫入日志,等待下次分割
- missingok:切割中遇到日志錯誤忽略
創(chuàng)建好配置以后,系統(tǒng)會在每天利用cron定時執(zhí)行l(wèi)ogrotate日志分割指令。這里我們?yōu)榱丝吹叫Ч?,不等到系統(tǒng)自動執(zhí)行,可以手動強制執(zhí)行一次日志分割。強制執(zhí)行會立即進行一次日志
# -v:顯示執(zhí)行日志 # -f:強制執(zhí)行分割 logrotate -vf /etc/logrotate.d/test
執(zhí)行前,事先在日志所在目錄中創(chuàng)建2個測試日志文件
touch test1.log touch test2.log
手動執(zhí)行一次日志分割,觀察執(zhí)行日志可以發(fā)現(xiàn),過程如下:
- 先將源日志內(nèi)容拷貝到分割后的文件
- 清空源文件
此時分割后的文件名為源文件名后面加上.序號,序號從1開始
然后我們再次手動執(zhí)行一次分割,此時執(zhí)行過程如下:
- 將第一次分割后的日志文件test1.log.1重命名為test1.log.2
- 將源日志文件拷貝到此次分割后的文件,命名序號重新從1開始,為test1.log.1
- 清空源日志文件
接著再次手動執(zhí)行一次分割,此時執(zhí)行過程如下:
- 將之前分割后的日志文件test1.log.2重命名為test1.log.3,test1.log.1重命名為test1.log.2
- 分割源日志文件,拷貝其內(nèi)容到test1.log.1
- 由于設置了rotate為2,即最多保留2個日志文件,所以此時要刪除最早分割出的那個日志文件,即test1.log.3
總結(jié)一下logrotate日志分割的步驟:
1.默認分割后日志的命名為源日志名稱+.序號(從1開始)。分割之前將所有之前分割出的日志文件重命名,序號往后移一位
2.執(zhí)行分割,將源日志文件分割為源日志文件名.1。這樣就保證了所有分割后的文件中,序號最小的是最新分割出的,序號最大的是最早分割出的
3.根據(jù)rotate設置,如果此次分割后文件數(shù)量大于rotate設置,那么刪除序號最大的那個分割文件,也就是最舊的分割日志
實際開發(fā)中可以使用create代替copytruncate,它們的區(qū)別如下:
copytruncate先將源文件內(nèi)容拷貝到分割后文件,再清空源文件,拷貝和清空之間有時間差,可能會丟失部分日志。另外拷貝操作在源文件比較大時消耗性能
create直接將源文件重命名為分割后文件,再創(chuàng)建一個與源文件名稱相同的新文件,用于后續(xù)日志寫入
/opt/logtest/*.log { daily rotate 2 create # 創(chuàng)建與源文件名稱相同的新文件,用于后續(xù)日志寫入,新文件的歸屬用戶、權(quán)限與源文件相同 missingok }
但是要注意create即使創(chuàng)建新的文件后,如果沒有主動通知應用程序,那么應用程序仍然會往舊的文件(即被重命名的那個分割后的文件)寫入日志。所以此時在分割后要通知應用程序重新打開新的日志文件進行寫入。以通知nginx為例,配置如下
/var/log/nginx/*.log { daily rotate 30 create sharedscripts # 所有的文件切割之后只執(zhí)行一次下面腳本,通知nginx重新打開新的日志文件進行后續(xù)寫入 postrotate if [ -f /run/nginx.pid ]; then kill -USR1 `cat /run/nginx.pid` # 通過USER1信號通知nginx重新打開日志文件 fi endscript }綜上,一般情況下如果應用程序提供了通知其打開新的日志文件的接口,那么推薦使用create續(xù)寫日志;否則推薦使用copytruncate續(xù)寫日志
注意:
- /etc/logrotate.d中的自定義配置中,如果不配置rotate、daily等參數(shù)在強制手動執(zhí)行時并不會繼承默認的主配置/etc/logrotate.conf。比如不配置rotate時,并不會繼承保留4個分割文件,而是等價于0,即不保留任何分割文件。所以自定義配置中推薦顯式指定這些參數(shù)
- 在系統(tǒng)crontab定時任務自動執(zhí)行l(wèi)ogrotate時,自定義配置會繼承主配置文件中的參數(shù)
- logrotate執(zhí)行分割的時機要依賴于crontab定時任務,也就是說crontab定時任務每日觸發(fā)時,logrotate才會讀取相應配置,檢查是否滿足分割的條件決定是否執(zhí)行分割。這意味著,在默認crontab每日觸發(fā)logrotate的定時任務情況下,即便logrotate配置文件中配置的分割頻率小于1天,也將按照1天的頻率觸發(fā)分割,除非修改crontab定時任務,將logrotate的任務觸發(fā)頻率修改為小于1天
2.2 分割文件壓縮
我們可以通過如下設置對分割后的日志文件開啟壓縮
/opt/logtest/*.log { daily rotate 2 copytruncate missingok compress # 以gzip方式壓縮 nodelaycompress # 所有分割后的文件都進行壓縮 }
此時刪除原有所有文件,重新創(chuàng)建測試日志文件test1.log和test2.log,然后手動執(zhí)行分割,可以生成壓縮后的.gz文件
一般可以將nodelaycompress改為delaycompress,這樣分割后對最新的序號為1的文件不會進行壓縮,對其他序號的文件進行壓縮,這樣可以方便我們查看最新的分割日志
2.3 按照時間分割
按照時間分割可以定時分割出一個日志,比如每天分割一次,配合其他參數(shù)可以完成保留最近n天日志的功能。以下配置可以實現(xiàn)每天分割一次日志,并且保留最近30天的分割日志
/opt/logtest/*.log { daily # 每天分割一次 rotate 30 # 保留最近30個分割后的日志文件 copytruncate missingok dateext # 切割后的文件添加日期作為后綴 dateyesterday # 配合dateext使用,添加前一天的日期作為分割后日志的后綴 }
還是先刪除原來的所有文件,重新創(chuàng)建
touch test{1,2}.log
再手動執(zhí)行分割,此時生成的分割后的文件將不再以序號作為文件名結(jié)尾,而是以昨天的日期作為結(jié)尾
并且如果馬上再手動執(zhí)行一次分割,由于日期相同,不會像原來一樣生成序號遞增的新日志文件,此時相當于沒有執(zhí)行任何分割操作。即同一天只能分割一次,第二天再次執(zhí)行才會分割出新的日期結(jié)尾的文件,所以此時設置rotate的值即為保留最近多少天日志的意思
此外,默認添加的日期后綴格式為yyyyMMdd,可以用dateformat自定義
/opt/logtest/*.log { daily # 每天分割一次 rotate 30 # 保留最近30個分割后的日志文件 copytruncate missingok dateext # 切割后的文件添加日期作為后綴 dateyesterday # 配合dateext使用,添加前一天的日期作為分割后日志的后綴 dateformat -%Y-%m-%d # 格式為2022-02-08 }
2.4 按照文件大小分割
我們可以利用size配置指定當日志文件達到多大體積時才進行分割。以下配置指定了每天執(zhí)行分割,但是只有當日志文件大于5M時才真正執(zhí)行分割操作
/opt/logtest/*.log { daily # 每天分割一次 size 5M # 源文件小于5M時不分割 rotate 30 # 保留最近30個分割后的日志文件 create missingok dateext # 切割后的文件添加日期作為后綴 dateyesterday # 配合dateext使用,添加前一天的日期作為分割后日志的后綴 }
注意:這個配置并不是說日志文件達到指定大小就自動執(zhí)行分割,它還是要遵循定時任務。比如配置了daily只有到每天指定時間執(zhí)行分割任務時,才會檢查文件大小,對超過指定大小的文件進行分割
2.5 自定義每小時分割
logrotate實現(xiàn)每日定時執(zhí)行日志分割的原理是通過cron定時任務,默認在/etc/cron.daily中包含logrotate可執(zhí)行命令,所以系統(tǒng)每天會定時啟動logrotate,然后它會根據(jù)配置中具體分割頻率(daily、weekly等)以及其他條件(比如size)決定是否要真正執(zhí)行分割操作
如果我們想要實現(xiàn)每小時進行一次分割,需要如下步驟:
- logrotate配置文件中指定分割頻率為hourly
- 配置完以后,還需要在cron的每小時定時任務中加入logrotate,因為默認情況下只有/etc/cron.daily中包含logrotate可執(zhí)行命令,我們要將它往/etc/cron.hourly中也拷貝一份,這樣系統(tǒng)才會每小時調(diào)用一次logrotate去執(zhí)行分割
cp /etc/cron.daily/logrotate /etc/cron.hourly/
2.6 自定義分割執(zhí)行時間
logrotate 是基于cron 運行的,所以這個時間是由 cron 控制的,具體可以查詢 cron 的配置文件/etc/crontab 。舊版CentOS 的cron 的配置文件是 /etc/crontab ,新版CentOS 改為 /etc/anacrontab
從上面的內(nèi)容可以看出:
- 如果機器 沒有關機,默認 logrotate(配置文件里設置的是cron.daily)一般會在每天的3點05分到3點50分之間執(zhí)行, 真實的延遲時間是RANDOM_DELAY + delay in minutes
- 如果在3-22 這個時間段內(nèi)服務器處于 關機狀態(tài),則 logrotate 會在機器開機5分鐘后執(zhí)行分割日志的操作
如果我們覺得每天凌晨3點多執(zhí)行日志分割不合適,那么可以自定義分割執(zhí)行時間。實現(xiàn)方式可以是:
- 修改/etc/anacrontab中的定時執(zhí)行時間,實際不推薦,可能會影響系統(tǒng)其他定時任務
- 在/etc/logrotate.d以外的其他目錄創(chuàng)建logrotate配置文件,然后利用crontab自定義cron表達式來執(zhí)行l(wèi)ogrotate對該配置進行分割操作
推薦采用crontab方式自定義執(zhí)行時間,步驟如下:
在非/etc/logrotate.d目錄創(chuàng)建logrotate配置文件,這是為了避免被系統(tǒng)的定時任務掃描到該配置而導致重復執(zhí)行分割
添加 crontab 計劃任務,在 root 用戶下執(zhí)行crontab -e
進入 vim 模式,進行編輯
crontab -e # 每天 23點59分進行日志切割 59 23 * * * /usr/sbin/logrotate -f /etc/logrotate_mytime/nginx
重啟crontab
# centos6: service crond restart # centos7: systemctl restart crond
nginx日志分割步驟
在/etc/logrotate.d中創(chuàng)建文件nginx,作為nginx日志分割的配置文件。指定每天執(zhí)行一次分割,并且當文件大于5M時才進行分割。同時指定notifempty,當日志文件為空時不分割
/opt/docker-ws/nginx/logs/*.log { daily # 每天分割一次 size 5M # 源文件小于5M時不分割 rotate 30 # 保留最近30個分割后的日志文件 copytruncate notifempty # 當日志文件為空時不分割 missingok dateext # 切割后的文件添加日期作為后綴 }
這樣配置了以后系統(tǒng)會在凌晨3點多執(zhí)行分割操作,執(zhí)行結(jié)果會保存到/var/spool/mail/root中
查看結(jié)果發(fā)現(xiàn)提示權(quán)限不夠而分割失敗,這是因為開啟了selinux導致,解決方案有如下2種:
1、關閉selinux/2、利用semanage修改待分割的日志文件所在目錄的權(quán)限
# 開放/opt/logtest目錄的權(quán)限 semanage fcontext -a -t var_log_t "/opt/logtest(/.*)?" restorecon -Rv /opt/logtest
總結(jié)
到此這篇關于Nginx利用Logrotate日志分割的文章就介紹到這了,更多相關Nginx日志分割內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!
相關文章
實例詳解SpringBoot+nginx實現(xiàn)資源上傳功能
這篇文章主要介紹了SpringBoot+nginx實現(xiàn)資源上傳功能,由于小編最近在使用nginx放置靜態(tài)資源問題,遇到很多干貨,特此分享到腳本之家平臺,供大家參考,需要的朋友可以參考下2019-10-10Nginx服務器實現(xiàn)數(shù)據(jù)靜態(tài)壓縮的方法
這篇文章主要介紹了Nginx服務器實現(xiàn)數(shù)據(jù)靜態(tài)壓縮的方法,服務器中壓縮CSS和JavaScript進行緩存一定程度上可以幫助提高服務器的IO速度,需要的朋友可以參考下2015-07-07