Nginx日志統(tǒng)計(jì)分析的常用命令總結(jié)
本文主要給大家總結(jié)了關(guān)于Nginx日志統(tǒng)計(jì)分析的一些常用命令，分享出來(lái)供大家參考學(xué)習(xí)，下面來(lái)一起看看詳細(xì)的介紹：
一、IP相關(guān)統(tǒng)計(jì)
統(tǒng)計(jì)IP訪問(wèn)量
awk '{print $1}' access.log | sort -n | uniq | wc -l查看某一時(shí)間段的IP訪問(wèn)量(4-5點(diǎn))
grep "07/Apr/2017:0[4-5]" access.log | awk '{print $1}' | sort | uniq -c| sort -nr | wc -l查看訪問(wèn)最頻繁的前100個(gè)IP
awk '{print $1}' access.log | sort -n |uniq -c | sort -rn | head -n 100查看訪問(wèn)100次以上的IP
awk '{print $1}' access.log | sort -n |uniq -c |awk '{if($1 >100) print $0}'|sort -rn查詢某個(gè)IP的詳細(xì)訪問(wèn)情況,按訪問(wèn)頻率排序
grep '104.217.108.66' access.log |awk '{print $7}'|sort |uniq -c |sort -rn |head -n 100二、頁(yè)面訪問(wèn)統(tǒng)計(jì)
查看訪問(wèn)最頻的頁(yè)面(TOP100)
awk '{print $7}' access.log | sort |uniq -c | sort -rn | head -n 100查看訪問(wèn)最頻的頁(yè)面([排除php頁(yè)面】(TOP100)
grep -v ".php" access.log | awk '{print $7}' | sort |uniq -c | sort -rn | head -n 100查看頁(yè)面訪問(wèn)次數(shù)超過(guò)100次的頁(yè)面
cat access.log | cut -d ' ' -f 7 | sort |uniq -c | awk '{if ($1 > 100) print $0}' | less查看最近1000條記錄，訪問(wèn)量最高的頁(yè)面
tail -1000 access.log |awk '{print $7}'|sort|uniq -c|sort -nr|less每秒請(qǐng)求量統(tǒng)計(jì)
統(tǒng)計(jì)每秒的請(qǐng)求數(shù),top100的時(shí)間點(diǎn)(精確到秒)
awk '{print $4}' access.log |cut -c 14-21|sort|uniq -c|sort -nr|head -n 100每分鐘請(qǐng)求量統(tǒng)計(jì)
統(tǒng)計(jì)每分鐘的請(qǐng)求數(shù),top100的時(shí)間點(diǎn)(精確到分鐘)
awk '{print $4}' access.log |cut -c 14-18|sort|uniq -c|sort -nr|head -n 100每小時(shí)請(qǐng)求量統(tǒng)計(jì)
統(tǒng)計(jì)每小時(shí)的請(qǐng)求數(shù),top100的時(shí)間點(diǎn)(精確到小時(shí))
awk '{print $4}' access.log |cut -c 14-15|sort|uniq -c|sort -nr|head -n 100三、性能分析
在nginx log中最后一個(gè)字段加入$request_time
列出傳輸時(shí)間超過(guò)3秒的頁(yè)面，顯示前20條
cat access.log|awk '($NF > 3){print $7}'|sort -n|uniq -c|sort -nr|head -20列出php頁(yè)面請(qǐng)求時(shí)間超過(guò)3秒的頁(yè)面，并統(tǒng)計(jì)其出現(xiàn)的次數(shù)，顯示前100條
cat access.log|awk '($NF > 1 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100四、蜘蛛抓取統(tǒng)計(jì)
統(tǒng)計(jì)蜘蛛抓取次數(shù)
grep 'Baiduspider' access.log |wc -l
統(tǒng)計(jì)蜘蛛抓取404的次數(shù)
grep 'Baiduspider' access.log |grep '404' | wc -l
五、TCP連接統(tǒng)計(jì)
查看當(dāng)前TCP連接數(shù)
netstat -tan | grep "ESTABLISHED" | grep ":80" | wc -l
用tcpdump嗅探80端口的訪問(wèn)看看誰(shuí)最高
tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' | sort | uniq -c | sort -nr六、實(shí)例腳本
獲取前一分鐘nginx訪問(wèn)日志條數(shù)
#!/bin/bash export LANG=C export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin TIME=$(date -d "1 minute ago" +"%d/%h/%Y:%H:%M") grep "$TIME" /var/log/nginx/access.log | wc -l
獲取前一分鐘nginx錯(cuò)誤日志條數(shù)
#!/bin/bash export LANG=C export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin TIME=$(date -d "1 minute ago" +"%Y-%m-%d %H:%M") grep "$TIME" /var/log/nginx/error.log | wc -l
常用操作命令
根據(jù)訪問(wèn)ip統(tǒng)計(jì)UV
awk '{print $1}' access.log|sort | uniq -c |wc -l根據(jù)訪問(wèn)url統(tǒng)計(jì)PV量
awk '{print $7}' access.log | wc -l查詢?cè)L問(wèn)最頻繁的URL
awk '{print $7}' access.log|sort | uniq -c |sort -n -k 1 -r|more
查詢?cè)L問(wèn)最頻繁的IP
awk '{print $1}' access.log|sort | uniq -c |sort -n -k 1 -r|more
查詢傳輸時(shí)間超過(guò)3秒的頁(yè)面
cat access.log |awk '($NF > 3){print $7}'|sort -n|uniq -c|sort -nr|head -20統(tǒng)計(jì)某路由平均響應(yīng)時(shí)間
grep "/" access.log | awk '{print $NF}' | grep -P '\d{3}?$' | awk '{sum += $0;}END {if(sum==0)print 0;else print sum/NR}'
獲取每分鐘的請(qǐng)求數(shù)量，輸出到文件
cat access.log | awk '{print substr($4,14,5)}' | uniq -c | awk '{print $2","$1}' > access.txt
日志截取
# 從總?cè)罩疚募薪厝∽蛱煲徽斓臄?shù)據(jù)出來(lái)，并覆蓋到新文件中： cat access.log | awk '$4 >="[14/Mar/2023:00:00:00" && $4 <="[14/Mar/2023:23:59:59"' > access.2023051010.log
將某一時(shí)間段的日志輸出到文件中
# 打印一天的日志 cat access.log | egrep "2023-05-04" > test.log # 打印一小時(shí)的日志cat access.log | egrep "04/Jun/2023:10" > test.log #打印任意時(shí)間段的日志 sed -n '/04\/Jun\/2023:10/,/04\/Jun\/2023:12/p' access.log > test.log
備注
sort 排序
sort 默認(rèn)是升序，sort -r 降序
sort -u 去除重復(fù)行
uniq 去重
-i 忽略大小寫字符
-c 進(jìn)行計(jì)數(shù)
-u 只顯示唯一的行
cut 從文件文件中截取
-d 后接分割字符
-f 依據(jù)-d的分隔符將信息分割成數(shù)段，-f 取出第幾段
-c 以字符的單位取出固定字符區(qū)間
wc 統(tǒng)計(jì)文件里面有多少單詞，多少行，多少字符
-l ：僅列出行
-w ：僅列出多少字(英文單字)
-m ：多少字符最后提供一個(gè)綜合有用的腳本
#!/bin/bash
#此腳本用于統(tǒng)計(jì)nginx日志當(dāng)前時(shí)間n分鐘之內(nèi)不同接口的訪問(wèn)量統(tǒng)計(jì)
LOG=/mnt/data/nginx-1.20.1/logs/access.log
TMP=/tmp/url.tmp
URLSTATS=mnt/data/nginx-1.20.1/logs/urlstats.log
#刪除臨時(shí)統(tǒng)計(jì)文件
[ -f $TMP ] && rm -fr $TMP
for i in `seq 15`
do
d=`date +%d/%h/%Y:%H:%M -d "$i minutes ago"`
#將每個(gè)時(shí)間段的URL進(jìn)行統(tǒng)計(jì)并追加到臨時(shí)文件
awk -v b="$d" '{if ($4 ~ b)a[$7]++}END{for(i in a)printf("%-42s %-d\n", i,a[i])}' $LOG >> $TMP
done
#將匯總到臨時(shí)文件的URL統(tǒng)計(jì)進(jìn)行匯總
if [ -s $TMP ];then
awk '{a[$1]+=$2;}END{for(i in a)printf("%-42s %-d\n", i,a[i])}' $TMP | sort -nr -k2 > $URLSTATS
else
echo "沒有統(tǒng)計(jì)到相關(guān)數(shù)據(jù)"
fi總結(jié)
以上就是這篇文章的全部?jī)?nèi)容了，希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作能帶來(lái)一定的幫助，如果有疑問(wèn)大家可以留言交流，謝謝大家對(duì)腳本之家的支持。
相關(guān)文章
詳解如何通過(guò)nginx進(jìn)行服務(wù)的負(fù)載均衡
負(fù)載均衡器可以將用戶請(qǐng)求根據(jù)對(duì)應(yīng)的負(fù)載均衡算法分發(fā)到應(yīng)用集群中的一臺(tái)服務(wù)器進(jìn)行處理,本文主要為大家詳細(xì)介紹了如何通過(guò)nginx進(jìn)行服務(wù)的負(fù)載均衡,需要的可以參考下2023-11-11
本文主要介紹了主要是Nginx做靜態(tài)圖片服務(wù)器的詳情配置說(shuō)明,還包括做反向代理、動(dòng)靜分離、負(fù)載均衡的極簡(jiǎn)配置,具有一定的參考價(jià)值,感興趣的可以了解一下2023-08-08
Nginx訪問(wèn)日志access_log配置及信息詳解(推薦)
當(dāng)你設(shè)置日志級(jí)別成debug,如果你在調(diào)試一個(gè)在線的高流量網(wǎng)站的話,你的錯(cuò)誤日志可能會(huì)記錄每個(gè)請(qǐng)求的很多消息,這樣會(huì)變得毫無(wú)意義,下面小編給大家介紹Nginx訪問(wèn)日志access_log配置及信息詳解,感興趣的朋友跟隨小編一起看看吧2024-04-04
如果我們使用了nginx去作為反向代理或者負(fù)載均衡，從客戶端過(guò)來(lái)的長(zhǎng)連接請(qǐng)求就會(huì)被轉(zhuǎn)換成短連接發(fā)送給服務(wù)器端。為了支持長(zhǎng)連接，我們需要在nginx服務(wù)器上做一些配置。2020-10-10
本文主要介紹了Nginx啟動(dòng)不了原因解決(端口占用)，文中通過(guò)示例代碼介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2023-06-06
使用Kubernetes部署Springboot或Nginx的詳細(xì)教程
這篇文章主要介紹了用Kubernetes部署Springboot或Nginx的詳細(xì)教程，本文給大家介紹的非常詳細(xì)，對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2020-07-07
總結(jié)高并發(fā)下Nginx性能如何優(yōu)化
這篇文章主要為大家介紹了在高并發(fā)下Nginx性能如何優(yōu)化的總結(jié)分析，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步2021-10-10
Nginx訪問(wèn)FTP服務(wù)器文件的時(shí)效性/安全校驗(yàn)的方法
nginx的實(shí)現(xiàn)方式在校驗(yàn)失敗的時(shí)候頁(yè)面返回error image,跳轉(zhuǎn)的是420 error_page,成功的時(shí)候會(huì)訪問(wèn)FTP文件服務(wù)器的路徑,反正圖片到頁(yè)面展示,這篇文章主要介紹了Nginx訪問(wèn)FTP服務(wù)器文件的時(shí)效性/安全校驗(yàn),需要的朋友可以參考下2023-12-12
詳解nginx的請(qǐng)求限制（連接限制和請(qǐng)求限制）
這篇文章主要介紹了詳解nginx的請(qǐng)求限制（連接限制和請(qǐng)求限制），小編覺得挺不錯(cuò)的，現(xiàn)在分享給大家，也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2018-07-07
使用Nginx為自己的網(wǎng)站資源加上防盜鏈保護(hù)實(shí)現(xiàn)
這篇文章主要為大家介紹了使用Nginx為自己的網(wǎng)站資源加上防盜鏈保護(hù)實(shí)現(xiàn)詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-08-08