學(xué)會(huì)用shell分析日志只要一上午?。?！

很多地方分享了日志分析的shell腳本，但是基本沒說每個(gè)命令符的具體含義，學(xué)習(xí)成本還是很高，在這里總結(jié)下，方便大家快速入門。

1、在Windows下的用戶要使用shell命令符的話請先安裝cygwin，安裝方法自行Google（搜技術(shù)問題請使用google，百度搜不到活該）

2、下面粗略介紹下SEO日志分析常用的命令符用法，需要詳細(xì)了解每個(gè)命令符請使用Google。

less 文件名 查看文件內(nèi)容 按“q” 退出

cat 文件名 打開文件，可以多次打開幾個(gè)文件 | cat 1.log 2.log |cat *.cat
grep -參數(shù) 文件名
-i 不區(qū)分大小寫
-v 顯示不符合條件的所有行
-c 顯示符合條件的所有行數(shù)（符合條件的數(shù)量）

egrep 屬于grep的升級版，在正則這一塊的支持更完善，使用正則的時(shí)候建議使用egrep

head -2 文件名 顯示2行
head -100 文件名 | tail -10 >>a.log 提取文件第91-100行數(shù)據(jù)

wc -參數(shù) 文件名 統(tǒng)計(jì)文本大小，字符多少，行數(shù)
-c 統(tǒng)計(jì)文本字節(jié)數(shù)
-m 統(tǒng)計(jì)文本字符數(shù)
-l 統(tǒng)計(jì)文本有多少行

sort – 參數(shù) 文件名 對文件進(jìn)行排序
-n 對文件按照數(shù)字排序
-r 反向排序

uniq -參數(shù) 文件名 對文件去重，去重前需要使用排序

sort
-c 顯示數(shù)據(jù)重復(fù)的次數(shù)

split -參數(shù) 文件名 對文件進(jìn)行切割
-100 （每100行切割成一個(gè)文件）
-C 25m/b/k (每25兆/字節(jié)/K 分割成一個(gè)文件)

| 管道，把上一條命令的結(jié)果傳輸給下一條命令

“>” 和“>> ” 重定向?qū)懭胛募?“>”相當(dāng)于“w”清空并寫入 “>>”相當(dāng)于“a” 追加進(jìn)文件

 awk -F ‘分割符'  Pattern ｛action｝ 文件名 使用指定的字符對每一行數(shù)據(jù)進(jìn)行分段，默認(rèn)是空格（網(wǎng)站日志就是空格分開）
-F后面跟的是分隔符
pattern 就是action執(zhí)行的條件，這里可以使用正則表達(dá)式
$n 即時(shí)第幾段數(shù)據(jù) $0表示整行數(shù)據(jù)
NF表示當(dāng)前記錄的字段數(shù)
$NF 表示最后一個(gè)字段
BEGIN和END，這兩者都可用于pattern中，提供BEGIN和END的作用是給程序賦予初始狀態(tài)和在程序結(jié)束之后執(zhí)行一些掃尾的工作

bash shell.sh 運(yùn)行shell.sh腳本

dos2unix xxoo.sh 將“\r\n”轉(zhuǎn)換成“\n” Windows——>linux （由于Windows和Linux下的換行符不同，所以我們在Windows下面下的代碼需要使用dos2unix 轉(zhuǎn)換成Linux下的換行符，否則運(yùn)行shell腳本會(huì)報(bào)錯(cuò)）

unix2dos xxoo.sh 將“\n”轉(zhuǎn)換成“\r\n” linux——>Windows
rm xx.txt 刪除xx.txt文件

3、一些簡單的命令符介紹到這里，需要了解shell，建議大家查看相關(guān)的書籍.

下面我們開始使用shell分析日志

1、切割百度的抓取數(shù)據(jù)（將文件切割出來對專門的爬蟲數(shù)據(jù)進(jìn)行處理能提高效率）

最新評論