使用filebeat收集并解析springboot日志過程示例
序
本文主要研究一下如何使用filebeat收集并解析springboot日志
安裝
在官網(wǎng)的下載頁面filebeat/downloads提供了一些特定平臺的安裝包,不過對應(yīng)linux最為省事的安裝方式就是直接下載x86_64壓縮包,然后解壓即可
wget https://artifacts.elastic.co/downloads/beats/filebeat/filebeat-8.9.0-linux-x86_64.tar.gz
解析
filebat.yml主要有input和output組成
json
比如對于json格式的日志,其input示例如下
filebeat.inputs: - type: log paths: - "/data/logs/*/error.log" document_type: json json.message_key: log json.keys.under_root: true json.overwrite_keys: true fields: logType: errJson fields_under_root: true
對于json類型的指定document_type為json,其中json.message_key
用于指定json中哪個字段為message
logback
springboot logback默認的file pattern為
org/springframework/boot/spring-boot/2.7.14/spring-boot-2.7.14.jar!/org/springframework/boot/logging/logback/defaults.xml
<property name="FILE_LOG_PATTERN" value="${FILE_LOG_PATTERN:-%d{${LOG_DATEFORMAT_PATTERN:-yyyy-MM-dd HH:mm:ss.SSS}} ${LOG_LEVEL_PATTERN:-%5p} ${PID:- } --- [%t] %-40.40logger{39} : %m%n${LOG_EXCEPTION_CONVERSION_WORD:-%wEx}}"/>
打印出來的示例如下
2023-08-05 20:47:11.069 INFO 3396 --- [ main] org.example.Main : Started Main in 1.662 seconds (JVM running for 2.228)
針對這個,可以用filebeat的dissect來解析,如下
filebeat.inputs: - type: stdin processors: - dissect: tokenizer: "%{logDate} %{logTime} %{logLevel} %{pid} --- [%{thread}] %{logger} : %{message}" field: "message" output.console: enabled: true pretty: true
解析出來的json如下
{ "@timestamp": "2023-08-05T12:53:28.738Z", "@metadata": { "beat": "filebeat", "type": "_doc", "version": "8.9.0" }, "log": { "offset": 0, "file": { "path": "" } }, "message": "2023-08-05 20:47:11.069 INFO 3396 --- [ main] org.example.Main : Started Main in 1.662 seconds (JVM running for 2.228)", "input": { "type": "stdin" }, "dissect": { "logTime": "20:47:11.069", "logLevel": "INFO", "pid": "3396", "thread": " main", "logger": "org.example.Main ", "message": "Started Main in 1.662 seconds (JVM running for 2.228)", "logDate": "2023-08-05" }, "agent": { "name": "dembp", "type": "filebeat", "version": "8.9.0", "ephemeral_id": "4e4a9ee3-4682-41ab-ad9b-f4821543d991", "id": "597a1a87-8165-492b-a9e8-d6530376b179" }, "ecs": { "version": "8.0.0" }, "host": { "name": "dembp" } }
處理換行
上面給的例子其實沒有處理換行的情況,這個時候可以使用filebeat的multiline來指定,比如
filebeat.inputs: - type: stdin multiline: pattern: '^\d{4}-\d{2}-\d{2}' negate: true match: after
這里指定用^\d{4}-\d{2}-\d{2}
來匹配日期開頭的日志,匹配上了就是一條日志;negate為true表示沒有匹配上的那一行歸屬上面一條日志,而match的after代表合并到上一行的末尾,before代表合并到下一行的開頭
輸出
對于大型的應(yīng)用,一般filebeat做輕量級的收集,不做解析,解析交給logstash或者elasticsearch pipeline或者其他中間服務(wù);而對于一些小型規(guī)模的或者是非生產(chǎn)環(huán)境,在多部署一個logstash顯得有點繁瑣,可以用dissect替代logstash的grok進行日志解析,然后就可以直接output到目標服務(wù),比如elasticsearch
logstash
output: logstash: hosts: ["192.168.99.100:5044"]
elasticsearch
output.elasticsearch: hosts: ["192.168.99.100:9200"] username: "xxxx" password: "xxxx"
小結(jié)
filebeat提供了processor能力,其中dissect替代logstash的grok進行日志解析,非常便捷。
doc dissect
以上就是使用filebeat收集并解析springboot日志的詳細內(nèi)容,更多關(guān)于使用filebeat收集并解析springboot日志的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Java實現(xiàn)游戲飛機大戰(zhàn)-III的示例代碼
這篇文章主要為大家介紹了如何利用Java實現(xiàn)經(jīng)典的游戲之飛機大戰(zhàn),文中采用了swing技術(shù)進行了界面化處理,感興趣的小伙伴可以動手試一試2022-02-02SchedulingConfigurer實現(xiàn)動態(tài)定時,導(dǎo)致ApplicationRunner無效解決
這篇文章主要介紹了SchedulingConfigurer實現(xiàn)動態(tài)定時,導(dǎo)致ApplicationRunner無效的解決方案,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2023-05-05Java Process與Runtime()的使用及調(diào)用cmd命令阻塞的解決方案
這篇文章主要介紹了Java Process與Runtime()的使用及調(diào)用cmd命令阻塞的解決方案,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2021-06-06