SpringBoot接入輕量級分布式日志框架(GrayLog)的操作方法
我是3y,一年CRUD
經(jīng)驗用十年的markdown
程序員??????常年被譽為優(yōu)質(zhì)八股文選手
前兩天我不是發(fā)了一篇數(shù)據(jù)鏈路追蹤的文章嘛,在末尾也遺留了TODO
:運行應(yīng)用的服務(wù)器一般是集群,日志數(shù)據(jù)會記錄到不同的機器上,排查和定位問題只能登錄各個服務(wù)器查看。
今天來聊聊這個話題。
00、為什么需要分布式日志組件?
在文章正式開始之前,我分享下我以前負(fù)責(zé)過的一個系統(tǒng),它的架構(gòu)如下:
每次當(dāng)我查問題的時候,我可能能把問題初步定位在邏輯層,但為了能給業(yè)務(wù)方交代,我需要給證據(jù)業(yè)務(wù)方看(日志信息就是鐵證)。
一個請求肯定是被這8臺機器內(nèi)的某一臺處理,但具體是哪一臺,我不知道。所以,我需要上每臺機器上grep
一把日志,然后才能找出對應(yīng)的日志證明我的分析。
有的時候,可能接入層也需要一起參與進去,就排查一個問題,人都傻了了(翻看日志的時間占用了太久了)。
后來啊,看了同事的騷操作(在item2
編寫腳本:快速登錄堡壘機(免去輸入賬號和密碼信息),根據(jù)應(yīng)用服務(wù)器數(shù)量來切割窗口并且切換到對應(yīng)的日志目錄)。說白了就是一鍵登錄多臺應(yīng)用服務(wù)器。嗯,這查日志的速度比起以前又快了好多。
再后來,公司運維側(cè)又主力推在Web頁面上登錄應(yīng)用服務(wù)器(自動登錄堡壘機),這能省去編寫腳本(支持批量操作)。但從當(dāng)時的體驗上,沒有用item2
訪問得流暢(總感覺卡卡的)。
不過還有問題,因為我們在很多時候是不知道在info
/warn
/error
哪個文件下。很多時候只能一個一個文件去查,雖然說可以直接通配符一把查,如果日志過大,帶來停頓時間也挺煩的。
系統(tǒng)一旦被問到業(yè)務(wù)問題,查日志的頻率實在是太高了。于是我在某個Q規(guī)劃的時候是想自己把日志信息寫入到搜索引擎,順便學(xué)習(xí)下搜索引擎的知識。然后這個規(guī)劃被組內(nèi)的某個大佬看到了,在底下評論:要不來試試Graylog?
原來組內(nèi)本身就在維護了一個日志框架,只是我不知道...于是我接入了Graylog
日志,工作效率杠杠提高了,憑借這個事情吹了一個Q。
自從接入了之后,我就沒登錄過應(yīng)用服務(wù)器了,有次差點連grep
都不會寫了。
01、輕量級ELK(Graylog)
說起ELK,即便沒用過肯定也聽說過這玩意了,在后端是真的流行。這次austin接入一個比較輕量級的ELK框架:Graylog
這個框架我感覺蠻好用的,作為使用方接入起來異常簡單(我估摸運維應(yīng)該也挺簡單的,很多用Graylog是直接發(fā)UDP到Server,不用在機器上裝agent收集日志)
一圖勝十言:
官方文檔:https://docs.graylog.org/docs
據(jù)我了解,有相當(dāng)多的企業(yè)使用它來查看日志和業(yè)務(wù)監(jiān)控告警,這篇文章我就直接讓你們體驗體驗吧。
02、部署Graylog
老樣子,直接上docker-compose,如果一直跟著我的步伐,應(yīng)該對著不陌生了。docker-compose.yml
的內(nèi)容其實我也是抄官網(wǎng)的,這里還是貼下吧(就不用你們翻了)
version: '3' services: mongo: image: mongo:4.2 networks: - graylog elasticsearch: image: docker.elastic.co/elasticsearch/elasticsearch-oss:7.10.2 environment: - http.host=0.0.0.0 - transport.host=localhost - network.host=0.0.0.0 - "ES_JAVA_OPTS=-Dlog4j2.formatMsgNoLookups=true -Xms512m -Xmx512m" ulimits: memlock: soft: -1 hard: -1 deploy: resources: limits: memory: 1g networks: - graylog graylog: image: graylog/graylog:4.2 environment: - GRAYLOG_PASSWORD_SECRET=somepasswordpepper - GRAYLOG_ROOT_PASSWORD_SHA2=8c6976e5b5410415bde908bd4dee15dfb167a9c873fc4bb8a81f6f2ab448a918 - GRAYLOG_HTTP_EXTERNAL_URI=http://ip:9009/ # 這里注意要改ip entrypoint: /usr/bin/tini -- wait-for-it elasticsearch:9200 -- /docker-entrypoint.sh networks: - graylog restart: always depends_on: - mongo - elasticsearch ports: - 9009:9000 - 1514:1514 - 1514:1514/udp - 12201:12201 - 12201:12201/udp networks: graylog: driver: bridg
這個文件里唯一需要改動的就是ip
(本來的端口是9000
的,我由于已經(jīng)占用了9000
端口了,所以我這里把端口改成了9009
,你們可以隨意)
嗯,寫完docker-compose.yml
文件,直接docker-compose up -d
它就啟動起來咯。
啟動以后,我們就可以通過ip:port
訪問對應(yīng)的Graylog后臺地址了,默認(rèn)的賬號和密碼是admin/admin
隨后,我們配置下inputs
的配置,找到GELF UDP
,然后點擊Launch new input
,只需要填寫Title
字段,保存就完事了(其他不用動)。
嗯,到這里,我們的GrayLog設(shè)置就完成了。
03、SpringBoot使用GrayLog
還記得我們austin
項目使用的日志框架嗎?沒錯,就是logback。我們要把日志數(shù)據(jù)寫入Graylog很簡單,只需要兩步:
1、引入依賴:
<dependency> <groupId>de.siegmar</groupId> <artifactId>logback-gelf</artifactId> <version>3.0.0</version> </dependency>
2、在logback.xml
配置graylog相關(guān)的信息:
<appender name="GELF" class="de.siegmar.logbackgelf.GelfUdpAppender"> <!-- Graylog服務(wù)的地址 --> <graylogHost>ip</graylogHost> <!-- UDP Input端口 --> <graylogPort>12201</graylogPort> <!-- 最大GELF數(shù)據(jù)塊大?。▎挝唬鹤止?jié)),508為建議最小值,最大值為65467 --> <maxChunkSize>508</maxChunkSize> <!-- 是否使用壓縮 --> <useCompression>true</useCompression> <encoder class="de.siegmar.logbackgelf.GelfEncoder"> <!-- 是否發(fā)送原生的日志信息 --> <includeRawMessage>false</includeRawMessage> <includeMarker>true</includeMarker> <includeMdcData>true</includeMdcData> <includeCallerData>false</includeCallerData> <includeRootCauseData>false</includeRootCauseData> <!-- 是否發(fā)送日志級別的名稱,否則默認(rèn)以數(shù)字代表日志級別 --> <includeLevelName>true</includeLevelName> <shortPatternLayout class="ch.qos.logback.classic.PatternLayout"> <pattern>%m%nopex</pattern> </shortPatternLayout> <fullPatternLayout class="ch.qos.logback.classic.PatternLayout"> <pattern>%d - [%thread] %-5level %logger{35} - %msg%n</pattern> </fullPatternLayout> <!-- 配置應(yīng)用名稱(服務(wù)名稱),通過staticField標(biāo)簽可以自定義一些固定的日志字段 --> <staticField>app_name:austin</staticField> </encoder> </appender>
在這個配置信息里,唯一要改的也只是ip的地址,到這里接入就完畢了,我們再打開控制臺,就能看到日志的信息啦。
04、懂點GrayLog
懂點GrayLog查詢語法:這塊我日常來來去去其實就用幾個,我來展示下我平時用的吧。如果覺得不夠,再去官網(wǎng)文檔撈一把就完事了:https://docs.graylog.org/docs/query-language
1、根據(jù)字段精確查詢:full_message:"13788888888"
2、查詢錯誤日志信息:level_name:"ERROR"
3、組合多字段查詢:level_name:"INFO" AND full_message:"13788888888"
在接入的時候,仔細(xì)的小伙伴可能會發(fā)現(xiàn)我這邊在Input的時候選擇的是GELF
,然后在引入Maven依賴的時候也有GELF
的字樣。那GELF
是啥意思呢?
這塊在官網(wǎng)也有給出對應(yīng)的解釋:The Graylog Extended Log Format (GELF) is a log format that avoids the shortcomings of classic plain syslog
詳細(xì)資料:https://docs.graylog.org/docs/gelf
GELF
是一種日志格式,能避免傳統(tǒng)意義上的 syslogs
的一些問題,而我們引入的Maven依賴則是把日志格式化成GELF
格式然后append到GrayLog上。
05 、番外:Swagger
前幾天有個老哥在GitHub給我提了個pull request
關(guān)于swagger
的,我昨天把他merge
了,也升級了下swagger
的版本。
之前我沒用過swagger
類似的文檔工具,就這次pull request
我也去體驗了下swagger
。
在初次的體驗感覺是不錯的:它能把項目的所有接口的文檔信息都能在一個頁面上統(tǒng)一管理,并且就能直接通過樣例參數(shù)直接發(fā)送請求。通過注解的方式來進行編寫文檔,也不用擔(dān)心代碼改了然后忘了更新文檔這事。
但是,后來我配置好對應(yīng)的參數(shù)信息文檔,再在swagger-ui
體驗了下,發(fā)現(xiàn)是真滴丑,看到這ui
我還是階段性放棄吧。
swagger
的競品還有好幾個,我看ui
貌似都要比swagger
好看。不過,austin項目的主要接口就只有一個,我作為熟練掌握的markdown
工程師能輕松勝任文檔工作,就沒再繼續(xù)體驗別的競品了。
06、總結(jié)
之前我好像是在知乎看到過類似的一段話:一個工具或框架使用優(yōu)秀,就取決于它的入門的難易。如果一個框架要花很長時間才能弄懂,那可能它做得并沒那么好。
我其實不會經(jīng)常去研究各種使用的框架它的細(xì)節(jié)原理,也不會蒙頭就去看源碼,沒什么必要,畢竟它沒出問題啊。
像GrayLog這種工具類的框架,如果在公司不是主要的維護者,其實不必太過于糾結(jié)他的實現(xiàn)細(xì)節(jié),可以從總體上把握他的設(shè)計思想。換我建議,真要學(xué)習(xí),還得是看它的具體存儲(比如Elasticsearch的原理)
austin項目源碼Gitee鏈接:gitee.com/austin
austin項目源碼GitHub鏈接:github.com/austin
到此這篇關(guān)于SpringBoot接入輕量級分布式日志框架(GrayLog)的文章就介紹到這了,更多相關(guān)SpringBoot GrayLog日志框架內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
idea中啟動項目彈出 IDEA out of memory窗口的解決方案
這篇文章主要介紹了idea中啟動項目彈出 IDEA out of memory窗口的解決方案,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-01-01Spring?Session(分布式Session共享)實現(xiàn)示例
這篇文章主要介紹了Spring?Session(分布式Session共享)實現(xiàn)示例,文章內(nèi)容詳細(xì),需要的朋友可以參考下2023-01-01springboot打war包部署到外置tomcat容器的方法
這篇文章主要介紹了springboot]打war包部署到外置tomcat容器,在這需要注意的是在boot-launch.war在tomcat?webapps目錄里面解壓到boot-launch文件夾,感興趣的朋友跟隨小編一起看看吧2022-04-04