欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Filebeat 采集 Nginx 日志的方法

 更新時間:2020年10月23日 08:27:53   作者:葉康銘  
這篇文章主要介紹了Filebeat 采集 Nginx 日志的方法,本文給大家介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下

Nginx 日志可用于分析用戶地址位置,行為畫像等,如何通過 Elastic Stack 進(jìn)行一站式的數(shù)據(jù)采集,數(shù)據(jù)清洗,數(shù)據(jù)落地,數(shù)據(jù)可視化,讓數(shù)據(jù)發(fā)揮真正的價值呢?

架構(gòu)設(shè)計(jì)

涉及到 Elastic Stack 中 Filebeat 是用于采集 Nginx 相關(guān)的日志, Elasticsearch 是用于對于數(shù)據(jù)落地存儲和搜索的引擎, Kibana 是用于對數(shù)據(jù)可視化的工具。

在 Nginx 中相關(guān)的日志是存儲在 /var/log/nginx 目錄下的,分別是訪問日志 access.log,錯誤日志 error.log。

在這里插入圖片描述

如果是裸機(jī)環(huán)境下,可以直接在同一主機(jī)下安裝 Filebeat 針對日志文件進(jìn)行采集。
如果是 Docker 環(huán)境下,建議 Nginx 使用 Volume 的方式進(jìn)行共享日志文件給 Filebeat 采集。
如果是 Kubernetes 環(huán)境下,建議在 Pod 中添加 Filebeat Container進(jìn)行對 PV 采集。

針對不同場景有不同的采集方案,有些可以利用Daemonset采集宿主機(jī)上的日志,有些是以Sidecar方式進(jìn)行采集,具體視業(yè)務(wù)場景而定。

實(shí)施方法

以 Docker 環(huán)境下為例

Nginx

創(chuàng)建存儲卷,便于 Nginx 和 Filebeat 容器共同掛載
docker volume create nginx-log-volume

啟動 Nginx 容器,并且將存儲卷映射到日志目錄
docker run -d --name nginx -p 80:80 -v nginx-log-volume:/var/log/nginx nginx:latest

進(jìn)入容器修改配置
docker exec -it nginx /bin/bash

由于容器環(huán)境下,默認(rèn)的日志會輸入到stdout,所以取消該設(shè)置并指定文件
unlink /var/log/nginx/access.log
unlink /var/log/nginx/error.log
touch /var/log/nginx/access.log /var/log/nginx/error.log
nginx -s reload

Filebeat

啟動 Filebeat 容器,并且將存儲卷映射到數(shù)據(jù)目錄
docker run -d --name filebeat --user=root -v nginx-log-volume:/data elastic/filebeat:7.9.2

進(jìn)入容器修改配置
docker exec -it filebeat /bin/bash

修改配置,添加 Elasticsearch 和 Kibana 的主機(jī)
vi filebeat.yml

filebeat.config:
 modules:
  path: ${path.config}/modules.d/*.yml
  reload.enabled: false

processors:
 - add_cloud_metadata: ~
 - add_docker_metadata: ~

output.elasticsearch:
 hosts: 'elasticsearch:9200'
 username: "elastic"
 password: "xxx"
setup.kibana:
 host: "kibana:5601"

啟用 Nginx 采集模塊

filebeat modules enable nginx

編輯 Nginx 采集配置
vi modules.d/nginx.yml

- module: nginx
 access:
  enabled: true
  var.paths: ["/data/access.log*"]
 error:
  enabled: true
  var.paths: ["/data/error.log*"]

設(shè)置 Filebeat 創(chuàng)建 Kibana上的 Index Pattern 和 Dashboard
filebeat setup

重啟 Filebeat 生效配置
docker restart filebeat

可視化展示

通過 Kibana 中的 Dashboard 功能
展示 Nginx 對于日志的訪問情況及用戶地址位置、瀏覽器信息

在這里插入圖片描述

展示 Nginx 對于訪問日志和錯誤日志的具體請求信息

在這里插入圖片描述

相關(guān)文章

  • 解決Nginx端口沖突的排查方法示例

    解決Nginx端口沖突的排查方法示例

    這篇文章主要介紹了解決Nginx端口沖突的排查方法示例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-07-07
  • nginx if 指令的具體使用

    nginx if 指令的具體使用

    if指令該指令用來支持條件判斷,并根據(jù)條件判斷結(jié)果選擇不同的Nginx配置,本文主要介紹了nginx if 指令的具體使用,具有一定的參考價值,感興趣的可以了解一下
    2024-05-05
  • Docker Nginx容器和Tomcat容器實(shí)現(xiàn)負(fù)載均衡與動靜分離操作

    Docker Nginx容器和Tomcat容器實(shí)現(xiàn)負(fù)載均衡與動靜分離操作

    這篇文章主要介紹了Docker Nginx容器和Tomcat容器實(shí)現(xiàn)負(fù)載均衡與動靜分離操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-11-11
  • 使用nginx實(shí)現(xiàn)一個端口和ip訪問多個vue前端的全過程

    使用nginx實(shí)現(xiàn)一個端口和ip訪問多個vue前端的全過程

    為滿足單端口訪問多個前端應(yīng)用的需求,需要對nginx進(jìn)行配置,同時修改vue項(xiàng)目的publicPath參數(shù),這篇文章主要介紹了使用nginx實(shí)現(xiàn)一個端口和ip訪問多個vue前端的相關(guān)資料,需要的朋友可以參考下
    2024-09-09
  • Nginx配置多臺機(jī)器實(shí)現(xiàn)負(fù)載均衡的教程詳解

    Nginx配置多臺機(jī)器實(shí)現(xiàn)負(fù)載均衡的教程詳解

    這篇文章主要為大家詳細(xì)介紹了Nginx配置多臺機(jī)器實(shí)現(xiàn)負(fù)載均衡的相關(guān)教程,文中的示例代碼簡潔易懂,有需要的小伙伴可以跟隨小編一起學(xué)習(xí)一下
    2024-03-03
  • Nginx的使用經(jīng)驗(yàn)小結(jié)

    Nginx的使用經(jīng)驗(yàn)小結(jié)

    相信很多人都聽過nginx,這個小巧的東西慢慢地在吞食apache和IIS的份額。今天我們就簡單介紹下本人在使用nginx的過程中的一些小小的經(jīng)驗(yàn)
    2017-10-10
  • Linux下Nginx服務(wù)設(shè)置開機(jī)自啟動的命令詳解

    Linux下Nginx服務(wù)設(shè)置開機(jī)自啟動的命令詳解

    這篇文章主要介紹了Linux下Nginx服務(wù)設(shè)置開機(jī)自啟動的命令,文中通過代碼示例介紹的非常詳細(xì),對大家的學(xué)習(xí)或工作有一定的幫助,需要的朋友可以參考下
    2024-09-09
  • nginx限流方案的實(shí)現(xiàn)(三種方式)

    nginx限流方案的實(shí)現(xiàn)(三種方式)

    一般對外暴露的系統(tǒng),在促銷或者黑客攻擊時會涌來大量的請求,為了保護(hù)系統(tǒng)不被瞬間到來的高并發(fā)流量給打垮, 就需要限流,這篇文章主要介紹了nginx限流方案的實(shí)現(xiàn),非常具有實(shí)用價值,需要的朋友可以參考下
    2018-05-05
  • nginx配置PC站手機(jī)站分離實(shí)現(xiàn)重定向

    nginx配置PC站手機(jī)站分離實(shí)現(xiàn)重定向

    這篇文章主要介紹了nginx配置PC站手機(jī)站分離實(shí)現(xiàn)重定向,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2020-03-03
  • nginx搭建jsdelivr鏡像站過程詳解

    nginx搭建jsdelivr鏡像站過程詳解

    這篇文章主要為大家介紹了nginx搭建jsdelivr鏡像站的步驟詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2022-06-06

最新評論