欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Golang監(jiān)聽(tīng)日志文件并發(fā)送到kafka中

 更新時(shí)間:2022年04月14日 15:43:28   作者:zhijie  
這篇文章主要介紹了Golang監(jiān)聽(tīng)日志文件并發(fā)送到kafka中,日志收集項(xiàng)目的準(zhǔn)備中,本文主要講的是利用golang的tail庫(kù),監(jiān)聽(tīng)日志文件的變動(dòng),將日志信息發(fā)送到kafka中?,需要的朋友可以參考一下

前言

日志收集項(xiàng)目的準(zhǔn)備中,本文主要講的是利用golang的tail庫(kù),監(jiān)聽(tīng)日志文件的變動(dòng),將日志信息發(fā)送到kafka中。

涉及的golang庫(kù)和可視化工具:

go-ini,sarama,tail其中:

  • go-ini:用于讀取配置文件,統(tǒng)一管理配置項(xiàng),有利于后其的維護(hù)
  • sarama:是一個(gè)go操作kafka的客戶(hù)端。目前我用于向kefka發(fā)送消息
  • tail:類(lèi)似于linux的tail命令了,讀取文件的后幾行。如果文件有追加數(shù)據(jù),會(huì)檢測(cè)到。就是通過(guò)它來(lái)監(jiān)聽(tīng)日志文件

可視化工具:

offsetexplorer:是kafka的可視化工具,這里用來(lái)查看消息是否投遞成功

工作的流程

  • 加載配置,初始化saramakafka
  • 起一個(gè)的協(xié)程,利用tail不斷去監(jiān)聽(tīng)日志文件的變化。
  • 主協(xié)程中一直阻塞等待tail發(fā)送消息,兩者通過(guò)一個(gè)管道通訊。一旦主協(xié)程接收到新日志,組裝格式,然后發(fā)送到kafka中

main.png

環(huán)境準(zhǔn)備

環(huán)境的話(huà),確保zookeeperkafka正常運(yùn)行。因?yàn)檫€沒(méi)有使用sarama讀取數(shù)據(jù),使用offsetexplorer來(lái)查看任務(wù)是否真的投遞成功了。

代碼分層

serve來(lái)存放寫(xiě)tail服務(wù)類(lèi)和sarama服務(wù)類(lèi),conf存放ini配置文件

main函數(shù)為程序入口

 

pro-dir.png

關(guān)鍵的代碼

main.go

main函數(shù)做的有:構(gòu)建配置結(jié)構(gòu)體,映射配置文件。調(diào)用和初始化tail,srama服務(wù)。

package main

import (
	"fmt"
	"sarama/serve"

	"github.com/go-ini/ini"
)

type KafkaConfig struct {
	Address     string `ini:"address"`
	ChannelSize int    `ini:"chan_size"`
}
type TailConfig struct {
	Path     string `ini:"path"`
	Filename string `ini:"fileName"`
	// 如果是結(jié)構(gòu)體,則指明分區(qū)名
	Children `ini:"tailfile.children"`
}
type Config struct {
	KafkaConfig `ini:"kafka"`
	TailConfig  `ini:"tailfile"`
}
type Children struct {
	Name string `ini:"name"`
}

func main() {
	// 加載配置
	var cfg = new(Config)
	err := ini.MapTo(cfg, "./conf/go-conf.ini")
	if err != nil {
		fmt.Print(err)
	}
	// 初始化kafka
	ks := &serve.KafukaServe{}
	// 啟動(dòng)kafka消息監(jiān)聽(tīng)。異步
	ks.InitKafka([]string{cfg.KafkaConfig.Address}, int64(cfg.KafkaConfig.ChannelSize))
	// 關(guān)閉主協(xié)程時(shí),關(guān)閉channel
	defer ks.Destruct()

	// 初始化tail
	ts := &serve.TailServe{}
	ts.TailInit(cfg.TailConfig.Path + "/" + cfg.TailConfig.Filename)
	// 阻塞
	ts.Listener(ks.MsgChan)

}

kafka.go

有3個(gè)方法 :

  • InitKafka,組裝配置項(xiàng)以及初始化接收消息的管道,
  • Listener,監(jiān)聽(tīng)管道消息,收到消息后,將消息組裝,發(fā)送到kafka
  • Destruct, 關(guān)閉管道
package serve

import (
	"fmt"

	"github.com/Shopify/sarama"
)

type KafukaServe struct {
	MsgChan chan string
	//err         error
}

func (ks *KafukaServe) InitKafka(addr []string, chanSize int64) {

	// 讀取配置
	config := sarama.NewConfig()
	// 1. 初始化生產(chǎn)者配置
	config.Producer.RequiredAcks = sarama.WaitForAll
	// 選擇分區(qū)
	config.Producer.Partitioner = sarama.NewRandomPartitioner
	// 成功交付的信息
	config.Producer.Return.Successes = true

	ks.MsgChan = make(chan string, chanSize)

	go ks.Listener(addr, chanSize, config)

}

func (ks *KafukaServe) Listener(addr []string, chanSize int64, config *sarama.Config) {
	//  連接kafka
	var kafkaClient, _ = sarama.NewSyncProducer(addr, config)
	defer kafkaClient.Close()
	for {
		select {
		case content := <-ks.MsgChan:
			//
			msg := &sarama.ProducerMessage{
				Topic: "weblog",
				Value: sarama.StringEncoder(content),
			}
			partition, offset, err := kafkaClient.SendMessage(msg)
			if err != nil {
				fmt.Println(err)
			}
			fmt.Println("分區(qū),偏移量:")
			fmt.Println(partition, offset)
			fmt.Println("___")
		}

	}
}

func (ks *KafukaServe) Destruct() {
	close(ks.MsgChan)
}

tail.go

主要包括了兩個(gè)方法:

  • TailInit初始化,組裝tail配置。Listener
  • Listener,保存kafka服務(wù)類(lèi)初始化之后的管道。監(jiān)聽(tīng)日志文件,如果有新日志,就往管道里發(fā)送
package serve

import (
	"fmt"

	"github.com/hpcloud/tail"
)

type TailServe struct {
	tails *tail.Tail
}

func (ts *TailServe) TailInit(filenName string) {
	config := tail.Config{
		ReOpen:    true,
		Follow:    true,
		Location:  &tail.SeekInfo{Offset: 0, Whence: 2},
		MustExist: false,
		Poll:      true,
	}
	// 打開(kāi)文件開(kāi)始讀取數(shù)據(jù)

	ts.tails, _ = tail.TailFile(filenName, config)

	// if err != nil {
	// 	fmt.Println("tails %s failed,err:%v\n", filenName, err)
	// 	return nil, err
	// }
	fmt.Println("啟動(dòng)," + filenName + "監(jiān)聽(tīng)")
}

func (ts *TailServe) Listener(MsgChan chan string) {
	for {
		msg, ok := <-ts.tails.Lines
		if !ok {
			// todo
			fmt.Println("數(shù)據(jù)接收失敗")
			return
		}
		fmt.Println(msg.Text)
		MsgChan <- msg.Text
	}
}

// 測(cè)試案例
func Demo() {
	filename := `E:\xx.log`
	config := tail.Config{
		ReOpen:    true,
		Follow:    true,
		Location:  &tail.SeekInfo{Offset: 0, Whence: 2},
		MustExist: false,
		Poll:      true,
	}
	// 打開(kāi)文件開(kāi)始讀取數(shù)據(jù)
	tails, err := tail.TailFile(filename, config)
	if err != nil {
		fmt.Println("tails %s failed,err:%v\n", filename, err)
		return
	}
	var (
		msg *tail.Line
		ok  bool
	)
	fmt.Println("啟動(dòng)")
	for {
		msg, ok = <-tails.Lines
		if !ok {
			fmt.Println("tails file close reopen,filename:$s\n", tails.Filename)
		}
		fmt.Println("msg:", msg.Text)
	}
}

到此這篇關(guān)于Golang監(jiān)聽(tīng)日志文件并發(fā)送到kafka中的文章就介紹到這了,更多相關(guān)Golang 監(jiān)聽(tīng)日志文件 內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • go并發(fā)數(shù)據(jù)一致性事務(wù)的保障面試應(yīng)答

    go并發(fā)數(shù)據(jù)一致性事務(wù)的保障面試應(yīng)答

    這篇文章主要為大家介紹了go并發(fā)數(shù)據(jù)一致性事務(wù)的保障面試應(yīng)答,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2023-12-12
  • Golang?Compare?And?Swap算法詳細(xì)介紹

    Golang?Compare?And?Swap算法詳細(xì)介紹

    CAS算法是一種有名的無(wú)鎖算法。無(wú)鎖編程,即不使用鎖的情況下實(shí)現(xiàn)多線(xiàn)程之間的變量同步,也就是在沒(méi)有線(xiàn)程被阻塞的情況下實(shí)現(xiàn)變量的同步,所以也叫非阻塞同步Non-blocking?Synchronization
    2022-10-10
  • GoFrame框架gredis優(yōu)雅的取值和類(lèi)型轉(zhuǎn)換

    GoFrame框架gredis優(yōu)雅的取值和類(lèi)型轉(zhuǎn)換

    這篇文章主要為大家介紹了GoFrame框架gredis優(yōu)雅的取值和類(lèi)型轉(zhuǎn)換,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2022-06-06
  • Win10系統(tǒng)下Golang環(huán)境搭建全過(guò)程

    Win10系統(tǒng)下Golang環(huán)境搭建全過(guò)程

    在編程語(yǔ)言的選取上,越來(lái)越多的人選擇了Golang,下面這篇文章主要給大家介紹了關(guān)于Win10系統(tǒng)下Golang環(huán)境搭建的相關(guān)資料,文中通過(guò)代碼介紹的非常詳細(xì),需要的朋友可以參考下
    2024-01-01
  • go實(shí)現(xiàn)圖片拼接與文字書(shū)寫(xiě)的方法實(shí)例

    go實(shí)現(xiàn)圖片拼接與文字書(shū)寫(xiě)的方法實(shí)例

    這篇文章主要給大家介紹了關(guān)于go實(shí)現(xiàn)圖片拼接與文字書(shū)寫(xiě)的相關(guān)資料,文中通過(guò)實(shí)例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下
    2022-01-01
  • 詳解Go 結(jié)構(gòu)體格式化輸出

    詳解Go 結(jié)構(gòu)體格式化輸出

    這篇文章主要介紹了Go 結(jié)構(gòu)體格式化輸出的相關(guān)資料,幫助大家更好的理解和學(xué)習(xí)go語(yǔ)言,感興趣的朋友可以了解下
    2020-08-08
  • Go Uber靜態(tài)分析工具NilAway使用初體驗(yàn)

    Go Uber靜態(tài)分析工具NilAway使用初體驗(yàn)

    這篇文章主要介紹了Go Uber靜態(tài)分析工具NilAway使用詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2024-01-01
  • 一步步教你在Linux上安裝Go語(yǔ)言環(huán)境

    一步步教你在Linux上安裝Go語(yǔ)言環(huán)境

    本文將介紹如何在Linux操作系統(tǒng)下搭建Go語(yǔ)言環(huán)境,Go語(yǔ)言是一種開(kāi)源的編程語(yǔ)言,具有高效、簡(jiǎn)潔和并發(fā)性強(qiáng)的特點(diǎn),適用于開(kāi)發(fā)各種類(lèi)型的應(yīng)用程序,搭建Go語(yǔ)言環(huán)境是開(kāi)始學(xué)習(xí)和開(kāi)發(fā)Go語(yǔ)言項(xiàng)目的第一步,本文將詳細(xì)介紹安裝Go語(yǔ)言、配置環(huán)境變量以及驗(yàn)證安裝是否成功的步驟
    2023-10-10
  • golang實(shí)現(xiàn)的文件上傳下載小工具

    golang實(shí)現(xiàn)的文件上傳下載小工具

    這篇文章主要介紹了golang實(shí)現(xiàn)的文件上傳下載小工具,幫助大家更好的理解和使用python,感興趣的朋友可以了解下
    2020-12-12
  • golang之反射和斷言的具體使用

    golang之反射和斷言的具體使用

    這篇文章主要介紹了golang之反射和斷言的具體使用,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2019-10-10

最新評(píng)論