Go語言kafka生產(chǎn)消費消息實例搬磚
kafka go庫
kafka go客戶端官方目前沒有提供,但在github有2個非常流行的庫
星星較多,網(wǎng)上案例也多 https://github.com/Shopify/sarama
confluent官網(wǎng)提供的庫 https://github.com/confluentinc/confluent-kafka-go
這里使用sarama,因為星星多,案例多,方便快速上手
注意
如果kafka版本在2.2以下,需要在go.mod里面將sarama版本改為github.com/Shopify/sarama v1.24.1
這是因為sarama只提供最新2個版本+2個月的兼容保證,所以使用低版本kafka是需要避坑
使用非集群集群生產(chǎn)者時,需要自行去創(chuàng)建topic,如果使用集群生產(chǎn)者,集群會自動創(chuàng)建
例子
package main import ( "fmt" "github.com/Shopify/sarama" cluster "github.com/bsm/sarama-cluster" "time" ) var ( Consumer *cluster.Consumer producer sarama.SyncProducer brokers = []string{"ip1:9092","ip2:9092","ip3:9092"} topic = "testGo" groupId = "testGo_test1" ) func initProducer() { var err error config := sarama.NewConfig() config.Producer.RequiredAcks = sarama.WaitForLocal config.Producer.Retry.Max = 3 config.Producer.Return.Successes = true brokers := brokers producer, err = sarama.NewSyncProducer(brokers,config) if err != nil { fmt.Printf("生產(chǎn)者初始化失敗 -> %v \n", err) panic(err) } fmt.Println("生產(chǎn)者初始化成功。") } func initConsumer() { var err error config := cluster.NewConfig() config.Consumer.Group.Rebalance.Strategy = sarama.BalanceStrategyRange config.Consumer.Offsets.Initial = sarama.OffsetNewest Consumer, err = cluster.NewConsumer(brokers,groupId,[]string{topic},config) if err != nil { fmt.Printf("消費者初始化失敗 -> %v \n", err) panic(err.Error()) } if Consumer == nil { panic(fmt.Sprintf("消費者為空. kafka info -> {brokers:%v, topic: %v, group: %v}", brokers, topic, groupId)) } fmt.Printf("消費者初始化成功, consumer -> %v, topic -> %v, ", Consumer, topic) } func main() { initProducer() initConsumer() //生產(chǎn)消息 for i := 1;i < 100; i ++ { pid, offset, err := producer.SendMessage(&sarama.ProducerMessage{ Topic: topic, Key: sarama.StringEncoder(i), Value: sarama.ByteEncoder("this is test message."), }) if err != nil { fmt.Println("發(fā)送消息失敗, err:", err) return } fmt.Printf("offset: %v\n", offset) } time.Sleep(2 * time.Second) //消費消息 for { select { case msg, ok := <-Consumer.Messages(): if ok { fmt.Printf("kafka msg: %s \n", msg.Value) } } } }
運行結(jié)果如下
該demo流程如下
- 引入單機(jī)sarama庫和集群sarama庫
- 定義連接變量
- 使用單sarama庫實例化一個生產(chǎn)者
- 使用集群sarama庫實例化一個消費者
- 循環(huán)100次發(fā)送100條消息
- 使用sarama自帶的生產(chǎn)消息構(gòu)造器設(shè)置消息內(nèi)容
- 使用for讓進(jìn)程一直監(jiān)聽來自kafka的消息
以上就是Go語言kafka生產(chǎn)消費消息實例搬磚的詳細(xì)內(nèi)容,更多關(guān)于Go語言kafka生產(chǎn)消費消息的資料請關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
Golang程序中使用Prometheus的client_golang庫
這篇文章主要介紹了Golang程序中使用Prometheus的client_golang庫,Prometheus 是一個開源的監(jiān)控和警報工具包,用于收集和處理應(yīng)用程序和系統(tǒng)的指標(biāo)數(shù)據(jù)。Prometheus 提供了多種客戶端庫,可以輕松地集成到各種編程語言中2023-04-04Go語言繼承功能使用結(jié)構(gòu)體實現(xiàn)代碼重用
今天我來給大家介紹一下在?Go?語言中如何實現(xiàn)類似于繼承的功能,讓我們的代碼更加簡潔和可重用,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2024-01-01xorm根據(jù)數(shù)據(jù)庫生成go model文件的操作
這篇文章主要介紹了xorm根據(jù)數(shù)據(jù)庫生成go model文件的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-12-12使用Golang創(chuàng)建單獨的WebSocket會話
WebSocket是一種在Web開發(fā)中非常常見的通信協(xié)議,它提供了雙向、持久的連接,適用于實時數(shù)據(jù)傳輸和實時通信場景,本文將介紹如何使用 Golang 創(chuàng)建單獨的 WebSocket 會話,包括建立連接、消息傳遞和關(guān)閉連接等操作,需要的朋友可以參考下2023-12-12Golang中g(shù)oroutine和channel使用介紹深入分析
一次只做一件事情并不是完成任務(wù)最快的方法,一些大的任務(wù)可以拆解成若干個小任務(wù),goroutine可以讓程序同時處理幾個不同的任務(wù),goroutine使用channel來協(xié)調(diào)它們的工作,channel允許goroutine互相發(fā)送數(shù)據(jù)并同步,這樣一個goroutine就不會領(lǐng)先于另一個goroutine2023-01-01