欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

SpringBoot+Nacos+Kafka微服務流編排的簡單實現(xiàn)

 更新時間:2021年08月19日 16:06:09   作者:熱黃油啤酒  
本文主要介紹了SpringBoot+Nacos+Kafka微服務流編排的簡單實現(xiàn),文中通過示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下

前言

最近一直在做微服務開發(fā),涉及了一些數(shù)據(jù)處理模塊的開發(fā),每個處理業(yè)務都會開發(fā)獨立的微服務,便于后面拓展和流編排,學習了SpringCloud Data Flow等框架,感覺這個框架對于我們來說太重了,維護起來也比較麻煩,于是根據(jù)流編排的思想,基于我們目前的技術棧實現(xiàn)簡單的流編排功能。

簡單的說,我們希望自己的流編排就是微服務可插拔,微服務數(shù)據(jù)入口及輸出可不停機修改。

準備工作

Nacos安裝及使用入門

自己學習的話推薦使用docker安裝,命令如下

  • 拉取鏡像 docker pull nacos/nacos-server
  • 創(chuàng)建服務 docker run --env MODE=standalone --name nacos -d -p 8848:8848 nacos/nacos-server

然后在瀏覽器輸入 ip:8848/nacos 賬號nacos 密碼nacos

docker能夠幫助我們快速安裝服務,減少再環(huán)境準備花的時間

準備三個SpringBoot服務,引入Nacos及Kafka

<parent>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-parent</artifactId>
   <version>2.1.0.RELEASE</version>
</parent>

<dependency>
   <groupId>org.springframework.kafka</groupId>
   <artifactId>spring-kafka</artifactId>
</dependency>

<dependency>
   <groupId>com.alibaba.boot</groupId>
   <artifactId>nacos-config-spring-boot-starter</artifactId>
   <version>0.2.1</version>
</dependency>

配置文件

spring:
  kafka:
    bootstrap-servers: kafka-server:9092
    producer:
      acks: all
    consumer:
      group-id: node1-group #三個服務分別為node1 node2 node3
      enable-auto-commit: false
# 部署的nacos服務
nacos:
  config:
    server-addr: nacos-server:8848

建議配置本機host 就可以填寫xxx-server 不用填寫服務ip

業(yè)務解讀

我們現(xiàn)在需要對三個服務進行編排,保障每個服務可以插拔,也可以調(diào)整服務的位子示意圖如下:

  • node1服務監(jiān)聽前置服務發(fā)送的數(shù)據(jù)流,輸入的topic為前置數(shù)據(jù)服務輸出topic
  • node2監(jiān)聽node1處理后的數(shù)據(jù),所以node2監(jiān)聽的topic為node1輸出的topic,node3同理,最終node3處理完成后將數(shù)據(jù)發(fā)送到數(shù)據(jù)流終點
  • 我們現(xiàn)在要調(diào)整流程 移除node2-server,我們只需要把node1-sink改變成node2-sink即可,這樣我們這幾個服務就可以靈活的嵌入的不同項目的數(shù)據(jù)流處理業(yè)務中,做到即插即用(當然,數(shù)據(jù)格式這些業(yè)務層面的都是需要約定好的)
  • 動態(tài)可調(diào)還可以保證服務某一節(jié)點出現(xiàn)問題時候,即時改變數(shù)據(jù)流向,比如發(fā)送到數(shù)暫存服務,避免Kafka中積累太多數(shù)據(jù),吞吐不平衡

Nacos配置

創(chuàng)建配置

通常流編排里面每個服務都有一個輸入及輸出,分別為input及sink,所以每個服務我們需要配置兩個topic,分別是input-topic output-topic,我們就在nacos里面添加輸入輸出配置

nacos配置項需要配置groupId,dataId,通常我們用服務名稱作為groupId,配置項的名稱作為dataId,如node1-server服務有一個input配置項,配置如下:

完成其中一個服務的配置,其它服務參考下圖配置即可

讀取配置

@Configuration
@NacosPropertySource(dataId = "input", groupId = "node1-server", autoRefreshed = true)
// autoRefreshed=true指的是nacos中配置發(fā)生改變后會刷新,false代表只會使用服務啟動時候讀取到的值
@NacosPropertySource(dataId = "sink", groupId = "node1-server", autoRefreshed = true)
public class NacosConfig {

    @NacosValue(value = "${input:}", autoRefreshed = true)
    private String input;

    @NacosValue(value = "${sink:}", autoRefreshed = true)
    private String sink;
    
    public String getInput() {
        return input;
    }
    
    public String getSink() {
        return sink;
    }
}

監(jiān)聽配置改變

服務的輸入需要在服務啟動時候創(chuàng)建消費者,在topic發(fā)生改變時候重新創(chuàng)建消費者,移除舊topic的消費者,輸出是業(yè)務驅(qū)動的,無需監(jiān)聽改變,在每次發(fā)送時候讀取到的都是最新配置的topic,因為在上面的配置類中autoRefreshed = true,這個只會刷新nacosConfig中的配置值,服務需要知道配置改變?nèi)ヲ?qū)動消費的創(chuàng)建業(yè)務,需要創(chuàng)建nacos配置監(jiān)聽

/**
 * 監(jiān)聽Nacos配置改變,創(chuàng)建消費者,更新消費
 */
@Component
public class ConsumerManager {

    @Value("${spring.kafka.bootstrap-servers}")
    private String servers;

    @Value("${spring.kafka.consumer.enable-auto-commit}")
    private boolean enableAutoCommit;
    
    @Value("${spring.kafka.consumer.group-id}")
    private boolean groupId;
    
    @Autowired
    private NacosConfig nacosConfig;
    
    @Autowired
    private KafkaTemplate kafkaTemplate;
    
    // 用于存放當前消費者使用的topic
    private String topic;
    
    // 用于執(zhí)行消費者線程
    private ExecutorService executorService;
    
    /**
     * 監(jiān)聽input
     */
    @NacosConfigListener(dataId = "node1-server", groupId = "input")
    public void inputListener(String input) {
        // 這個監(jiān)聽觸發(fā)的時候 實際NacosConfig中input的值已經(jīng)是最新的值了 我們只是需要這個監(jiān)聽觸發(fā)我們更新消費者的業(yè)務
        String inputTopic = nacosConfig.getInput();
        // 我使用nacosConfig中讀取的原因是因為監(jiān)聽到內(nèi)容是input=xxxx而不是xxxx,如果使用需要自己截取一下,nacosConfig中的內(nèi)容框架會處理好,大家看一下第一張圖的配置內(nèi)容就明白了
        // 先檢查當前局部變量topic是否有值,有值代表是更新消費者,沒有值只需要創(chuàng)建即可
        if(topic != null) {
            // 停止舊的消費者線程
            executorService.shutdownNow();
            executorService == null;
        }
        // 根據(jù)為新的topic創(chuàng)建消費者
        topic = inputTopic;
        ThreadFactory threadFactory = new ThreadFactoryBuilder().setNameFormat(topic + "-pool-%d").build();
        executorService = new ThreadPoolExecutor(1, 1, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue<Runnable>(2), threadFactory);
        // 執(zhí)行消費業(yè)務
        executorService.execute(() -> consumer(topic));
    }
    
    /**
     * 創(chuàng)建消費者
     */
    public void consumer(String topic) {
        Properties properties = new Properties();
        properties.put("bootstrap.servers", servers);
        properties.put("enable.auto.commit", enableAutoCommit);
        properties.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        properties.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
        properties.put("group.id", groupId);
        KafkaConsumer<String, String> consumer = new KafkaConsumer<>(properties);
        consumer.subscribe(Arrays.asList(topic));
        try {
            while (!Thread.currentThread().isInterrupted()) {
                Duration duration = Duration.ofSeconds(1L);
                ConsumerRecords<String, String> records = consumer.poll(duration);
                for (ConsumerRecord<String, String> record : records) {
                    String message = record.value();
                    // 執(zhí)行數(shù)據(jù)處理業(yè)務 省略業(yè)務實現(xiàn)
                    String handleMessage =  handle(message);
                    // 處理完成后發(fā)送到下一個節(jié)點
                    kafkaTemplate.send(nacosConfig.getSink(), handleMessage);
                }
            }
            consumer.commitAsync();
        }
        } catch (Exception e) {
            LOGGER.error(e.getMessage(), e);
        } finally {
            try {
                consumer.commitSync();
            } finally {
                consumer.close();
            }
        }
    }
}

總結(jié)

流編排的思路整體來說就是數(shù)據(jù)流方向可調(diào),我們以此為需求,根據(jù)一些主流框架提供的api實現(xiàn)自己的動態(tài)調(diào)整方案,可以幫助自己更好的理解流編碼思想及原理,在實際業(yè)務中,還有許多業(yè)務問題需要去突破,我們這樣處理更多是因為服務可插拔,便于流處理微服務在項目靈活搭配,因為我現(xiàn)在工作是在傳統(tǒng)公司,由于一些原因很難去推動新框架的使用,經(jīng)常會用一些現(xiàn)有技術棧組合搞一些sao操作,供大家參考,希望大家多多指教。

到此這篇關于SpringBoot+Nacos+Kafka微服務流編排的簡單實現(xiàn)的文章就介紹到這了,更多相關SpringBoot+Nacos+Kafka流編排內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

相關文章

  • JVM(Java虛擬機)簡介(動力節(jié)點Java學院整理)

    JVM(Java虛擬機)簡介(動力節(jié)點Java學院整理)

    Java虛擬機(Jvm)是可運行Java代碼的假想計算機。Java虛擬機包括一套字節(jié)碼指令集、一組寄存器、一個棧、一個垃圾回收堆和一個存儲方法域。對java jvm 虛擬機感興趣的朋友通過本文一起學習吧
    2017-04-04
  • Spring中Xml屬性配置的解析全過程記錄

    Spring中Xml屬性配置的解析全過程記錄

    這篇文章主要給大家介紹了關于Spring中Xml屬性配置的解析全過程,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2021-03-03
  • 詳解Java設計模式——命令模式

    詳解Java設計模式——命令模式

    這篇文章主要介紹了Java設計模式——命令模式,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2019-04-04
  • Java GUI插入圖片不顯示問題解決方法

    Java GUI插入圖片不顯示問題解決方法

    大家好,本篇文章主要講的是Java GUI插入圖片不顯示問題解決方法,感興趣的同學趕快來看一看吧,對你有幫助的話記得收藏一下,方便下次瀏覽
    2022-01-01
  • Spring中@Configuration注解的Full模式和Lite模式詳解

    Spring中@Configuration注解的Full模式和Lite模式詳解

    這篇文章主要介紹了Spring中@Configuration注解的Full模式和Lite模式詳解,準確來說,Full?模式和?Lite?模式其實?Spring?容器在處理?Bean?時的兩種不同行為,這兩種不同的模式在使用時候的表現(xiàn)完全不同,今天就來和各位小伙伴捋一捋這兩種模式,需要的朋友可以參考下
    2023-09-09
  • java實現(xiàn)文件重命名功能

    java實現(xiàn)文件重命名功能

    這篇文章主要介紹了java實現(xiàn)文件重命名功能,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2020-03-03
  • Java設計模式之策略模式原理與用法實例詳解

    Java設計模式之策略模式原理與用法實例詳解

    這篇文章主要介紹了Java設計模式之策略模式原理與用法,結(jié)合實例形式較為詳細的分析了Java策略模式的概念、原理、定義及使用方法,并總結(jié)了相關的優(yōu)缺點,具有一定參考借鑒價值,需要的朋友可以參考下
    2018-04-04
  • Java算法中的歸并排序算法代碼實現(xiàn)

    Java算法中的歸并排序算法代碼實現(xiàn)

    這篇文章主要介紹了Java算法中的歸并排序算法代碼實現(xiàn),歸并排序使用的是分治思想(Divide and Conquer),分治,顧名思義,就是分而治之,是將一個大問題分解成小的子問題來解決,需要的朋友可以參考下
    2023-12-12
  • Mybatis中的mapper是如何和XMl關聯(lián)起來的

    Mybatis中的mapper是如何和XMl關聯(lián)起來的

    這篇文章主要介紹了Mybatis中的mapper是如何和XMl關聯(lián)起來的問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2023-06-06
  • javaweb項目如何實現(xiàn)手機短信登錄

    javaweb項目如何實現(xiàn)手機短信登錄

    這篇文章主要介紹了javaweb項目如何實現(xiàn)手機短信登錄,手機號登錄在現(xiàn)在的項目中用的場景非常多,實現(xiàn)起來也不難,今天我們就一起來通過演示實現(xiàn)登錄過程,需要的朋友可以參考下
    2019-07-07

最新評論