Canal監(jiān)聽(tīng)MySQL的實(shí)現(xiàn)步驟
1、Mysql數(shù)據(jù)庫(kù)開(kāi)啟binlog模式
注意:Mysql容器,此處Mysql版本為5.7
#進(jìn)入容器 docker exec -it mysql /bin/bash #進(jìn)入配置目錄 cd /etc/mysql/mysql.conf.d #修改配置文件 vi mysqld.cnf
(1) 修改mysqld.cnf配置文件,添加如下配置:
log-bin=mysql-bin server-id=12345
(2) 創(chuàng)建賬號(hào) 用于測(cè)試使用,使用root賬號(hào)創(chuàng)建用戶(hù)并授予權(quán)限
create user canal@'%' IDENTIFIED by 'canal'; GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT,SUPER ON *.* TO 'canal'@'%'; FLUSH PRIVILEGES;
(3) 重啟mysql容器
docker restart mysql
2、Docker下Canal容器安裝
(1)拉取canal鏡像
docker pull docker.io/canal/canal-server
(2)創(chuàng)建Canal容器
docker run -p 11111:11111 --name canal -d docker.io/canal/canal-server
(3)進(jìn)入容器,修改核心配置canal.properties 和instance.properties,canal.properties 是canal自身的配置,instance.properties是需要同步數(shù)據(jù)的數(shù)據(jù)庫(kù)連接配置。
#進(jìn)入容器 docker exec -it canal /bin/bash cd canal-server/conf/ #修改 canal.properties vi canal.properties cd example/ #修改 instance.properties vi instance.properties
修改canal.properties的id,不能和mysql的server-id重復(fù),如下圖:
修改instance.properties,配置數(shù)據(jù)庫(kù)連接地址:
這里的canal.instance.filter.regex
有多種配置,如下:
可以參考地址如下: https://github.com/alibaba/canal/wiki/AdminGuide
mysql 數(shù)據(jù)解析關(guān)注的表,Perl正則表達(dá)式.
多個(gè)正則之間以逗號(hào)(,)分隔,轉(zhuǎn)義符需要雙斜杠(\\)
常見(jiàn)例子:
1. 所有表:.* or .*\\..*
2. canal schema下所有表: canal\\..*
3. canal下的以canal打頭的表:canal\\.canal.*
4. canal schema下的一張表:canal.test1
5. 多個(gè)規(guī)則組合使用:canal\\..*,mysql.test1,mysql.test2 (逗號(hào)分隔)
注意:此過(guò)濾條件只針對(duì)row模式的數(shù)據(jù)有效(ps. mixed/statement因?yàn)椴唤馕鰏ql,所以無(wú)法準(zhǔn)確提取tableName進(jìn)行過(guò)濾)
配置完成后,設(shè)置開(kāi)機(jī)啟動(dòng),并記得重啟canal。
docker update --restart=always canal docker restart canal
3、Canal Client項(xiàng)目搭建
(1)引入依賴(lài)
<parent> <artifactId>spring-boot-parent</artifactId> <groupId>org.springframework.boot</groupId> <version>2.1.4.RELEASE</version> </parent> <dependencies> <!--canal依賴(lài)--> <dependency> <groupId>com.xpand</groupId> <artifactId>starter-canal</artifactId> <version>0.0.1-SNAPSHOT</version> </dependency> </dependencies>
注意:canal依賴(lài)stater在中央倉(cāng)庫(kù)是不存在的,需要手動(dòng)放進(jìn)本地倉(cāng)庫(kù)或者你公司里面的nexus
這里以放進(jìn)本地倉(cāng)庫(kù)為例:
- 首先解壓spring-boot-starter-canal-master.zip
- 在spring-boot-starter-canal-master\starter-canal文件夾下執(zhí)行mvn clean install
- 此時(shí)在本地倉(cāng)庫(kù)就會(huì)存在jar包
- 引入依賴(lài)
<!--canal依賴(lài)--> <dependency> <groupId>com.xpand</groupId> <artifactId>starter-canal</artifactId> <version>0.0.1-SNAPSHOT</version> </dependency>
(2)啟動(dòng)類(lèi)編寫(xiě)
@SpringBootApplication @EnableCanalClient public class CanalApplication { public static void main(String[] args) { SpringApplication.run(CanalApplication.class,args); } }
(3)監(jiān)聽(tīng)器編寫(xiě)
@CanalEventListener public class CanalDataEventListener { /*** * 增加數(shù)據(jù)監(jiān)聽(tīng) * @param eventType * @param rowData */ @InsertListenPoint public void onEventInsert(CanalEntry.EventType eventType, CanalEntry.RowData rowData) { rowData.getAfterColumnsList().forEach((c) -> System.out.println("By--Annotation: " + c.getName() + " :: " + c.getValue())); } /*** * 修改數(shù)據(jù)監(jiān)聽(tīng) * @param rowData */ @UpdateListenPoint public void onEventUpdate(CanalEntry.RowData rowData) { System.out.println("UpdateListenPoint"); rowData.getAfterColumnsList().forEach((c) -> System.out.println("By--Annotation: " + c.getName() + " :: " + c.getValue())); } /*** * 刪除數(shù)據(jù)監(jiān)聽(tīng) * @param eventType */ @DeleteListenPoint public void onEventDelete(CanalEntry.EventType eventType) { System.out.println("DeleteListenPoint"); } /*** * 自定義數(shù)據(jù)修改監(jiān)聽(tīng) * @param eventType * @param rowData */ @ListenPoint(destination = "example", schema = "torlesse_test", table = {"tb_user", "tb_order"}, eventType = CanalEntry.EventType.UPDATE) public void onEventCustomUpdate(CanalEntry.EventType eventType, CanalEntry.RowData rowData) { System.err.println("DeleteListenPoint"); rowData.getAfterColumnsList().forEach((c) -> System.out.println("By--Annotation: " + c.getName() + " :: " + c.getValue())); } @ListenPoint(destination = "example", schema = "test_canal", //所要監(jiān)聽(tīng)的數(shù)據(jù)庫(kù)名 table = {"tb_user"}, //所要監(jiān)聽(tīng)的數(shù)據(jù)庫(kù)表名 eventType = {CanalEntry.EventType.UPDATE, CanalEntry.EventType.INSERT, CanalEntry.EventType.DELETE}) public void onEventCustomUpdateForTbUser(CanalEntry.EventType eventType, CanalEntry.RowData rowData){ getChangeValue(eventType,rowData); } public static void getChangeValue(CanalEntry.EventType eventType, CanalEntry.RowData rowData){ if(eventType == CanalEntry.EventType.DELETE){ rowData.getBeforeColumnsList().forEach(column -> { //獲取刪除前的數(shù)據(jù) System.out.println(column.getName() + " == " + column.getValue()); }); }else { rowData.getBeforeColumnsList().forEach(column -> { //打印改變前的字段名和值 System.out.println(column.getName() + " == " + column.getValue()); }); rowData.getAfterColumnsList().forEach(column -> { //打印改變后的字段名和值 System.out.println(column.getName() + " == " + column.getValue()); }); } } }
到此就可以實(shí)現(xiàn)Canal監(jiān)聽(tīng)Mysql
項(xiàng)目gitee地址:test-canal
詳情可以查看:
https://github.com/alibaba/canal (阿里官方)
https://github.com/alibaba/canal/wiki/AdminGuide (阿里官方)
https://github.com/chenqian56131/spring-boot-starter-canal (自制starter)
到此這篇關(guān)于Canal監(jiān)聽(tīng)MySQL的實(shí)現(xiàn)步驟的文章就介紹到這了,更多相關(guān)Canal監(jiān)聽(tīng)MySQL內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- MySQL高性能實(shí)現(xiàn)Canal數(shù)據(jù)同步神器
- 使用Canal實(shí)現(xiàn)PHP應(yīng)用程序與MySQL數(shù)據(jù)庫(kù)的實(shí)時(shí)數(shù)據(jù)同步
- Canal搭建?idea設(shè)置及采集數(shù)據(jù)到kafka的操作方法
- 使用Canal實(shí)現(xiàn)MySQL主從同步的流程步驟
- Canal實(shí)現(xiàn)MYSQL實(shí)時(shí)數(shù)據(jù)同步的示例代碼
- Java使用Canal同步MySQL數(shù)據(jù)到Redis
- Canal入門(mén)使用小結(jié)
相關(guān)文章
Ubuntu?18.04.4安裝mysql的過(guò)程詳解?親測(cè)可用
這篇文章主要介紹了Ubuntu?18.04.4安裝mysql-親測(cè)可用,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-12-12Mysql數(shù)據(jù)庫(kù)名和表名在不同系統(tǒng)下的大小寫(xiě)敏感問(wèn)題
在 MySQL 中,數(shù)據(jù)庫(kù)和表對(duì)應(yīng)于那些目錄下的目錄和文件。因而,操作系統(tǒng)的敏感性決定數(shù)據(jù)庫(kù)和表命名的大小寫(xiě)敏感。2011-01-01MySQL 8.0.18 穩(wěn)定版發(fā)布! Hash Join如期而至
MySQL 8.0.18 穩(wěn)定版發(fā)布! Hash Join 如期而至,這篇文章帶大家快速瀏覽一下MySQL 8.0.18 穩(wěn)定版的各個(gè)亮點(diǎn),感興趣的小伙伴們可以學(xué)習(xí)參考一下2019-10-10Mysql數(shù)據(jù)庫(kù)報(bào)錯(cuò)2003?Can't?connect?to?MySQL?server?on?
最近在用mysql,打開(kāi)mysql的圖形化界面要連接時(shí)出現(xiàn)2003錯(cuò)誤,所以下面這篇文章主要給大家介紹了關(guān)于Mysql數(shù)據(jù)庫(kù)報(bào)錯(cuò)2003?Can't?connect?to?MySQL?server?on?'localhost'?(10061)的解決方式,需要的朋友可以參考下2022-09-09Windows 8.1下MySQL5.7 忘記root 密碼的解決方法
最近學(xué)習(xí)碰到了一件挺令人尷尬的事情,我把MySQL的密碼給忘記了,所以MySQL登錄不進(jìn)去。在網(wǎng)上找的解決方案都不靠譜,下面小編給大家分享Windows 8.1下MySQL5.7 忘記root 密碼的解決方法,需要的朋友一起看看吧2017-07-07mysql索引過(guò)長(zhǎng)Specialed key was too long的解決方法
在創(chuàng)建要給表的時(shí)候遇到一個(gè)有意思的問(wèn)題,提示Specified key was too long; max key length is 767 bytes,本文就來(lái)介紹一下解決方法,如果你也遇到此類(lèi)問(wèn)題,可以參考一下2021-11-11mysql error 1130 hy000:Host''localhost''解決方案
本文將詳細(xì)提供mysql error 1130 hy000:Host'localhost'解決方案,需要的朋友可以參考下2012-11-11