MySQL 到 Kafka 實(shí)時(shí)數(shù)據(jù)同步實(shí)操分享

第一步：配置MySQL 連接

1.點(diǎn)擊 Tapdata Cloud 操作后臺(tái)左側(cè)菜單欄的【連接管理】，然后點(diǎn)擊右側(cè)區(qū)域【連接列表】右上角的【創(chuàng)建連接】按鈕，打開連接類型選擇頁面，然后選擇MySQL

2.在打開的連接信息配置頁面依次輸入需要的配置信息

【連 接 名 稱】：設(shè)置連接的名稱，多個(gè)連接的名稱不能重復(fù)

【數(shù)據(jù)庫地址】：數(shù)據(jù)庫 IP / Host

【端 口】：數(shù)據(jù)庫端口

【數(shù)據(jù)庫名稱】：tapdata 數(shù)據(jù)庫連接是以一個(gè) db 為一個(gè)數(shù)據(jù)源。這里的 db 是指一個(gè)數(shù)據(jù)庫實(shí)例中的 database，而不是一個(gè) mysql 實(shí)例。

【賬 號(hào)】：可以訪問數(shù)據(jù)庫的賬號(hào)

【密 碼】：數(shù)據(jù)庫賬號(hào)對(duì)應(yīng)的密碼

【時(shí) 間 時(shí) 區(qū)】：默認(rèn)使用該數(shù)據(jù)庫的時(shí)區(qū)；若指定時(shí)區(qū)，則使用指定后的時(shí)區(qū)設(shè)置

3.測試連接，提示測試通過

4.測試通過后保存連接即可。

第二步：配置 Kafka 連接

1.同第一步操作，點(diǎn)擊左側(cè)菜單欄的【連接管理】，然后點(diǎn)擊右側(cè)區(qū)域【連接列表】右上角的【創(chuàng)建連接】按鈕，打開連接類型選擇頁面，然后選擇 Kafka

2.在打開的連接信息配置頁面依次輸入需要的配置信息，配置完成后測試連接保存即可。

第三步：選擇同步模式-全量/增量/全+增

進(jìn)入Tapdata Cloud 操作后臺(tái)任務(wù)管理頁面，點(diǎn)擊添加任務(wù)按鈕進(jìn)入任務(wù)設(shè)置流程

根據(jù)剛才建好的連接，選定源端與目標(biāo)端。

根據(jù)數(shù)據(jù)需求，選擇需要同步的庫、表，如果你對(duì)表名有修改需要，可以通過頁面中的表名批量修改功能對(duì)目標(biāo)端的表名進(jìn)行批量設(shè)置

在以上選項(xiàng)設(shè)置完畢后，下一步選擇同步類型，平臺(tái)提供全量同步、增量同步、全量+增量同步，設(shè)定寫入模式和讀取數(shù)量。

如果選擇的是全量+增量同步，在全量任務(wù)執(zhí)行完畢后，Tapdata Agent 會(huì)自動(dòng)進(jìn)入增量同步狀態(tài)。在該狀態(tài)中，Tapdata Agent 會(huì)持續(xù)監(jiān)聽源端的數(shù)據(jù)變化（包括：寫入、更新、刪除），并實(shí)時(shí)的將這些數(shù)據(jù)變化寫入目標(biāo)端。

點(diǎn)擊任務(wù)名稱可以打開任務(wù)詳情頁面，可以查看任務(wù)詳細(xì)信息。

點(diǎn)擊任務(wù)監(jiān)控可以打開任務(wù)執(zhí)行詳情頁面，可以查看任務(wù)進(jìn)度/里程碑等的具體信息。

第四步：進(jìn)行數(shù)據(jù)校驗(yàn)

一般同步完成后，我都習(xí)慣性進(jìn)行一下數(shù)據(jù)校驗(yàn)，防止踩坑。

Tapdata Cloud 有三種校驗(yàn)?zāi)Ｊ?，我常用最快的快速count校驗(yàn) ，只需要選擇到要校驗(yàn)的表，不用設(shè)置其他復(fù)雜的參數(shù)和條件，簡單方便。

如果覺得不夠用，也可以選擇表全字段值校驗(yàn) ，這個(gè)除了要選擇待校驗(yàn)表外，還需要針對(duì)每一個(gè)表設(shè)置索引字段。

在進(jìn)行表全字段值校驗(yàn)時(shí)，還支持進(jìn)行高級(jí)校驗(yàn)。通過高級(jí)校驗(yàn)可以添加JS校驗(yàn)邏輯，可以對(duì)源和目標(biāo)的數(shù)據(jù)進(jìn)行校驗(yàn)。

還有一個(gè)校驗(yàn)方式關(guān)聯(lián)字段值校驗(yàn) ，創(chuàng)建關(guān)聯(lián)字段值校驗(yàn)時(shí)，除了要選擇待校驗(yàn)表外，還需要針對(duì)每一個(gè)表設(shè)置索引字段。

以上就是MySQL到Kafka實(shí)時(shí)數(shù)據(jù)同步的詳細(xì)內(nèi)容，更多關(guān)于MySQL Kafka數(shù)據(jù)同步的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

最新評(píng)論