基于 SpringBoot 實(shí)現(xiàn) MySQL 讀寫分離的問題
- 前言 -
首先思考一個(gè)問題: 在高并發(fā)的場(chǎng)景中,關(guān)于數(shù)據(jù)庫(kù)都有哪些優(yōu)化的手段? 常用的實(shí)現(xiàn)方法有以下幾種:讀寫分離、加緩存、主從架構(gòu)集群、分庫(kù)分表等,在互聯(lián)網(wǎng)應(yīng)用中,大部分都是讀多寫少的場(chǎng)景,設(shè)置兩個(gè)庫(kù),主庫(kù)和讀庫(kù)。
主庫(kù)的職能是負(fù)責(zé)寫,從庫(kù)主要是負(fù)責(zé)讀 , 可以建立讀庫(kù)集群 , 通過讀寫職能在數(shù)據(jù)源上的隔離達(dá)到減少讀寫沖突、 釋壓數(shù)據(jù)庫(kù)負(fù)載、保護(hù)數(shù)據(jù)庫(kù)的目的。在實(shí)際的使用中,凡是涉及到寫的部分直接切換到主庫(kù),讀的部分直接切換到讀庫(kù),這就是典型的讀寫分離技術(shù)。本文將聚焦讀寫分離,探討如何實(shí)現(xiàn)它。
主從同步的局限性: 這里分為主數(shù)據(jù)庫(kù)和從數(shù)據(jù)庫(kù),主數(shù)據(jù)庫(kù)和從數(shù)據(jù)庫(kù)保持?jǐn)?shù)據(jù)庫(kù)結(jié)構(gòu)的一致 , 主庫(kù)負(fù)責(zé)寫 , 當(dāng)寫入數(shù)據(jù)的時(shí)候 , 會(huì)自動(dòng)同步數(shù)據(jù)到從數(shù)據(jù)庫(kù);從數(shù)據(jù)庫(kù)負(fù)責(zé)讀 , 當(dāng)讀請(qǐng)求來(lái)的時(shí)候 , 直接從讀庫(kù)讀取數(shù)據(jù) , 主數(shù)據(jù)庫(kù)會(huì)自動(dòng)進(jìn)行數(shù)據(jù)復(fù)制到從數(shù)據(jù)庫(kù)中。不過本篇博客不介紹這部分配置的知識(shí) , 因?yàn)樗\(yùn)維工作一點(diǎn)。
這里涉及到一個(gè)問題:主從復(fù)制的延遲問題。 當(dāng)寫入到主數(shù)據(jù)庫(kù)的過程中 , 突然來(lái)了一個(gè)讀請(qǐng)求 , 而此時(shí)數(shù)據(jù)還沒有完全同步 , 就會(huì)出現(xiàn)讀請(qǐng)求的數(shù)據(jù)讀不到或者讀出的數(shù)據(jù)比原始值少的情況。具體的解決方法最簡(jiǎn)單的就是將讀請(qǐng)求暫時(shí)指向主庫(kù) , 但是同時(shí)也失去了主從分離的部分意義。也就是說在嚴(yán)格意義上的數(shù)據(jù)一致性場(chǎng)景中 , 讀寫分離并非是完全適合的 , 注意更新的時(shí)效性是讀寫分離使用的缺點(diǎn)。
好了 , 這部分只是了解 , 接下來(lái)我們看下具體如何通過 java 代碼來(lái)實(shí)現(xiàn)讀寫分離:
該項(xiàng)目需要引入如下依賴:SpringBoot、Spring-aop、Spring-jdbc、aspectjweaver 等。
- 主從數(shù)據(jù)源的配置 -
我們需要配置主從數(shù)據(jù)庫(kù) , 主從數(shù)據(jù)庫(kù)的配置一般都是寫在配置文件里面。通過@ConfigurationProperties 注解 , 可以將配置文件(一般命名為:application.Properties)里的屬性映射到具體的類屬性上 , 從而讀取到寫入的值注入到具體的代碼配置中 , 按照習(xí)慣大于約定的原則 , 主庫(kù)我們都是注為 master , 從庫(kù)注為 slave。
本項(xiàng)目采用了阿里的 druid 數(shù)據(jù)庫(kù)連接池 , 使用 build 建造者模式創(chuàng)建 DataSource 對(duì)象 , DataSource 就是代碼層面抽象出來(lái)的數(shù)據(jù)源 , 接著需要配置 sessionFactory、sqlTemplate、事務(wù)管理器等:
/** * 主從配置 * * @author wyq */ @Configuration @MapperScan(basePackages = "com.wyq.mysqlreadwriteseparate.mapper", sqlSessionTemplateRef = "sqlTemplate") public class DataSourceConfig { /** * 主庫(kù) */ @Bean @ConfigurationProperties(prefix = "spring.datasource.master") public DataSource master() { return DruidDataSourceBuilder.create().build(); } /** * 從庫(kù) */ @Bean @ConfigurationProperties(prefix = "spring.datasource.slave") public DataSource slaver() { return DruidDataSourceBuilder.create().build(); } /** * 實(shí)例化數(shù)據(jù)源路由 */ @Bean public DataSourceRouter dynamicDB(@Qualifier("master") DataSource masterDataSource, @Autowired(required = false) @Qualifier("slaver") DataSource slaveDataSource) { DataSourceRouter dynamicDataSource = new DataSourceRouter(); Map<Object, Object> targetDataSources = new HashMap<>(); targetDataSources.put(DataSourceEnum.MASTER.getDataSourceName(), masterDataSource); if (slaveDataSource != null) { targetDataSources.put(DataSourceEnum.SLAVE.getDataSourceName(), slaveDataSource); } dynamicDataSource.setTargetDataSources(targetDataSources); dynamicDataSource.setDefaultTargetDataSource(masterDataSource); return dynamicDataSource; } /** * 配置sessionFactory * @param dynamicDataSource * @return * @throws Exception */ @Bean public SqlSessionFactory sessionFactory(@Qualifier("dynamicDB") DataSource dynamicDataSource) throws Exception { SqlSessionFactoryBean bean = new SqlSessionFactoryBean(); bean.setMapperLocations( new PathMatchingResourcePatternResolver().getResources("classpath*:mapper/*Mapper.xml")); bean.setDataSource(dynamicDataSource); return bean.getObject(); } /** * 創(chuàng)建sqlTemplate * @param sqlSessionFactory * @return */ @Bean public SqlSessionTemplate sqlTemplate(@Qualifier("sessionFactory") SqlSessionFactory sqlSessionFactory) { return new SqlSessionTemplate(sqlSessionFactory); } /** * 事務(wù)配置 * * @param dynamicDataSource * @return */ @Bean(name = "dataSourceTx") public DataSourceTransactionManager dataSourceTransactionManager(@Qualifier("dynamicDB") DataSource dynamicDataSource) { DataSourceTransactionManager dataSourceTransactionManager = new DataSourceTransactionManager(); dataSourceTransactionManager.setDataSource(dynamicDataSource); return dataSourceTransactionManager; } }
- 數(shù)據(jù)源路由的配置 -
路由在主從分離是非常重要的 , 基本是讀寫切換的核心。Spring 提供了 AbstractRoutingDataSource 根據(jù)用戶定義的規(guī)則選擇當(dāng)前的數(shù)據(jù)源 , 作用就是在執(zhí)行查詢之前 , 設(shè)置使用的數(shù)據(jù)源 , 實(shí)現(xiàn)動(dòng)態(tài)路由的數(shù)據(jù)源,在每次數(shù)據(jù)庫(kù)查詢操作前執(zhí)行它的抽象方法 determineCurrentLookupKey() 決定使用哪個(gè)數(shù)據(jù)源。
為了能有一個(gè)全局的數(shù)據(jù)源管理器,此時(shí)我們需要引入 DataSourceContextHolder 這個(gè)數(shù)據(jù)庫(kù)上下文管理器,可以理解為全局的變量 , 隨時(shí)可取(見下面詳細(xì)介紹) , 它的主要作用就是保存當(dāng)前的數(shù)據(jù)源:
public class DataSourceRouter extends AbstractRoutingDataSource { /** * 最終的determineCurrentLookupKey返回的是從DataSourceContextHolder中拿到的,因此在動(dòng)態(tài)切換數(shù)據(jù)源的時(shí)候注解 * 應(yīng)該給DataSourceContextHolder設(shè)值 * * @return */ @Override protected Object determineCurrentLookupKey() { return DataSourceContextHolder.get(); } }
- 數(shù)據(jù)源上下文環(huán)境 -
數(shù)據(jù)源上下文保存器 , 便于程序中可以隨時(shí)取到當(dāng)前的數(shù)據(jù)源 , 它主要利用 ThreadLocal 封裝 , 因?yàn)?ThreadLocal 是線程隔離的 , 天然具有線程安全的優(yōu)勢(shì)。這里暴露了 set 和 get、clear 方法 , set 方法用于賦值當(dāng)前的數(shù)據(jù)源名 , get 方法用于獲取當(dāng)前的數(shù)據(jù)源名稱 , clear 方法用于清除 ThreadLocal 中的內(nèi)容 , 因?yàn)?ThreadLocal 的 key 是 weakReference 是有內(nèi)存泄漏風(fēng)險(xiǎn)的 , 通過 remove 方法防止內(nèi)存泄漏:
/** * 利用ThreadLocal封裝的保存數(shù)據(jù)源上線的上下文context */ public class DataSourceContextHolder { private static final ThreadLocal<String> context = new ThreadLocal<>(); /** * 賦值 * * @param datasourceType */ public static void set(String datasourceType) { context.set(datasourceType); } /** * 獲取值 * @return */ public static String get() { return context.get(); } public static void clear() { context.remove(); } }
- 切換注解和 Aop 配置 -
首先我們來(lái)定義一個(gè)@DataSourceSwitcher 注解 , 擁有兩個(gè)屬性 ① 當(dāng)前的數(shù)據(jù)源 ② 是否清除當(dāng)前的數(shù)據(jù)源,并且只能放在方法上 , (不可以放在類上 , 也沒必要放在類上 , 因?yàn)槲覀冊(cè)谶M(jìn)行數(shù)據(jù)源切換的時(shí)候肯定是方法操作) , 該注解的主要作用就是進(jìn)行數(shù)據(jù)源的切換 , 在 dao 層進(jìn)行操作數(shù)據(jù)庫(kù)的時(shí)候 , 可以在方法上注明表示的是當(dāng)前使用哪個(gè)數(shù)據(jù)源:
@DataSourceSwitcher 注解的定義:
@Retention(RetentionPolicy.RUNTIME) @Target(ElementType.METHOD) @Documented public @interface DataSourceSwitcher { /** * 默認(rèn)數(shù)據(jù)源 * @return */ DataSourceEnum value() default DataSourceEnum.MASTER; /** * 清除 * @return */ boolean clear() default true; }
DataSourceAop 配置:
為了賦予@DataSourceSwitcher 注解能夠切換數(shù)據(jù)源的能力,我們需要使用 AOP,然后使用@Aroud 注解找到方法上有@DataSourceSwitcher.class 的方法,然后取注解上配置的數(shù)據(jù)源的值,設(shè)置到 DataSourceContextHolder 中,就實(shí)現(xiàn)了將當(dāng)前方法上配置的數(shù)據(jù)源注入到全局作用域當(dāng)中:
@Slf4j @Aspect @Order(value = 1) @Component public class DataSourceContextAop { @Around("@annotation(com.wyq.mysqlreadwriteseparate.annotation.DataSourceSwitcher)") public Object setDynamicDataSource(ProceedingJoinPoint pjp) throws Throwable { boolean clear = false; try { Method method = this.getMethod(pjp); DataSourceSwitcher dataSourceSwitcher = method.getAnnotation(DataSourceSwitcher.class); clear = dataSourceSwitcher.clear(); DataSourceContextHolder.set(dataSourceSwitcher.value().getDataSourceName()); log.info("數(shù)據(jù)源切換至:{}", dataSourceSwitcher.value().getDataSourceName()); return pjp.proceed(); } finally { if (clear) { DataSourceContextHolder.clear(); } } } private Method getMethod(JoinPoint pjp) { MethodSignature signature = (MethodSignature) pjp.getSignature(); return signature.getMethod(); } }
- 用法以及測(cè)試 -
在配置好了讀寫分離之后,就可以在代碼中使用了 , 一般而言我們使用在 service 層或者 dao 層,在需要查詢的方法上添加@DataSourceSwitcher(DataSourceEnum.SLAVE) , 它表示該方法下所有的操作都走的是讀庫(kù);在需要 update 或者 insert 的時(shí)候使用@DataSourceSwitcher(DataSourceEnum.MASTER)表示接下來(lái)將會(huì)走寫庫(kù)。
其實(shí)還有一種更為自動(dòng)的寫法 , 可以根據(jù)方法的前綴來(lái)配置 AOP 自動(dòng)切換數(shù)據(jù)源,比如 update、insert、fresh 等前綴的方法名一律自動(dòng)設(shè)置為寫庫(kù) , Select、get、query 等前綴的方法名一律配置為讀庫(kù),這是一種更為自動(dòng)的配置寫法。缺點(diǎn)就是方法名需要按照 aop 配置的嚴(yán)格來(lái)定義 , 否則就會(huì)失效:
@Service public class OrderService { @Resource private OrderMapper orderMapper; /** * 讀操作 * * @param orderId * @return */ @DataSourceSwitcher(DataSourceEnum.SLAVE) public List<Order> getOrder(String orderId) { return orderMapper.listOrders(orderId); } /** * 寫操作 * * @param orderId * @return */ @DataSourceSwitcher(DataSourceEnum.MASTER) public List<Order> insertOrder(Long orderId) { Order order = new Order(); order.setOrderId(orderId); return orderMapper.saveOrder(order); } }
- 總結(jié) -
上面是基本流程簡(jiǎn)圖,本文介紹了如何實(shí)現(xiàn)數(shù)據(jù)庫(kù)讀寫分離 , 注意讀寫分離的核心點(diǎn)就是數(shù)據(jù)路由 , 需要繼承 AbstractRoutingDataSource , 復(fù)寫它的 determineCurrentLookupKey 方法 , 同時(shí)需要注意 全局的上下文管理器 DataSourceContextHolder , 它是保存數(shù)據(jù)源上下文的主要類 , 也是路由方法中尋找的數(shù)據(jù)源取值 , 相當(dāng)于數(shù)據(jù)源的中轉(zhuǎn)站。 再結(jié)合 jdbc-Template 的底層去創(chuàng)建和管理數(shù)據(jù)源、事務(wù)等,我們的數(shù)據(jù)庫(kù)讀寫分離就完美實(shí)現(xiàn)了。
到此這篇關(guān)于基于 SpringBoot 實(shí)現(xiàn) MySQL 讀寫分離的問題的文章就介紹到這了,更多相關(guān)SpringBoot 實(shí)現(xiàn) MySQL 讀寫分離內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- SpringBoot項(xiàng)目中如何實(shí)現(xiàn)MySQL讀寫分離詳解
- springboot多數(shù)據(jù)源配合docker部署mysql主從實(shí)現(xiàn)讀寫分離效果
- SpringBoot整合Sharding-JDBC實(shí)現(xiàn)MySQL8讀寫分離
- springboot結(jié)合mysql主從來(lái)實(shí)現(xiàn)讀寫分離的方法示例
- SpringBoot+Mybatis-Plus實(shí)現(xiàn)mysql讀寫分離方案的示例代碼
- SpringBoot自定義注解使用讀寫分離Mysql數(shù)據(jù)庫(kù)的實(shí)例教程
- Springboot + Mysql8實(shí)現(xiàn)讀寫分離功能
- springboot基于Mybatis mysql實(shí)現(xiàn)讀寫分離
- SpringBoot詳解MySQL如何實(shí)現(xiàn)讀寫分離
相關(guān)文章
idea本地jar使用maven打包本地依賴實(shí)現(xiàn)自動(dòng)編譯到項(xiàng)目里的操作
這篇文章主要介紹了idea本地jar使用maven打包本地依賴實(shí)現(xiàn)自動(dòng)編譯到項(xiàng)目里的操作,本文通過示例代碼給大家介紹的非常詳細(xì),感興趣的朋友跟隨小編一起看看吧2024-05-05Java NIO原理圖文分析及代碼實(shí)現(xiàn)
本文主要介紹Java NIO原理的知識(shí),這里整理了詳細(xì)資料及簡(jiǎn)單示例代碼和原理圖,有需要的小伙伴可以參考下2016-09-09Mybatis中and和循環(huán)or混用操作(or轉(zhuǎn)換成in)
這篇文章主要介紹了Mybatis中and和循環(huán)or混用操作(or轉(zhuǎn)換成in),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-07-07spring security獲取用戶信息的實(shí)現(xiàn)代碼
這篇文章主要介紹了spring security獲取用戶信息的實(shí)現(xiàn)代碼,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-12-12SpringBoot整合MybatisPlus的簡(jiǎn)單教程實(shí)現(xiàn)(簡(jiǎn)單整合)
這篇文章主要介紹了SpringBoot整合MybatisPlus的簡(jiǎn)單教程實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-05-05