使用Spring提高接口吞吐量的常見方法
一、引言
在我早期參與的一個電商項目中，曾遭遇過一次“秒殺”場景的接口雪崩：用戶量激增，接口響應(yīng)緩慢，系統(tǒng)幾近崩潰。那次經(jīng)歷讓我深刻意識到： “接口吞吐量”是高并發(fā)系統(tǒng)的生命線。
吞吐量（Throughput）是衡量系統(tǒng)性能的關(guān)鍵指標(biāo)，通常指單位時間內(nèi)系統(tǒng)可以處理的請求數(shù)量。面對高并發(fā)，我們該如何利用 Spring 構(gòu)建一個高吞吐、高可用的接口系統(tǒng)？
本文將結(jié)合我這些年的實戰(zhàn)經(jīng)驗，從經(jīng)典場景到核心代碼實現(xiàn)，系統(tǒng)地分享在 Spring 中提升接口吞吐量的幾種常見手段。
二、哪些場景需要關(guān)注接口吞吐量？
- 大促秒殺：電商活動接口瞬時訪問量暴漲
- 實時數(shù)據(jù)上報：IoT設(shè)備每秒數(shù)萬請求
- 內(nèi)部高頻接口：服務(wù)間調(diào)用頻繁
- 熱點接口：首頁推薦、商品詳情等訪問量大
三、Spring 提高接口吞吐量的幾種手段
1. 接口異步化處理 —— 解耦請求與處理邏輯
應(yīng)用場景：非實時返回的業(yè)務(wù)，如短信發(fā)送、日志收集、消息推送。
實戰(zhàn)代碼：
@RestController
public class NotifyController {
@Autowired
private Executor asyncExecutor;
@PostMapping("/send-notify")
public ResponseEntity<?> sendNotify(@RequestBody NotifyRequest request) {
asyncExecutor.execute(() -> notifyService.send(request));
return ResponseEntity.ok("已接收");
}
@Bean
public Executor asyncExecutor() {
return Executors.newFixedThreadPool(10);
}
}
使用異步線程池，主線程快速返回，提高系統(tǒng)響應(yīng)速度和吞吐能力。
2. 請求緩存 —— 減少數(shù)據(jù)庫/遠(yuǎn)程調(diào)用壓力
應(yīng)用場景：商品詳情、配置數(shù)據(jù)、熱點用戶信息等讀多寫少的數(shù)據(jù)。
實戰(zhàn)代碼（基于 Spring Cache + Redis）：
@Cacheable(value = "product", key = "#productId")
public Product getProductById(Long productId) {
return productRepository.findById(productId).orElse(null);
}
結(jié)合 Redis 做讀緩存，可以顯著減輕數(shù)據(jù)庫壓力，提升 QPS。
3. 接口限流 —— 保護(hù)系統(tǒng)穩(wěn)態(tài)運行
應(yīng)用場景：秒殺接口、登錄接口、支付接口等敏感資源。
實戰(zhàn)代碼（基于 Spring + Bucket4j）：
@Aspect
@Component
public class RateLimitAspect {
private final Map<String, Bucket> cache = new ConcurrentHashMap<>();
@Around("@annotation(RateLimit)")
public Object limit(ProceedingJoinPoint pjp) throws Throwable {
String key = pjp.getSignature().toShortString();
Bucket bucket = cache.computeIfAbsent(key, k -> Bucket4j.builder()
.addLimit(Bandwidth.simple(100, Duration.ofSeconds(1)))
.build());
if (bucket.tryConsume(1)) {
return pjp.proceed();
} else {
throw new RateLimitExceededException();
}
}
}
動態(tài)限流，防止服務(wù)因突發(fā)流量而雪崩。
4. 請求合并 —— 減少重復(fù)查詢
應(yīng)用場景：批量請求同一資源，如查詢多個用戶信息。
實戰(zhàn)代碼（利用 Guava + Future 合并請求）：
public class UserBatchService {
private final LoadingCache<Long, CompletableFuture<User>> userCache = CacheBuilder.newBuilder()
.refreshAfterWrite(10, TimeUnit.MILLISECONDS)
.build(CacheLoader.asyncReloading(this::batchLoad, Executors.newFixedThreadPool(5)));
private CompletableFuture<Map<Long, User>> batchLoad(Set<Long> userIds) {
return CompletableFuture.supplyAsync(() -> userRepository.findByIds(userIds));
}
public CompletableFuture<User> getUser(Long id) {
return userCache.get(id);
}
}
請求合并降低數(shù)據(jù)庫壓力，提高單位時間處理能力。
5. 使用響應(yīng)式編程（Reactive）提升吞吐量
應(yīng)用場景：高并發(fā)、IO密集型接口（如 WebFlux + MongoDB）
示例代碼：
@RestController
public class ReactiveProductController {
@Autowired
private ProductReactiveRepository repo;
@GetMapping("/product/{id}")
public Mono<Product> getProduct(@PathVariable String id) {
return repo.findById(id);
}
}
Reactive 編程模型通過非阻塞 IO 提升資源利用率，提升吞吐量。
6. 連接池優(yōu)化（DB、Redis、HTTP）
應(yīng)用場景：數(shù)據(jù)庫連接、遠(yuǎn)程調(diào)用、緩存訪問等。
- 使用 HikariCP 替代默認(rèn) DBCP（Spring Boot 默認(rèn)）
- 使用連接池客戶端（如 Lettuce、OkHttp）
- 合理設(shè)置連接池大?。?code>maxPoolSize ≈ CPU 核心數(shù) * 2 + IO線程數(shù)
四、多策略組合優(yōu)化的真實案例
在一個用戶畫像平臺中，我們有接口 /api/user/portrait/{id}，訪問頻率極高，初始 QPS 僅能支撐 200 左右。
通過以下優(yōu)化組合，最終提升至 QPS > 3000+ ：
| 優(yōu)化項 | 效果提升 |
|---|---|
| Redis 緩存熱點數(shù)據(jù) | +5倍 |
| 接口異步化回調(diào) | +2倍 |
| 請求合并 | +2倍 |
| 限流保護(hù) | 穩(wěn)定系統(tǒng) |
| 響應(yīng)式重構(gòu) | IO 利用率大幅提升 |
五、總結(jié)：高吞吐的本質(zhì)是“減負(fù) + 異步 + 限速 + 快取”
在高并發(fā)場景下，提升吞吐量不是“堆機器”，而是“做減法”。
總結(jié)起來，有8年經(jīng)驗的我認(rèn)為：
- 異步化：能異步就不要阻塞
- 緩存化：能緩存就不要重復(fù)查
- 限流化：能攔截就不要撐爆
- 批量化：能合并就不要重復(fù)
- 輕量化：能響應(yīng)式就不要阻塞式
六、附：性能優(yōu)化的思考路徑圖
+------------------+
| 性能瓶頸分析 |
+------------------+
↓
+--------------------------+
| 是 CPU 吞吐 還是 IO 阻塞？ |
+--------------------------+
↓
+------------------------------------+
| 線程池優(yōu)化 | 緩存 | 異步 | 限流 | 批處理 |
+------------------------------------+
到此這篇關(guān)于使用Spring提高接口吞吐量的常見方法的文章就介紹到這了,更多相關(guān)Spring提高接口吞吐量內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
Jenkins集成sonarQube實現(xiàn)代碼質(zhì)量檢查過程圖解
這篇文章主要介紹了Jenkins集成sonarQube實現(xiàn)代碼質(zhì)量檢查過程圖解,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-09-09
這篇文章主要為大家詳細(xì)介紹了Java Spring開發(fā)入門學(xué)習(xí)教程,具有一定的參考價值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助2021-09-09
這篇文章主要介紹了Java 中利用泛型和反射機制抽象DAO的實例的相關(guān)資料,需要的朋友可以參考下2017-07-07
這篇文章主要介紹了Java實現(xiàn)藍(lán)橋杯G將軍的示例代碼，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-02-02
K8S(Docker)如何優(yōu)雅的關(guān)閉SpringBoot微服務(wù)
這篇文章主要介紹了K8S(Docker)如何優(yōu)雅的關(guān)閉SpringBoot微服務(wù)問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2025-01-01
Java項目啟動成功、失敗信息實時反饋提醒問題(郵件或者短信)
這篇文章主要介紹了Java項目啟動成功、失敗信息實時反饋提醒問題(郵件或者短信),具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-06-06
Java實現(xiàn)將Markdown轉(zhuǎn)換為純文本
這篇文章主要為大家詳細(xì)介紹了兩種在 Java 中實現(xiàn) Markdown 轉(zhuǎn)純文本的主流方法,文中的示例代碼講解詳細(xì),大家可以根據(jù)需求選擇適合的方案2025-03-03
這篇文章主要為大家詳細(xì)介紹了Java雇員管理小項目，理解面向?qū)ο缶幊?，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-01-01
這篇文章主要為大家詳細(xì)介紹了java中Vector類的常用方法，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價值，感興趣的小伙伴們可以參考一下，希望能夠給你帶來幫助2022-02-02
這篇文章主要介紹了JVM運行時數(shù)據(jù)區(qū)劃分原理詳解,文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2021-09-09