消息隊列MQ使用詳解
什么是消息隊列MQ
MQ(Message Queue)消息隊列,是基礎數據結構中“先進先出”的一種數據結構。指把要傳輸的數據(消息)放在隊列中,用隊列機制來實現消息傳遞——生產者產生消息并把消息放入隊列,然后由消費者去處理。
消費者可以到指定隊列拉取消息,或者訂閱相應的隊列,由MQ服務端給其推送消息。
作用
消息隊列中間件是分布式系統(tǒng)中重要的組件,主要解決應用解耦,異步消息,流量削鋒等問題,實現高性能,高可用,可伸縮和最終一致性架構。
- 解耦:一個業(yè)務需要多個模塊共同實現,或者一條消息有多個系統(tǒng)需要對應處理,只需要主業(yè)務完成以后,發(fā)送一條MQ,其余模塊消費MQ消息,即可實現業(yè)務,降低模塊之間的耦合。
- 異步:主業(yè)務執(zhí)行結束后從屬業(yè)務通過MQ,異步執(zhí)行,減低業(yè)務的響應時間,提高用戶體驗。
- 削峰:高并發(fā)情況下,業(yè)務異步處理,提供高峰期業(yè)務處理能力,避免系統(tǒng)癱瘓。
缺點
1、系統(tǒng)可用性降低。依賴服務也多,服務越容易掛掉。需要考慮MQ癱瘓的情況
2、系統(tǒng)復雜性提高。需要考慮消息丟失、消息重復消費、消息傳遞的順序性
3、業(yè)務一致性。主業(yè)務和從屬業(yè)務一致性的處理
主要產品
主要的 MQ 產品包括:RabbitMQ、ActiveMQ、RocketMQ、ZeroMQ、Kafka、IBM WebSphere 等。
比較火的是 RocketMQ 和 Kafka。
分別應用在 web 和大數據
舉例
1、例一
一個實際的使用消息隊列(MQ)的例子是電商網站的訂單處理系統(tǒng)。在電商網站中,用戶下單后需要經過一系列的處理流程,包括訂單驗證、庫存檢查、支付處理、物流跟蹤等。這些處理流程需要多個模塊之間進行協(xié)作,而且每個模塊都需要處理大量的訂單數據。
為了解決這些問題,可以使用消息隊列系統(tǒng)來實現訂單處理流程的異步處理。具體來說,可以將訂單數據發(fā)送到一個訂單處理隊列中,然后由不同的模塊從隊列中獲取訂單數據進行處理。這樣就可以將訂單數據的發(fā)送和接收者進行解耦,實現了系統(tǒng)的高可靠性、可伸縮性和可維護性。
舉個例子,當用戶下單后,訂單系統(tǒng)會將訂單數據發(fā)送到訂單處理隊列中,然后庫存系統(tǒng)會從隊列中獲取訂單數據進行庫存檢查,支付系統(tǒng)會從隊列中獲取訂單數據進行支付處理,物流系統(tǒng)會從隊列中獲取訂單數據進行物流跟蹤等。這些模塊之間可以并行處理訂單數據,而且每個模塊都可以獨立地進行擴展和升級,從而實現了系統(tǒng)的高可用性和可伸縮性。
另外,由于電商網站的訂單數據量可能非常大,使用消息隊列可以實現削峰填谷,平滑處理訂單請求,從而保證系統(tǒng)的可用性和穩(wěn)定性。此外,使用消息隊列還可以實現訂單數據的緩存和延遲處理,以提高系統(tǒng)的性能和吞吐量。
總之,使用消息隊列可以使得電商網站的訂單處理系統(tǒng)更加高效、可靠和可維護,是現代電商系統(tǒng)中必不可少的技術。
例二
在線游戲中的多人游戲場景同步。在多人游戲中,多個玩家之間需要實時同步游戲場景的狀態(tài),包括角色位置、狀態(tài)、動作等,同時還需要處理玩家之間的交互、碰撞等復雜場景邏輯。
為了實現這樣的實時場景同步,可以使用消息隊列來處理游戲場景事件的分發(fā)和處理。具體來說,可以將游戲場景中的事件(如玩家移動、攻擊、技能釋放等)封裝成消息,然后通過消息隊列進行廣播,讓所有參與游戲的客戶端都能夠接收到相應的消息,并根據消息內容來更新本地的游戲狀態(tài)。
使用消息隊列的好處在于,它可以將游戲場景事件的發(fā)送和接收者進行解耦,從而提高系統(tǒng)的可擴展性和可維護性。同時,由于消息隊列可以處理大量的消息,還可以應對高并發(fā)的場景,并且能夠削峰填谷,提高系統(tǒng)的穩(wěn)定性和可用性。
在多人游戲中,使用消息隊列還可以實現一些高級功能,比如實現延遲同步、反作 弊等。比如,可以將游戲場景中的事件緩存到消息隊列中,并設置一定的延遲時間后再進行處理,以確保所有玩家都能夠接收到相同的游戲狀態(tài)。此外,還可以使用消息隊列來監(jiān)控和過濾玩家的行為,以檢測和防范作弊行為。
綜上所述,使用消息隊列可以實現多人游戲場景的實時同步,并提高系統(tǒng)的可擴展性、可維護性和穩(wěn)定性,是現代游戲開發(fā)中的重要技術。
例三
用戶注冊后,需要發(fā)注冊郵件和注冊短信,傳統(tǒng)的做法有兩種
- 1.串行的方式;
- 2.并行的方式 ;
- 3.消息隊列
(1)串行方式:將注冊信息寫入數據庫后,發(fā)送注冊郵件,再發(fā)送注冊短信,以上三個任務全部完成后才返回給客戶端。這有一個問題是,郵件,短信并不是必須的,它只是一個通知,而這種做法讓客戶端等待沒有必要等待的東西。
(2)并行方式:將注冊信息寫入數據庫后,發(fā)送郵件的同時,發(fā)送短信,以上三個任務完成后,返回給客戶端,并行的方式能提高處理的時間。
(3)消息隊列
引入消息隊列后,把發(fā)送郵件,短信不是必須的業(yè)務邏輯異步處理。
例四:流量削峰
秒殺活動,一般會因為流量過大,導致應用掛掉,為了解決這個問題,一般在應用前端加入消息隊列。
用戶的請求,服務器收到之后,首先寫入消息隊列,加入消息隊列長度超過最大值,則直接拋棄用戶請求或跳轉到錯誤頁面。秒殺業(yè)務根據消息隊列中的請求信息,再做后續(xù)處理。
發(fā)布訂閱 vs MQ
發(fā)布訂閱模式和消息隊列(MQ)都是在分布式系統(tǒng)中廣泛使用的消息傳遞機制,它們都具有將發(fā)送者和接收者解耦的優(yōu)點。
雖然這兩種模式在某些方面相似,但它們也有一些重要的區(qū)別。
誰負責管理消息?
- 在發(fā)布訂閱模式中,消息的發(fā)送者不需要知道消息的接收者,而是將消息發(fā)送到一個主題(Topic),然后所有訂閱該主題的訂閱者都會接收到該消息。主題的管理通常由發(fā)布者負責。
- 在消息隊列中,消息的發(fā)送者將消息發(fā)送到隊列中,然后訂閱該隊列的訂閱者會按照隊列中的消息順序進行消費。隊列的管理通常由消息隊列系統(tǒng)負責。
消息如何分發(fā)?
- 在發(fā)布訂閱模式中,消息是通過主題進行分發(fā)的,所有訂閱該主題的訂閱者都會接收到相同的消息。這種方式可以使得多個訂閱者同時接收到同一份消息。
- 在消息隊列中,消息是通過隊列進行分發(fā)的,每個消息只會被一個訂閱者接收。這種方式可以確保每個訂閱者都能夠接收到所有消息,但是無法讓多個訂閱者同時接收到同一份消息。
如何處理消息丟失?
- 在發(fā)布訂閱模式中,如果某個訂閱者沒有及時接收到消息,它將無法再次獲取到該消息。這可能會導致消息丟失。
- 在消息隊列中,消息通常會被持久化到磁盤上,以確保即使在消息消費者宕機的情況下,消息也不會丟失。如果某個消費者無法消費某個消息,該消息將被保留在隊列中,直到可以被正確地處理為止。
用例場景
- 發(fā)布訂閱模式通常適用于一些事件驅動的應用場景,例如消息推送、實時數據處理等。
- 消息隊列則適用于一些流量高、性能穩(wěn)定的場景,例如電商交易、訂單處理、日志處理等。
總結
以上為個人經驗,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關文章
java多線程之線程,進程和Synchronized概念初解
這篇文章主要介紹了java多線程之線程,進程和Synchronized概念初解,涉及進程與線程的簡單概念,實現多線程的方式,線程安全問題,synchronized修飾符等相關內容,具有一定借鑒價值,需要的朋友可以參考下。2017-11-11
Java中遇到的For?input?string問題解決辦法
這篇文章主要給大家介紹了關于Java中遇到的For?input?string問題的解決辦法,如果出現這樣的異常報錯,是指的數據轉換時出錯,文中通過圖文介紹的非常詳細,需要的朋友可以參考下2023-11-11
SpringBoot整合Log4j2實現自定義日志打印失效的原因及解決
本文給大家介紹了關于SpringBoot項目整合Log4j2實現自定義日志打印失效原因及解決辦法,主要的原因是因為SpringBoot的logback包的存在,文中通過圖文給大家了詳細解決方法,需要的朋友可以參考下2024-01-01

