3分钟白话RocketMQ系列—— 如何保证消息顺序性

原创
2023/09/21 09:00
阅读数 7



实现的消息的顺序性主要有两个维度,分别是「全局有序」和「局部有序」。

我们围绕这两个方面来白话下消息顺序性问题。

关键字摘要

  • 全局有序

  • 局部有序

  • 局部有序能一直有序吗

  • 顺序消息的限制

Q1:什么是全局有序?如何实现全局有序?

适用于性能要求不高,所有的消息严格按照先进先出(FIFO)的原则来发布和消费的场景。

例如,在证券处理中,以人民币兑换美元为Topic,在价格相同的情况下,先出价者优先处理,则可以按照FIFO的方式发布和消费全局顺序消息。

要实现全局有序,必须控制Topic只有一个队列queue,才能实现全局有序。

由于只有一个队列存在,这种方式虽然保证了全局有序,但是性能不高,无法扩展。

Q2:什么是局部有序?如何实现局部有序?

适用于性能要求高,以Sharding Key作为分区字段,在同一个队列queue中严格地按照FIFO原则进行消息发布和消费的场景。

例如,用户注册需要发送发验证码,以用户ID作为Sharding Key,那么同一个用户发送的消息都会按照发布的先后顺序来消费。

保证「消息生产」的顺序性,则必须满足以下条件:

  • 单一生产者:消息生产的顺序性仅支持单一生产者,不同生产者分布在不同的系统,即使设置相同的分区键,不同生产者之间产生的消息也无法判定其先后顺序。

  • 串行发送:生产者客户端支持多线程安全访问,但如果生产者使用多线程并行发送,则不同线程间产生的消息将无法判定其先后顺序。

满足以上条件的生产者,将 「顺序消息」 发送至服务端后,会保证设置了同一分区键的消息,按照发送顺序存储在同一队列中。

局部有序(分区有序)

注意,在RocketMQ 5.x版本中,新增了「消息组」概念,顺序消息发送必须要设置消息组。

保证「消息消费」的顺序性,则必须满足以下条件:

  • 语义正确。业务方消费消息时需要严格按照 接收---处理---应答 的语义处理消息,避免因异步处理导致消息乱序。

  • 有限重试。顺序消息消费投递次数限定有限范围内,即一条消息如果超过最大重试次数后,将跳过这条消息消费,不会一直阻塞后续消息处理。

对于需要严格保证消费顺序的场景,请务必设置合理的重试次数,避免参数不合理导致消息乱序。

Q3:如果Broker掉线,局部有序还能保持有序吗?

如果一个Broker掉线,那么此时队列总数是否会发化?

如果发生变化,那么同一个 ShardingKey 的消息就会发送到不同的队列上,造成乱序。

如果不发生变化,那消息将会发送到掉线Broker的队列上,必然是失败的。

因此 Apache RocketMQ 提供了两种模式,如果要保证严格顺序而不是可用性,创建 Topic 是要指定 -o 参数(--order)为true,表示顺序消息:

$ sh bin/mqadmin updateTopic -c DefaultCluster -t TopicTest -o true -n 127.0.0.1:9876
create topic to 127.0.0.1:10911 success.
TopicConfig [topicName=TopicTest, readQueueNums=8, writeQueueNums=8, perm=RW-, topicFilterType=SINGLE_TAG, topicSysFlag=0, order=true, attributes=null]

其次,要保证NameServer中的配置 orderMessageEnable 和 returnOrderTopicConfigToBroker 必须是 true。

如果上述任意一个条件不满足,则是保证可用性而不是严格顺序。

Q4: 顺序消息有哪些限制?

1)同一条消息是否可以既是顺序消息,又是定时消息和事务消息?

不可以。顺序消息、定时消息、事务消息是不同的消息类型,三者是互斥关系,不能叠加在一起使用。

2)为什么全局顺序消息性能一般?

全局顺序消息是严格按照FIFO的消息阻塞原则,即上一条消息没有被成功消费,那么下一条消息会一直被存储到Topic队列中。

关键字总结

  • 全局有序:必须控制Topic只有一个队列queue,才能实现全局有序,性能一般。

  • 局部有序:性能较好,需要确保「生产有序」和「消费有序」,同时注意Broker掉线时的 可用性 与 有序性 权衡。

3分钟到了吗?应该对RocketMQ如何生产消息有全面了解了吧。
如果还想了解更多,欢迎关注下一期内容。


往期热门笔记合集推荐:


原创:阿丸笔记(微信公众号:aone_note),欢迎 分享,转载请保留出处。

没有留言功能的悲伤,扫描下方二维码「加我」聊些有的没的吧~

                                                                              觉得不错,就点个  再看 吧👇



本文分享自微信公众号 - 阿丸笔记(aone_note)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部