文档章节

淘宝的消息中间件(2013)

鱼煎
 鱼煎
发布于 2015/08/19 16:45
字数 5959
阅读 42
收藏 1

这是一篇老帖子了,我是来学习的。原文在这里:http://jm-blog.aliapp.com/?p=3483。问题是图片都没有了。我费了很大功夫才把原文的图片给找回来。排版之后重新发布一遍。
淘宝的notify是一个非常有特色的消息中间件。它用创新地方式解决了分布式事务的问题,用相对较低的成本,实现了跨micro service的最终一致性。这种把最终一致性用application queue而不是database replication queue的方式来实现,把IT技术层面的跨业务的事务变成一个业务层面的单据传递的概念,非常值得推广。

消息中间件——分布式消息的广播员

综述
消息中间件是一种由消息传送机制或消息队列模式组成的最典型的中间件技术。通过消息中间件,应用程序或组件之间可以进行可靠的异步通讯来降低系统之间的耦合度,从而提高整个系统的可扩展性和可用性。

3.1、Notify

Notify是淘宝自主研发的一套消息服务引擎,是支撑双11最为核心的系统之一,在淘宝和支付宝的核心交易场景中都有大量使用。消息系统的核心作用就是三点:解耦,异步和并行。下面让我以一个实际的例子来说明一下解耦异步和并行分别所代表的具体意义吧:

假设我们有这么一个应用场景,为了完成一个用户注册淘宝的操作,可能需要将用户信息写入到用户库中,然后通知给红包中心给用户发新手红包,然后还需要通知支付宝给用户准备对应的支付宝账号,进行合法性验证,告知sns系统给用户导入新的用户等10步操作。
那么针对这个场景,一个最简单的设计方法就是串行的执行整个流程,如图3-1所示:

riyq2e.jpg

这种方式的最大问题是,随着后端流程越来越多,每步流程都需要额外的耗费很多时间,从而会导致用户更长的等待延迟。自然的,我们可以采用并行的方式来完成业务,能够极大的减少延迟,如图3-2所示。

Rva6Vj.jpg

但并行以后又会有一个新的问题出现了,在用户注册这一步,系统并行的发起了4个请求,那么这四个请求中,如果通知SNS这一步需要的时间很长,比如需要10秒钟的话,那么就算是发新手包,准备支付宝账号,进行合法性验证这几个步骤的速度再快,用户也仍然需要等待10秒以后才能完成用户注册过程。因为只有当所有的后续操作全部完成的时候,用户的注册过程才算真正的“完成”了。用户的信息状态才是完整的。而如果这时候发生了更严重的事故,比如发新手红包的所有服务器因为业务逻辑bug导致down机,那么因为用户的注册过程还没有完全完成,业务流程也就是失败的了。这样明显是不符合实际的需要的,随着下游步骤的逐渐增多,那么用户等待的时间就会越来越长,并且更加严重的是,随着下游系统越来越多,整个系统出错的概率也就越来越大。

通过业务分析我们能够得知,用户的实际的核心流程其实只有一个,就是用户注册。而后续的准备支付宝,通知sns等操作虽然必须要完成,但却是不需要让用户等待的。
这种模式有个专业的名词,就叫最终一致。为了达到最终一致,我们引入了MQ系统。业务流程如下:

主流程如图3-3所示:

3aeq2a.jpg
图3-3-用户注册流程-引入MQ系统-主流程

异步流程如图3-4所示:
yMNJBn.jpg
图3-4-用户注册流程-引入MQ系统-异步流程

核心原理

Notify在设计思路上与传统的MQ有一定的不同,他的核心设计理念是

  1. 为了消息堆积而设计系统

  2. 无单点,可自由扩展的设计

下面就请随我一起,进入到我们的消息系统内部来看看他设计的核心原理

为了消息堆积而设计系统在市面上的大部分MQ产品,大部分的核心场景就是点对点的消息传输通道,然后非常激进的使用内存来提升整体的系统性能,这样做虽然标称的tps都能达到很高,但这种设计的思路是很难符合大规模分布式场景的实际需要的。

在实际的分布式场景中,这样的系统会存在着较大的应用场景瓶颈,在后端有大量消费者的前提下,消费者出现问题是个非常常见的情况,而消息系统则必须能够在后端消费不稳定的情况下,仍然能够保证用户写入的正常并且TPS不降,是个非常考验消息系统能力的实际场景。

也因为如此,在Notify的整体设计中,我们最优先考虑的就是消息堆积问题,在目前的设计中我们使用了持久化磁盘的方式,在每次用户发消息到Notify的时候都将消息先落盘,然后再异步的进行消息投递,而没有采用激进的使用内存的方案来加快投递速度。

这种方式,虽然系统性能在峰值时比目前市面的MQ效率要差一些,但是作为整个业务逻辑的核心单元,稳定,安全可靠是系统的核心诉求。

无单点,可自由扩展的设计

BfmYbm.jpg

图3-5展示了组成Notify整个生态体系的有五个核心的部分。

  • 发送消息的集群这主要是业务方的机器,这些APP的机器上是没有任何状态信息的,可以随着用户请求量的增加而随时增加或减少业务发送方的机器数量,从而扩大或缩小集群能力。

  • 配置服务器集群(Config server)这个集群的主要目的是动态的感知应用集群,消息集群机器上线与下线的过程,并及时广播给其他集群。如当业务接受消息的机器下线时,config server会感知到机器下线,从而将该机器从目标用户组内踢出,并通知给notify server,notify server 在获取通知后,就可以将已经下线的机器从自己的投递目标列表中删除,这样就可以实现机器的自动上下线扩容了。

  • 消息服务器(Notify Server)消息服务器,也就是真正承载消息发送与消息接收的服务器,也是一个集群,应用发送消息时可以随机选择一台机器进行消息发送,任意一台server 挂掉,系统都可以正常运行。当需要增加处理能力时,只需要简单地增加notify Server就可以了

  • 存储(Storage)Notify的存储集群有多种不同的实现方式,以满足不同应用的实际存储需求。针对消息安全性要求高的应用,我们会选择使用多份落盘的方式存储消息数据,而对于要求吞吐量而不要求消息安全的场景,我们则可以使用内存存储模型的存储。自然的,所有存储也被设计成了随机无状态写入存储模型以保障可以自由扩展。

  • 消息接收集群业务方用于处理消息的服务器组,上下线机器时候也能够动态的由config server 感知机器上下线的时机,从而可以实现机器自动扩展。

3.2、Notify双11准备与优化

在双11的整个准备过程中,Notify都承载了非常巨大的压力,因为我们的核心假定就是后端系统一定会挂,而我们需要能够承载整个交易高峰内的所有消息都会堆积在数据库内的实际场景。
在多次压测中,我们的系统表现还是非常稳定的,以60w/s的写入量堆积4.5亿消息的时候,整个系统表现非常淡定可靠。在真正的大促到来时,我们的后端系统响应效率好于预期,所以我们很轻松的就满足了用户所有消息投递请求,比较好的满足了用户的实际需要。

3.3、MetaQ

METAQ是一款完全的队列模型消息中间件,服务器使用Java语言编写,可在多种软硬件平台上部署。客户端支持Java、C++编程语言,已于2012年3月对外开源,开源地址是:http://metaq.taobao.org/。MetaQ大约经历了下面3个阶段

在2011年1月份发布了MetaQ 1.0版本,从Apache Kafka衍生而来,在内部主要用于日志传输。
在2012年9月份发布了MetaQ 2.0版本,解决了分区数受限问题,在数据库binlog同步方面得到了广泛的应用。
在2013年7月份发布了MetaQ 3.0版本,MetaQ开始广泛应用于订单处理,cache同步、流计算、IM实时消息、binlog同步等领域。MetaQ3.0版本已经开源,参见这里
综上,MetaQ借鉴了Kafka的思想,并结合互联网应用场景对性能的要求,对数据的存储结构进行了全新设计。在功能层面,增加了更适合大型互联网特色的功能点。

MetaQ简介

maiyai.jpg
图3-6-MetaQ整体结构

如图3-6所示,MetaQ对外提供的是一个队列服务,内部实现也是完全的队列模型,这里的队列是持久化的磁盘队列,具有非常高的可靠性,并且充分利用了操作系统cache来提高性能。

  • 是一个队列模型的消息中间件,具有高性能、高可靠、高实时、分布式特点。

  • Producer、Consumer、队列都可以分布式。

  • Producer向一些队列轮流发送消息,队列集合称为Topic,Consumer如果做广播消费,则一个consumer实例消费* * 这个Topic对应的所有队列,如果做集群消费,则多个Consumer实例平均消费这个topic对应的队列集合。

  • 能够保证严格的消息顺序

  • 提供丰富的消息拉取模式

  • 高效的订阅者水平扩展能力

  • 实时的消息订阅机制

  • 亿级消息堆积能力

MetaQ存储结构

MetaQ的存储结构是根据阿里大规模互联网应用需求,完全重新设计的一套存储结构,使用这套存储结构可以支持上万的队列模型,并且可以支持消息查询、分布式事务、定时队列等功能,如图3-7所示。

feArQf.jpg
图3-7-MetaQ存储体系

MetaQ单机上万队列

MetaQ内部大部分功能都靠队列来驱动,那么必须支持足够多的队列,才能更好的满足业务需求,如图所示,MetaQ可以在单机支持上万队列,这里的队列全部为持久化磁盘方式,从而对IO性能提出了挑战。MetaQ是这样解决的

Message全部写入到一个独立的队列,完全的顺序写
Message在文件的位置信息写入到另外的文件,串行方式写。
通过以上方式,既做到数据可靠,又可以支持更多的队列,如图3-8所示。

NbiUZf.jpg
图3-8-MetaQ单机上万队列

MetaQ与Notify区别

  • Notify侧重于交易消息,分布式事务消息方面。

  • MetaQ侧重于顺序消息场景,例如binlog同步。以及主动拉消息场景,例如流计算等。

3.4、MetaQ双11准备与优化

Notify 交易消息转 MetaQ 方案改进

MetaQ 交易集群主要是 Notify 交易消息的一个镜像,旧有的方案是通过 Notify-Client 订阅 Notify 交易消息,然后再转投到 MetaQ 集群,这个方案的缺点:1. 通过消息订阅的方式给 Notify 集群带来比较大的压力 2. 一旦 MetaQ 集群处理不及时会给 Notify 造成消息的堆积,从而带来连锁不良效应。新的方案则是从Notify DB直接拉取binlog到MetaQ,它带来的优势: 1. 解放 NotifyServer 集群的压力;2. 通过 binlog 批量处理可以提升系统的吞吐量。

交易集群低延迟优化

天猫直播间,旨在通过实时获取活动当天的交易数据,通过实时流计算的方式,及时、准确的展示各业务数据。它的特点就是数据全而准确、实时性要求较高。而在全链路压测过程中发现从 Notify Mysql binlog 获取数据时,出现较大的延迟,最严重的延迟高达4h+,这显然是不合系统需求的。基于这些问题,我们在 Notify Mysql 端做了很多的优化:
Mysql 数据库实例扩容,从而提高集群的整体吞吐量;
对 binlog 的存放位置进行优化,将数据存储以及 binlog 存储进行分离,从而发挥 DB 的最大写性能;
由于 MySQL 的 binlog 操作存在锁操作,优化了 MySQL 生成 binlog 的配置,保证了拉 binlog 无延时。

针对不同集群运行参数调优

根据业务的特点,对不同集群的运行参数调优,如批量拉取大小,刷盘方式,数据有效期等等;同时对io调度、虚拟内存等参数进行调优,以提供更为高效的堆积。

监控与实时告警

任何一个值得信赖的系统,最低限度是需要做到及时发现并处理异常,在第一时间排除故障发生的可能,从而提高产品的可用性。在双十一活动之前,我们实现了由 MetaQ 系统内部,根据集群状态,各消息的业务数据指标进行监控统计并主动告警,同时还能通过 Diamond 做到动态调整,从而提高监控的及时性以及灵活性。

回顾双十一活动当日,淘宝消息写入总量112亿,消息投递总量220亿,支付宝消息写入总量24亿,消息投递总量24亿。其中实时直播间集群消息写入峰值为13.1w,消息投递峰值为27.8w。

从总体上看,我们的前期准备还是比较充分的,MetaQ 各集群在高峰期表现稳定,全天表现很平稳,个别订阅组对消息进行重溯,部分消息有少量的堆积,但都没有对系统造成影响,效果还是非常好的。75%的交易在聚石塔上完成,实时直播间交易统计延迟在1s左右,加减库存做到零超卖。

小结

目前分布式消息中间件产品已经服务于整个集团,支持了阿里集团各个公司的500多个业务应用系统。每日处理海量消息超350亿次,保证所有交易数据高可靠,高性能,分布式事务处理,是中间件团队最老牌的中间件产品之一。

补充阅读:Notify实现分布式事务的方式

资料来源:http://club.alibabatech.org/resource_detail.htm?topicId=61

图片描述

图片描述

图片描述

图片描述

图片描述

图片描述

图片描述

图片描述

业务操作和消息存储都在本地事务域进行,不存在跨资源的事务。
提交/回滚消息有可能失败,系统会处于短暂的不一致状态
Broker会主动发送Check消息,确认消息是否提交或回滚
最终一致
将分布式事务分解在两个本地事务中
客户端需要付出的代价
实现CheckMessageListener接口

延伸阅读:MetaQ在双十二彩票中的运用

原帖链接:http://jm-blog.aliapp.com/?p=3405&utm_source=tuicool

双十二大促是淘宝集市的年终促销活动,活动当天扫描首页二维码赠送一注彩票的活动更是让大家“玩”了一把。面对瞬间的数倍于往常的峰值,如何让用户有一个良好的体验,如何保证系统的稳定运行,让我们来揭秘这一切。

归纳一下系统需要做到如下几点:

  • RT足够短

  • 压力分布均匀

  • 复杂逻辑分离,异步话

系统结构图
Mjiuau.jpg

大体分为两个部分:活动系统,彩票系统,他们之间通过消息驱动。
活动系统里面只更新一个彩票分配的状态,数据更新成功就返回给用户,逻辑足够简单能保证RT非常短。彩票系统负责真正的彩票出票和更新用户状态等一些耗时操作。
用户在首页扫描二维码发起对活动系统的请求,活动系统更新彩票分配状态,产生一条消息,立即返回并。彩票系统收到这个消息完成后续出票等一些的业务操作。整个过程是通过MetaQ提供的消息服务驱动完成。活动的时候会有大量的请求涌进活动系统,会产生大量的消息,预估qps达到24w;并且消息不可丢失,确保用户都能领到一注彩票;活动系统,彩票系统业务复杂度相差较大,处理能力也相差较大,可能会出现大量的堆积;为了让用户有个较好的体验,消息的消费也需要足够的及时。综上对MetaQ有这么一些挑战:

  • 高吞吐量

  • 数据可靠

  • 高效堆积

  • 消息投递足够低延迟

下面介绍一下MetaQ如何做到这些的。

MetaQ简介

METAQ是一款完全的队列模型消息中间件,服务器使用Java语言编写,可在多种软硬件平台上部署。客户端支持Java、C++编程语言,已于2012年3月对外开源,开源地址。MetaQ的设计目标是高吞吐量,高效堆积。完全的队列模型还提供了顺序消息,消息回溯等一些特性。

2Yr6ru.jpg

基本概念

  • Topic 消息主题

  • Partition 分区,代表一个消费队列 (一个Topic可以划分为多个分区,分区数越多并行度越大,支持的Qps越高)

  • Group 消费分组,代表一个消费集群

MetaQ对外提供的是一个队列服务,内部实现也是完全的队列模型,这里的队列是持久化的磁盘队列,具有非常高的可靠性,并且充分利用了操作系统cache来提高性能。这些特性都源于存储层的设计。

MetaQ存储结构

MetaQ的存储结构是根据阿里大规模互联网应用需求,完全重新设计的一套存储结构,使用这套存储结构可以支持上万的队列模型,并且可以支持消息查询、分布式事务、定时队列等功能,如图3所示。

NZvmuu.jpg

存储层可以大致分为数据文件(CommitLog)和索引文件两部分。数据文件保存了所有的消息的内容,索引文件保存了消息所在数据文件的偏移量。消息数据不区分Topic,顺序的append到CommitLog,索引文件按照Topic-Partition维度组织,不同分区的消息append到不同索引队列里面。

消息写入
客户端发送一条消息,数据首先会写到文件缓存中,同时派发一个写索引请求;异步的构建消息索引。

消息读取
客户端读取消息,根据索引的位置找到需要读取的消息的物理位置和消息长度,从CommitLog中读取数据,通过文件缓存来加速消息的读取。通常热数据都在缓存中,无需IO操作;非热数据,会触发缺页中断,数据从磁盘加载到文件缓存中,直接写到socket缓冲区,避免数据进入Java堆。

数据刷盘
刷盘后数据最终持久化到磁盘。刷盘方式分为两种方式:同步刷盘,数据写入缓存后立即刷盘,确保数据落盘后返回客户端,MetaQ在同步刷盘过程中也做了一定优化避免过多的性能损失;异步刷盘,数据批量定时的刷到磁盘。

数据清理
消息数据按照文件有效期定时做清理。

数据复制
数据可靠性要求很高的应用,可通过数据复制保证数据的可靠。MetaQ提供两种数据同步的方式:同步双写,数写入到主机后会同时写到备机,主备都写成功才返回客户端成功,主备间数据无延迟,MetaQ有一套自己的主备间高效数据复制方案;异步复制,数据写到主机后返回客户端成功,主备间异步同步,主备间存在一定的延迟。

MetaQ单机上万队列
b6fU32.jpg

MetaQ的大部分功能都是靠队列来驱动,以文件的方式存储,通过内存映射对数据进行操作。所有的消息都是顺序的写到数据文件(CommitLog),完全顺序的写入,避免随机IO;消息索引按照Topic和Partition的维度区分串行的写到索引文件。通过这种这种组织方式可以实现单机上万队列,如图4所示。

数据流图
3Yjii2.jpg

消息数据首先写入到Java堆,然后在写入到文件缓存,在根据具体的刷盘策略Flush到磁盘;消费消息的时候如果是热数据则直接从系统缓存写到socket发到远端;如果非热数据则由系统产生缺页中断将数据从磁盘加载到系统缓存在写到socket,数据不进应用程序内存空间。内存的管理,页面的换入换出都是由OS来管理的。同时消息的拉取也是批量的,一次处理多条数据,尽量减少往返的时间。
MetaQ性能依赖于系统内存分配,磁盘IO的有效利用,所以我们也对操作系统内存分配,脏页会写策略,以及IO调度算法做了一些调优,让资源的分配耗时趋于平稳,堆积的时候保持较高的吞吐量。

负载均衡

发送端负载
默认发送端通过轮询的方式向broker写消息,如图6所示;也可以自行指定消息发到哪里。
VBBV3m.jpg

消费端负载
默认是消费集群机器均分所有的消费队列。余下的部分由靠前的消费者消费,如图7所示。消费端负载均很也可以定制,如同机房优先等。

另推荐:http://www.infoq.com/cn/news/2014/03/interview-alibaba-wangjingyu?utm_...


本文转载自:http://segmentfault.com/a/1190000003059871

共有 人打赏支持
鱼煎
粉丝 7
博文 193
码字总数 38711
作品 0
深圳
技术主管
私信 提问
Java中间件:淘宝网系统高性能利器

【TechTarget中国原创】淘宝网是亚太最大的网络零售商圈,其知名度毋庸置疑,吸引着越来越多的消费者从街头移步这里,成为其忠实粉丝。如此多的用户和交易量,也意味着海量的信息处理,其背后...

老先生二号
2017/06/25
0
0
阿里巴巴消息中间件团队消息和分布式数据层负责人王晶昱:消息系统架构与变迁

对于大型的互联网业务来说,消息系统是必不可少的基础服务。 子柳 在《淘宝技术这十年》中为大家展示了阿里消息系统架构的概貌,作为集团业务使用的核心基础服务,目前消息系统现在可以承受每...

tantexian
2016/05/04
214
0
OSC 高手问答 -- 大型网站系统与Java中间件实践

OSCHINA 本期高手问答(5月28日-6月5日)我们请来了 @见习神仙 (曾宪杰,淘宝花名华黎)为大家解答关于大型网站系统与Java中间件方面的问题。 @见习神仙 曾宪杰,淘宝花名华黎,现任淘宝技术部...

阿娇OSC
2014/05/28
16.5K
149
支付宝钱包系统内部架构图,架构设计

支付宝系统架构概况 典型处理默认 资金处理平台 财务会计 支付清算 核算中心 交易 柔性事务 支付宝的开源分布式消息中间件–Metamorphosis(MetaQ) Metamorphosis (MetaQ) 是一个高性能、高可...

洋哥6
2016/02/02
326
0
阿里中间件招聘

我们有世界上最牛的交易场景,但还缺少最牛的你! 招聘岗位: 资深Java开发工程师、技术专家 岗位描述: 中间件技术部是阿里巴巴集团生态系统的技术基石,为淘宝、天猫、聚划算、1688、B2B、A...

robin-yao
2016/05/31
500
0

没有更多内容

加载失败,请刷新页面

加载更多

Kafka+Flink 实现准实时异常检测系统

1.背景介绍 异常检测可以定义为“基于行动者(人或机器)的行为是否正常作出决策”,这项技术可以应用于非常多的行业中,比如金融场景中做交易检测、贷款检测;工业场景中做生产线预警;安防...

架构师springboot
15分钟前
1
0
DecimalFormat 类基本使用

/* * DecimalFormat 类主要靠 # 和 0 两种占位符号来指定数字长度 * 0 表示如果位数不足则以 0 填充 * # 表示只要有可能就把数字拉上这个位置 * */ public static void main(String[] args){...

嘴角轻扬30
32分钟前
3
0
This APT has Super Cow Powers.

在Debian/Ubuntu上,apt包管理器内嵌着一个彩蛋. 如果你在命令行界面输入 apt help 在最后一行能找到This APT has Super Cow Powers. 说明该apt具有超级牛力 牛力是个什么梗? 则说明你的系统...

taadis
49分钟前
2
0
起薪2万的爬虫工程师,Python需要学到什么程度才可以就业?

爬虫工程师的的薪资为20K起,当然,因为大数据,薪资也将一路上扬。那么,Python需要学到什么程度呢?今天我们来看看3位前辈的回答。 1、前段时间快要毕业,而我又不想找自己的老本行Java开发...

糖宝lsh
58分钟前
6
0
携手开发者共建云生态 首届腾讯云+社区开发者大会在京举办

本文由云+社区发表 北京时间12月15日,由腾讯云主办,极客邦科技、微信、腾讯TEG协办的首届腾讯云+社区开发者大会在北京朝阳悠唐皇冠假日酒店举办。在会上,腾讯云发布了重磅产品开发者平台以...

腾讯云加社区
今天
1
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部