基于Apache SeaTunnel构建CDC数据同步管道

原创
2023/12/19 12:05
阅读数 18

file

引言

在快速发展的数据驱动时代,数据的实时、准确同步成为了企业信息系统不可或缺的一部分。随着技术的进步,特别是在分布式计算和大数据技术的背景下,构建一个高效且可靠的数据同步管道成为了挑战。

Apache SeaTunnel作为一个先进的数据集成开发平台,提供了构建高效CDC数据同步管道的可能性。本文将深入探讨利用Apache SeaTunnel构建CDC数据同步管道的过程,揭示其背后的关键技术和实践策略,旨在为面临数据同步挑战的专业人士提供实用指导。

大家下午好,今天分享的主题是基于Apache SeaTunnel构建CDC数据同步管道。我之前主要从事监控APM的计算平台工作,后来转向数据集成开发平台。目前,我正在基于Apache SeaTunnel开发CDC的数据同步管道,长期活跃于开源社区。我是Apache SeaTunnel的PMC成员和Skywalking的committer。

Apache SeaTunnel 简介

Apache SeaTunnel是一个数据集成开发平台,其发展经历了几个重要阶段: file

  1. ETL时代(90年代):面向结构化数据库的数据同步,用于构建数据仓库。
  2. MPP和分布式技术流行:使用技术如Hive进行数据仓库的构建。此阶段主要使用mapreduce程序进行数据搬运和转换。
  3. 数据湖技术流行:重视数据集成,强调先同步数据至数据湖仓储,再进行业务面向的转换和设计。

file

技术定位与挑战

file

Apache SeaTunnel在ELT环节中,主要解决简单的转换问题,并快速搬运数据。面临的挑战包括:

  • 处理多样化的数据源和存储差异。
  • 尽量减少对数据源的影响。
  • 适应不同的数据集成场景,如离线和实时CDC同步。
  • 保证数据集成的监控和量化指标。

重要特性

  • 简单易用:No code,通过配置文件提交作业。
  • 运行监控:提供详细的读写监控。
  • 丰富的生态:插件式架构,提供统一的读写API。

Apache SeaTunnel的发展历程

Apache SeaTunnel的前身是Whatdorp。它于2021年加入Apache孵化器,并在2022年发布了第一个版本。2022年10月,进行了重大重构,引入统一API。

file

2022年11月,开发了专门用于数据同步的引擎。到2022年底,连接器的读写功能已经支持超过100种数据源。到2023年,主要集中于CDC和整库同步。

file

CDC(Change Data Capture)简介

file CDC,即变更数据捕获,是一种捕获数据库变更事件(如插入、更新、删除)的技术。在业务数据库中,数据不断变更,CDC的作用是捕获这些事件,并同步到数仓、数据湖或其他平台,确保目标存储与原始数据库保持一致。 file

CDC的应用场景

  1. 数据复制:如备库建设或读写分离。
  2. 数据分析:在大数据平台进行基于BI的数据分析。
  3. 检索业务:例如,将商品库或文档库同步到ES等检索平台。
  4. 操作审计:记录系统变更,用于金融审计等。

常见的CDC方案的痛点

  1. 单表作业限制:大多数开源方案中,一个作业通常只能处理一个表。
  2. 读取与写入分离:一些平台专注于数据捕获,而另一些只负责数据写入。
  3. 多数据库支持问题:不同的数据库可能需要不同的同步平台,增加了维护难度。
  4. 大规模表处理困难:处理大型表时可能遇到性能瓶颈。
  5. DDL变更同步:实时同步数据库结构(DDL)变更是一个复杂且重要的需求。

Apache SeaTunnel在CDC中的应用

file Apache SeaTunnel作为一个连接器,可以实现抽象的Source API和Sink API,即读写API,以实现数据的同步。它的设计目标是:

  1. 支持多种数据库:如MySQL、Oracle等。
  2. 零编码:自动建表和动态增删表,无需编写代码。
  3. 高效读取:先进行数据快照,再跟踪binlog变化。
  4. 确保一致性:实现exactly-once语义,即使在中断恢复情况下也不会出现数据重复。

Apache SeaTunnel CDC的设计实践重点

file 在于处理数据同步的两个阶段:快照读取和增量跟踪。 file

快照读取阶段

基本流程

  • Chunk划分(Splitting):为了高效同步大量历史数据,表被划分为多个chunk(或split),每个chunk处理一部分数据。
  • 并行处理:每个表分成多个split,这些split通过路由算法分配给不同的reader进行并行读取。
  • 事件反馈机制:每个reader在完成split读取后会向split分发器报告进度(watermark)。 file

file

Split详解

  • 组成:Split包括唯一ID、指向的表ID、以及划分细节(如数据范围)。
  • 划分方法:Split可基于不同类型的列(如数字或时间)进行范围划分。
  • 处理过程:划分后的split被分发给reader,每个split的读取完成后会报告数据水位线。

file

增量跟踪阶段

单线程流读取

file

  • 流读取特性:与快照阶段的并行读取不同,增量跟踪通常为单线程操作。
  • 减少业务压力:避免重复拉取binlog,减轻对业务数据库的压力。

file

file

file

Split管理

  • 无终止的Split:增量阶段的Split没有结束点,意味着流读取是持续的。
  • 水位线管理:增量Split包含所有快照Split的最小水位线,从最小位置开始读取。
  • 资源优化:一个reader占用一个连接,保持高效且资源优化的数据跟踪。

Apache SeaTunnel CDC的设计允许有效地同步历史数据(快照读取)和实时变更(增量跟踪)。通过Split管理和资源优化策略,确保数据同步既高效又对原始数据库影响最小。

Apache SeaTunnel CDC的Exactly-Once实现

file

Apache SeaTunnel CDC实现Exactly-Once语义的核心在于处理数据同步中的不一致性和系统故障。

file

Exactly-Once的实现机制

快照读取的水位线管理

  • 低水位与高水位:在快照读取时,首先记录低水位线,读取结束后记录高水位线。这两个水位线之间的差异表明数据库在此期间发生了变化。
  • 内存表合并:低水位和高水位之间的变更会被合并到内存表中,确保未遗漏任何变更。

file

file

Split与Split之间的间隙处理

  • 处理数据间隙:处理Split间的数据间隙,确保没有遗漏变更。
  • 反向过滤与回捞:快照阶段的每个数据点都会检查以确保没有被之前的Split覆盖,避免数据重复。
  • 阶段性校对:分为两个阶段(Stage 1和Stage 2),分别处理Split间的间隙和表间的间隙,确保所有变更都被捕获。

断点续传与分布式快照

分布式快照机制

file

  • 不同引擎适配:分布式快照API适配不同的执行引擎,确保状态一致性。
  • 检查点保存:定期发起检查点保存操作,所有组件上传自己的状态,保存完整的检查点状态。
  • 恢复选择:在恢复时,可以选择任何一个检查点版本进行恢复。

file

分布式状态对齐

  • 进程间状态同步:处理多个进程内的不同内存状态,确保它们在一个时间点达到一致状态。
  • 信号传播与保存:从一个进程发起分布式快照信号,其余进程根据信号保存自己的状态并传递信号,直至所有节点状态对齐。
  • 实际应用:在CDC任务中,枚举器节点、读取节点、写入节点均参与这一过程,保证整个数据同步过程的状态一致性。

DDL同步的深入探讨

file

在Apache SeaTunnel CDC中,DDL同步是一个关键的挑战。由于数据库结构可能在数据流处理过程中发生变化,因此必须谨慎处理这些变更。

DDL解析与抽象化

  • DDL事件解析:DDL事件首先被解析并转换为结构化的抽象形式,这样做的目的是将DDL处理过程与特定数据库的语法细节解耦。
  • 结构化事件处理:例如,添加列的操作被转换为一个通用的结构化事件,不再依赖于具体数据库的语法。

file

数据流与结构流的分离

  • 信号插入:在DDL操作前后,系统会插入特定的信号以分离结构流和数据流。这样做允许在DDL操作期间暂停数据处理,避免在结构变更期间发生数据混乱。

前置与后置信号处理

  • 前置信号:在DDL操作前,清空内存中的数据状态,并暂停数据处理,以确保结构变更前的数据完整性。
  • 后置信号:DDL操作完成后,系统恢复数据处理,并继续之后的数据同步。 file

file

file

数据传输的细节优化

file 在数据传输方面,Apache SeaTunnel CDC通过一系列优化,确保数据同步的效率和一致性。

数据操作的类型化处理

  • 插入(Insert):处理新增数据,仅涉及操作后的状态。
  • 更新(Update):涉及操作前后的状态变化,需要精确处理以确保数据一致性。
  • 删除(Delete):只关注操作前的状态,因为数据在操作后不再存在。

高效的数据流管理

为了提高效率,CDC在数据流管理方面做了大量优化:

  • 表级数据拆分:保证同一表内的数据处理的有序性。
  • 键级数据排序:同一键的数据操作按顺序处理,保证数据状态的正确性。
  • 并行数据写入:同一表内的数据可以并行写入,提高了数据处理的速度。

更新优化

file

对于不支持更新操作的目标存储,CDC采取了一种优化策略:将更新操作转换为先删除后插入操作,从而绕过存储的限制。

共享挖掘与多目标写入

file

为了减少对原始数据源的负担,CDC采用共享挖掘机制。这意味着数据被一次读取,然后共享给多个写入插件,允许数据被写入到多个目标存储。这种方法有效地整合了原本分散的数据读写流程,提升了整体效率。

自动建表

目的

  • 自动转换:将原库的表结构自动转换到目标库,适用于不熟悉业务库表结构或表数量庞大的场景。

实现过程

file

  1. 表结构推送:将配置的所有表转换为通用的数据类型和表结构。
  2. 与写入插件的交互:启动时,插件接收表结构,检查并在目标库创建或更新表。
  3. 类型提升:处理异构数据库中的类型不匹配问题,如将小类型提升到大类型。

社区发展与参与

file

当前发展

  • 多表读写:推进多表和多引擎支持。
  • API推广:将自动建表等API推广到社区,实现在各插件中。
  • 连接器升级:升级连接器以支持新的多表读写功能。
  • DDL解析:开发支持目标端表结构的DDL解析功能。

Web界面

  • 发布与完善:发布并持续完善,支持不同数据库的数据查询和同步任务配置。

社区参与

  • 加入社区:通过官方微信公众号或加入中文用户群获取更多支持。
  • 在线资源:通过项目的issue系统、Slack频道或官网获取资源和支持。
  • 贡献与沟通:下载试用、报告bug、查看新手任务,或通过邮件列表和Slack进行沟通。

file

本文由 白鲸开源科技 提供发布支持!

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部