1.1.0版本重磅发布 | Apache InLong(incubating)一大波特性来袭

原创
2022/04/27 16:24
阅读数 897

InLong(应龙) : 中国神话故事里的神兽,可以引流入海,借喻 InLong 系统提供数据接入能力。

Apache InLong(应龙)是一个一站式的海量数据集成平台,提供自动、安全、可靠和高性能的数据传输能力,同时支持批和流,方便业务构建基于流式的数据分析、建模和应用。InLong 支持大数据领域的采集、汇聚、缓存和分拣功能,用户只需要简单的配置就可以把数据从数据源导入到实时计算引擎或者落地到离线存储。刚刚发布的 1.1.0 版本,InLong 发布了大量重大特性,主要包括以下内容:

管控能力增强

  • 增加 Manager Client,支持集成 InLong 创建任务

  • 增加 ManagerCtl 命令行工具,支持查看、创建数据流

  • Manager 支持下发 Agent 任务

  • Manager 支持下发 Sort Flink 任务

  • Manger 流向任务管理,支持启动、重启、暂停操作

  • Manager 插件化改造

  • Manager 元数据管理支持使用 MySQL

  • 集群管理一期,统一集群信息注册

数据节点丰富

  • 支持 Iceberg 流向入库

  • 支持 ClickHouse 流向入库

  • 支持 MySQL Binlog 采集

  • 支持 Kafka 采集

  • Sort Standalone 支持多流向

配套工具建设

  • Dashboard 插件化改造

  • Kubernetes 部署优化

  • Standalone 部署重构

系统升级

  • Protocol Buffers 升级

  • 统一版本 Maven 版本依赖

  • 修复一批依赖 CVEs 问题

  • DataProxy 支持 PB 压缩协议

该版本关闭了约 642+ 个 issue,包含 23+ 个重大 feature 和 180+ 个 improvements。

Apache InLong(incubating) 简介

Apache InLong(应龙)是腾讯捐献给 Apache 社区的一站式海量数据集成框架,提供自动、安全、可靠和高性能的数据传输能力,方便业务构建基于流式的数据分析、建模和应用。InLong 项目原名 TubeMQ ,专注于高性能、低成本的消息队列服务。为了进一步释放 TubeMQ 周边的生态能力,我们将项目升级为 InLong,专注打造一站式海量数据集成框架。

Apache InLong 以腾讯内部使用的 TDBank 为原型,依托万亿级别的数据接入和处理能力,整合了数据采集、汇聚、存储、分拣数据处理全流程,拥有简单易用、灵活扩展、稳定可靠等特性。

 

 

Apache InLong 服务于数据采集到落地的整个生命周期,按数据的不同阶段提供不同的处理模块,主要包括:

  • inlong-agent,数据采集 Agent,支持从指定目录或文件读取常规日志、逐条上报。后续也将扩展 DB 采集、HTTP 上报等能力。

  • inlong-dataproxy,一个基于 Flume-ng 的 Proxy 组件,支持数据发送阻塞和落盘重发,拥有将接收到的数据转发到不同 MQ(消息队列)的能力。

  • inlong-tubemq,腾讯自研的消息队列服务,专注于大数据场景下海量数据的高性能存储和传输,在海量实践和低成本方面有着良好的核心优势。

  • inlong-sort,对从不同的 MQ 消费到的数据进行 ETL 处理,然后汇聚并写入 Hive、ClickHouse、HBase、Iceberg 等存储系统。

  • inlong-manager,提供完整的数据服务管控能力,包括元数据、任务流、权限,OpenAPI 等。

  • inlong-audit,提供独立于数据流向、覆盖全流程的审计的数据审计服务。

  • inlong-dashboard,用于管理数据接入的前端页面,简化整个 InLong 管控平台的使用。

主要特性总览

随着 1.1.0 版本的发布,InLong 核心能力及配套建设基本完成,下面通过几个维度带大家了解 InLong 发布的主要特性。

如何使用 InLong

  • 集成 InLong, 通过 Manager Client 管理数据流

  • Dashboard 服务可视化操作

  • MangerCtl 命令行工具,查看和创建数据流

如何部署 InLong

  • Docker Compose 部署

  • Standalone 单机部署

  • Kubernetes 集群部署

  • Bare Mental 集群部署

InLong 支持的数据节点有哪些

  • Extract Data Node:支持自主推送、Kafka、文件、MySQL

  • Load Data Node:支持自主消费、Kafka、Hive、ClickHouse、Iceberg

  • 数据格式:支持CSV、JSON、Key-Value、Avro

哪些组件支持插件化

  • Agent Plugin 扩展新的 Extract Data Node

  • Manger Plugin 自定义 Operator

  • Dashboard Plugin 扩展新的数据流页面

  • Sort Plugin 扩展新的 Load Data Node

InLong 有哪些配套能力

  • 全组件指标监控,支持 Prometheus 和自定义指标

  • 全链路审计对账,数据流条数和流量审计

  • 用户管理

  • 审批流管理

1.1.0 版本特性介绍

增加 Manager Client

新增的 Manager Client,定义了常见的 InLong Group/Stream 操作接口,包括任务的创建、查看和删除。用户通过 Manager Client,可以将 InLong 内置到任何第三方平台中,实现统一的定制化平台建设。Manager Client 主要是由 @kipshi 、 @gong、@ciscozhou 设计和实现,感谢三位贡献者。

增加 ManagerCtl 命令行工具

ManagerCtl 基于 Manager Client 开发完成,是一个操作 InLong 资源的命令行工具,可以进一步简化开发者的使用。ManagerCtl 是由 @haifxu 独立贡献,包括指引包括:

Usage: managerctl [options] [command] [command options]
  Options:
    -h, --help
      Get all command about managerctl.
  Commands:
    create      Create resource by json file
      Usage: create [options]

    describe      Display details of one or more resources
      Usage: describe [options]

    list      Displays main information for one or more resources
      Usage: list [options]

Manager 支持下发 Sort 任务

在之前版本,用户创建完数据流 Group/Stream 任务后,Sort 需要通过命令行提交到 Flink 集群,再去执行数据分拣工作。在 1.1.0 版本中,我们将 Sort 任务的启动、停止、挂起操作,统一到 Manager 完成,用户只需要在 Manager 部署时配置正确的 Flink 集群,当数据流审批通过后,会自动拉起 Sort 任务。该部分工作主要是由 @LvJiancheng 贡献完成。

Manager 元数据保存去 ZooKeeper

InLong 使用 ZooKeeper 保存数据流元数据,增加了开发者和用户的部署门槛和运维难度。在 1.1.0 版本中,我们默认将数据流元数据保存在 DB 中,ZooKeeper 只作为大规模场景下可选方案。感谢 @kipshi @yunqingmoswu 贡献了去 ZooKeeper 的 PR。

支持 MySQL Binlog 采集

1.1.0 版本完整支持了从 MySQL 采集数据,支持增量和全量两种策略,用户可以在 InLong 简单配置就可以实现 MySQL 数据的采集。该部分工作是由 @EMsnap 贡献完成。

 

 

Sort 新增 Iceberg、 ClickHouse、 Kafka 流向入库

1.1.0 版本中增加了多种场景数据节点的入库,包括 Iceberg、 ClickHouse、 Kafka,这三种流向的支持丰富了 InLong 的使用场景。新流向的支持,主要由@chantccc @KevinWen007 @healchow 参与贡献。

Sort Standalone 支持 Hive、ElasticSearch、Kafka

之前版本有提到,对于非 Flink 环境,我们可以通过 Sort Standalone 来进行数据流分拣。在 1.1.0 版本中,我们增加了对 Hive、ElasticSearch、Kafka 的支持,扩展了 Sort Standalone 的使用场景。Sort Standalone 主要有 @vernedeng @luchunliang 参与贡献。

Protocol Buffers 升级

InLong 所有组件 Protocol Buffers 依赖从 2.5.0 升级到 3.19.4,感谢 @gosonzhang @doleyzi 的贡献,为 Protocol Buffers 升级做的大量兼容和测试工作。

InLong on Kubernetes 优化

InLong on Kubernetes 的优化工作主要包括增加 Audit、梳理配置、优化消息队列使用、优化文档使用等,方便 InLong 上云的使用。感谢 @shink 为这些优化做的贡献。

Dashboard 插件化

为了方便用户快速在 Dashboard 构建新的流向,1.1.0 版本中实现了 Dashboard 插件化,了解 JavaScript 开发者基于插件开发指引,可以快速扩展新的数据流向。这部分工作感谢 @leezng

其他特性及问题修复

相关内容请参考版本发版说明,其中详细列出了本次版本的特性、提升 和 Bug 修复,以及具体的贡献者。

Apache InLong(incubating) 后续规划

后续版本,我们将支持轻量化的 Sort,以及扩展更多的数据源端和目标端,覆盖更多的使用场景,主要包括:

  • Flink SQL 支持

  • Elasticsearch、HBase 流向支持

Apache InLong(incubating) 贡献者招募

Apache InLong(incubating) 当前共有 94 名 Contributor,仍处在项目孵化的初期,还有很多待办事项,包括:Feature 开发、社区运营,文档翻译等,期待更多开源爱好者加入 InLong,一起将 InLong 打造成 Apache 顶级项目。

InLong 项目的时间线

 

 

 

Apache InLong 项目官方网站

https://inlong.apache.org

Apache InLong GitHub 地址

https://github.com/apache/incubator-inlong

 

 

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部