版本动态 | Apache Linkis 1.4.0 版本发布

原创
08/08 14:11
阅读数 134

Apache Linkis 1.4.0 版本简介
主要新增如下特性功能: 
  1. Hive EC 支持并发模式运行任务,可大幅降低机器资源使用,提高hive任务并发;
  2. ECM 服务重启时不 kill EC,为优雅重启提供支持;
  3. 任务日志结果集的存储,新增对S3 和 OSS 文件系统模式的支持;
  4. 数据源服务新增对 Tidb、Starrocks、Gaussdb等的支持;
  5. Spark ETL 功能增强,支持 Excel、Redis、Mongo、Elasticsearch;Hadoop、Spark、hive 默认版本升级,并支持多版本兼容;
  6. Linkis部署的元数据支持存储到 Postgresql (Experimental Features);
  7. 新增 Impala EC支持(Experimental Features);
  8. 支持对接多Hadoop集群(Experimental Features);
  9. Spark和Flink EC支持提交on k8s任务(Experimental Features);

GitHub:   https://github.com/apache/linkis

缩写:
  • COMMON: Linkis Common

  • ENTRANCE: Linkis Entrance

  • EC: EngineConn

  • ECM: EngineConnManager

  • ECP: EngineConnPlugin

  • DMS: Data Source Manager Service

  • MDS: MetaData Manager Service

  • LM: Linkis Manager

  • PS: Linkis Public Service

  • PE: Linkis Public Enhancement

  • RPC: Linkis Common RPC

  • CG: Linkis Computation Governance

  • DEPLOY: Linkis Deployment

  • WEB: Linkis Web

  • GATEWAY: Linkis Gateway

  • EP: Engine Plugin


版本新特性

新特性1:Hive EC 支持并发任务

Hive EngineConn支持并发,减少启动 Hive 引擎的资源消耗,提高引擎复用率, 类似于HiveServer2的并发模式。

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/hive-engine-support-concurrent


新特性2:ECM 无状态化,重启时不再kill EC

当ECM重新启动时,可以选择不杀死引擎,而是可以接管现有的存活引擎。使引擎连接管理器 (ECM) 服务无状态。

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/other


新特性3:文件系统支持对接S3和OSS

任务日志结果集的存储,新增对S3 和 OSS 文件系统模式的支持。

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/deployment/deploy-quick


新特性4:数据源服务功能增强

数据源服务新增对,Tidb、Starrocks、Gaussdb等的支持

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/user-guide/datasource-manual


新特性5:Spark ETL 功能增强

对Spark ETL 功能增强,支持 Excel、Redis、Mongo、Elasticsearch、Kafka、Datalake 等。

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/spark-etl


新特性6:将 Hadoop、Spark、Hive 默认版本升级为3.x

Hadoop、Spark、Hive 3.x 已经很成熟,社区很多用户默认使用 3.x 版本。Linkis 1.4.0 将适配的 Hadoop、Spark、Hive 默认版本升级为 3.x,并支持多版本的兼容。

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/base-engine-compatibilty


新特性7:Postgresql 数据库支持(实验性)

Linkis 服务元数据支持适配 Postgresql 数据库模式部署。

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/deployment/deploy-quick


新特性8:新增 Impala 引擎连接器 支持(实验性)

Linkis EC 新增 Impala 引擎支持。

具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/engine-usage/impala

功能增强

  • [COMMON]LINKIS-4462 代码优化,统一属性名称

  • [COMMON]LINKIS-4425 代码优化,删除了无用的代码

  • [COMMON]LINKIS-4368 代码优化,移除 json4s 依赖

  • [COMMON]LINKIS-4357 文件上传接口优化

  • [COMMON]LINKIS-4678 Linkis JDBC Driver优化支持对接不同类型的引擎和任务

  • [COMMON]LINKIS-4554 增加任务链路跟踪日志,方便通过唯一任务ID定位问题

  • [ECM]LINKIS-4449 ECM 代码优化

  • [EC]LINKIS-4341 优化 CustomerDelimitedJSONSerDe 代码逻辑

  • [EC-Openlookeng]LINKIS- Openlookeng EC 代码转换为 Java

  • [EC-Shell]LINKIS-4473 Shell EC 代码转换为 Java

  • [EC-Python]LINKIS-4482 Python EC 代码转换为 Java

  • [EC-Trino]LINKIS-4526 Trino EC 代码转换为 Java

  • [EC-Presto]LINKIS-4514 Presto EC 代码转换为 Java

  • [EC-Elasticsearch]LINKIS-4531 Elasticsearch EC 代码转换为 Java

  • [COMMON]LINKIS-4475 在 k8s 部署中使用最新的 mysql DDL

  • [EC-Flink]LINKIS-4556 Flink EC 增加任务拦截器

  • [GATEWAY]LINKIS-4548 用户注销时清除所有后端缓存

  • [COMMON]LINKIS-4554 在Linkis中增加MDC日志格式,用于跟踪JobID

  • [CG]LINKIS-4583 提交一个 once 任务时可以得到创建引擎的结果

  • [EC-Spark]LINKIS-4570 基于jdbc数据源生成 Spark sql

  • [COMMON]LINKIS-4601 支持集成测试 Action

  • [EC-Seatunnel]LINKIS-4673 Seatunnel 版本升级到 2.3.1

修复功能

  • [EC-Hive]LINKIS-4246 Hive 引擎版本号支持连字符,如hive3.1.2-cdh5.12.0

  • [COMMON]LINKIS-4438 修正了nohup启动错误

  • [EC]LINKIS-4429 修复 CPU 平均负载计算bug

  • [PE]LINKIS-4457 修复由管理控制台配置的参数验证问题

  • [DMS]LINKIS-4500 修复客户端与数据源之间类型转换失败问题

  • [COMMON]LINKIS-4480 修复了使用 jdk17 构建默认配置文件的问题

  • [CG]LINKIS-4663 修复引擎复用可能会抛出 NPE 的问题

详细指引

  • 本版本总览: https://linkis.apache.org/zh-CN/docs/1.4.0/feature/overview

  • 详细安装部署见指引: https://linkis.apache.org/zh-CN/docs/1.4.0/deployment/deploy-quick

  • 官方下载链接: https://linkis.apache.org/zh-CN/download/main

社区贡献者

Apache Linkis 1.4.0 的发布离不开 Linkis 社区的贡献者,感谢所有的社区贡献者,包括但不仅限于以下 Contributors(排名不发先后)

— END —

如何成为社区贡献者

 官方文档贡献。发现文档的不足、优化文档,持续更新文档等方式参与社区贡献。通过文档贡献,让开发者熟悉如何提交PR和真正参与到社区的建设。参考攻略:保姆级教程:如何成为Apache Linkis文档贡献者


 代码贡献。我们梳理了社区中简单并且容易入门的的任务,非常适合新人做代码贡献。请查阅新手任务列表:https://github.com/apache/incubator-linkis/issues/1161


 内容贡献:发布WeDataSphere开源组件相关的内容,包括但不限于安装部署教程、使用经验、案例实践等,形式不限,请投稿给小助手。例如:


 社区答疑:积极在社区中进行答疑、分享技术、帮助开发者解决问题等;


 其他:积极参与社区活动、成为社区志愿者、帮助社区宣传、为社区发展提供有效建议等;

本文分享自微信公众号 - WeDataSphere(gh_273e85fce73b)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部