-
Hive EC 支持并发模式运行任务,可大幅降低机器资源使用,提高hive任务并发; -
ECM 服务重启时不 kill EC,为优雅重启提供支持; -
任务日志结果集的存储,新增对S3 和 OSS 文件系统模式的支持; -
数据源服务新增对 Tidb、Starrocks、Gaussdb等的支持; -
Spark ETL 功能增强,支持 Excel、Redis、Mongo、Elasticsearch;Hadoop、Spark、hive 默认版本升级,并支持多版本兼容; -
Linkis部署的元数据支持存储到 Postgresql (Experimental Features); -
新增 Impala EC支持(Experimental Features); -
支持对接多Hadoop集群(Experimental Features); -
Spark和Flink EC支持提交on k8s任务(Experimental Features);
COMMON: Linkis Common
ENTRANCE: Linkis Entrance
EC: EngineConn
ECM: EngineConnManager
ECP: EngineConnPlugin
DMS: Data Source Manager Service
MDS: MetaData Manager Service
LM: Linkis Manager
PS: Linkis Public Service
PE: Linkis Public Enhancement
RPC: Linkis Common RPC
CG: Linkis Computation Governance
DEPLOY: Linkis Deployment
WEB: Linkis Web
GATEWAY: Linkis Gateway
EP: Engine Plugin
版本新特性
新特性1:Hive EC 支持并发任务
Hive EngineConn支持并发,减少启动 Hive 引擎的资源消耗,提高引擎复用率, 类似于HiveServer2的并发模式。
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/hive-engine-support-concurrent
新特性2:ECM 无状态化,重启时不再kill EC
当ECM重新启动时,可以选择不杀死引擎,而是可以接管现有的存活引擎。使引擎连接管理器 (ECM) 服务无状态。
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/other
新特性3:文件系统支持对接S3和OSS
任务日志结果集的存储,新增对S3 和 OSS 文件系统模式的支持。
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/deployment/deploy-quick
新特性4:数据源服务功能增强
数据源服务新增对,Tidb、Starrocks、Gaussdb等的支持
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/user-guide/datasource-manual
新特性5:Spark ETL 功能增强
对Spark ETL 功能增强,支持 Excel、Redis、Mongo、Elasticsearch、Kafka、Datalake 等。
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/spark-etl
新特性6:将 Hadoop、Spark、Hive 默认版本升级为3.x
Hadoop、Spark、Hive 3.x 已经很成熟,社区很多用户默认使用 3.x 版本。Linkis 1.4.0 将适配的 Hadoop、Spark、Hive 默认版本升级为 3.x,并支持多版本的兼容。
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/feature/base-engine-compatibilty
新特性7:Postgresql 数据库支持(实验性)
Linkis 服务元数据支持适配 Postgresql 数据库模式部署。
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/deployment/deploy-quick
新特性8:新增 Impala 引擎连接器 支持(实验性)
Linkis EC 新增 Impala 引擎支持。
具体使用方式见: https://linkis.apache.org/zh-CN/docs/latest/engine-usage/impala
功能增强
[COMMON]LINKIS-4462 代码优化,统一属性名称
[COMMON]LINKIS-4425 代码优化,删除了无用的代码
[COMMON]LINKIS-4368 代码优化,移除 json4s 依赖
[COMMON]LINKIS-4357 文件上传接口优化
[COMMON]LINKIS-4678 Linkis JDBC Driver优化支持对接不同类型的引擎和任务
[COMMON]LINKIS-4554 增加任务链路跟踪日志,方便通过唯一任务ID定位问题
[ECM]LINKIS-4449 ECM 代码优化
[EC]LINKIS-4341 优化 CustomerDelimitedJSONSerDe 代码逻辑
[EC-Openlookeng]LINKIS- Openlookeng EC 代码转换为 Java
[EC-Shell]LINKIS-4473 Shell EC 代码转换为 Java
[EC-Python]LINKIS-4482 Python EC 代码转换为 Java
[EC-Trino]LINKIS-4526 Trino EC 代码转换为 Java
[EC-Presto]LINKIS-4514 Presto EC 代码转换为 Java
[EC-Elasticsearch]LINKIS-4531 Elasticsearch EC 代码转换为 Java
[COMMON]LINKIS-4475 在 k8s 部署中使用最新的 mysql DDL
[EC-Flink]LINKIS-4556 Flink EC 增加任务拦截器
[GATEWAY]LINKIS-4548 用户注销时清除所有后端缓存
[COMMON]LINKIS-4554 在Linkis中增加MDC日志格式,用于跟踪JobID
[CG]LINKIS-4583 提交一个 once 任务时可以得到创建引擎的结果
[EC-Spark]LINKIS-4570 基于jdbc数据源生成 Spark sql
[COMMON]LINKIS-4601 支持集成测试 Action
[EC-Seatunnel]LINKIS-4673 Seatunnel 版本升级到 2.3.1
修复功能
[EC-Hive]LINKIS-4246 Hive 引擎版本号支持连字符,如hive3.1.2-cdh5.12.0
[COMMON]LINKIS-4438 修正了nohup启动错误
[EC]LINKIS-4429 修复 CPU 平均负载计算bug
[PE]LINKIS-4457 修复由管理控制台配置的参数验证问题
[DMS]LINKIS-4500 修复客户端与数据源之间类型转换失败问题
[COMMON]LINKIS-4480 修复了使用 jdk17 构建默认配置文件的问题
[CG]LINKIS-4663 修复引擎复用可能会抛出 NPE 的问题
详细指引
本版本总览: https://linkis.apache.org/zh-CN/docs/1.4.0/feature/overview
详细安装部署见指引: https://linkis.apache.org/zh-CN/docs/1.4.0/deployment/deploy-quick
官方下载链接: https://linkis.apache.org/zh-CN/download/main
社区贡献者
Apache Linkis 1.4.0 的发布离不开 Linkis 社区的贡献者,感谢所有的社区贡献者,包括但不仅限于以下 Contributors(排名不发先后)
如何成为社区贡献者
1 ► 官方文档贡献。发现文档的不足、优化文档,持续更新文档等方式参与社区贡献。通过文档贡献,让开发者熟悉如何提交PR和真正参与到社区的建设。参考攻略:保姆级教程:如何成为Apache Linkis文档贡献者
2 ► 代码贡献。我们梳理了社区中简单并且容易入门的的任务,非常适合新人做代码贡献。请查阅新手任务列表:https://github.com/apache/incubator-linkis/issues/1161
3 ► 内容贡献:发布WeDataSphere开源组件相关的内容,包括但不限于安装部署教程、使用经验、案例实践等,形式不限,请投稿给小助手。例如:
4 ► 社区答疑:积极在社区中进行答疑、分享技术、帮助开发者解决问题等;
5 ► 其他:积极参与社区活动、成为社区志愿者、帮助社区宣传、为社区发展提供有效建议等;

本文分享自微信公众号 - WeDataSphere(gh_273e85fce73b)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。