【里程碑】Linkis 1.0.0 正式发布

原创
06/30 15:19
阅读数 4.1K

【里程碑】Linkis 1.0.0 正式发布






大家期待已久的Linkis 1.0.0正式发布啦

Linkis 1.0.0是 Linkis 践行“计算治理”的里程碑,提供了计算编排、一次性作业、Web前端和Linkis-Cli的全新shell命令提交代码方式,标志着 Linkis 正式进入1.0版本时代。



    Linkis 1.0.0

Linkis 1.0.0 作为正式版,主要提供了Linkis-Orchetrator计算编排、优化了大量“计算治理”的架构代码、增加了对OnceEngineConn一次性作业的支持,用于OLAP作业和Streaming作业、同时还简化了Linkis的安装部署。

通过 Orchestrator计算编排 和强大的标签管理能力,Linkis 1.0.0已经为跨集群/跨IDC 的细粒度路由、负载均衡、多租户、流量控制、资源管控和编排策略,例如 双活、混合计算等提供了扩展性足够强的架构基石,接下来只需要编写转换规则即可实现各个计算编排的能力。





















新特性


Orchestrator

  • 新增Linkis Orchestrator核心模块,为Orchestrator模块提供顶层架构和扩展接口。
  •  新增Linkis交互式场景的Orchestrator模块。
  •  新增linkis-code-orchestrator模块,用于支持脚本编排场景。
EngineConn
  •  新增linkis-once-engineconn模块,用于支持一次性作业,如OLAP Job和Streaming Job。
Web
  • 新增Linkis前端web模块,提供全局历史、资源管理、参数配置、全局变量等模块。
Client
  • 新增Linkis-Cli模块,提供shell命令提交代码的新方式。




增强


  • 将Eureka中EngineConn修改为 Linkis-CG-EngineConn,以遵循命名规范。

  • 增强Linkis1.0.0通用模块,为其他模块提供大量工具类。

  • 使用Utils.tryCatch 捕获异常,而不是try...catch 直接catch异常。

  • 为所有日志添加中英文支持。

  •  一部分常量替换优化。

  • 优化 DESUtil 类中的一些魔法值。

  • 优化Linkis代码中的一些魔法值。

  • 优化错误码的定义。

  • 将publicservice与其他publicenhancement微服务合并,并增加了组合打包方式。

  • 优化Linkis计算治理模块,适配Linkis1.0新架构。

  • 删除所有注释代码并优化 HttpBmlClient 。

  • 优化类的规范性,去掉类顶部的所有@author和@Date。

  • 优化Linkis engineconn模块,适配Linkis1.0新架构。

  • 优化Linkis micro-service模块,适配Linkis1.0新架构。

  • 添加一个新的linkis-io-file-client 模块,修改一些注释并添加License。

  • 优化public-enhancements模块,适配Linkis1.0新架构。






Bug修复


  • 解决SparkPythonExecutor的close方法中递归调用问题。

  • 修复多executor 的EngineConn场景下,仅关闭默认的executor而不是关闭所有executor的缺陷。

  • 修复 Orchestrator AsyncExec ResultSet等待器不会收到通知的缺陷并删除 Orchestrator 限制5000条结果集的约束。

  • 修复用户提交sql如'select\*'时不会自动添加'limit 5000'的bug,可能会导致全表搜索,导致结果集很大。

  • 修复SSOUtils线程安全问题,可能导致OOM异常。

  • 修复hive版本升级导致的包冲突问题。

  • 修复Yarn capacity scheduler中RM模块的值转换问题。

  • 解决登录后cookies不生效,添加到Action的cookies没有被HttpClient传递到网关的问题。





贡献者

Linkis 1.0.0 的发布离不开 WeDataSphere 社区的贡献者。在此感谢各位社区的贡献者!



云资源

腾讯云:https://osp-1257653870.cos.ap-guangzhou.myqcloud.com/WeDatasphere/Linkis/1.0.0/wedatasphere-linkis-1.0.0-combined-package-dist.tar.gz

WeDataSphere,BIG DATA MADE EASY.

用心做一个有温度的开源社区

~欢迎关注~


扫码关注我们

微信号公众号 : WeDataSphere

GitHub:WeDataSphere

如果喜欢我们的产品或文章,请给我们的GitHub点上你宝贵的star和fork哦~~


本文分享自微信公众号 - WeDataSphere(gh_273e85fce73b)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
打赏
2
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
2
分享
返回顶部
顶部