【版本发布】Linkis 1.0.1正式发布

原创
07/27 16:01
阅读数 300

【版本发布】Linkis 1.0.1 正式发布






Linkis 1.0.1正式发布啦

Linkis 1.0.1对Linkis1.0.0版本发现Bug和影响性能,便利性的问题进行了修复和增强,欢迎更新升级。



    Linkis 1.0.1

    Linkis 1.0.1 作为1.0.0的修复版本,这次版本主要修复了高并发场景下的性能bug,以及优化资源管理模块,以及修复多个已发现的bug,并优化Spark引擎支持 FATE使用。

    FATE (Federated AI Technology Enabler) 是微众银行AI部门发起的开源项目,为联邦学习生态系统提供了可靠的安全计算框架(https://github.com/FederatedAI/FATE)。

Abbreviations(关键字缩写):
CGS: Computation Governance Services(计算治理服务)
PES: Public Enhancement Services(公共增强服务)
MGS: Microservice Governance Services(微服务治理服务)




增强


  • [Commons] Linkis-HTTPClient在上传文件时支持设置ContentType.


  • [Commons] Linkis-HttpClient支持兼容Response的content为空.


  • [Commons] HDFS FileSystem对象支持进行缓存.


  • [Commons] 优化Shoutdown兼容windows操作系统.


  • [Orchestrator] ioClient支持隔离单独的Orchestrator.


  • [PES-JobHistory] JobHistory支持记录用户提交任务的原始代码.


  • [PES-InstanceLabel] InstanceLabel模块支持增加和移除标签信息.


  • [PES-ErrorCode] 优化错误码模块的初始化sql,移除id字段的默认值.


  • [PES-Configuration] 管理台的配置支持修改实时刷新缓存值.


  • [PES-Configuration] 管理台支持内存设置单位,默认单位是GB.


  • [CGS-Entrance] 优化支持任务提交记录客户端IP信息,以方便链路分析.


  • [CGS-LimkisMnagager ] ECM的租户标签应该不被移除的,方便重启时保留租户标签信息.


  • [EnginePlugin-Spark] Spark EngineConn的启动参数支持设置原生参数去支持Fate使用,例如设置python版本.






Bug修复


  • [Commons] Logging 是建议被优化, 因为如果用户传入的内容是null会导致空指针异常.

  • [Commons] jackson-core-asl 包存在冲突, linkis1.0在兼容CDH版本时.


  • [PES-UDF] UDFClient存在只能获取UDF不能获取方法函数的Bug.


  • [PES-BML] 优化BML EngineConnHook的执行顺序,修复资源文件不可读问题.


  • [PES-Configuration] Linkis管理台在设置JDBC参数时,保存会出错.


  • [CGS-Entrance] 当一个任务包含千条sql时,存在错误执行的Bug.


  • [CGS-Entrance] 当sql的limit超过5000时任务会执行失败.


  • [CGS-Entrance] 在压测同时运行一万个任务时,日志存在记录不全的情况.


  • [CGS-Entrance] 在压测10000个任务时存在任务处在 Inited/Running/Scheduled不更新的情况.


  • [CGS-LimkisMnagager] 当管理台设置引擎为2时,在schedulis进行调度时存在会启动18个引擎的情况.


  • [CGS-LimkisMnagager] ECM管理存在concurrent label的值为空问题.


  • [EnginePlugin-Hive] 当kill 一个复杂的Hive任务时,存在不能kill Yarn上任务的偶发情况.





贡献者

Linkis 1.0.1 的发布离不开 WeDataSphere 社区的贡献者。在此感谢各位社区的贡献者!



云资源

腾讯云: https://osp-1257653870.cos.ap-guangzhou.myqcloud.com/WeDatasphere/Linkis/1.0.1/wedatasphere-linkis-1.0.1-combined-package-dist.tar.gz

WeDataSphere,BIG DATA MADE EASY.

用心做一个有温度的开源社区

~欢迎关注~


扫码关注我们

微信号公众号 : WeDataSphere

GitHub:WeDataSphere

如果喜欢我们的产品或文章,请给我们的GitHub点上你宝贵的star和fork哦~~



本文分享自微信公众号 - WeDataSphere(gh_273e85fce73b)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部