Adlik 0.2.0 Bear版本现已可用!

原创
2020/11/25 18:21
阅读数 63

LF AI & Data基金会孵化阶段项目Adlik已经发布了名为Bear的0.2.0版本。我们很高兴看到这个在过去几个月里一直在努力工作的社区发布了新版本!Adlik是用于加速深度学习推理的工具包,它为将经过训练的模型投入生产提供了全面的支持,并为不同类型的推理框架简化了学习曲线。在Adlik中,模型优化器(Model Optimizer)和模型编译器(Model Compiler)提供针对特定硬件环境的优化和编译的模型,而服务引擎(Serving Engine)提供针对云、边缘和设备的部署解决方案。

https://adlik.ai/

https://github.com/Adlik/Adlik


在版本0.2.0中,Adlik增强了特性,增加了可使用性,并解决了各种错误修复。一些发布亮点包括:


新编译器

  • 支持DAG生成,用于不同表示形式的模型的端到端编译

  • 源表示:H5、Ckpt、Pb、Pth、Onnx、SavedModel

  • 目标表示:SavedModel、OpenVINO IR、TensorRT Plan以及Tflite

  • 支持TfLite和TensorRT模型量化(quantization)

  • TfLite的Int8量化

  • TensorRT的Int8和fp16量化


推理引擎

  • 支持ML和DL推理作业的混合调度

  • 支持在云原生环境中基于镜像部署Adlik编译器和推理引擎

  • 部署和功能已经在docker(V19.03.12)和Kubernetes(V1.13)中进行了测试

  • 支持Adlik在RaspberryPi和JetsonNano运行

  • 支持最新版本的OpenVINO(2021.1.110)和TensorFlow(2.3.1)


基准测试

  • 支持对模型(包括ResNet-50、Inception V3、Yolo V3和Bert)进行基准测试,使用Adlik支持的4个设备和5个运行时


除了这些特性之外,这个版本的重要目标是使Adlik,特别是推理引擎,对开发人员来说更容易使用。此外,此版本中的推理引擎是第一个轻量级推理引擎支持ML和DL推理作业的混合调度。目前已集成在中兴基站产品中。这里查看版本说明

https://wiki.lfaidata.foundation/pages/viewpage.action?pageId=35160204


Adlik团队特别感谢所有贡献者的辛勤工作。


Adlik项目邀请你采用或升级到Bear 0.2.0版本,并欢迎反馈。要了解更多关于Adlik 0.2.0发行版的信息,请查看完整的版本说明。想和Adlik合作吗?一定要加入Adlik-AnnounceAdlik Technical-Discuss邮件列表,加入社区并保持联系,了解最新的更新。

https://lists.lfaidata.foundation/g/adlik-announce

https://lists.lfaidata.foundation/g/adlik-technical-discuss


祝贺Adlik团队!作为LF AI & Data基金会的一部分,我们期待继续增长和成功。要了解如何与我们一起托管一个开源项目,请访问LF AI & Data网站

https://lfaidata.foundation/proposal-and-hosting-process/


点击【阅读原文】阅读网站原文。




LF AI & Data是Linux基金会的一个伞形基金会,支持人工智能、机器学习、深度学习和数据的开源创新。创建LF AI & Data是为了支持开源AI、ML、DL和数据,并创建一个可持续的开源AI生态系统,使使用开源技术创建AI和数据产品和服务变得容易。我们鼓励在中立的环境下以开放的治理进行协作,以支持开放源码技术项目的协调和加速。


联系关于LF AI & Data




Linux基金会是非营利性组织,是技术生态系统的重要组成部分。 

Linux基金会通过提供财务和智力资源、基础设施、服务、活动以及培训来支持创建永续开源生态系统。在共享技术的创建中,Linux基金会及其项目通过共同努力形成了非凡成功的投资。请长按以下二维码进行关注。

本文分享自微信公众号 - LFAPAC(gh_8442c14fe49e)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部