11月16日百度AI快车道——端侧落地的秘密武器Paddle Lite专场深圳开讲

原创
2019/11/01 21:07
阅读数 69

11月起,中国5G商用时代正式到来。手机续航、散热、天线等技术革新不断突破瓶颈,也将为用户带来新的想象和惊喜。随着科技的进步,人工智能技术也已进入了大规模落地部署阶段,手机等移动设备和边缘设备已成为非常重要的本地深度学习载体。这其中,端侧推理引擎的作用至关重要。

今年8月,百度深度学习平台飞桨(PaddlePaddle)对端侧推理引擎进行全新升级,重磅发布Paddle Lite,旨在推动人工智能应用在端侧更好落地。该推理引擎完备地支持了多硬件、多平台和硬件混合调度,同时对推理性能进行了优化提升,整体上具有高扩展、训练推理无缝衔接、通用、高性能和轻量化等特点。

11月16日,百度AI快车道将在深圳百度国际大厦举办Paddle Lite专场活动,由百度深度学习技术平台部高级产品经理、百度深度学习技术平台部资深研发工程师、百度深度学习技术平台部高级系统工程师主讲,详细解读Paddle Lite的技术特点、使用方法和相关应用,同时也会通过实践,实现人脸检测在手机上的部署,完整体验Paddle Lite在实际业务中的应用。 心动不如“手动”,点击链接前来共享技术落地的快乐吧~!

640?wx_fmt=png

640?wx_fmt=png

活动主题:

Paddle Lite

活动时间:

2019年11月16日

活动地点:

深圳·深圳百度国际大厦

课程安排: 

  • 13:30–14:00 签到,现场交流

  • 14:00–14:15 百度深度学习平台-飞桨全景介绍

  • 14:15–15:15 Paddle Lite深度学习技术解读及应用

  • 15:15–15:35 Q&A

  • 15:35–16:35 基于PaddleLite的移动端目标检测部署实践

  • 16:35–17:35 Paddle Lite在Edgeboard(FPGA)上的部署实践

 

报名链接

https://iwenjuan.baidu.com/?code=3ufrnc

 

关于Paddle Lite

PaddleLite 的架构有一系列自主研发技术,整合了百度内部多个预测库架构优势能力,并重点增加了多种计算模式(硬件、量化方法、 Data Layout )混合调度的完备性设计,新架构设计如下:

640?wx_fmt=png

其中最上面一层是模型层,直接接受 Paddle 训练的模型,通过模型优化工具转化为 NaiveBuffer 特殊格式,以便更好地适应移动端的部署场景。

第二层是程序层,是 operator 序列构成的执行程序。

第三层是一个完整的分析模块,包括了 MIR ( MachineIR ) 相关模块,能够对原有的模型的计算图针对具体的硬件列表进行算子融合、计算裁剪在内的多种优化。

不同于飞桨训练过程中的 IR ( InternalRepresentation ),硬件和执行信息也在这一层加入到分析中。

最底层是执行层,也就是一个 Kernel 序列构成的Runtime Program 。执行层的框架调度框架极低,只涉及到 Kernel 的执行,且可以单独部署,以支持极致的轻量级部署。

整体上来看,不仅着重考虑了对多硬件和平台的支持,而且也强化了多个硬件在一个模型中混合执行的能力、多个层面的性能优化处理,以及对端侧应用的轻量化设计。

 

关于AI快车道

百度AI快车道——企业深度学习实战营是百度依托自身深厚的深度学习技术实践经验,面向有AI技术需求企业的算法工程师、架构师群体提供的快速应用扶持计划。该计划的学习内容囊括了6套工程实施与深度学习技术落地结合的详细方案,覆盖百度领先的AI技术和业务应用场景的深入剖析,如OCR、精密仪器质检、推荐排序经典场景、遥感图像处理等;源于百度业务实践的深度学习框架飞桨的性能优势、模型优势、生态优势的解读;百度自研和顶级学术会议魁首算法、预训练模型的详细介绍,还有与案例与算法紧密相扣的在线实验,并以“短平快”的课程,进行对业务问题定位、框架及算法的快速应用培训,为更多企业带去深度学习技术和经验分享,并计划在年内于上海、深圳、杭州等多地,支持1000家企业的深度学习技术快速应用。

640?wx_fmt=png

扫描二维码,或点击阅读原文报名百度AI快车道Paddle Lite专场吧!

640?wx_fmt=png

本文分享 CSDN - 飞桨PaddlePaddle。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部