OpenVINO 做了顿年夜饭,同学们馋哭了……

原创
2021/02/09 17:30
阅读数 1.8K

点击蓝字

关注我们,让开发变得更有趣


内 容 来 源 | 英特尔开发人员专区


如果评选每年度最难忘的一餐,想必不少人的答案是年夜饭。

丰盛美味的年夜饭是大家一年生活的期盼,全家人齐聚一堂,品尝爱意浓烈的美食美酒,在推杯换盏中交谈一年的收获成长,寄托新年的希望。
因此,年夜饭作为每个家庭一年中最重要的一餐,人们从来不敢懈怠,在创新花样的同时,做出一道道最具特色的饮食,有了这些菜,才算是过年。

OpenVINO 2021.2版本完成了多项全新升级,又长大了一岁!

那在OpenVINO新一岁的年夜饭上又有哪些重头菜呢?且听一一道来。


开胃前菜:全新亮点
情从胃起,年复一年的大鱼大肉难免腻味。这时候,年夜饭的前菜便尤为重要。它不仅承担着开启崭新一年的责任,同时还兼具解腻、开胃、团圆的功能。从刀工到摆盘,再或是调料的搭配,每一环都不可忽视。


对于OpenVINO年夜饭来说,开胃前菜当然是版本的全新亮点,如下:

  • 支持红帽企业版Linux(RHEL)8.2版本
  • 针对使用Tensorflow Quantization-Aware(对权重进行逐通道量化)方式训练的模型,模型优化器新增了相应的逐通道量化支持,通过更高效的模型压缩,降低延时,提高性能。
  • 支持更多的预训练模型及公共模型以简化开发。
  • 新的OpenVINO™安全插件,可通过安全打包和执行来控制对模型的访问。该插件基于KVM虚拟机和Docker*容器,并与OpenVINO™ Model Server兼容。
  • PyPI项目从openvino-python转到openvino,默认版本为2021.2。
    如需使用2021.1版本,可以通过指定openvino-python==2021.1进行安装。
  • Intel DevCloud for the Edge集成了Deep Learning Workbench


别样主菜:部署OpenVINO工具包三步走
给新年开个别致的好头,添彩的主菜当然必不可少,是时候换个口味过新年了,平常不会做的人工智能大餐,OpenVINO替你呈上。





看,这三道别样的主菜分别为:


1. 模型训练(Build)

通过TensorFlow、Caffe、MXNet、KALDI、ONNX、PyTorch、PaddlePaddle等流行的机器学习框架,将您的应用场景数据训练成神经网络模型。当然你也可以从Open Model Zoo中下载。目前Open Model Zoo已经收集到了100多个已开源预训练好的模型。


2. 模型优化(Optimize)

模型优化器会转化和优化训练好的模型,生成.xml、.bin等中间表示文件类型(Intermediate Representation Data),您可以通过后训练优化工具(Post-Training Optimization Tool)和Deep Learning Workbench对模型进行压缩或微调。


3. 模型部署(Deploy)

模型服务器(Model Server)是一个由C++实现的gRPC/REST服务器,部署管理器(Deployment Manager)可以创建最小部署包,将推理程序部署到不同的硬件设备中,包括Intel的Atom、酷睿、至强、IRIS PRO显卡、Movidius、GNA以及ARRiA等。通过推理引擎API,开发者可以很轻易让这些硬件加速模型的推理性能。


诱人硬菜:OpenVINO™主要插件

不抢年夜饭的风头,又带着自己独有的个性。OpenVINO这几盘硬菜算是给足了面子。
硬菜1. OpenVINO™模型服务器(OpenVINO™ Model Server - OVMS)
OpenVINO™模型服务器(OVMS)是针对英特尔平台架构优化的,可扩展的高性能服务解决方案。OVMS通过gRPC或REST API完成推理服务,采用与TensorFlow* Serving类似的架构,轻松实现部署OpenVINO支持的新算法和AI实验模型。

硬菜2. OpenVINO™安全插件(OpenVINO™ Security Add-on - OVSA)
OpenVINO™安全插件(OVSA)与OVMS集成后,OVSA为模型开发者和独立软件供应商(ISV)提供了一个路径,通过安全打包和执行来控制对模型的访问,按照预先设定的限制来规范用户的模型推理调用。


开运甜品:预训练模型和公开模型
无论年夜饭吃得多丰盛,最后端上来的“开运甜品”一定不能错过!

这不仅是给人幸福感的Happy Hour,还是寓意新一年吉祥顺利的好彩头。


今天OpenVINO给大家呈上的甜品分别为:

  • 模型下载器可以方便的访问大量的公开模型以及Intel预训练模型。

  • 精度检查器会基于给定数据集,检查模型在转换前后的推理准确度对比。

  • 除此之外,这里给大家列举一些OpenVINO™也支持的一些模型分类:

1

计算机视觉方面:物体检测、物体识别、重新识别、体积分割、语义分割、实例分割、3D重建、人体姿势估计、图像处理、动作识别、图像超分

2

语音识别(Audio, Speech)自然语言处理(NLP)方面:语言处理、文字到语音、文字检测、文字识别、自然语言处理

3

其它(数据生成、强化学习):压缩模型、图像检索

  • 2021.2版本中也更新了不少模型,包括:

1

公开模型:Yolov4、AISpeech、DeepLabv3

2

预训练模型:人体姿态估计、手写公式识别、机器翻译、通用手语识别、文本到语音,查看更多Intel的预训练模型请扫描下方二维码:


宅家调试之Intel® DevCloud for the Edge

想要借机一展宏图攀登OpenVINO年夜饭巅峰,但还是在家缺少条件,被本地安装和各种软硬件部署安排得明明白白到气馁怎么办?


不要怕,Intel® DevCloud for the Edge云上助力,测试代码、数据及各种加速硬件均在云端!

Intel® DevCloud for the Edge云上助力,它加速了模型调试周期,为开发者、研究员、初创企业在模型部署前的测试过程中,提供一个远程的AI测试和可视化负载的沙箱。


它集成了Deep Learning Workbench,让用户基于Intel DevCloud for Edge的云端服务,远程完成针对不同的硬件配置的图形化的分析、比较、调参。除此之外,它还能提供诸多便利,比如:

  • 方便基于最新硬件和软件解决方案进行原型开发和验证工作
  • 对定制的AI应用程序进行基准测试
  • 基于各种实际硬件运行、调试AI应用程序和模型精度
  • 缩短开发时间、降低开发成本
年夜饭虽传统,但有全新的OpenVINO美食加入,也就有了新的期盼和惊喜。 这次OpenVINO年夜饭,您还满意吗? 等您来亲自动手练习哦。

 --END--




👇欢迎在留言区与我们互动哦,
点击小程序 留言区 即可参与

留言区





 点击 “ 在看 ”,让更多人看见


点击阅读原文立即体验OpenVINO

本文分享自微信公众号 - OpenVINO 中文社区(openvinodev)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中

作者的其它热门文章

打赏
0
0 收藏
分享
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部