前面学习了这么多OpenVINO™小技巧
相信大家都信心满满、跃跃欲试了。
本期让我们走进OpenVINO™应用案例
看一看大家如何
成功落地相关项目吧!
分享伊始,小伙伴们熟悉的武卓博士便带来了令人兴奋的课程,用 AI 及OpenVINO™ 寻找遗失的的恐龙化石。
通过AI辅助绘制恐龙化石的藏宝图,看起来有点不可思议,具体是怎样绘制的呢?
数据采集并分析。不是所有采集到的化石都是恐龙化石,因此需要对所采集到的化石质地进行聚类/分类分析,这可以通过 Intel® Extensions for Scikit-Learn 完成。
数据标注。将聚类的结果和 Intel® Deep Neural Network Library 应用于标记为“无化石”、“极有可能找到化石”或“可能找到化石”的相同位置的航拍图像,并将这些图像合并起来,得到该区域的化石可能性地图。
训练数据与构建模型。训练数据并通过将标记的航拍图像转换为张量来构建模型,每个张量都具有与概率分数或置信水平相对应的类名(例如,0表示“绝对没有化石”,1表示“有可能找到化石”,2表示“发现化石”),以使用 PyTorch 构建残差神经网络(ResNet)。
评分。通过使用前面步骤中准备的模型,利用 OpenVINO™ 推理引擎分析航拍照片,创建其它地方的化石可能性地图!
同样,如果想通过航拍照片监测某些区域的防火、可再生能源发等情况,甚至外太空行星生命探索,你都可以通过借助OpenVINO™ 轻松地用此解决方案完成。
最后,武卓博士并对此进行了现场演示,想了解的小伙伴可以扫码查看更多细节。
接下来杨亦诚老师讲解了基于OpenVINO 2022.2与oneAPI构建GPU视频分析服务流水线 以及 OpenVINO最佳实践经验。
简单来说,视频分析服务是指将前端采集的影像数据送到后端计算单元中,进行基于AI技术的图像识别应用,以抽出视频源中的一些关键信息。鉴于边缘测的算力资源有限,同时出于方案成本的考虑,我们希望可以用相同的硬件资源,接入更多路的视频流分析业务。
在本节分享中,杨亦诚老师剖析了如何利用oneAPI™的oneVPL组件,以及OpenVINO™的Preprocessing API和remote tensor接口,让我们可以在英特尔GPU硬件单元上构建从解码、前处理、推理的视频分析全流程应用,且没有额外的内存拷贝,从而大大提升对GPU资源的利用率。
此外,通过Batching以及多线程的方式,可以进一步提升多数据源任务处理时,GPU在吞吐量性能上的优势,并且降低CPU侧的任务负载。
自2018年发布至今,OpenVINO已经经历4年的版本迭代,随着新的工具组件或者功能也不断被加入,越来越多的企业实现了AI项目的成功落地,杨亦诚老师继续分享了其中几个典型项目。
这是一个智慧课堂的整体解决方案。学生和老师使用智慧笔在铺有点码的试卷上进行书写,智慧笔实时收集学生的书写笔迹和老师的批改笔迹,学生的笔迹内容通过蓝牙AP上传到工控机,工控机将笔迹内容进行聚合打包,上传到云端服务器上。老师的笔迹则通过BLE蓝牙上传到手机上,手机对笔迹进行聚合后上传到云端服务器上。
云端渲染服务器将笔迹渲染成图像,进一步使用目标检测模型和OCR模型进行检测识别,将书写内容转换为文本,最后将识别结果与题库进行综合,生成作业报告。老师可以基于作业报告,针对学生进行个性化教学。
针对当前摄像头只能事后溯源而无法提前预防危险的场景,我们提出了“一根网线让传统监控变智能”的概念,通过IP协议将边缘计算的服务器接入到监控网络中,从而可以实时获取园区中的实时影像,在不改变原有监控系统网络架构的基础上,轻松实现对于视频流的AI分析能力,提前发现违规操作、非法入侵等潜在风险。
Model Server是 OpenVINO™工具链中的比较重要的组件,它可以基于k8s这样的云原生架构,将模型以服务的形式进行部署,客户端只需要发起像gPRC或是REST API这样的调用请求就可以获取推理服务器中的结果数据。Model Server内部通过scheduler来管理用户的请求队列,并将任务动态分配到openvino的推理引擎进行执行,支持Intel多硬件平台的异构调用,特别适合一些互联网场景下,对于服务的并发能力有着一定的需求。
本案例是一个视频节目推送的应用场景,用户基于DeepFM经典推荐模型,实现对视频节目的推荐,用户在直接使用OpenVINO model server的情况下发现性能没有办法满足他的业务场景需求。
感兴趣的小伙伴可以扫码查看这三个案例详细分析哦
你也许想了解(点击蓝字查看)⬇️
➡️ 开发者实战 | 基于C#和OpenVINO™部署飞桨PP-Human 上篇
➡️ “开源项目贡献”经验分享 | 百度黑客松大赛获奖者梁嘉铭
➡️
“开源项目贡献”经验分享 | 百度黑客松大赛获奖者邰秀瑢
➡️
如何给开源项目做贡献? | 开发者节日福利
➡️
几行代码轻松实现对于PaddleOCR的实时推理,快来get!
➡️
使用OpenVINO 在“端—边—云”快速实现高性能人工智能推理
➡️
图片提取文字很神奇?试试三步实现OCR!
➡️
【Notebook系列第六期】基于Pytorch预训练模型,实现语义分割任务
👇欢迎在留言区与我们互动哦,
点击小程序 留言区 即可参与
留言区
扫描下方二维码立即体验
OpenVINO™ 工具套件 2022.3
本文分享自微信公众号 - OpenVINO 中文社区(openvinodev)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。