文档章节

Nvidia推边缘运算平台EGX 未来将提供企业AI模型参考框架

y
 yisy5566
发布于 05/30 16:18
字数 833
阅读 5
收藏 0

Nvidia在COMPUTEX期间,展示了新推出的边缘运算平台EGX在不同场景中的应用,包括监测路况的实时影像分析与对话式AI客服等。EGX平台也能与Azure、AWS的云端运算服务兼容,企业可先在云端AI模型,再部署到本地端来应用。现场展示的对话式AI客服,是在顾客说话提问后,透过语音识别(Automatic Speech Recognition,ASR)将语言转化为文字,再经由自然语言处理(Natural Language Processing,NLP)到文本内容中寻找答案,最后运用文字转语音(Text To Speech,TTS)的技术回答顾客问题。而这整个流程,都是透过边缘运算完成。Nvidia表示,Chatbot常用三种AI技术中,训练ASR模型和TTS模型,适合在本地端,前者不用上传大量声音档案,后者则可避免网络的延迟性导致声音断断续续、或发音不完整,不过,要训练NLP模型则因运算量较大,可先在云端训练。

Nvidia也示范用只一篇新闻稿来展示用EGX平台训练这三种Chatbot所需模型的情况,首先让NLP模型来分析新闻稿文字。

示范人员实际提问:Who is Bob Pette?

这个示范系统会将从NLP模型找出来的答案,透过TTS模型生成语音来回答顾客;若无法在数据文本中找到答案,则会提供制式回答「Empty、No answer。」

Nvidia表示,未来提供企业的EGX平台,会包括执行边缘运算的硬件以及AI模型的参考框架。硬件的部分,EGX平台有强大的扩充性,可以支持体积极小、运算可达5 TOPS的Nvidia Jetson Nano,同时也能支持一整柜的Nvidia T4服务器,提供超过10,000 TOPS的效能。除了硬件之外,Nvidia也会释出的AI模型的参考框架,如应用案例中的NLP模型,是用目前最新、准确率最高、由google开源释出的NLP模型BERT来做,未来释出参考框架(Example model)后,可以让客户在平台上用自家数据来训练,也可以直接将训练好的模型替换到平台上。但参考框架会如何做、EGX平台未来会支持哪些深度学习框架,Nvidia并无透露。EGX平台的软件架构(Nvidia Edge Stack)与AWS、Azure的IoT云端服务相连,让企业能自行在云端建立AI模型,再部署到平台来应用,而在平台上建立的模型也能链接到云端使用,Nvidia产品营销部经理Paresh Kharya也表示,企业可以透过AWS IoT Greengrass和微软Azure IoT Edge来管理这些服务。更多相关人工智能信息:仲博虚拟体验馆 http://pharmacycentral.net/

© 著作权归作者所有

y
粉丝 1
博文 157
码字总数 164678
作品 0
台湾
私信 提问
人工智能计算机Jetson Nano

今天( 3 月 19日),NVIDIA GPU 技术大会在美国加利福尼亚州圣何塞市开幕。会上,NVIDIA 宣布推出 一款全新的人工智能计算机Jetson Nano,可以创建数百万个智能系统。   这款CUDA-X人工智能...

whoisliang
04/01
28
0
全球AI芯片投资版图公开!机会都在这五大场景

来源:智东西 摘要:过去一年,随着人工智能在各个行业的逐步落地,AI芯片的发展路径逐渐明朗。在行业走过野蛮生长,开始加速落地、加速整合的过程中,也有更多的AI芯片公司也开始走出属于自...

人工智能学家
03/01
0
0
GTC CHINA2016在京举行 助力中国开启人工智能黄金时代

2016年9月13日——中国北京—— 全球久负盛名的GTCCHINA 2016 (GPU技术大会)今天在北京召开,NVIDIA联合创始人、总裁兼首席执行官黄仁勋出席大会,深度阐释GPU计算产品与解决方案平台将如何拓...

玄学酱
2018/05/15
0
0
【CES 2018】NVIDIA 黄仁勋携手多家企业,打造自驾车发展蓝图

【Technews科技新报】绘图芯片大厂英伟达(NVIDIA)创办人黄仁勋,8 日 CES 2018 开幕记者会上,针对自动驾驶科技方面做专题演讲时指出,NVIDIA 将与 Volkswagen 携手把人工智能注入未来车款...

Atkinson
2018/01/08
0
0
AI算法的进步速度远超硬件的摩尔定律

对于“未来的算法能与现有半导体芯片或正在开发之新运算架构契合”这件事,我们能抱持多大的信心?随着算法的进展速度超越硬件技术进展进步,甚至是最先进的深度学习模型都可以被布署于只要5...

武汉飔拓科技
2018/10/30
0
0

没有更多内容

加载失败,请刷新页面

加载更多

最简单的获取相机拍照的图片

  import android.content.Intent;import android.graphics.Bitmap;import android.os.Bundle;import android.os.Environment;import android.provider.MediaStore;import andr......

MrLins
57分钟前
4
0
说好不哭!数据可视化深度干货,前端开发下一个涨薪点在这里~

随着互联网在各行各业的影响不断深入,数据规模越来越大,各企业也越来越重视数据的价值。作为一家专业的数据智能公司,个推从消息推送服务起家,经过多年的持续耕耘,积累沉淀了海量数据,在...

个推
59分钟前
8
0
第三方支付-返回与回调注意事项

不管是支付宝,微信,还是其它第三方支付,第四方支付,支付机构服务商只要涉及到钱的交易都要进行如下校验,全部成功了才视为成功订单 1.http请求是否成功 2.校验商户号 3.校验订单号及状态...

Shingfi
今天
4
0
简述Java内存分配和回收策略以及Minor GC 和 Major GC(Full GC)

内存分配: 1. 栈区:栈可分为Java虚拟机和本地方法栈 2. 堆区:堆被所有线程共享,在虚拟机启动时创建,是唯一的目的是存放对象实例,是gc的主要区域。通常可分为两个区块年轻代和年老代。更...

DustinChan
今天
6
0
Excel插入批注:可在批注插入文字、形状、图片

1.批注一直显示:审阅选项卡-------->勾选显示批注选项: 2.插入批注快捷键:Shift+F2 组合键 3.在批注中插入图片:鼠标右键点击批注框的小圆点【重点不可以在批注文本框内点击】----->调出批...

东方墨天
今天
6
1

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部