已有超过500款AI模型在英特尔酷睿Ultra处理器上得以优化运行

05/13 17:00
阅读数 23


近日,英特尔宣布在全新英特尔® 酷睿 Ultra处理器上,有超过500款AI模型得以优化运行。这是市场上目前可用的业界出众的AI PC处理器,兼具全新AI体验、沉浸式图形和出色电池续航表现。这一重大里程碑是英特尔在客户端AI技术、AI PC转型、框架优化和包括OpenVINO工具包在内的AI工具方面投资的成果。这500个模型可在中央处理器(CPU)、图形处理器(GPU)和神经网络处理单元(NPU)上进行部署,它们可以通过业界主流的途径被获取使用,包括OpenVINO Model Zoo、Hugging Face、ONNX Model Zoo和PyTorch。这些模型涵盖了本地AI推理的多种类别,包括大语言处理、扩散处理 、超分辨率、目标检测、图像分类/分割、计算机视觉等。


 


在将AI应用程序引入客户端设备方面,英特尔与生态系统已经合作许久。今天,我们将共同庆祝在客户端AI发展历程中的又一个重要的篇章,即超过500个经过预训练的AI模型,在英特尔酷睿Ultra处理器上得以优化运行。这一成就反映了我们致力于打造PC行业极具优势的AI开发者工具链,以及构建让AI软件用户可以信任的坚实基础。


—— Robert Hallock

英特尔客户端计算事业部副总裁

兼AI和技术营销总经理



重要性:超过500个AI模型得以优化运行,是英特尔努力推动和支持AI PC转型的一个重要里程碑。英特尔酷睿Ultra处理器在一个季度内销量达到500万片,在AI模型、框架和运行时(Runtimes)方面表现出众。


模型是诸如目标去除、图像超分辨率或文本摘要等AI增强软件功能的关键基础。模型可用或优化的数量,与面向用户的AI功能的广度之间具有直接关系。没有模型,功能就无法被设计出来。没有运行时优化,功能就无法达到出色的性能表现。


AI模型如何工作:AI模型是软件栈中众多关键层之一,它决定了AI驱动的应用程序的最终性能、稳定性和功能。AI模型经过训练,可分析大量数据,根据推理得出结论并采取行动。开发者可以利用这些模型并在此基础上构建新的AI PC功能。AI模型越多,启用的AI PC功能就越多。


AI模型可以对文本、语音、音频、图像以及其他PC场景体验中常见的音视频源进行操作。AI模型为造福用户而开发的AI增强功能奠定了基础,例如自动文本摘要、在视频会议期间降低能耗或从图片中去除不需要的对象。OpenVINO通过在所有计算单元之间优化平衡负载,压缩模型从而在AI PC上实现高效运行,并优化运行时以充分利用英特尔酷睿Ultra的内存带宽和核心架构。


英特尔不断努力,在英特尔酷睿Ultra上实现对出色高性能模型集的启用,为软件开发者提供了广泛的创新领域,并简化了向用户交付AI PC应用程序和功能的过程。


关于其他功能和优势:以下列表包括500多个已优化的AI模型的特性和优势:


● 方便开发和部署。

 涵盖20多个AI类别,包括大语言处理、扩散处理、超分辨率、目标检测和计算机视觉。

 包括Phi-2、Mistral、Llama、Bert、Whisper和Stable Diffusion 1.5。

● 提高系统稳定性、可靠性和性能。


关于英特尔的AI PC开发者计划:加入英特尔AI PC开发者计划中的开发者可以访问工具、工作流程、AI部署框架,并用于英特尔酷睿Ultra处理器。开发者还可以利用英特尔的软件工具在AI PC上开展优化AI、多架构编程、游戏、媒体和渲染等工作。


OpenVINO™

--END--


       
       
       
点击下方图片,让我们一起成为“Issues 猎手”,共创百万用户开源生态!

点击下方图片,加入英特尔 AI PC 开发者计划



                
                
                
你也许想了解(点击蓝字查看)⬇️
➡️  解锁 LLM 新高度,拓宽模型新边界 —OpenVINO™ 2024.1 赋能生成式 AI 高效运行
➡️  隆重介绍 OpenVINO™ 2024.0: 为开发者提供更强性能和扩展支持
➡️  隆重推出 OpenVINO 2023.3 ™ 最新长期支持版本
➡️  OpenVINO™ 2023.2 发布:让生成式 AI 在实际场景中更易用
➡️ 开发者实战 | 介绍OpenVINO™ 2023.1:在边缘端赋能生成式AI
➡️ OpenVINO™ DevCon 2023重磅回归!英特尔以创新产品激发开发者无限潜能
➡️ 5周年更新 | OpenVINO™  2023.0,让AI部署和加速更容易
➡️ OpenVINO™5周年重头戏!2023.0版本持续升级AI部署和加速性能
➡️ 开发者实战系列资源包来啦!


               
               
               

扫描下方二维码立即体验 

OpenVINO™ 工具套件 2024.1


点击 阅读原文 立即报名,评论区已开放,欢迎大家留言评论!

文章这么精彩,你有没有“在看”?

本文分享自微信公众号 - OpenVINO 中文社区(openvinodev)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部