OpenVINO™ 助力 Qwen 2 —— 开启大语言模型新时代

原创
06/07 07:54
阅读数 118

点击蓝字

关注我们,让开发变得更有趣

排版| 李擎

OpenVINO™ 助力 Qwen 2 

—— 开启大语言模型新时代


就在刚刚,阿里魔搭社区发布了全新的 Qwen 2 系列模型 ,作为 Qwen 及魔搭社区的重要合作伙伴,OpenVINO™ 一直致力于赋能开发者高效搭建人工智能解决方案,助力大规模语言模型的性能提升和应用扩展。

接下来,由小编来为大家介绍本次 Qwen 2 的发布亮点并全面讲解  OpenVINO™ 对于 Qwen 2 的强力支持。


OpenVINO™


Qwen 2 全新发布,OpenVINO™ 强力支持,

赋能开发者高效开发!



Qwen 2 是阿里云发布的最新大语言模型系列,涵盖了从  5 亿 到  720 亿参数 的模型。据阿里云介绍,Qwen 2 在一系列针对语言理解、语言生成、多语言能力、编程、数学和推理的基准测试中,都展现出了不错的能力。为了充分发挥这些模型的潜力,OpenVINO™ 提供了以下支持:


1. 高效推理加速:OpenVINO™ 通过其优化的推理引擎,显著提升了 Qwen 2 在各种硬件平台上的推理性能。无论是在数据中心还是边缘设备上,在OpenVINO™ 的加持下,都展现出低延迟、高吞吐量的能力。这对于需要实时响应的大语言模型应用场景尤为重要,如智能客服、实时翻译和智能助手等。

2. 跨平台兼容性:OpenVINO™ 支持多种硬件架构,帮助 Qwen 2 模型可以在不同的硬件环境中高效运行,满足各种应用场景的需求,帮助开发者可以在不同平台之间无缝迁移模型,充分利用现有硬件资源,降低部署成本。

3. 易用的开发工具:OpenVINO™ 提供了一整套开发工具,使得 Qwen 2 的开发者可以方便地进行模型转换、优化和部署,缩短开发周期,快速实现模型的实际应用,自动化地处理许多复杂的优化任务,开发者只需要专注于模型设计和应用开发即可。     

4. 丰富的社区资源:作为开源社区的一部分,OpenVINO™ 和 Qwen 2 拥有丰富的文档、教程和示例代码,帮助开发者快速上手并充分利用其功能。

OpenVINO™  + Qwen 2 快速上手教程:https://github.com/openvinotoolkit/openvino_notebooks/tree/blogs_supplementary/supplementary_materials/qwen2

 

 

想即刻动手体验 OpenVINO™ 和Qwen 2 的小伙伴可以移步 开发者实战 | 简单两步使用 OpenVINO™ 搞定 Qwen 2 的量化与部署任务


OpenVINO™ + Qwen2-1.5B 模型演示效果:


OpenVINO™ + Qwen2-7B 模型演示效果:



OpenVINO™


OpenVINO™ 携手 Qwen2.0,

更多精彩活动即将呈现



在 Qwen 2 发布之后,OpenVINO™ 将继续与 Qwen 和魔搭社区紧密合作,在未来,推出一系列丰富多彩的活动,帮助开发者深入了解和应用 Qwen 2 及 OpenVINO™ 的最新技术。


OpenVINO™


--END--


     
     
     

点击下方图片,让我们一起成为“Issues 猎手”,共创百万用户开源生态!


          
          
          
你也许想了解(点击蓝字查看)⬇️
➡️  隆重介绍 OpenVINO™ 2024.0: 为开发者提供更强性能和扩展支持
➡️  隆重推出 OpenVINO 2023.3 ™ 最新长期支持版本
➡️  OpenVINO™ 2023.2 发布:让生成式 AI 在实际场景中更易用
➡️ 开发者实战 | 介绍OpenVINO™ 2023.1:在边缘端赋能生成式AI
➡️ 基于 ChatGLM2 和 OpenVINO™ 打造中文聊天助手
➡️ 基于 Llama2 和 OpenVINO™ 打造聊天机器人
➡️ OpenVINO™ DevCon 2023重磅回归!英特尔以创新产品激发开发者无限潜能
➡️ 5周年更新 | OpenVINO™  2023.0,让AI部署和加速更容易
➡️ OpenVINO™5周年重头戏!2023.0版本持续升级AI部署和加速性能
➡️ 开发者实战系列资源包来啦!
➡️  以AI作画,祝她节日快乐;简单三步,OpenVINO™ 助你轻松体验AIGC


         
         
         

扫描下方二维码立即体验 

OpenVINO™ 工具套件 2024.1


点击 阅读原文  获取工具套件 ,评论区已开放,欢迎大家留言评论!

文章这么精彩,你有没有“在看”?

本文分享自微信公众号 - OpenVINO 中文社区(openvinodev)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部