活动预告 | 10.29 OpenVINO™ × 魔搭社区 联合开发者日 邀您共同探索 vLLM 部署大模型

原创
2024/10/22 10:10
阅读数 81

点击蓝字

关注我们,让开发变得更有趣



OpenVINO™


OpenVINO™ × 魔搭社区 联合开发者日活动 再次开启~


本次活动以“vLLM 助力大模型部署”为核心,特邀同济子豪兄、武卓、张熙、吕翔,共四位技术讲师为大家带来精彩有趣的技术分享。


10月29日,我们相聚 阿里巴巴徐汇滨江园区D区-D区-7F D4-718 星海厅 ,一同探讨大模型部署与应用实践!


1

OpenVINO™ × 魔搭社区 联合开发者日

精彩内容抢先看


同济子豪兄

英特尔边缘计算创新大使

B站 Up 主

基于 OpenVINO™ 和 AI PC 的人形机器人分享

1.具身智能简介

2.具身智能 Demo 展示

3.代码实战:基于 OpenVINO™ 在AI PC本地部署智能体 Agent 大语言模型

4.现场观众体验:人形机器人智能完成动作、玩唱跳RAP、踢花样足球、搬货物至指定地点


武卓

英特尔 OpenVINO™ 布道师

OpenVINO™ 加速 vLLM:开启高效大语言模型推理新时代

在本次技术分享中,我们将展示如何利用 OpenVINO™ 作为推理后端,加速 vLLM 在阿里云上的大语言模型推理。通过将 OpenVINO™ 集成到 vLLM 中,并在阿里云平台上运行,开发者能够大幅提升推理速度,降低延迟与计算成本。本次分享将详细介绍从环境搭建、模型转换到在云端进行推理加速的完整流程,并结合实际案例演示如何通过 OpenVINO™ 的高效优化技术,在阿里云上最大化大语言模型的推理性能,助力开发者实现更快、更高效的 AI 应用。


张熙

通义实验室算法工程师

多模态、多端智能体:Mobile-Agent 应用实践

1. 大模型智能体背景

2. Mobile Agent 介绍

3. Mobile Agent Demo展示

4. Mobile Agent 代码实战


吕翔

阿里巴巴通义实验室算法专家 FunAudioLLM 核心开发者

CosyVoice 语音生成大模型介绍及应用实践

1. FunAudioLLM开源计划介绍

2. CosyVoice语音生成大模型原理

3. CosyVoice开源计划与应用


本次活动由 OpenVINO™ 、魔搭社区、阿里云主办,Datawhale 协办,一图速览活动日程及参会嘉宾,扫描【海报二维码】立即报名~


OpenVINO™


---------------------------------------

*OpenVINO and the OpenVINO logo are trademarks of Intel Corporation or its subsidiaries.

-----------------------------

 OpenVINO 中文社区 

微信号 : openvinodev

B站:OpenVINO中文社区

“开放、开源、共创”

致力于通过定期举办线上与线下的沙龙、动手实践及开发者交流大会等活动,促进人工智能开发者之间的交流学习。



 点击 “ 在看 让更多人看见

本文分享自微信公众号 - OpenVINO 中文社区(openvinodev)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
0 评论
0 收藏
0
分享
返回顶部
顶部