达坦科技专注于打造新一代开源跨云存储平台DatenLord,通过软硬件深度融合的方式打通云云壁垒,致力于解决多云架构、多数据中心场景下异构存储、数据统一管理需求等问题,以满足不同行业客户对海量数据跨云、跨数据中心高性能访问的需求。在本周的前沿技术分享中,我们邀请到了范一呈,来为大家分享大模型训练和基础设施。
01、演讲题目
大模型训练和基础设施
02、演讲时间
2023年8月27日上午10:30
03、演讲人
范一呈
谷歌研究院工程师
04、引言
大模型作为这一轮AI发展的基石,其训练框架和以往的AI模型有较大差别。基础设施也成为模型训练中的一个重要部分。
05、内容简介
我们会简单介绍大模型训练的一般过程,并且在训练过程中所使用的基础设施。通过介绍可以了解到大模型的能力,使用方式,预训练与精调方案,模型训练范式的变革,对数据、AI芯片等基础架构的需求,语言模型的增强等内容。
06、直播预约
欢迎您预约直播,或者登陆腾讯会议观看直播:
会议号:474-6575-9473
**达坦科技(DatenLord)**专注下一代云计算——“天空计算”的基础设施技术,致力于拓宽云计算的边界。达坦科技打造的新一代开源跨云存储平台DatenLord,通过软硬件深度融合的方式打通云间壁垒,实现数据高效跨云访问,建立海量异地、异构数据的统一存储访问机制,为云上应用提供高性能安全存储支持。以满足不同行业客户对海量数据跨云、跨数据中心高性能访问的需求。
公众****号:达坦科技DatenLord
DatenLord官网:www.datenlord.io
知乎账号:
https://www.zhihu.com/org/da-tan-ke-ji
B站:
https://space.bilibili.com/2017027518