玩转 LLMs 之基础设施「利刃出鞘」

原创
05/16 18:33
阅读数 156


LLMs 时代已经到来,这个由 ChatGPT 开始的全球化技术浪潮,所经之处,风起云涌。LLMs 之于当下,更像是 iOS 、Android 之于移动互联网时代。开发者沸腾,投资机构争抢,与赛道相关的基础设施建设自然也成为整个圈子关注的焦点。


向量数据库就是其中之一,作为 LLMs 基础设施中的一把利刃,以 Milvus 和 Zilliz Cloud 为代表的向量数据库能为 LLMs 提供超强的存储能力,可以看作 LLMs 的记忆体。同时,为了方便大家使用,Milvus 和 Zilliz Cloud 也在自研和集成相关生态工具。


目前,我们已经发布了可以为开源项目提供问答服务的 OSSChat,以提升开发者的效率;为 ChatGPT 做了缓存层——GPTCache,以降低大语言模型开发成本、大大减少 LLMs 缓存时间。与此同时,我们也将产品集成到 LangChain、Auto-GPT、BabyAGI 之中,成为全球为数不多的同时与这些大热门项目深度对接的公司。


当然,为了让用户更丝滑地使用 Zilliz Cloud,我们也将于今年 6 月底登陆阿里云,与其他几朵云的合作也已提上日程,敬请期待!


言归正传,为了方便大家了解和学习,我们在 Deep Dive 直播中特地开设了 LLMs 专题。本期的 Deep Dive 邀请到 Zilliz 的两位工程师顾梦佳、付邦,他们将为大家详解 Zilliz Cloud 以及自研生态工具 GPTCache 如何为 LLMs 赋能,希望能为大家在大语言模型冲浪的旅程中,带来思考和启发。


🌟本周四 20:00,直播间等你!🌟


本文分享自微信公众号 - ZILLIZ(Zilliztech)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部