加载中
RWKV 模型 state tuning 微调训练教程

RWKV State 微调是什么? RWKV 是纯 RNN,因此可以做 transformer 难以做到的事情。例如,作为 RNN 有固定大小的 state,所以,微调 RWKV 的初始 state,就相当于最彻底的 prompt tuning,甚...

RWKV 模型启动工具 RWKV Runner 进阶教程(下)

在 RWKV Runner 教程的上篇(新手教程),我们讲述了如何使用 RWKV Runner 本地部署并运行 RWKV 模型: RWKV模型启动工具RWKV Runner新手教程(上) 而在今天发布的教程下篇,我们将主要介绍...

RWKV模型启动工具RWKV Runner新手教程(上)

大家好,今天我们带来了 RWKV Runner 的新手教程。 RWKV Runner 是 RWKV 模型的管理和启动工具,由 RWKV 开源社区成员 josStorer 开发,它本身也是一个开源软件,且体积仅 10MB 左右(不含依...

SAM、CLIP...最近有哪些基于 RWKV 的多模态等研究?【第二期】

大家好,我们整理了近期 RWKV 生态中新增的一些多模态工作,包含:RWKV-SAM(图像分割模型)、RWKV-CLIP(视觉语言表示学习)、point-RWKV(3D 点云学习框架)…… RWKV-SAM 相关论文: Mamb...

RWKV Runner 超详细 API 指南

大家好,今天我们带来 RWKV Runner API 的详细用法。 本文会列出 RWKV Runner 每一个 API 的作用、请求主体的参考结构、必需字段和可选字段等内容,帮助大家更轻松、更灵活地调用 RWKV Runne...

RWKV-6 论文到底说了什么?分享会回顾来啦!

RWKV-6 论文分享会回顾 6 月 23 日,RWKV-6 论文第一场分享会圆满结束。论文参与者侯皓文博士讲解论文要点,RWKV架构唯一作者彭博在线答疑。 此番分享会主要介绍了如下内容: RWKV 的设计理念...

RWKV state:享傻瓜式文学大师人生

state 是 RWKV 这类 RNN 大模型特有的状态。微调 RWKV 的初始 state,就相当于最彻底的 prompt tuning 。通过挂载不同的 state 文件,又可以使 RWKV 模型遵循特定的风格进行回答。 目前 RWKV...

State 微调、PointRWKV、中文文档上线……RWKV社区5月最新动态来啦!

大家好,这里是我们组织的新栏目:RWKV 社区最新动态,这个栏目会不定期播报 RWKV 社区的最新消息,以帮助 RWKV 的关注者、爱好者、开发者更好地了解 RWKV 的发展情况。 《RWKV 社区最新动态...

RWKV 模型本地部署工具 Ai00 Server 保姆级教程

了解Ai00 简介 Ai00 Server 是基于 web-rwkv 推理引擎的 RWKV 语言模型推理 API 服务器。它本身也是一个基于 MIT 协议的开源软件,由 RWKV 开源社区成员 @cryscan 和@顾真牛牵头成立的 Ai00...

RWKV-6-World 7B 模型于 5 月 7 日正式开源

2024 年 5 月 7 日,RWKV 开源基金会宣布正式向全球开源 RWKV-6-World 7B 模型。 相比 1 月 18 日开源的 RWKV-5-World 7B 模型,最新发布的 RWKV-6-World 7B 模型不仅升级了模型架构,还在训...

没有更多内容

加载失败,请刷新页面

没有更多内容

返回顶部
顶部