软件作品

OneFlow
OneFlow
通用深度学习框架
39

技能雷达

Gitee 贡献

Gitee (gitee.com) 是 OSCHINA 推出的代码托管平台，支持 Git 和 SVN，提供免费的私有仓库托管。目前已有近 1000 万的开发者选择 Gitee。

Gitee 贡献 反映用户在 Gitee 上评论、Fork、Star、Push等操作的次数。

免费开通 Gitee

1
2
3
4
5
6
7

连击 天

fork: star:

博客数据统计

个人主页访问量：87118
博客总阅读量：492266
加载中
全部博文
360 全部博文 12 OneFlow U 3 前沿技术 311 OneFlow 29 工作日志 4 日常记录 1 转贴的文章
资讯 问答 评论
排序
按时间 按阅读量
创作历程
全部
2023年(97篇)
8 2023/11 9 2023/10 7 2023/09 6 2023/08 5 2023/07 7 2023/06 10 2023/05 10 2023/04 13 2023/03 12 2023/02 10 2023/01
2022年(139篇)
15 2022/12 16 2022/11 7 2022/10 5 2022/09 11 2022/08 11 2022/07 12 2022/06 15 2022/05 17 2022/04 17 2022/03 6 2022/02 7 2022/01
2021年(88篇)
13 2021/12 13 2021/11 14 2021/10 3 2021/09 4 2021/08 6 2021/07 6 2021/06 7 2021/05 13 2021/04 3 2021/03 2 2021/02 4 2021/01
2020年(36篇)
14 2020/12 3 2020/11 1 2020/10 12 2020/08 6 2020/07
顶
原
荐
GPT-3模型为何难以复现？这也许是分布式AI框架的最优设计

撰文 | 成诚 2020 年，最轰动的 AI 新闻莫过于 OpenAI 发布的 GPT-3 了。它的1750亿参数量及其在众多NLP任务上超过人类的出众表现让大家坚信：大模型才是未来。但与之带来的问题是，训练超大...

pytorchlayer
工作日志
2021/05/14 11:55
3.2K
0
语言大模型的分布式训练与高效微调指南

作者 | Sumanth R Hegde OneFlow编译 翻译｜杨婷、宛子琳 最近语言大模型（LLM）异常火爆，一个非常特别的开源社区正在探索在消费级硬件上微调、提供服务和进行推理的最佳方式。为满足上述需...

OneFlow
前天 09:28
2
0
原
荐
ChatGPT规模化服务的经验与教训

2022年11月30日，OpenAI发布ChatGPT，以很多人未曾预料的速度迅速走红。与此同时，由于短时间内用户量的暴涨，导致服务器过载，迫使OpenAI停止新用户的注册。 ChatGPT发布这一年，同样的情景...

openai其他
OneFlow
11/21 10:01
54
0
原
荐
可复现的语言大模型推理性能指标

LLMPerf是一个开源项目，旨在帮助用户对语言模型进行基准测试，并使其性能具有可复现性。它能够帮助用户评估不同LLM的性能，并根据具体任务做出明智的决策。该项目选择了多个指标来衡量LLM的...

llm（大语言模型）
OneFlow
11/17 08:51
37
0
原
荐
开源语言大模型演进史：向LLaMA 2看齐

本文是开源 LLM 发展史系列文章的第三部分。此前，第一部分《开源语言大模型演进史：早期革新》回顾了创建开源 LLM 的最初尝试。第二部分《开源语言大模型演进史：高质量基础模型竞赛》研究了...

llm（大语言模型）sft
OneFlow
11/10 08:03
52
0
原
荐
微调语言大模型选LoRA还是全参数？基于LLaMA 2深度分析

本文对比了全参数微调和LoRA，并分析了这两种技术各自的优势和劣势。作者使用了三个真实用例来训练LLaMA 2模型，这提供了比较特定任务的性能、硬件要求和训练成本的基准。本文证明了使用LoR...

llm（大语言模型）其他
OneFlow
11/08 08:03
54
0
原
荐
开源语言大模型演进史：高质量基础模型竞赛

本文是开源 LLM 发展史系列文章的第二部分。第一部分《开源语言大模型演进史：早期革新》回顾了创建开源 LLM 的最初尝试。本文将研究目前可用的最受欢迎的开源基础模型（即已进行预训练但尚未...

llm（大语言模型）falcon
OneFlow
11/03 09:49
41
0
原
荐
为什么开源语言大模型很重要？

在LLM领域，开源究竟意味着什么？假设开源社区拥有了真正的开源LLM，其权重、数据集、代码和基础设施都可公开获取，我们又将从中获得哪些重要收益？ 本文作者为Vikram Sreekanti和Joseph E....

llm（大语言模型）
OneFlow
11/02 08:03
54
0
原
荐
GPU架构与计算入门指南

大多数工程师对CPU和顺序编程都十分熟悉，这是因为自从他们开始编写CPU代码以来，就与之密切接触。然而，对于GPU的内部工作原理及其独特之处，他们的了解则相对较少。过去十年，由于GPU在深度...

warpcuda其他
OneFlow
11/01 09:30
1.7K
0
原
荐
LoRA和QLoRA微调语言大模型：数百次实验后的见解

LoRA是用于训练自定义LLM的高效参数微调技术。本文作者Sebastian Raschka通过成百上千次实验，他为使用LoRA和QLoRA对LLM进行微调提供了实用见解，包括节省内存、选择最佳配置等。 Sebastia是...

llm（大语言模型）alpaca其他人工智能过拟合
OneFlow
10/27 09:16
73
0
原
荐
语言大模型推理性能工程：最佳实践

在这篇文章中，MosaicML工程师团队分享了如何在生产环境中充分利用流行开源语言大模型（LLM）的最佳实践。此外，他们还提供了围绕模型部署推理服务的指南，以帮助用户更好地选择模型和部署硬...

llm（大语言模型）
OneFlow
10/25 09:45
122
0
原
荐
全面对比GPT-3.5与LLaMA 2微调

通用大模型虽好，但通过微调得到一个专属大模型不仅可以提高模型的可操控性、输出格式的可靠性和语气的一致性，还能让用户缩短提示长度，加速API调用，降低成本。 本文作者Sam L'Huillier对G...

openai网络爬虫github人工智能开源博客系统其他epoch
OneFlow
10/19 08:03
77
0
原
荐
开源语言大模型演进史：早期革新

尽管业内最初强调专有模型，但随着GPT-3等流行语言模型的发布，LLM研究社区开始发布相关开源变体。最早的开源语言模型在性能上落后于最佳的专有模型，不过，它们为提升LLM的研究透明度奠定了...

llm（大语言模型）人工智能
OneFlow
10/18 10:22
43
0
原
荐
OpenAI的规模化经济效益与第二护城河

尽管业内相继开源了不少表现出色的语言大模型，但相对OpenAI的闭源模型的高昂部署成本，让大多数想使用开源LLM模型的组织往往望而却步。 OpenAI在成本方面的优势，一方面来自规模效应，另一方...

llm（大语言模型）其他openai人工智能
OneFlow
10/17 09:42
48
0
原
荐
为什么多数情况下GPT-3.5比LLaMA 2更便宜？

本文旨在为用户选择合适的开源或闭源语言模型提供指导，以便在不同任务需求下获得更高的性价比。 通过测试比较 LLaMA-2 和 GPT-3.5 的成本和时延，本文作者分别计算了二者的 1000 词元成本，...

openaiturbo人工智能c++github开源博客系统其他
OneFlow
10/14 08:03
131
0
原
荐
开源语言大模型的正确姿势

作者 | Nathan Lambert OneFlow编译 翻译｜杨婷、宛子琳 如今，很多公司都被迫加快步伐，参与到开源语言大模型（LLM）的竞争之中。发布某种形式的开源语言大模型已成为机器学习公司实力的象征...

llm（大语言模型）openai
OneFlow
10/12 08:03
79
0
原
荐
LLVM之父Chris Lattner：我的AI基础设施软件构建理念

来源｜Latent Space OneFlow编译 翻译 | 杨婷、宛子琳 如果 AI 如此重要，那么为什么软件如此糟糕？ 创办 Modular 之前，这是让 LLVM 之父 Chris Lattner 困扰已久的问题。随后，他与 Tensor...

python编译器modular其他pytorchtensorflow
OneFlow
10/05 09:34
114
0
原
荐
为什么开源大模型终将胜出？

自ChatGPT面世以来，以它为代表的闭源 AI 备受关注，简单易用的特性使其占据了行业主导。尽管以LLaMA 为代表的开源 AI 进展迅猛，但业内也流行三个反对开源的观点：开源 AI 无法与行业实验室...

人工智能openaillm（大语言模型）
OneFlow
10/02 10:16
75
0
原
荐
ChatGPT架构师：语言大模型的多模态能力、幻觉与研究经验

来源 | The Robot Brains Podcast OneFlow编译 翻译｜宛子琳、杨婷 9月26日，OpenAI宣布ChatGPT新增了图片识别和语音能力，使得ChatGPT不仅可以进行文字交流，还可以给它展示图片并进行互动，...

强化学习openai其他深度学习人工智能
OneFlow
09/27 13:35
163
0
原
荐
NCCL源码解析⑦：机器间Channel连接

作者｜KIDGINBROOK 上节中完成了单机内部的channel搜索，仍然以ringGraph为例的话，相当于在单台机器内部搜索出来了一系列的环，接下来需要将机器之间的环连接起来。 为了方便理解，假设两机...

nextring
OneFlow
09/22 08:28
60
0

没有更多内容

加载失败，请刷新页面

删除文章

文章删除后无法恢复，确定删除此文章吗？

取消
确定
删除动弹

动弹删除后，数据将无法恢复

取消
确定
删除一条评论

评论删除后，数据将无法恢复

取消
确定
返回顶部
顶部