OneFlow深度学习框架的个人空间 - OSCHINA - 中文开源技术交流社区

OneFlow深度学习框架

认证官方账号

1W

经验值

1W

开源豆

关注私信

通用深度学习框架

40

连击天

fork: star:

加载中

GPT-3模型为何难以复现？这也许是分布式AI框架的最优设计

撰文 | 成诚 2020 年，最轰动的 AI 新闻莫过于 OpenAI 发布的 GPT-3 了。它的1750亿参数量及其在众多NLP任务上超过人类的出众表现让大家坚信：大模型才是未来。但与之带来的问题是，训练超大...

pytorch layer

2021/05/14 11:55

3.5K

尽管有 Scaling Law 放缓这样的疑虑，但整体而言，多数业内人士对 AI 过去一年的诸多进展感到兴奋，对新的一年 AI 的发展更是充满期待，尽管他们对未来的预测可能不尽相同。在本文中，Found...

meta openai 自动驾驶 llama3 llama oneflow 开源 https 聊天机器人机器智能 canvas

01/12 12:51

57

AI 前所未有的发展前景以及来自中国 AI 的极速跟进，让美国拥有前瞻性与战略性的科技企业领导者感受到加速美国 AI 持续领先的紧迫性。在本文中，微软副董事长兼总裁、首席法务官Brad Smith分...

oneflow support land matrix https blogs 开源 stem openai 云计算 minecraft bradsmith token

01/05 11:10

73

难以想象，如果不是Scaling Law放缓，2024年AI领域会发生哪些惊人变化，但你可能又会感到庆幸，正是由于Scaling Law放缓，它给了这个行业的后来者们追赶的机会，也给了更多普通人搭乘这一轮技...

oneflow https support 开源 openai scalinglaw from inference copylink siliconflow file feishu

01/01 09:50

81

本文全面分析了今年 AI 的发展，包含 AI 技术栈的基础设施层、基础模型层、应用层、工具层，尤其是各个层面的主要收获、值得关注的趋势与值得关注的初创公司。此外，本文还概括了 AI 领域的投...

openai https meta genai saas 开源强化学习 preview oneflow 向量数据库神经网络

2024/12/25 13:37

818

作者 | Andrew Chen 翻译｜张雪聃、刘乾裕 OneFlow编译题图由SiliconCloud平台生成本文旨在从零开始，仅使用C++和CUDA构建一个大语言模型（LLM）推理引擎，且不借助其他外部库。为何要这样...

https llama github cuda warp blob c++mistral-7b docs blog 编译器 oneflow memory kernel infer

2024/12/21 08:33

52

过去一年，通过模型架构创新、更优质训练数据和更大算力规模来训练模型，顶尖大模型之间的性能差距急剧缩小。如果Scaling law依然有效，为了进一步扩展模型规模与性能，在模型架构创新存在极...

https data center 人工智能 oneflow blog energy articles support matrix 网络服务 build-

2024/12/13 12:03

0

2024年，随着Scaling law放缓，AI领域在大模型、基础设施上的能力稳步提升，尽管应用层出现了各种有趣的探索，但是更大的潜能有待挖掘。2025年即将来临，将出现哪些变化？近日，红杉资本投资...

meta openai 搜索引擎开源 oneflow matrix 开源模型 saas https support glean gemini llama

2024/12/12 09:35

103

过去两年，英伟达崛起是科技领域的一个经典案例。通过CUDA系统，他们创建了一个使用GPU进行机器学习的开发者生态系统；通过Mellanox，他们成为了数据中心网络的领导者。然后，他们将所有硬件...

https data center oneflow cuda 神经网络 machine-learning-support news blog html white-paper

2024/12/05 13:05

0

AI推理算力需求正在大幅增长。一方面，像硅基流动、Fireworks这样的AI基础设施软件公司通过软件层面的优化以提供高性价比的大模型推理服务，另一方面，以Cerebras、Groq为代表的芯片公司相继...

matrix https llama oneflow 大语言模型聊天机器人 wiki meta support sram groq 机器学习

2024/12/04 08:03

55

OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相继发布，预示着生成式AI研究正从预训练转向推理（Inference），以提升AI逻辑推理（reasoning）能力，这一转变将极大推动上层应用的...

https preview openai 开源模型 oneflow 人工智能 lite deep enterprise blog api-memory support

2024/12/01 13:03

44

根据规模定律，扩大训练计算规模可以提高大型语言模型（LLM）性能的关键，但调研机构Epoch AI的研究，LLM再训练无需高额费用，也能让AI能力获得显著提升。在该研究中，他们引入了一个基本框...

blog https 大语言模型 oneflow 大型语言模型 dollar machine-learning-人工智能

2024/11/29 13:04

106

Mixtral 8x7B的高效训练与推理效果曾引发AI社区对混合专家（MoE）模型的广泛关注，后来居上的国产开源大模型DeepSeek以及腾讯近期开源的Hunyuan-Large（基于Transformer的最大MoE模型）也选择...

前馈神经网络 https oneflow k 开源 v support guide 大语言模型 ffnn 强化学习

2024/11/29 08:03

61

AGI实现的一大标志是，具备人类级别的逻辑推理（reasoning）能力。近期，随着推理（inference）模型GPT o1、DeepSeek R1-Lite的发布，模型的逻辑推理能力得到显著提升，也预示着对LLM潜力的深...

2024/11/28 17:20

233

根据规模定律，扩大训练计算规模可以提高大型语言模型（LLM）性能的关键，但调研机构Epoch AI的研究，LLM再训练无需高额费用，也能让AI能力获得显著提升。在该研究中，他们引入了一个基本框...

blog https 大语言模型 oneflow 大型语言模型 support machine-learning-dollar 人工智能

2024/11/27 13:04

58

企业AI格局正在迅速重塑。随着实验项目逐步落地投入生产，海外风险投资机构Menlo Ventures最新发布的《2024年企业生成式AI现状》报告对600名企业IT决策者展开了调研，深入分析了这场变革中正...

大语言模型设计模式向量数据库 forge pinecone 开源 openai enterprise meta

2024/11/26 11:41

143

OpenAI下一代GPT近期被爆遇到瓶颈，这让“Scaling Law撞墙”的声音变得更响，尽管业内对此争论不休，但现实情况是，大模型确实不再像年前那样有突飞猛进的进展。作为启发大模型领域提出Sca...

rich 强化学习深度学习反向传播人工智能梯度下降神经网络 alona bandit

2024/11/25 13:58

109

AGI实现的一大标志是，具备人类级别的逻辑推理（reasoning）能力。近期，随着推理（inference）模型GPT o1、DeepSeek R1-Lite的发布，模型的逻辑推理能力得到显著提升，也预示着对LLM潜力的深...

https lora 大型语言模型 oneflow minerva 强化学习机器学习开源大语言模型 chen

2024/11/22 10:04

74

一、岗位名称：深度学习研发工程师-框架开发方向（实习）岗位职责 1. 参与 OneFlow 框架开发、重构与性能优化； 2. 参与深度学习编译、高阶自动微分等深度学习框架相关技术演进工作。岗位要...

oneflow 深度学习深度学习框架 python c/c++开源 support triton linux系统 cuda pytorch

2024/11/22 10:04

10

企业AI格局正在迅速重塑。随着实验项目逐步落地投入生产，海外风险投资机构Menlo Ventures最新发布的《2024年企业生成式AI现状》报告对600名企业IT决策者展开了调研，深入分析了这场变革中正...

大语言模型设计模式 oneflow 向量数据库 pinecone forge 开源 openai glean saas https

2024/11/21 12:54

34

没有更多内容

加载失败，请刷新页面

©OSCHINA(OSChina.NET)

工信部

开源软件推进联盟

指定官方社区

社区规范

深圳市奥思网络科技有限公司版权所有

粤ICP备12009483号

顶部