背景 在云原生调度中，一次调度往往无法解决所有问题，需要配合重调度来优化资源分配和任务摆放。传统的重调度框架主要集中在识别异常节点或任务，并通过迁移或删除来解决。然而，这些框架往...

在大模型时代到来之前，开源合规一直是开源领域备受关注的重要话题。如今，随着大模型的蓬勃发展，开源合规的重要性愈发凸显，成为不容忽视的关键问题。例如，不同大模型采用了多种不同的开源...

过去数年来，大规模集群联邦因其资源无限扩展能力、高可用架构设计及混合云协同优势，成为企业应对业务全球化、场景多元化的关键技术选择。 然而，当企业业务规模突破百万节点大关，大规模集...

虚拟索引技术（virtual index，也称为 hypothetical index）在数据库系统的查询优化、索引推荐等场景中扮演着关键角色。简单来说，虚拟索引可以理解为数据库的'沙盘推演'系统——无需真实构建...

Midscene.js 是由字节跳动 Web Infra 团队全新开源的 UI 自动化工具。通过引入多模态 AI 推理能力，Midscene.js 将帮助开发者打破传统 UI 自动化难于编写和维护的困境。本文由字节跳动 Web ...

原文链接：https://aibrix.github.io/posts/2025-03-10-deepseek-r1/ 本文详细介绍了如何通过 AIBrix 分布式推理平台实现 DeepSeek-R1 671B 的多节点部署。DeepSeek-R1 通过渐进式训练框架展...

FlowGram 是一套基于节点编辑的流程搭建引擎，帮助开发者快速创建固定布局或自由连线布局的流程，并提供一套交互的最佳实践, 很适合有明确输入和输出的可视化工作流。Github: https://githu...

简介 vArmor 是字节跳动开源的云原生容器沙箱系统，它借助 Linux 的 AppArmor LSM，BPF LSM 和 Seccomp 技术进行容器加固。用户可以通过 vArmor 的 CRD API 在 Kubernetes 集群中管理安全策略...

本文档为新项目 AIBrix 国内宣传稿，目前该项目已在海外官宣开源，详见： 🔗 vLLM 博客： vLLM Blog 🔗 代码仓库： GitHub Repo 🔗 技术详解博客： Technical Blog 前言 随着 LLaMA、D...

2025年2月21日，vLLM通过官方博客宣布了由字节跳动开发的AIBrix大模型推理系统开源，为vLLM推理引擎提供可扩展且高性价比的控制面。开源72 小时内，AIBrix 收获的GitHub Star 数已超 1000, ...

2025 年开年，DeepSeek 开源模型以“低成本、高性能”成功掀起 AI 平价化浪潮，并以惊人的速度渗透至各个领域。在 AI 平价化浪潮的推动下，微服务架构正迎来前所未有的变革机遇。微服务架构通...

多集群部署微服务带来了可扩展性和容灾性等优势，但也引入了全局层面的脆弱性——中心控制平面的任何问题都会级联影响所有被管理集群，造成灾难性后果。其中最严重的场景之一是由于Pod删除导...

文章来源｜CloudWeGo 开源团队 Eino 项目组 今天，经过字节跳动内部半年多的使用和迭代，基于 Golang 的大模型应用综合开发框架 —— Eino，已在 CloudWeGo 正式开源啦！ Eino 基于明确的“组...

国际学习表征会议 ICLR 作为深度学习领域的顶级学术活动，将于 2025 年 4 月 24-28 日在新加坡举办。期间，首届 Open Science for Foundation Models (SCI-FM) Workshop 将在会场同步开启，现...

来源｜豆包MarsCode “开源”这个词，对开发者来说，可能是入门时的第一步，也可能是追求极致技术的终点。无数优秀的开源项目不仅推动了技术的进步，也成为开发者学习和成长的宝藏，但同时也...

文章来源｜CloudWeGo 开源社区 本文根据字节跳动服务框架团队研发工程师在 CloudWeGo 技术沙龙暨三周年庆典中演讲内容《ROG——高性能 Go 实现》整理。 ROG 之缘起 ROG 的诞生是因为我们一部...

文章来源｜豆包大模型团队 作为数据科学与机器学习经典竞赛，Kaggle 以其高难度、高奖金、高关注度吸引了大量顶尖人才参与。Kaggle 竞赛任务往往涉及需求理解、数据清洗和预处理、特征工程和...

文章来源｜豆包大模型团队 近日，字节跳动豆包大模型团队提出 SuperClass，一个超级简单且高效的预训练方法。该方法首次舍弃文本编码器，直接使用原始文本的分词作为多分类标签，无需额外的文...

文章来源｜豆包大模型团队 强化学习（RL）对大模型复杂推理能力提升有关键作用，然而，RL 复杂的计算流程以及现有系统局限性，也给训练和部署带来了挑战。传统的 RL/RLHF 系统在灵活性和效率...

演讲嘉宾｜冯佳时 编辑 ｜蔡芳芳 近年来，大语言模型 (LLMs) 在文本理解与生成领域取得了显著进展。然而，LLMs 在理解和生成自然信号（例如图像，视频）等，还处在比较早期的探索阶段。为了深...