北京硅动科技有限公司(以下简称“硅基流动”)于近日完成5000万元天使轮融资。本轮融资由创新工场领投,耀途资本、奇绩创坛以及王慧文等科技界知名人士跟投,华兴资本担任独家财务顾问。
随着ChatGPT的爆火,生成式AI快速发展,全球算力需求随之爆发式增长,由此导致算力供给严重不足。高昂的算力成本和应用开发门槛成为生成式AI发展的主要瓶颈。
成立于2023年8月的硅基流动致力于打造大模型时代的AI基础设施(AI Infra),降低大模型应用成本和开发门槛,加速AGI普惠人类。硅基流动由袁进辉博士(一流科技创始人、光年之外联合创始人)创办,当前多数成员来自一流科技(OneFlow),是世界上研发分布式深度学习框架的唯一一支创业团队。
基于在AI Infra领域的深厚积累,以及驾驭万卡集群的技术能力,硅基流动率先推出了业内极具竞争力的AI Infra商业化方案,主要包括三个层面。
第一,高性能大模型推理套件,主要包括SiliconDiff和SiliconLLM。
SiliconDiff是一个开箱即用的高性能文生图/视频加速库,支持上层主流应用框架Diffusers、ComfyUI、SD-WebUI,对文生图模型SDXL的性能加速最高可达3倍,在大幅提升使用体验的同时降低了应用成本。比如,如果AIGC企业想用SDXL提供服务,需要达到每秒800张图片的生成速度,当使用未优化的基准引擎,基于A100平均3秒生成一张图片,那么需要2400张A100 GPU提供服务,租用费用为300万美元/月,当使用SiliconDiff加速引擎,基于A100平均1秒一张图,那么仅需要800张A100 GPU,租用费用为100万美元/月。
SiliconLLM是一个高效、易用、可扩展的语言大模型推理加速引擎,让用户开箱即用,显著降低部署成本,加速生成式AI应用落地。通过算子、机制、框架与模型等层面的联合优化,在各种语言大模型推理场景中,相比其他同类产品,SiliconLLM的性能加速最高可达10倍。
第二,云服务平台SiliconCloud,提供高性能、低成本的MaaS/PaaS/IaaS服务。SiliconCloud以云原生AI应用开发平台为底座,以高性能推理套件为内核,通过汇聚各领域的优质模型,并由硅基流动团队专门加速,最终让AI开发者与用户能够零门槛开发和使用模型,实现应用需求方和开发者能力的快速对接。
第三,一站式AI应用开发平台SiliconBrain,这是面向AI应用开发者的私有化部署方案。基于可提高工作流效率的DevOps原理和做法,SiliconBrain能做到持续集成、持续交付和持续部署,帮助企业AI团队形成标准协作方式,实现企业AI应用快速落地。
目前,硅基流动的大模型推理方案已进行初步推广,并积累了多家海外头部AIGC付费客户,同时还与其他业内大模型企业、算力企业开展有序合作。
硅基流动创始人袁进辉表示:“高企的推理成本是实现大模型无处不在这一愿景的主要障碍。作为世界上最擅长解决这一挑战的企业之一,硅基流动的使命是通过算法、系统和硬件的协同创新,将大模型推理成本降低几个数量级,从而加速AGI普惠人类。目前,我们已发布全球领先的大模型推理系统。今年,视频生成和大模型应用将迎来井喷式增长,我们将加快产品化和商业化进程,以最快的速度向全球客户提供最优质的产品。我们非常高兴得到像创新工场、耀途资本、奇绩创坛、王慧文等“懂技术、信市场、有全球视野”的投资者的支持,我们一定全力为股东创造最大回报。同时,感谢华兴团队在本轮融资中专业细致和卓有成效的工作,他们的贡献不止体现在融资工作上,更是创业者的合伙人。”
创新工场执行董事兼前沿科技基金总经理任博冰表示:“AI2.0在持续快速演进,一方面模型在遵循Scaling Law持续变大,且开源生态大幅提升了模型渗透速率;另一方面应用也进化到了Agents、多模态等需要更高算力调用需求的产品形态,推理成本严重阻碍了应用的推广效率和模式创新。行业极度渴求更快、更便宜的推理算力,但系统级端到端的优化有很大的技术难度和工程量。硅基流动拥有世界级的技术团队、业内顶尖的全球商业化能力和第一次成功创业的收获。创新工场已经孵化和投资了十多家大模型、AI Infra和AI2.0应用公司,非常认可硅基流动的能力和愿景,期待公司能在未来几年内带来几个数量级的算力成本下降和性能优化能力,为AI2.0的普惠提供强大助力。”
耀途资本创始合伙人杨光表示:“基于GPT系列基础模型的出现标志着生成式AI开启新一轮技术浪潮,ChatGPT的出现标志着生成式AI在C端开始大规模普及。随着LLaMA 2等开源模型生态的蓬勃发展,生成式AI的模型能力开始普惠化,模型能力已经逐渐不再稀缺。由于开源模型低成本、可定制、安全性强等特点,很多企业都在积极地拥抱开源模型。随着AI模型应用的发展,算力供给短缺、GPU训练和推理成本高昂问题日益凸显,耀途资本坚定看好AI Infra领域的创业投资机会,并长期寻找该领域优秀创业者。硅基流动创始团队拥有世界级的技术深度、连续创业经历、极强的抱负,我们期待加入征程,并一同实现硅基流动的伟大愿景。”
硅基流动的天使轮融资将用于AI Infra产品研发、市场推广和人才招募。未来,硅基流动将以AI底层核心技术创新为基础,与上下游企业开展广泛合作,通过方案集成、大模型一体机等方式提供适应国情的产品,同时把标准化产品推向海外市场,服务全世界企业和用户。
我们正在招募技术研发、产品经理、市场、销售等各类人才,期待与你一起乘风破浪,探索AGI征途上的星辰大海。
简历投递:talent@siliconflow.cn
商务合作:contact@siliconflow.cn
硅基流动官网:www.siliconflow.com
本文分享自微信公众号 - OneFlow(OneFlowTechnology)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。