openEuler技术委员会主席胡欣蔚:openEuler推动操作系统与人工智能深度融合

2023/12/29 16:46
阅读数 14

编者按

开源孕育于软件,发展于数字经济,是开放、协同、共享的新型生产方式,对于新时期推动经济发展、科技创新、文化繁荣、社会治理、开放合作、共同富裕具有重要意义。长期以来,中国始终秉持开放、融通、互利、共赢的合作观,积极融入全球产业链供应链,基本构建了规模大、体系全、竞争力较强的产业体系,为开源发展提供了土壤、积蓄了能量、创造了条件。

为了更好地宣传中国开发者在开源技术领域的贡献和创新,帮助更多人更充分了解开源和开发者对中国技术创新发展的贡献和意义。开放原子开源基金会与中国电子报重磅推出“开源发展与开发者”专题报道,邀请开放原子开源基金会理事长、两院院士,以及基金会旗下的重点开源项目、头部科技企业负责人和专家撰写署名文章,分享对开源技术和开发者的见解和实践经验。


openEuler项目开源于2019年下半年,基于广大开源社区的成果进一步发展而来,到2023年,openEuler自身已经成长为国内最具活力的开源社区。



openEuler社区进展

目前社区中日常活跃的开发人员已从300人增加到了近4000人,增长约10倍。所有这些开发人员与社区的活跃用户,每天会产生100多个代码提交请求,而openEuler直接集成的软件包每天会增加约30个,每月有约10个新项目加入openEuler,并且社区平均每月发布80个错误修复更新。

openEuler已得到产业认可。基于社区开发者的活跃和付出,openEuler系的操作系统累计装机量已达到610万套。社区有超过1000个成员单位,其中不少企业已在生产系统中采用基于openEuler的操作系统,包括众多关键信息基础设施行业。这意味着openEuler已在关键行业中得到评估和验证。未来,openEuler将会被更广泛地采用。openEuler保持了快速创新的活力。比如,MICA项目支持实时操作系统和非实时操作系统在单一多核SoC上的协同运行,软总线项目可以使边缘设备自动发现并相互通信。KubeOS项目,使得K8S可以直接管理操作系统本身。Etmem项目,可以将分层内存管理呈现为统一的内存池。

目前社区已有超过400个创新代码仓,并还在不断增加。未来会有越来越多的项目从openEuler启航,产生自己的行业影响力。



支持多样性算力的智能时代已经来到

随着人工智能技术和物联网的迅猛发展,计算能力的需求正在迅速增长。有人预计,到2030年,全球的通用计算能力将达到3.3 zFlops,较2020年增长了十倍。全球人工智能计算能力将增加到105 zFlops,较2020年增长500倍。

伴随算力需求快速增长,人工智能(AI)技术也快速崛起,各项创新技术纷纷涌现。从万物智联到工业数字化转型,多样性算力和人工智能时代已经到来。这为操作系统带来了新的使命诉求。

为了成为支持多样性算力的全场景智能操作系统,openEuler秉持着“OS for AI, AI for OS”的理念,致力于将人工智能融入操作系统的方方面面。我们的愿景是将openEuler打造成一个适用于多元化全场景、智能计算的操作系统,使其与众不同。



openEuler支持OS for AI技术特点

不同的计算任务需要不同的计算能力。通用计算需要CPU,人工智能需要GPU或TPU,图形需要GPU。这也是为什么DSA越来越受欢迎的原因。

但同时,当前计算能力存在使用效率的问题。当今的数据中心中,有大约一半的计算能力没有被真正使用,多样性算力的发展加剧了这种利用率低的状况。因为应用程序对算力的需求在不断变化,而操作系统与基础软件依然采用静态分配和管理的方式对待不同的算力。

总的来看,一方面算力需求快速增长,另一方面,算力浪费严重。这是操作系统面临的挑战与机遇,是操作系统为碳达峰和未来碳中和能做出贡献的领域。

低效利用的主要原因之一是不灵活,而不灵活源于多样性算力之间的隔离。目前,操作系统将这些计算能力作为独立的设备进行管理。openEuler的愿景是将这些独立的设备汇聚在一起,使操作系统能够从全局的角度管理、分配和调度资源。在这些领域,openEuler都已取得了一些进展。



openEuler支持AI of OS技术特点

未来的操作系统应该为AI设计,同时也可以由AI管理,提供AI能力。

社区开发人员通过EulerCopilot,正在尝试将大型语言模型与系统管理员连接起来,目前openEuler已经初步具备被人工智能操作和管理的能力。系统管理员可以通过日常语言沟通的形式,向EulerCopilot提出请求,以收集、分析和微调系统。而EulerCopilot则可以借助A-Tune和A-ops的帮助生成脚本,分析系统瓶颈,更改内核和系统参数。从而使服务能够以更高的吞吐量运行,使用更少的硬件资源,并保持最新状态。

此外,openEuler还支持利用AI进行构建和测试。例如,openEuler集成的毕昇编译器,就在研究如何用人工智能替代启发式算法,以生成更快、更小的openEuler二进制文件。我们也扩展了模糊测试,利用人工智能生成测试模型,这有助于提高openEuler的质量,并将测试结果反馈给上游,使其收益更大。

简而言之,我们在openEuler项目当前努力开发AI for OS的技术,希望操作系统能够随智能化时代的发展,更好地为用户、为业务服务。



面向全场景的openEuler

在万物智联的大趋势下,越来越需要一个能够支持各种场景的平台,以满足来自硬件和应用新的需求。从openEuler角度,可称之为对全场景的支持。全场景的操作系统并不意味着在嵌入式、边缘、服务器和云端上运行相同的实例。而是需要一个操作系统平台,能够为支持的所有不同场景创建实例。从而实现技术共享、按需组合、生态互通、极简互联。这方面,openEuler具有独特优势。

一方面 ,openEuler和OpenHarmony两个项目紧密协同,两者配合在包括“电鸿”等场景下已得到验证,可以形成一个完整的端边协同方案。另一方面,openEuler也在不断完善自身的工具链,使得软件组件可以根据需求组合和定制。通过统一的操作系统平台,云端、边缘和嵌入式的生态系统可以相互协作。为嵌入式开发的应用程序可以移植到边缘并继续运行。而且互联和通信也可以得到极大简化。跨领域创新变得更容易。



未来的目标与挑战

openEuler秉持“以AI赋能openEuler更智能,以openEuler使能AI更高效”的理念。通过异构算力协同,实现超大容量和高效算力。通过PB级异构内存管理,使训练效率提升20%以上,通过异构算力多维调度,使推理并发提升50%以上。这些目标的实现,需要对技术细节的极致追求和把握,需要对代码质量的高度热情和重视,需要不同领域开发者的紧密团结和协同。这样规模的协作在国内的开源开发者社区是没有出现过的,这样的技术挑战也没有成功的先例可循。openEuler致力于为开发者提供一个更为智能、高效的开发运行环境,推动操作系统与人工智能的深度融合。进一步前行的过程中,希望能得到更多社区同行者的支持,共同打造2030年的openEuler操作系统。

本文分享自微信公众号 - openEuler(openEulercommunity)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部