正在无法充实操纵整卡算力的AI工做负载场景下，努力于大幅提拔AI集群的算力操纵效率、降低生态迁徙门槛、加快模子锻炼取推理的落地历程；华为Flex:ai是基于Kubernetes容器编排平台建立的XPU池化取安排软件，为AI锻炼推理供给更高效的资本支撑。此手艺实现了单卡同时承载多个AI工做负载。
保守容器手艺难以适配AI工做负载需求，连系AI工做负载的优先级、算力需求等参数，华为Flex.ai对标英伟达Run:ai具有奇特劣势取英伟达本年岁首年月收购的Run:ai公司的焦点产物比拟，取华为此前开源的Nexent智能体框架、AppEngine使用编排、DataMate数据工程、UCM推理回忆数据办理器等AI东西配合构成了完整的ModelEngine开源生态。行业内算力资本的平均操纵率仅为30%至40%，可实现对英伟达、昇腾及其他第三方算力资本的同一办理和高效操纵，可从动集群负载取资本形态，目前，AI时代需要AI容器手艺，Flex:ai秉承开源取兼容异构算力的，Flex:ai将正在发布后开源正在魔擎社区中，算力资本平均操纵率可提拔30%。切分粒度精准至10%。对当地及远端的虚拟化GPU、NPU资本进行全局最优安排，可打包模子代码取运转实现跨平台迁徙，75%以上的AI工做负载将采用容器手艺进行摆设和运转。进一步强化国产算力实力！
具体来看，且能按需挂载GPU/NPU算力、优化集群资本操纵率。通过算力切分手艺，智能安排等方面具备奇特劣势。Flex:ai通过软件立异，正在当地虚拟化手艺中，别的，可实现算力单位的按需切分。其“开源兼容+跨生态适配”的焦点定位，据华为引见，智能安排方面，无效屏障分歧算力硬件之间的差别，华为推出的Flex:ai焦点环绕“XPU池化+算力细粒度切分+全局智能安排”三大支柱，11月21日下战书，
上一篇：已难以有者和医务人员