华为开源AI容器软件Flex:ai将大幅提升算力资源利用率

11

中新社上海11月21日电 (谢梦圆)华为21日在位于上海的练秋湖研发基地举办2025 AI容器应用落地与发展论坛,在现场宣布AI容器软件Flex:ai正式开源。该AI(人工智能)领域的创新成果将显著提升GPU(图形处理器)和NPU(神经网络处理器)等算力资源的利用率,为AI训练推理提供更高效的资源支撑。

华为公司副总裁、数据存储产品线总裁周跃峰接受媒体采访时,多次强调“要让AI在千行百业落地”。然而,在赋能行业生产过程中,AI硬件资源有限,需精细化利用,否则易造成浪费。

此次,华为联合国内三大高校共同打造了AI容器软件Flex:ai,提供智能资源管理调度新方案,并通过开源开放,降低软件开发难度。

具体而言,该容器软件可将单张算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。

此外,因为不同AI模型性能、适配场景存在差异,或出现计算集群负载不均衡、资源利用不充分等情况。针对此痛点,该容器实现了多级智能调度,将AI工作负载与算力资源进行“精准匹配”;并能在负载频繁波动的场景下,保障AI工作负载平稳运行,让每一份算力都“物尽其用”。

据悉,Flex:ai发布后会在魔擎社区同步开源,与华为此前开源的Nexent智能体开发框架、AppEngine应用编排、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成完整的ModelEngine开源生态。

“AI容器软件一定要和更多模型生态和多样性算力生态进行适配、对接以及调优。我们希望通过开源共建让AI真正走向平民化。”周跃峰说,目前,该容器软件已在教育、医疗和金融等行业试点应用。(完) 【编辑:刘阳禾】

2020,中国立“法”护卫民众医食住行

大国“粮”策丨从诗词经典中读懂“粮”苦用心

重磅揭秘!起底美政府机构炮制“伏特台风”对华抹黑的真相

水利部部署防汛:加强监测预报预警 强化堤防巡查防守

四川绵竹年画节:民俗巡游表演让清末年画《迎春图》“动”起来

英议员鼓噪抵制北京冬奥会 汪文斌:明确反对,不会得逞!

乘势而上 持续深化京津冀协同发展

四川雅江:康巴汉子根登降措的传统技艺情结

暑期热消费丨城市里体验“海底世界” 室内潜水运动受青睐

陕西170名支援湖北医护人员“回家” 机场举行“过水门”仪式

武汉恢复直达香港高铁 鄂港交流再添便利通道

护航“幸福晚年” 中国人寿助力健康生活和幸福养老

(人民幸福生活)“朱鹮保姆”守护生态画卷

反映自行车乱停现象 打了12345问题三天就改观

黄河鱽鱼现身黄河口 系本世纪在黄河口首次发现活体

文章版权声明:除非注明,否则均为武汉市发财熊科技有限公司原创文章,转载或复制请以超链接形式并注明出处。