华为开源AI容器软件Flex:ai将大幅提升算力资源利用率

11

中新社上海11月21日电 (谢梦圆)华为21日在位于上海的练秋湖研发基地举办2025 AI容器应用落地与发展论坛,在现场宣布AI容器软件Flex:ai正式开源。该AI(人工智能)领域的创新成果将显著提升GPU(图形处理器)和NPU(神经网络处理器)等算力资源的利用率,为AI训练推理提供更高效的资源支撑。

华为公司副总裁、数据存储产品线总裁周跃峰接受媒体采访时,多次强调“要让AI在千行百业落地”。然而,在赋能行业生产过程中,AI硬件资源有限,需精细化利用,否则易造成浪费。

此次,华为联合国内三大高校共同打造了AI容器软件Flex:ai,提供智能资源管理调度新方案,并通过开源开放,降低软件开发难度。

具体而言,该容器软件可将单张算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。

此外,因为不同AI模型性能、适配场景存在差异,或出现计算集群负载不均衡、资源利用不充分等情况。针对此痛点,该容器实现了多级智能调度,将AI工作负载与算力资源进行“精准匹配”;并能在负载频繁波动的场景下,保障AI工作负载平稳运行,让每一份算力都“物尽其用”。

据悉,Flex:ai发布后会在魔擎社区同步开源,与华为此前开源的Nexent智能体开发框架、AppEngine应用编排、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成完整的ModelEngine开源生态。

“AI容器软件一定要和更多模型生态和多样性算力生态进行适配、对接以及调优。我们希望通过开源共建让AI真正走向平民化。”周跃峰说,目前,该容器软件已在教育、医疗和金融等行业试点应用。(完) 【编辑:刘阳禾】

北京中轴线文化遗产传承与创新大赛2022颁奖暨2023启动仪式举办

湖北武汉:各地蔬菜迎来丰收 供应量充足

性侵多名幼女 海南法院对一罪犯执行死刑

伤害急诊增长三成 春节期间宠物应激反应增多

跨越百余公里的“上门放贷”

于汉超加盟上海申花 此前因涂改车牌被恒大开除

雪后的乌鲁木齐如同披上“银装”

河南公检法联合发文填上“三合一”管辖机制最后一块“拼图”

马达加斯加暂停与岛外航班以应对新冠肺炎疫情

北京航天飞行控制中心周密做好我国首次火星探测飞控任务准备

刘海星会见塞尔维亚前进党干部考察团

(走进中国乡村)探访太行传统村落群:多样石寨“串珠成链”联动发展

前11月广州海关监管开行进出口班列380列

闲置铁路焕发新生 太铁推进铁路货运向现代物流转型

服贸会成AI“秀场”:国际贸易有“生意助手”,餐饮结账精确识别商品

文章版权声明:除非注明,否则均为武汉市发财熊科技有限公司原创文章,转载或复制请以超链接形式并注明出处。