IT之家 16小时前
华为发布并开源Flex:ai AI容器,单卡同时承载多个AI工作负载
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 11 月 21 日消息,在今日的 AI 容器应用落地与发展论坛上,华为发布 Flex:ai AI 容器软件,通过算力切分技术,将单张 GPU / NPU 算力卡切分为多份虚拟算力单元,切分粒度精准至 10%,实现了单卡同时承载多个 AI 工作负载,并可聚合集群内各节点的空闲 XPU 算力聚合形成 " 共享算力池 "。

Flex:ai 是一款基于 Kubernetes(开源容器编排平台)构建的 XPU(各种类型处理器)池化与调度软件,主要是通过对 GPU、NPU 等智能算力资源的精细化管理与智能调度,实现对 AI 工作负载与算力资源的 " 精准匹配 "。

相比英伟达旗下 Run:ai 公司的核心技术,华为认为 Flex:ai 具备两大独特优势:

一是虚拟化。除了在本地虚拟化技术中实现算力单元的按需切分,Flex:ai 独有的 " 拉远虚拟化 " 技术,可以不做复杂的分布式任务设置,将集群内各节点的空闲 XPU 算力聚合形成 " 共享算力池 "。

二是智能调度。Flex:ai 的智能资源和任务调度技术,可以自动感知集群负载与资源状态,结合 AI 工作负载的优先级、算力需求等多维参数,对本地及远端的虚拟化 GPU、NPU 资源进行全局最优调度,满足不同 AI 工作负载对资源的需求。

IT 之家从发布会获悉,Flex:ai 将在发布后同步开源在魔擎社区中

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai flex 华为 开源 gpu
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论