钛媒体 App 7 月 27 日消息,近日,华为云基于 CloudMatrix384 超节点的新一代昇腾 AI 云服务在乌兰察布正式上线。华为云 CloudMatrix384 超节点首创将 384 颗昇腾 NPU 通过全新高速网络对等互联,打破传统 AI 服务器边界,形成一台超级 "AI 服务器 ",可提供高达 300PFLOPs 的算力,从根本上解决传统架构的瓶颈。与和林格尔、贵安、芜湖等地相比,此次乌兰察布上线的 CloudMatrix384 超节点,具有多项显著优势,其单卡推理吞吐量达 2300Tokens/s,较传统架构提升近 4 倍,甚至超越英伟达 H100,实现了性能倍增、以存强算、MoE 亲和、长稳可靠、朝推夜训、即开即用六大特性。同时依托百 TB 级带宽的光纤骨干网,乌兰察布覆盖京津冀 10ms 时延圈,全国主要流量高地城市都能在 30 毫秒之内访问超节点资源,为用户提供低延迟、高效率的算力服务。(内蒙古日报)
登录后才可以发布评论哦
打开小程序可以发布评论哦