快科技 8 月 17 日消息,NVIDIA Vera Rubin 平台的量产爬坡正在挤压 TLC NAND 闪存供应,512Gb TLC NAND 现货价格在 6 月回落后重新升至 21 美元。
NVIDIA 为 Vera Rubin 平台引入了上下文存储扩展技术(Context Memory eXtension,CMX),用于处理 AI 模型注意力层生成的 KV 缓存。

CMX 在 HBM 和传统后端网络存储之间构建了一个中间存储层,底层是大量 TLC 闪存,通过 NVIDIA BlueField-4 DPU 连接到 Rubin GPU 集群,通过 Spectrum-X 以太网实时处理 KV 缓存。
硬件规模上,单台 2U CMX 服务器容纳 600TB TLC 闪存,四颗 DPU 各管理 150TB 上下文存储。多台 CMX 服务器组成一个部署集群后,存储总容量可达 9600TB 即 9.6PB。这意味着每一个 Rubin 集群都要消耗近 10PB 的 TLC 闪存,对 NAND 供应的挤压效应可想而知。
与此同时,AI 工作负载对高密度高性能企业级 SSD 的需求也在同步攀升,进一步加剧 TLC NAND 的供应紧张。

目前 NVIDIA 消耗的 TLC NAND 大部分通过长期合同锁定,但需求的绝对规模正在收紧现货市场,512Gb TLC NAND 现货价在 6 月曾跌破 21 美元,如今重新站上这一关口,后续走势仍有待观察。
另外此前有传言称 NVIDIA 可能削减每颗 GPU 的 HBM4E 容量以保利润率,但美国银行近日否认了这一消息。美国银行认为任何潜在的降规格都只是应对短期供应紧张的临时措施,而非永久性的低容量 SKU。


登录后才可以发布评论哦
打开小程序可以发布评论哦