过去几年,AI 产业的竞争逻辑似乎一直很简单,从芯片到服务器,从数据中心到算力集群,资本和产业资源都在围绕 GPU 展开。然而,当算力规模不断攀升,GPU 越来越快,数据却未必能及时跟上。
当前,GPU 算力每两年提升约 3 倍,HBM 带宽同期仅能增长约 2 倍,越来越多的计算单元陷入等数据的空转状态。与此同时,HBM 产能紧缺、价格上行,单纯依靠堆叠高端内存的路径已经难以为继。
今年 2 月,美光宣布量产商用 PCIe 6.0 SSD,三星在 7 月启动部分送样,叠加 NVIDIA Vera Rubin、AMD Venice 等原生支持 PCIe 6.0,标志着 AI 基础设施的竞争重心,正在从单一算力堆叠转向存算系统效率的比拼。

11 月 19 日,随着芯展速推出国内首款量产的 PCIe 6.0 SSD,国内 AI 存储正式迈入 Gen6 时代。芯展速高级产品总监曹匡文指出,它既不是要取代昂贵的 HBM,也不是单纯的容量扩容,而是要在计算与存储之间搭建起一条更宽的数据通路,让冷数据从稀缺的内存中下沉,让算力资源真正用在计算上。
内存撞墙,SSD 不是要取代 HBM
谈到 AI,多数人的注意力都集中在算力侧,更先进的制程、更多的计算单元、更大规模的集群。但随着模型规模进入百亿、千亿参数时代,存储系统的短板正在快速凸显,成为制约算力利用率的核心瓶颈,最直接的矛盾来自 " 内存墙 "。
过去,企业级 SSD 更多承担数据保存、模型加载和业务数据读写等任务。但进入大模型时代,训练和推理对存储的需求都发生了变化。其中,在训练场景中,大模型每隔数十分钟就要执行一次 Checkpoint 存档,将数 TB 的模型参数与优化器状态写入存储,在此期间 GPU 完全停止计算,处于空转等待状态,模型越大,GPU 被存储拖慢的时间就越长。
同时,在推理场景,长上下文成为行业标配后,KV Cache 的容量爆炸进一步加剧了内存压力。128K 甚至 1M token 的上下文需求下,已经是 Agentic AI、代码助手、企业知识库的标配,单路请求的 KV Cache 体积可达数百 GB,远超单张 GPU 的 HBM 容量。
" 训练时代的内存墙是 Checkpoint 太大,推理时代的内存墙,则是 KV Cache 太大。" 曹匡文表示,面对这一缺口,堆叠 HBM 本是最直接的解法,但现实的产能与价格壁垒让这条路越走越窄。
根据行业公开数据,2026 年全球三大存储原厂的 HBM 产能已全部售罄,2027 年价格预计上涨约 121%。更关键的是,即便企业愿意支付溢价,也未必能拿到足够的供应。
在此背景下,PCIe SSD 成为存储分层架构中的核心一环。但对这套架构的落地,闪存带宽是一道硬门槛,只有 SSD 带宽高于业务 I/O 速率,闪存层兜底才不会反噬性能。
目前,PCIe 5.0 的带宽已经逐渐触顶,在并发拉满、命中集中到闪存层的高负载场景下容易触碰瓶颈,单盘约 14GB/s 的顺序读速度,在 8 卡服务器单 GPU 仅能分配 1 块盘的物理约束下,难以承载高并发下的 KV Cache 回读与高速 Checkpoint 写入。而 PCIe 6.0 企业级 SSD 带宽翻倍,正是把这道门槛跨过去的关键一步,让 KV Cache 分层从实验室验证走向稳定商用。

不过,需要指出的是,SSD 并不是要取代 HBM,前者负责容量更大、访问热度相对较低的数据,后者则负责高频、实时访问的数据,内存承接中间层数据,通过分层,让每种存储介质承担自己最擅长的工作,才是更合理的架构。
另外,平台侧的生态也已就绪,NVIDIA Vera Rubin 与 AMD Venice(EPYC 9006)均原生支持 PCIe 6.0,为 PCIe 6.0 SSD 的性能释放提供了硬件基础。" 可以说,PCIe 6.0 SSD 的到来不是技术上的炫技,而是 AI 负载倒逼下的必然结果。" 曹匡文说道。
架构重做,升级没那么简单
根据已有的公开数据显示,相较当下主流的 PCIe 5.0,PCIe 6.0 的带宽翻倍,最大读写带宽从约 14GB/s 提升到约 28 GB/s,在盘位受限的 8 卡服务器里,KV Cache 重载时间直接减半。不过,要把 PCIe 6.0 的理论带宽真正变成产品性能,研发难度远比升级接口复杂。
从 PCIe 5.0 到 6.0,不是简单的速率提升,而是底层调制方式的彻底变革,信号编码从 NRZ 切换为 PAM4,一个符号可以承载两个比特的信息,传输效率提高,但代价是信号判决空间明显缩小。主控的模拟前端、均衡算法、时钟三大块全部需要重新设计,PCB 设计和用料环节,需要更低损害的板材,更短的走线,更严格的阻抗和串扰控制。
不止于此,要真正跑满 28GB/s 的速度,还需要主控、DRAM、NAND 介质与固件四大环节没有短板。曹匡文打了个比方,协议升级带来的接口提速,好比高铁轨道铺到了 400 公里时速的标准,动车组真正能不能跑满,还得看动车组自身的硬核技术。
其中,主控是牵引系统,需要同时承载主机侧、闪存侧、加密纠错的全速运转,这一代的设计门槛被整体抬高了一个台阶。DRAM 是调度系统,其位宽、频率与误码率直接决定映射表访问效率。NAND 介质相当于车体平台,通道数量、并行架构需要与接口速率匹配,这是做产品定义时的第一道算术题。而固件的 NAND 管理策略,则决定了盘能否长期稳定跑在峰值性能上。
" 轨道决定上限,动车组决定兑现,这四个环节是木桶关系,轨道再好,动车组任何一环掉链子,28GB/s 的带宽都是空谈。" 芯展速在 PT308 研发中需要解决的,正是信号完整性、端到端带宽兑现,以及功耗和稳定性之间的平衡。
最终落地的 PT308P 与 PT308E 两款差异化产品,共享同一套硬件平台,只是针对训练和推理不同的数据读写特征做了一个取舍,从而匹配不同 AI 场景。其中,PT308P 更侧重读取能力,最高 30.72TB 容量、680 万随机读 IOPS,适合读多写少的推理 KV Cache 分层场景。PT308E 更偏向高写入负载,通过保留更多 OP 空间,支持 3 DWPD,适合 Checkpoint 等持续写入场景。
这种产品划分实际上反映了企业级存储市场的一个变化,AI 业务不再只是简单地需要一块更快的 SSD,而是需要针对不同工作负载进行精细化设计。曹匡文直言,客户可以自由选择,没必要为自己不需要的指标浪费钱。
Gen6 只是起点,重算存储经济帐
存储作为 AI 时代的焦点产业,虽在风口,但账同样算得更细。如果 HBM 产能够、良率高、不缺货、成本便宜,那可能市场对 PCIe 6.0 eSSD 的需求还没那么迫切。但现实情况是,存储厂商即便花了大力气在 HMB 上不停产品迭代并扩产,未来几年 HBM 的缺口仍然巨大。
而这,也给了 PCIe 6.0 SSD 在 AI 训推里面大规模渗透的一个可能,其量产的真正价值,不是让存储设备跑出一个更漂亮的速度数字,而是让 AI 基础设施有机会重新计算一笔账,如何用更合理的存储架构,释放更多算力价值。
在曹匡文看来,让 HBM 这么稀缺昂贵的内存去存 " 几分钟内不会再用的冷数据 ",是这个时代最奢侈的浪费,HBM 越贵越缺,PT308 的替代价值越大。
他给我们算了一笔账:一台 8 卡服务器把 500 GB 冷缓存从 HBM 挪到 PT308,净省约 5700 美元。如果对比下一代 HBM4,能省 14000 美元以上。100 台服务器的集群,就是 57 万美元起步。
而对比主流的 PCIe 5.0,有市场声音认为 PCIe 6.0 有些性能过剩,导致不划算。对此,曹匡文也列举了一系列的对比数据:按盘数算,取 56 GB/s 总读取带宽作对比基准,PCIe 5.0 要 4 块盘,PT308 要 2 块。100 台服务器的集群少买 200 块盘,采购一次省约 84 万美元;按电费算,100 台集群的存储部分省约 5kW,按一年满载 4380 小时、工业电价 0.12 美元 / 度估算,每年省约 3900 美元。
AI 浪潮的特殊之处在于,它第一次让存储从算力的配角,变成了决定系统效率的 " 胜负手 "。目前,除了芯展速之外,美光和三星在早前已经量产 PCIe 6.0 SSD,国内部分厂商预计到明年也会开始送样,2027 年市场将进入白热化竞争阶段。
不过,PCIe 6.0 SSD 的规模化落地,只是 AI 存储架构升级的起点,并不意味着 AI 存储瓶颈就此解决。
要知道,PCIe 6.0 SSD 不是万能解药,它无法填平与 HBM 之间的性能鸿沟,也不能解决 AI 基础设施的所有瓶颈,只是提供了一个极具性价比的选项。从技术演进来看,PCIe 6.0 SSD 的价值还远未被完全释放,还要在更多细分场景上去优化性能。
对于芯展速等品牌而言,量产只是第一步,接下来,能否与服务器厂商、芯片厂商和 AI 基础设施企业建立更深入的联合验证和适配关系,能否在不同客户的真实业务负载中持续兑现性能,针对不同业务模型持续优化固件、建立生态合作壁垒,将是决定产品竞争力的关键。(本文首发钛媒体 App,文|老喵)


登录后才可以发布评论哦
打开小程序可以发布评论哦