由前谷歌和 Meta 工程师于 2023 年创立的 Majestic Labs，近日发布了一款旨在挑战英伟达 GPU 与高带宽内存（HBM）组合方案的服务器。 这家特拉维夫初创公司认为，将昂贵的图形处理器与高带宽内存配对，是一种根本性的内存受限且缺乏前景的 AI 推理路径。其解决方案 Prometheus 服务器采用自研的 Ignite AI 处理单元（AIU）取代 GPU，该单元结合了 Arm 核心与 RISC-V 矢量和张量引擎。

另一种内存扩展方式

每台 Prometheus 服务器最多可容纳 12 个 AI 处理单元，并在一个连续、一致的内存池中共享 8TB 至 128TB 的 LPDDR6 内存。该内存池通过自定义内存聚合芯片组访问，这些芯片组通过长达一米的铜缆连接，而非传统方案中直接将内存附加到 GPU 封装上。 标准 40U 机架可容纳四台此类服务器，总功耗为 120 千瓦，采用冷板液冷系统散热。相比之下，配备八块 Blackwell GPU 的英伟达 DGX B300 系统仅提供 2.3TB HBM3e 及多达 4TB DDR5 系统内存。

Majestic 声称，其架构提供的快速内存容量是竞争对手配置的 50 倍以上，互连带宽为其 1.7 倍。 " 一台 Majestic 机架拥有的快速内存容量相当于 25 台英伟达 NVL72 Vera Rubin 机架，但功耗仅为其中的一小部分，"Majestic Labs 表示，" 那些原本无法证明超大规模基础设施合理性的组织，现在可以运行任何工作负载。事实上，每个处理器的内存容量可提高多达 1000 倍。"

性能声明尚待更广泛的测试验证

Majestic Labs 表示，Prometheus 服务器计划于明年出货，成本可能比同等性能的 GPU 系统低 10 至 50 倍，同时每机架耗电量更低。该服务器设计符合 OCP（开放计算项目）标准，支持 PyTorch、vLLM 和 OpenAI 的 Triton 框架，现有 AI 模型无需修改即可运行。 该公司由首席执行官 Ofer Shacham、总裁 Sha Rabii 和首席运营官 Masumi Reynders 创立，目前在特拉维夫和洛杉矶拥有约 40 名员工，并于 2025 年底完成了 1 亿美元的 A 轮融资。据称，公司已获得来自大型企业、新云服务商和超大规模厂商的大量订单。 然而，仍有细节尚不明确，例如单台服务器实际需要的内存聚合芯片组数量。若 128TB 配置依赖广泛可用的 2GB LPDDR6 存储芯片，则需约 64,000 颗芯片，意味着每台服务器需超过一百个聚合芯片组。

Majestic Labs 提出的数字令人瞩目，但仍是该初创公司在任何独立基准测试或硬件交付之前的预测数据。考虑从成熟 GPU 供应商转向其他选择的企业买家，可能需要等待独立验证来证实 Majestic 的主张。

【星途科讯 图文丨周鑫雨 首发于 ZAKER 科技，转载请注明出处】