当地时间 8 月 18 日,Cerebras 发布新一代 AI 加速器 CS-4,称其推理速度最高可达基于 GPU 方案的 30 倍。CS-4 采用三颗新型 WSE-3 Turbo 晶圆级引擎,AI 算力达 750PFLOPS,内存带宽达 129.6PB/s。Cerebras 表示,在 GPT-OSS-120B 测试中,CS-4 每用户每秒生成超过 440 个 Token,最高达到 GPU 方案的 30 倍;其每瓦吞吐量最高为 CS-3 的 10 倍,并可支持超过 50 万亿参数的模型。CS-4 预计将于今年第三季度开始出货。(界面)


登录后才可以发布评论哦
打开小程序可以发布评论哦