快科技 8 月 20 日消息,在 AI 领域,NVIDIA 凭借其强大的 CUDA 生态长期占据主导地位,当然 AMD 也在凭借 ROCm 迅速追赶。
Tiny Corp 是一家专注于开发消费端 AI 解决方案的公司,该公司认为 AMD 在软件方面的进步已经使其接近 NVIDIA 的水平。
Tiny Corp 表示,AMD 正在快速缩小与 NVIDIA CUDA 的差距,甚至可能在 NVIDIA 出现一次技术失误的情况下,超越其在 AI 市场的主导地位:
" 就像 Intel 在 CPU 领域一样,如果 NVIDIA 一代产品犯错误,AMD 就能获得大部分市场份额,并且市场份额的转移比游戏领域更容易。"
AMD 在 6 月的 "Advancing AI" 活动中推出了 ROCm 新版本,支持了包括 vLLM v1、llm-d、SGLang 在内的多种增强框架,并专注于分布式推理、预填充等优化功能。
AMD 的 ROCm 7 主要关注推理工作负载,带来了明显的性能提升,特别是在 DeepSeek 的 R1 FP8 吞吐量和增强训练性能方面,甚至声称其性能优于 NVIDIA 的 CUDA。
AMD 还计划在今年晚些时候在基于锐龙的笔记本和工作站上开放 ROCm 支持,并提供 Linux 和 Windows 的全面支持,这也意味着 AMD 希望其 ROCm 能够被更多的用户使用。
登录后才可以发布评论哦
打开小程序可以发布评论哦