驱动之家 昨天
x86都做不到的优势:苹果Mac电脑2TB内存可跑1.6万亿参数AI
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 9 月 26 日消息,在 AI 时代苹果的 Mac 电脑异军突起,很多人都在买 Mac Mini 当 AI 主机,还能跑一些本地大模型,如果是高端的 Mac 电脑,甚至可以集群跑 1.6 万亿参数的 AI。

在对 IT 部门的内部 Jamf 用户大会,苹果官方公布了一系列数据介绍了自家的产品线对本地 AI 的支持能力,其中 iPhone/iPad 最高能跑 140 亿参数的本地 AI,Mac Mini 最高能跑 700 亿参数的本地 AI,MacBook Pro 能跑 1200 亿参数的。

到了 Mac Studio 这种工作站级电脑上,能跑 4800 亿参数的本地 AI,四台 Mac Stuido 集群甚至能跑 1.6 万亿参数的本地 AI —— 1.6 万亿这个级别正好是 DeepSeek V4 Pro 的规模,也就是说只要 4 台 Mac Studio 就能本地运行了,而不是需要动辄投资几百万的大型服务器集群才能跑。

这里面的关键就在于苹果的内存,虽然是内存容量决定了能跑本地 AI 的参数规模,但苹果这几年转向了统一内存架构,CPU、GPU 可以真正共享内存系统,才是跑本地 AI 的关键优势。

这个优势还是 x86 平台暂时不具备的,哪怕 x86 处理器的 PC 也能配置 128GB 内存,甚至 AMD 做到了 192GB 内存,但本地 AI 这方面依然是 Mac 电脑的优势所在。

因为苹果的 A/M 系处理器现在不仅是统一内存,还是芯片级统一封装,因此带宽上极为强悍,Ultra 级别的 M 处理器可以做到 1.2TB/s,x86 PC 就算用了 256bit LPDDR5X-8000 内存,带宽也就 256GB/s,差距极大,跑 AI 的效率是没法比的。

X86 PC 阵营中有所突破的也就是 AMD 的锐龙 AI Max 处理器,也就是 Strix Halo 这一代开始的,内存倒也是共享的,也能跑千亿级别的本地大模型了,只不过效率是比不过 Mac 电脑。

接下来有望破局的还是 NVIDIA 的 RTX Spark 产品线,将 RTX 5070 级别的 GPU 核心整合到了 CPU 中,但它的 CPU 架构又是 ARM 阵营的,这又要看微软能不能优化好 ARM 版 Win 系统了。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai mac mini amd gpu
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论