全天候科技 14小时前
苹果评估AI模型压缩技术:270亿参数大模型可直接运行于iPhone,为Siri升级铺路
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

苹果正与硅谷初创公司 PrismML 展开早期洽谈,后者声称可将大型 AI 模型压缩至能在 iPhone 上本地运行。若技术验证通过,此举将强化苹果的隐私主张,并为其迟滞已久的 Siri 升级提供关键支撑。

PrismML CEO 表示,苹果已开始评估其技术。洽谈目前处于非常早期阶段,走向尚不明朗,但 " 进展顺利 "。

此次消息发布恰在苹果推出 iOS 27 公测版的次日——这是苹果对 Siri 进行大幅改版后向公众开放的首次广泛测试,旨在与 OpenAI 和 Anthropic 的 AI 助手展开竞争。

对于苹果而言,将更多 AI 运算留在设备本地,意味着更低的响应延迟、更少的云计算成本,以及无需联网即可使用部分功能的能力——这些与其核心隐私定位高度契合。

PrismML 的公开发布,为普通用户和投资者提供了在实验室之外检验其技术声明的机会。Counterpoint 的 Pathak 总结道:

" 云端与设备端 AI 的组合,能够提供更完整、更高效、更注重隐私的 AI 体验——复杂任务交由云端处理,敏感、时延敏感及隐私相关的任务则在设备端执行。"

压缩技术突破:54GB 模型缩至 4GB 以内

PrismML 由加州理工学院研究团队孵化而来,背后有 Khosla Ventures 支持。该公司周二公开发布了阿里巴巴开源模型 Qwen 的压缩版本,将约 54GB 的原始模型压缩至不足 4GB,使全部 270 亿参数能够在 iPhone 15 或更新机型上直接运行。

PrismML CEO Babak Hassibi 向 CNBC 表示,公司通过大幅简化模型内部信息的存储方式实现压缩——将每个数值从 16 位降至仅 1 至 3 个可能值,从而显著削减存储和运行模型所需的内存。

据该公司称,压缩后的模型内存占用减少 10 至 15 倍,响应速度提升 6 至 8 倍,能耗降低 3 至 6 倍。Hassibi 坦承存在一定取舍:模型整体性能通常下降数个百分点,事实性记忆的衰减早于推理、数学和编程等能力。

目前,PrismML 免费发布了两个压缩版本,适配 iPhone、MacBook 及搭载英伟达芯片的 PC。公司表示,谷歌的开源模型 Gemma 是下一个压缩目标,此后还将处理需要数据中心硬件才能运行的更大规模前沿模型。

今年 3 月,该公司完成由 Khosla Ventures 领投的 1625 万美元种子轮融资,加州理工学院拥有底层专利并向其独家授权。

苹果本地 AI 布局:隐私与效率的双重驱动

苹果目前已在设备端本地运行部分 AI 功能,包括翻译、部分摘要生成及与个人信息密切相关的特性,较复杂的请求则路由至其私有云基础设施或外部模型。

Asymco 创始人 Horace Dediu 表示,苹果的目标很可能是将绝大多数日常 Siri 交互保留在设备端,仅将最高需求的任务交付云端处理。本地处理意味着更低延迟、更强隐私保护,以及潜在的更低授权和云计算成本。

Creative Strategies 总裁兼首席分析师 Carolina Milanesi 指出,更小的模型可让苹果将更多高需求功能移至 iPhone 本地,包括计算摄影、视频生成,以及依赖健康、药物等敏感数据的健康与健身工具。" 设备端能做的越多越好," 她说。

苹果在推进本地 AI 方面具备潜在优势——其芯片与软件协同设计,对 AI 在设备上的运行拥有更精密的控制权。

分析师警示:规模化验证是关键门槛

尽管技术指标亮眼,分析师普遍提示,PrismML 的声明尚需在受控演示之外得到验证。

Counterpoint Research 研究总监 Tarun Pathak 表示,模型在长提示下的表现、多任务处理时的电池消耗,以及跨数百万次请求和数千种设备组合的可靠性,将是关键考量。他说:

" 最终考验将是数百万次查询、数千种设备组合以及大规模稳健测试。"

IDC 客户端处理器研究负责人 Phil Solis 则指出,功耗可能是最大的未知变量。一个足够强大、被频繁使用甚至在后台持续运行以执行智能体任务的模型,即便内存占用较低,也可能对手机电量造成显著消耗。

对芯片需求的影响:需求转移而非消失

PrismML 的发布也触及了市场对 AI 效率提升能否最终压缩芯片需求这一持续争论。

摩根士丹利估计,苹果在 2027 财年的每比特动态随机存取内存平均成本可能同比上涨约 190%,NAND 存储成本上涨约 180%。该机构预计苹果将把 iPhone 18 同等起售机型的价格提高约 200 美元以保护利润率。

PrismML 表示,其压缩方案可使原本需要 8 块 GPU 运行的云端模型缩减至仅需 1 块,并让原本依赖服务器的模型迁移至手机和笔记本电脑。这可能降低单一 AI 任务所需的内存或算力,但并不必然导致整体芯片需求下滑。

D.A. Davidson 分析师 Gil Luria 表示,模型瘦身并不会消除对处理器或内存的需求,只是将更多芯片从数据中心转移至手机等终端设备。" 你仍然需要 GPU,仍然需要内存," 他说。

他还补充,在单一设备上运行 AI 实际上可能比共享数据中心基础设施效率更低,因为手机芯片大多数时候处于闲置状态。此外,效率突破往往催生更多使用需求,而非带来支出下降。

市场对 "AI 所需内存少于预期 " 的信号向来反应灵敏。今年 3 月,谷歌发布 TurboQuant 论文——涉及在不损害模型性能的前提下削减内存使用——美光科技股价随即大幅下跌,尽管此后有所回升。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai iphone siri 开源
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论