驱动之家 12小时前
苹果研发AI模型压缩技术:把270亿参数大模型装进iPhone
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 7 月 15 日消息,据媒体报道,苹果正与硅谷初创公司 PrismML 进行早期洽谈,后者宣称能将大型 AI 模型压缩至可在 iPhone 上本地运行。若技术验证成功,此举将强化苹果的隐私主张,并为其进展缓慢的 Siri 升级提供关键支撑。

PrismML 首席执行官表示,苹果已开始评估其技术。洽谈尚处于早期阶段,前景虽不明朗,但 " 进展顺利 "。

消息发布正值苹果推出 iOS 27 公测版次日——这是苹果大幅改版 Siri 后首次面向公众的广泛测试,旨在与 OpenAI 和 Anthropic 的 AI 助手展开竞争。

对苹果而言,将更多 AI 运算留在设备本地,意味着更低响应延迟、更少云计算成本,以及无需联网即可使用部分功能的能力——这与苹果的核心隐私定位高度契合。

PrismML 的公开发布,为普通用户和投资者提供了在实验室之外检验其技术声明的机会。Counterpoint 分析师 Pathak 总结道:

" 云端与设备端 AI 的组合,能够提供更完整、更高效、更注重隐私的 AI 体验——复杂任务交由云端处理,敏感、时延敏感及隐私相关的任务则在设备端执行。"

PrismML 孵化自加州理工学院研究团队,并获得 Khosla Ventures 支持。该公司于周二公开发布了阿里巴巴开源模型 Qwen 的压缩版,将原始模型从约 54GB 压缩至不足 4GB,使其全部 270 亿参数可在 iPhone 15 及更新机型上直接运行。

目前,PrismML 已免费发布两个压缩版本,兼容 iPhone、MacBook 及搭载英伟达芯片的 PC。公司表示,下一个压缩目标是谷歌的开源模型 Gemma,随后还将处理需数据中心硬件才能运行的更大规模前沿模型。

PrismML 表示,其压缩方案可将原本需 8 块 GPU 运行的云端模型缩减至仅需 1 块,并让原本依赖服务器的模型迁移至手机和笔记本电脑。这虽能降低单一 AI 任务所需的内存或算力,但不必然导致整体芯片需求下降。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai iphone 芯片 siri 开源
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论