IT之家 7小时前
苹果设备端AI新方向:270亿参数模型瞄准iPhone
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 7 月 10 日消息,科技媒体 The Information 昨日(7 月 9 日)发布博文,报道称苹果公司正接洽 PrismML 初创公司,评估在 iPhone 上直接运行更大规模 AI 模型的可行性。

IT 之家查询公开资料,PrismML 是加州理工衍生出来的 AI 初创公司,核心突破为原生 1-bit 模型压缩技术,模型体积可压缩至全精度版本的 1/14 左右,内存占用降低超 90%。

原生 1-bit 模型压缩技术权重仅用 {-1, +1} 表示,配合分组缩放因子,非传统量化,声称无 " 高精度逃生通道 ",宣称在保持接近 FP16 模型精度的同时,推理速度提升最高 8 倍,能耗降低 75%-80%。

报道指出 PrismML 公司精简阿里巴巴开源大型语言模型 Qwen 3.6(拥有 27B 参数),并成功在 iPhone 17 Pro 上完整运行,苹果看中该公司的量化能力,希望进一步增强本地 AI 模型的推理性能。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai iphone it之家 the 阿里巴巴
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论