54GB 暴瘦到 3.9GB!苹果iPhone 15 竟要硬跑 27B 大模型?

2026-07-16 19:39:12 0点赞 1收藏 0评论

当大家还在纠结 iPhone 那点内存够不够用时,一场关于端侧 AI 的“暴力瘦身”正在悄悄改写规则。7 月中旬,一则消息在科技圈炸了锅:苹果公司正在认真评估一家叫 PrismML 的加州理工衍生初创公司的原生 1-bit 模型压缩技术。这门技术的狠活在于,能把原本重达 54GB 的 27B(270亿)参数大模型,硬生生压缩到 不足 4GB,让 iPhone 15 及后续机型 原生跑起来不再是梦。

54GB 暴瘦到 3.9GB!苹果iPhone 15 竟要硬跑 27B 大模型?

54GB 到 3.9GB:不是裁剪,是“量子级”压缩

传统的大模型像个贪吃蛇,27B 参数在全精度(FP16)下吞掉约 54GB 内存,这远超任何一台 iPhone 的物理极限。PrismML 的打法很极端——原生 1-bit 量化。简单来说,它把模型权重从复杂的浮点数,压缩到仅用 {-1, +1} 两个值来表示,配合分组缩放因子,彻底砍掉传统量化里的“高精度逃生通道”。

54GB 暴瘦到 3.9GB!苹果iPhone 15 竟要硬跑 27B 大模型?

效果有多夸张?体积缩到全精度的 1/14,内存占用暴降超 90%,推理速度宣称提升最高 8 倍,能耗砍掉 75%-80%。他们刚推出的 Bonsai 27B(基于 Qwen 3.6 27B 微调),1-bit 版仅 3.9GB,Ternary(三值)版 5.9GB 保留 95% 性能,直接在 12GB 内存的 iPhone 上原地起飞。

苹果为何心动?端侧 AI 的“隐私与算力”死结

苹果对端侧智能的执念人尽皆知,但痛点也很现实:现在的 Siri 和 Apple 智能,要么靠小模型凑合,要么得连 Private Cloud Compute 云端。如果能把 27B 级的大模型 塞进手机本地,意味着什么?

隐私闭环:数据不出设备,敏感推理全在 A 系列芯片里转,不用把命门交给服务器

离线自由:地铁、飞机、无网环境,AI 摘要、编程辅助、事实推理照跑不误。

成本减负:少养点云端算力,苹果这笔账算得很精。

PrismML CEO 巴博克·哈西透露,双方会谈尚在早期但“进展顺利”,媒体甚至脑补到了直接收购的可能性。虽然 1-bit 压缩会牺牲约 5%-10% 的基准得分,在数学、编程等硬核任务上略有疲软,但保留 90% 智能水平 换来体积断崖式下跌,这对寸土寸金的移动端来说,性价比简直离谱。

54GB 暴瘦到 3.9GB!苹果iPhone 15 竟要硬跑 27B 大模型?

噱头背后的冷思考:是革命还是妥协?

别光看参数爽,“压缩即失真” 的定律依然存在。从 54GB 砍到 3.9GB,本质是拿冗余换空间。虽然 PrismML 号称“近无损”,但在复杂逻辑链路上,1-bit 模型的退化不可避免。苹果即便评估通过,大概率也会先拿非核心功能试水,而不是直接让 Siri 全盘接管。

但不管怎样,这门技术撕开了一个口子:端侧大模型不再被内存绑死在云端。当 iPhone 15 这种存量机型都能跑 27B 模型,未来的手机 AI 战争,可能要从“拼云端算力”转向“拼压缩算法”了。苹果这一步如果真的落地,口袋里的那台手机,怕是要比很多笔记本还聪明。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
1
扫一下,分享更方便,购买更轻松