11 月 4 日,Apple 智能国行首批功能随 iOS 27.3 开发者测试版推开,12 月随正式版向中国用户推送。今年"AI 手机"的入场券,不在芯片参数里,在内存那行。小看山陈小铭科技
门槛也写在这里:这套功能要 8GB 运行内存和 7GB 本地存储,iPhone 15 标准版无法靠软件升级获得。知乎
发布会说能跑 30B,工程上跑的是"三刀"
端侧参数一年之内从 3B 跳到 30B:华为 Mate 90 Pro Max 部署了 30B MoE 端侧模型,天玑 9600 Pro 官方口径是本地最高跑 30B MoE。但一个未经充分压缩的 30B 模型,光参数就可能占约 30GB,而 2026 年旗舰手机的 DRAM 只有 12–16GB。真落地靠三刀。第一刀是 MoE 稀疏激活:每生成一个 token 只调用一小部分「专家」,模型不必全部放进内存。第二刀 4bit 量化压掉约 75% 体积,一个 3B 模型压完约 1.3GB;第三刀靠存储协同,把运行时占用压到数 GB 量级。琳琅面壁智能

所以:“手机能跑 30B"和"手机里装着完整 30B”,是营销话术和工程事实的区别。知乎
门槛其实是两个数字
约束很直白:手机上通常只有一两 GB 留给单个模型;LPDDR5X 标称带宽约 68 GB/s,而每生成一个 token 都要把权重和 KV cache 重读一遍。刘景初

反例:Gemma 4 的 26B-A4B 按 Q4_0 仍有 16.2GB,手机放不下;能装下它的车端 Thor 上 decode 约 98 token/s,同代稠密 31B 只有约 14 token/s。知乎
今年真跑起来的是什么
MiniCPM-V 4.7 35B-A3B 靠提前把「专家」从闪存预读进内存,官方口径 iPhone 17 Pro Max 上约 3GB 内存、每秒 13+ token。开源的 PocketOrca-LLM 实测:骁龙 8 Elite 上 Qwen2.5-7B Q4_0 走 NPU 稳定 10 token/s,还能把手机变成局域网 OpenAI 兼容端点,息屏、拔电不断连。面壁智能Raymond Meng

手机端的真实甜点是 7B 级 Q4,占用约 4GB;14B 以上,先别信宣传页。
年末掏钱前,四条避坑
8GB 是今年 AI 功能的准入线,16GB 才谈得上自己装模型。 容量决定"能不能开",带宽决定"值不值得开"。
"加钱上大内存"是今年最不划算的动作之一。 3DCenter 11 月统计里,一套 2×48GB 的 DDR5-6400 从 2025 年 7 月的 304 欧元涨到 2779 欧元,涨幅 814%。笔记本新品还集体退回了 16GB 时代。算力之光
涨价不全是刚需,但也没打算松口。 11 月 14 日美国加州北区联邦法官驳回了三星、SK 海力士、美光的撤诉动议,这桩指称"普通 DRAM 合约价 18 个月内暴涨 697%"的集体诉讼继续推进。洛图口径下 Q3 笔记本电商均价 7759 元、同比上涨 13.4%。那是均价,比价要锁定同型号同配置的实际成交总价,以旧换新回收款单独算。字母榜BT财经
越便宜的机器,存储涨价越藏不住。 华为畅享 100 系列被拆出"同名不同芯":Pro Max 的 128GB、256GB 用麒麟 8020A,只有 512GB 独享满血 8020,分界线不是 Pro,是存储。你好我是
老机器先别扔,NPU 这条路今年才刚打通。 骁龙 8 Elite 及以上可以试 llama.cpp / PocketOrca,飞行模式跑一整天,数据物理不出设备;上一代中端机大概率只喂得动 1B–3B。

端侧 AI 今年确实从"演示功能"往"能干活"挪了一步,但推这一步的不是发布会参数,是内存条价格表。年末为本地推理花钱,先看内存,再看带宽,最后才看那张 PPT。
当前文章无评论,是时候发表评论了