今天本地推理圈刷屏的那条新闻,主语其实只有一个:Meta 把 8160 亿参数开放权重了。
当地时间 10 月 15 日,Meta 发布 Muse Spark Open,权重 10 月 16 日上 Hugging Face:MoE 架构,总参数 816B、每 token 激活 42B,1M 上下文,原生吃文本、图像、视频、音频。 Meta 管它叫“美国迄今能力最强的开放权重模型”,官方表格里工作流程、工具调用、知识推理等 6 项第一——但同一张表里,编程分被 Kimi K3、GLM 5.3 压着打。知乎微博
而真正让圈里人坐不住的,是它和苹果的那句联合宣传:“两台 Mac Studio 就能跑”。知乎
这条话术每个字都对,但连起来对你有误导性。今天各平台都在转发新闻,没人给普通本地玩家算账,我来算。

第一笔账:内存。你的机器连“装进去”都做不到
这是最容易忽略的一点:MoE 省的是算力,不省内存。256 个专家必须全部常驻,路由器下一个 token 选谁事先不知道。所以行业里跑 816B-A42B 的口诀是——内存按 816B 准备,速度按 42B 算。知乎
拿 Meta 自己推的 NVFP4 量化(约 4.5 bit/参数)粗算,纯权重就 493~537GB。 这还没完:1M 满上下文的 KV Cache 按 Hugging Face 技术博客的口径要 200 多 GB,好在模型用了混合局部注意力(62 层里 46 层是 2048 token 滑动窗口,只有 16 层全局注意力),才把满窗 KV 从理论 133GB 压到约 34.6GB。 但这是 128K 都吃不满的极限场景,官方 vLLM 示例也只给到 128K。权重 + KV + 激活值 + 框架开销加总,官方部署建议线是至少 700GB:要么单台 4 卡 Blackwell(4×B300 起步),要么两台 512GB 的 M5 Ultra Mac Studio 用 MLX(≥v0.30.1)+ macOS 26.2 的雷雳 5 RDMA 拼起来。微博微博知乎
对照一下你手里的设备:
24GB 的 4090 / 48GB 双卡:装不进,4-bit 也装不进。你现在的现实是 74B 量化(4090 可跑)和 Qwen3.8-27B 这种全家桶。 一个真实提醒:有用户部署 27B 时,KV Cache 直接把内存干到 45~50GB。 显存党连 27B 的长上下文都要算计,816B 连“加载失败”的机会都不给你。哔哩哔哩小红书
单台 128GB M5 Max / 256GB M5 Ultra:内存池小于权重体积,还是装不进。256GB 的实际定位是跑 GLM-5.3-Flash、Qwen3.8-Flash-Next 的 4bit 版——知乎有人花十万上 M5 Ultra 后的原话是“先接受 4bit 现实”。 256GB 标称听着大,社区实测 Metal 给 GPU 的硬顶只有约 222.7GB,百 GB 级权重文件载入内存还要再膨胀——105.4GB 的权重实测要按 142.3GB 留。知乎小红书
“两台 Mac Studio”:指的是两台 512GB 顶配,不是两台 16,899 的丐版。微博

第二笔账:速度。装得下,也不等于用得爽
苹果博客自己说得很直白:解码速度受内存带宽限制。 M5 Ultra 标称 1.2TB/s,社区实测约 1039GB/s。 发布时宣传 AI 性能是 M3 Ultra 的 4.3 倍,第三方实测拆开看——提示词处理(prefill)快 4.1 倍,生成(decode)只快 1.45 倍。知乎知乎小红书
放到 Muse Spark Open 上:双机张量并行约 25 tok/s,苹果演示的 4 机集群约 36.7 tok/s,机器翻倍速度只多一半——瓶颈全在机器间通信。 更别想长上下文首字延迟:65,536 token 输入时 4 机 TTFT 高达 40.6 秒。 你花十几二十万拼出来的双机 816B,生成速度还没你朋友一张 4090 跑 74B 量化来得利索。微博知乎
第三笔账:钱。六位数硬件 vs 每百万几美元 API

M5 Ultra Mac Studio 起售价 $5,499,512GB 版本 10 月下旬才开卖——刚好赶上新模型发布这几天。 满配 256GB 版国内 ¥86,749 起,顶配标价 $12,299。 跑这个模型的门票是两台顶配,按 $12,299/台 保守估也要 $24,598,人民币妥妥六位数。知乎小红书小红书

小红书有人给 256GB 版算过一笔三年摊销账:¥86,749 ÷ 36 个月 ≈ ¥2,410/月,对比 ChatGPT 20x 订阅 ¥1,350/月,多花的是“资产 + 数据不出门 + 按 token 不封顶的自由”。 但这笔账的前提是你本来就打算买一台本地 AI 工作站,不是专门为 Muse Spark Open 加购第二台。小红书
而今天 API 端的价格是:OpenRouter 上 Muse Spark Open 输入 $1.25/百万 token、输出 $4.25/百万 token。 一个反直觉的事实:开源权重比它的 API 更贵——HF 下载要申请,还有单独许可条款,Meta 首席 AI 官明确说了最强模型 Muse Wonder 不开源,这次放出来的是“次一档、额外做了安全后训练”的版本。 你自部署拿到的是数据主权,未必是成本优势。微博微博知乎
谁该动,谁先别动
24~48GB 显卡党:今天什么都不用做。权重碰不到,等两样东西——第三方评测(官方完整报告说“即将发布”,目前全是 Meta 自测)、社区的小模型/蒸馏/量化变体。 编程刚需的话,Meta 自己表格都承认国产模型分数更高,不用等它。知乎
单台 256GB 以内的 Mac 党:这台机器跑好手里的 4bit Flash 级就够日常了,加购第二台只为尝鲜一个自测榜的模型,不值。
企业/数据不出内网 + Agent 编排需求:700GB 官方线(4×B300 或双 512GB Mac)才是你的起点,Muse Spark Open 的甜点是多模态同上下文 + 大激活对 Agent Loop 稳定性的帮助,写代码的部分建议继续交给 Kimi/GLM 这类专模型。微博
延迟敏感的在线服务:TTFT 数据已经替你做了决定——不选。
最后给三个继续观察的信号:HF 的申请门槛和许可条款会不会收紧;OpenRouter 这个价格能撑多久(开源权重出来一个月后 API 降价是行业惯例);以及各家量化社区什么时候把“装不进”变成“跑得动”。在那之前,“两台 Mac Studio 就能跑”就当个新闻看——主语是扎克伯格的 Mac,不是你家的。