816B「美国最强开源」两台Mac能跑:门票2万美元,跑分39分

源自173位全网作者

08:36

扎克伯格罕见地公开感谢了苹果的新任CEO。10月15日,Meta开源了816B参数的Muse Spark Open,苹果MLX团队同日发布技术博客:这个巨物能用两台M5 Ultra Mac Studio本地跑起来。一对互相捅了五年刀子的公司同台握手,消息瞬间刷屏。知乎知乎小红书

对玩本地部署的人来说,这事值得兴奋——但兴奋之前,先把几组数字摊开看看。

先搞清楚:这是个什么模型

Muse Spark Open是MoE架构:总参数8160亿,每个token只激活420亿,相当于256位专家里每班只叫8个上岗。上下文窗口100万token,原生支持图片、音频、视频输入,主攻编程和长流程Agent任务。权重已上架Hugging Face,Groq、OpenRouter等7家平台同步开出API,官方口径是"迄今能力最强的美国开放权重模型"。知乎

注意"美国"这个定语。有定语,就有故事。

内存账:493GB<512GB,为什么还是装不下

BF16原生精度下,光权重就超过1.6TB,任何桌面机都别想。苹果用NVFP4四位量化把内存占用压到约493GB。看到这你可能想:单台512GB的Mac Studio,不是刚好塞得下?知乎知乎

塞不下。加上KV缓存、推理中间状态和系统自身开销,剩下的十几GB不是余裕,而是问题的开始。所以才有"两台"方案:两台512GB的M5 Ultra用雷雳线直连,靠MLX的RDMA通信把模型拆开算——张量并行让两台机器同时干活,实测约25 token/s;流水线并行一台先干完再交给另一台,只有15.7 token/s。知乎

816B「美国最强开源」两台Mac能跑:门票2万美元,跑分39分

速度与门票:每个数字都带着前提

25 token/s听着能打,但小字部分写着:NVFP4量化、8K上下文。100万token长文和多人并发统统没测,首token还要等8.2秒,四台机器(36.7 token/s)才压到4.8秒。知乎

门票更硬核:512GB顶配M5 Ultra Mac Studio月底才开卖,媒体粗算两台的采购成本超过2万美元。想省钱还有一条路——HuggingFace团队试了单台M3 Ultra(512GB)跑更低的2/3bit量化,实测18~21 token/s。但量化格式和测试条件跟苹果那组都不同,不能直接比优劣,动单机念头之前,拿自己的任务重测一遍再说。知乎

816B「美国最强开源」两台Mac能跑:门票2万美元,跑分39分

跑分账:“美国最强”,真打不过国产

artificialanalysis.ai上,Muse Spark Open(High档)综合39分:与DeepSeek v4.1 Flash持平,比GLM 5.3 Flash低3分,比Mimo-V2.6-Pro低7分。Meta自己放出的对比表也承认,在Terminal-Bench终端编程、DeepSWE长周期软件工程上落后于Kimi K3和GLM 5.3,领先的主要是JobBench、MCP-Atlas这类工具调用项目。翻译一下:想本地跑个写代码的模型,"更小内存能跑、跑分还更高"的国产开源选项就排在那。Muse Spark Open真正的差异点是100万上下文+全模态输入+长程Agent的原生支持,而不是绝对分数。知乎知乎微博

上手前,还有两句提醒

许可用的是Muse Model License:可以免费用,但产品要标注"Built with Muse Spark Open",高收入API转售商得单独签协议——“开放权重"不等于"无限制商用”。另外模型默认reasoning_effort拉在最高的xhigh档,四个档位里没有"关闭",不手动调低,token会烧得飞起。知乎知乎

这消息到底跟谁有关

Meta今年早些时候买了数百台Mac专门研究本地AI,苹果需要一个标杆负载来卖新机——两家握手,各自的算盘都打得响。但"前沿级模型跑进书房、数据不出门"这个方向,是真的。

816B「美国最强开源」两台Mac能跑:门票2万美元,跑分39分

个人玩家:先去7家API平台把任务测一遍,别急着下硬件订单。手里有敏感数据、任务利用率高、也有人会维护的团队,才值得把这笔2万美元的账认真算完。

内容由AI生成

精选参考来源

1. 扎克伯格感谢库克接班人:8160亿参数的Muse Spark Open开源,两台Mac Studio就能跑

2. Meta 发布 Muse Spark Open:能上桌面,不等于普通电脑跑得动

3. Meta发布开源大模型 仅2台Mac就能本地运行

4. 816B 模型,两台 Mac 就能跑?Muse Spark Open 靠什么做到

5. 如何看待Meta宣布Muse Spark Open正式开源?

6. #美国最强开源大模型发布#【Meta发布,美国最强开源大模型】当地时间周四,近来在AI领域势头正盛的Meta发布开放权重大模型Muse Spark Open,并与苹果合作,推动这款模型在Mac电脑上本地运行。具体来说,Muse Spark Open是一款采用“混合专家架构”的原生多模态模型,总参数量为8160亿(其中420亿为活跃参数),上下文窗口大小可达100万词元。Meta表示,该模型专为编码与智能代理任务设计,在处理长周期任务、复杂软件工程问题以及多步骤推理方面表现极为出色。当然,Meta将其称为“迄今能力最强的美国开放权重模型”,也是有原因的。根据Meta自己公布的测试结果,与市场上前沿开源模型进行比较,Muse Spark Open在工作流程、工具调用、知识推理、知识可靠性,以及复杂视觉推理和图像事实问答这6项测试中排名第一。但数据也显示,在软件开发及其他某些任务方面,Kimi、千问、智谱等中国开源模型依然更胜一筹。更引发市场关注的是,此次发布还有意外进展——苹果和Meta竟然携手共事。在蒂姆·库克掌管苹果公司期间,双方还经常发生冲突。库克经常指责Meta侵犯用户隐私,而扎克伯格也嘲讽过苹果“自iPhone之后就再也没有发明出任何了不起的东西”。(财联社)网页链接

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章