两台顶配Mac才能跑的"最强开源",刚被比下去

两台顶配Mac才能跑的"最强开源",刚被比下去

2026-10-16 19:26:16 0点赞 0收藏 0评论

10月15日,Meta放出开放权重模型Muse Spark Open,官网给了它一个很硬的定语,说这是美国迄今最强的开放权重模型。同一时间,苹果加入进来,把运行环境铺到了自家的Mac Studio上。

发布现场最抢眼的一幕,是两台512GB内存的Mac Studio并排站着,模型在里面跑完了一整轮推理,没有连任何服务器。

苹果和Meta为同一件事站台,上一次是什么时候,在场的人一时都想不起来。

两台顶配Mac才能跑的"最强开源",刚被比下去

8160亿参数,为什么非要两台Mac

先把数字摆出来:总参数8160亿,单次推理激活420亿,上下文窗口100万token,原生多模态,主打编程、智能体和多步推理。

行业里都在说它跑不动,但这里要拆的是它为什么能跑起来。

8160亿参数走的是混合专家(MoE)路线:模型里躺着一堆专家模块,每次任务只唤醒其中一小部分,所以激活参数只有420亿。它算得快,但算之前,8160亿参数的权重得先在内存里安好家,425GB上下,单台机器装不下。

多出来的办法是让两台Mac互联。苹果的MLX框架支持通过雷雳接口做RDMA(远程直接内存访问),两台M5 Ultra Mac Studio各512GB统一内存,合计一TB,权重被切开分居两边,计算时互相调用对方的内存。开发者代码层面不用手动切模型,框架自己处理分片和调度。

这就是"本地跑"的真相:不是你的笔记本能跑,是一套顶配工作站集群能跑。

两台机器的账,比API贵得多

256GB版Mac Studio的售价已经超过1万美元,512GB版还没正式开卖,按惯例只会更贵。两台落地,光硬件就是十几万人民币级别的投入,还不算电费和运维。而同样的模型,在OpenRouter、Fireworks AI、Together AI上直接调用,按token付费,几百块就能跑一阵子。

要这套本地方案的人其实很具体。一种是模型只能待在自己机房里,或者数据出境卡在合规上,走不了任何外部API;另一种是手里本来就压着一批Mac,拿它们跑推理比再买卡划算。权重同步上了SageMaker、Google Cloud Model Garden和Hugging Face,云厂商都开了部署通道,可那跟个人开发者没什么关系。

它自己公布的表格里,中国模型排在前面

更有意思的是Meta说辞和它自家评测之间的落差。

同一份官方测评里,终端编程、长周期软件工程和GDPVal-AA专业工作能力这三项,它的分数落在中国的Kimi K3和GLM 5.3后面。往前排的只有JobBench和MCP-Atlas工具使用两项。

Meta的首席AI官在采访里没绕这个弯,说最强的模型通常不开源,一是安全,二是能力,但全球大部分AI最后会跑在开放模型上,"应该来自美国"。

放开放权重出去,先算的是一笔生意账。闭源API按token收费,一旦有一个分数接近、还能自己部署的替代品出现,定价权就松了。把权重交到开发者手里,再让这些模型默认从美国下载,比在云上打价格战更划算。这套打法今天得同时应付来自中国的开源模型,Kimi K3和GLM 5.3就出现在对比表里。

开放权重不等于开源

两个很容易踩的误解值得当面说清。把"开放权重"和"开源"画等号是第一个——Muse Spark Open给的是推理权重、许可证和几种推理引擎的适配方式,训练数据、训练过程和配方都没公开,你能拿到成品,复现不了它;真正的开源项目会把整条链路摊开。第二个误解是开源等于免费,模型不要钱是真的,但它要显存、要电费、要人盯着,两台Mac Studio那笔账已经把成本挪到哪儿说清楚了。

下次再看到"能在本地跑"这几个字,先问跑它需要什么硬件。要是答案又是两台顶配工作站,那它的本地指的是公司机房,不是你家书桌。

这两天你要是真动过本地部署大模型的念头,你算出来的预算是几位数,卡在哪一步了?

作者提示含AI生成内容。作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
京东京享红包
距结束::
领京东现金红包 天天领3次 最高26888元
红包按钮
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松