816B「美国最强开源」上桌面:综合跑分输给国产,门票是两台顶配Mac

源自190位全网作者

09:38

10月16日凌晨,扎克伯格晒出一张照片:Meta 的 AI 智能体正在一台 Mac 上干活,顺带感谢了苹果和新任 CEO 特努斯。Meta AI 负责人 Wang 跟着补了句玩笑:「很高兴看到爸爸妈妈终于又能好好相处了。」36氪

这两家因为 iPhone 隐私新规互怼多年的老冤家,一夜握手言和。撮合它们的,是 Meta 刚开源的 8160 亿参数大模型 Muse Spark Open。微博

816B「美国最强开源」上桌面:综合跑分输给国产,门票是两台顶配Mac

拖了两个多月的债

今年 4 月 Muse Spark 发布后,Meta 不再开放权重,Llama 的开源路线基本画上句号。8 月小扎承诺开源,拖了两个多月,债终于还上了。规格很唬人:总参数 816B,每次推理只激活 42B,上下文 100 万 token,全模态输入,主打编程和 Agent。知乎微博

Meta 给它的官方定语是「目前能力最强的美国开发开放权重模型」。注意「美国」这个限定词,摘掉它,小米 MiMo、智谱 GLM-5.3、Kimi K3 都排在前面。Artificial Analysis 综合智能指数:39 分,117 个大参数开源模型里排第 8,和 DeepSeek V4.1 Flash 打平;GLM-5.3 有 45 分,Kimi K3 有 44 分。编程项 Terminal-Bench 2.1 它只拿 76.4,Kimi K3 考了 85.0。36氪知乎

816B「美国最强开源」上桌面:综合跑分输给国产,门票是两台顶配Mac

想本地跑,先算账

对本地部署党,重头戏是苹果的官方方案。BF16 精度下光权重就要吃掉超 1.6TB 内存,没有电脑扛得住,苹果官方用 NVFP4 四位量化才压到约 493GB。可顶配 512GB 统一内存的 Mac Studio,加上 KV 缓存和系统开销,也只是「有点勉强」。36氪知乎

答案是联机。两台 M5 Ultra Mac Studio 用雷雳 5 直连跑张量并行,实测 24.99 tok/s,比流水线并行快近六成;四台能到 36.73 tok/s,首 token 等待从 8.2 秒缩到 4.8 秒。速度凑合,价格不凑合:M5 Ultra Mac Studio 起售价 46999 元,还只是基础内存版;装得下模型的 512GB 版 10 月底才上市,价格待定——两台,自己算预算。36氪微博知乎

816B「美国最强开源」上桌面:综合跑分输给国产,门票是两台顶配Mac

买不起,还有条路

开源团队 Unsloth 当天跟进 2 bit 压缩版,单台 256GB 内存的机器就能跑,只是压缩越狠、智商掉得越多。许可证是 Meta 一贯的套路:微调、蒸馏、商用都放行,但产品要标注「Built with Muse Spark Open」,对外卖模型服务且年营收超 2000 万美元,得找 Meta 单独签约。知乎

冷水和信号

AI 博主 karminski-牙医今早的速报泼来冷水:复杂算法实现还行,但 3D 建模和空间理解「很拉跨」,还有添油加醋的幻觉。42B 激活也太重——对比 DeepSeek V4.1 Flash 的 prefill 只激活 8B。结论很直接:反正打不过,「我觉得应该不会有人想本地部署使用了」。微博

所以普通玩家先前排看戏。但戏的看点不少:Meta 重新坐回开源牌桌,开放权重 + 本地运行成了大厂官方路线,用户能自行部署模型、把推理留在自己的设备上。苹果统一内存 + 雷雳互联被官方验证,桌面跑大模型不必再攒一柜子显卡;接下来就看更轻的版本何时出来——到那天,红利才轮到 24GB 显存玩家。36氪

内容由AI生成

精选参考来源

1. 刚刚,Mac Studio 迎来小扎最强开源模型,苹果等来了最意外的助攻

2. 刚刚,Meta 终于开源 Muse Spark!美国最强,还是没打过国产 AI

3. #东方财富##股票#【Meta发布美国最强开源大模型 “仅用”两台苹果电脑就能本地运行】当地时间周四,近来在AI领域势头正盛的Meta发布开放权重大模型MuseSparkOpen,并与苹果合作,推动这款模型在Mac电脑上本地运行。(来源:公司官网)具体来说,MuseSparkOpen是一款采用“混合专家架构”的原生多模态模型,总参数量为8160亿(其中420亿为活跃参数),上下文窗口大小可达100万词元。Meta发布美国最强开源大模型 “仅用”两台苹果电脑就能本地运行 (来自@东方财富网)

4. #Meta开源MuseSparkOpen模型#IT时代网10月16日消息,Meta 发布了 Muse Spark Open 的模型权重,这是该公司规模最大的开放权重模型。Muse Spark Open 是一个原生多模态模型,总参数量 8160 亿、激活参数量 420 亿,上下文窗口 100 万 token。它面向代码编写与智能体任务,在长周期任务、复杂软件工程和多步推理方面表现突出。模型基于苹果最新版本的 MLX 框架做了适配,MLX 是苹果打造的开源数组框架,针对苹果芯片的统一内存架构优化。苹果统一内存架构让 M5 Ultra 的集成显卡在单台 Mac Studio 上最多可使用 512GB 内存,两台机器即可容纳整个模型。该芯片 1.2TB/s 的内存带宽足以读取每个 token 所需的少量数据片段,官方称两台 Mac Studio 的效果相当于一台拥有 1TB 统一内存的超级计算机。Meta 与苹果就此次合作进行了配合。苹果 CEO 约翰·特努斯表示,能够在办公桌上以这样的效率运行这一量级的模型很难得,Mac Studio 持续推动端侧 AI 的边界。Meta CEO 扎克伯格对苹果方面的协作表示了感谢。搭载 512GB 内存的 Mac Studio 尚未发布,官方称将在本月晚些时候推出。在测试中,团队使用 Muse Spark Open 驱动的 Muse Code 在完全本地环境下运行了一系列智能体工作流,包括真实 iOS 应用的打包流程。

5. Meta和苹果联手搞了个大的,Meta开放了Muse Spark Open权重,两台512GB M5 Ultra Mac Studio可本地跑通过NVFP4量化将816B模型权重压缩至约537GB,再利用MLX分布式推理和Thunderbolt RDMA高速互联,让两台各配备512GB统一内存的M5 Ultra Mac Studio协同推理官方给的数据,双机张量并行生成速度约25 Token/s,比双机流水线并行快约59%速度不算快,不过两台桌面设备运行816B,具备了基本可交互的生成速度Muse Spark Open的几个参数:816B/42B激活MoE(256个路由专家)、1M上下文、原生多模态,主攻编程、长程Agent任务权重:网页链接#MuseSparkOpen##meta最新开源模型#

6. 给大家带来 Muse Spark Open 的测试速报, 简单来讲, Meta 这个模型可能也就在一众国产 flash 模型里面混一下了, 想要打SOTA国产模型是不可能的.从测试效果来看, 它唯一的亮点是复杂算法实现得还可以, 但是3D效果和建模, 空间理解能力都很拉跨. 再加上它高达42B的激活参数量. 我觉得应该不会有人想本地部署使用了.毕竟 DeepSeek-v4.1-flash prefill 只激活8B, 要什么自行车. 况且这个模型也打不过 deepseek-v4.1-flash. 所以没必要用了. Meta 想要恢复往日 llama 的荣光还需努力. 另外再多说一点, 需要注意这个模型潜在的添油加醋(幻觉)问题, 它是我测过这么多模型(70+), 唯一一个把软盘写保护滑块弄成红色的(prompt里规定是蓝色线稿). 所以这个模型可能用来写文也许会有意外收获.#HOW I AI##MuseSparkOpen##meta##MuseSpark# karminski-牙医的微博视频

7. Meta今天发布Muse Spark Open权重,让开发者多了一条自己部署模型的路。先看清门槛:Hugging Face下载需申请;官方桌面方案让两台高配M5 Ultra Mac Studio一起运行量化版,仅权重就五百多GB,运行还要额外内存,使用也受专门许可约束。我看重的是能自己决定模型放哪、数据怎么走、版本何时换。但离普通人用得起,还隔着机器、维护和电费。接下来值得看的,是有没有更轻的版本和更省心的部署办法,能把这种自主权带到小团队手里。#Meta##MuseSparkOpen#

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章