北京时间10月15日晚,英伟达放出新一代开源模型 Nemotron 3.5 Super VL:1200亿参数的多模态模型,官方口径下单 GPU 智能体任务吞吐量最高提升 5 倍,74B 版本压缩至 24GB。 这款模型采用混合专家(MoE)架构,多项评测成绩优于旧款,同步发布的两款端侧模型中有一款将在10月23日推出。 对普通用户来说,这套发布真正的意义不是"模型又聪明了几分",而是一个百亿级激活参数的多模态智能体大脑,第一次可以被塞进一张家用显卡或一台笔记本里跑本地智能体。IT之家金猪升级包
"5倍"到底跟谁比
这个数字的口径要看准:它不是对比上一代模型的进步,也不是个人聊天提速5倍,而是官方宣称速度达到同类第二强开源智能体模型的5倍。 速度来自架构:1200亿总参数里每个token只激活120亿,随发的 Bolt 74B 版本每个token只激活90亿——相当于一个大衣柜,每次只拉开其中一层抽屉用,显存带宽和算力都花在更小的有效体积上,这也是它为单GPU系统优化的底气。 落到个人工作流里,吞吐量的价值很具体:智能体读屏幕截图、批量啃文档、操作浏览器时会产生大量并行的小推理请求,同一张卡能同时处理的请求越多,整套自动化任务的周转时间越短。环球市场播报电焊工_波力
24GB:为本地算力设备而生
Bolt 74B 版比主模型更像"消费级产品":靠 2 比特量化感知训练把 740 亿参数压进 24GB 显存,正好对上 RTX 4090/5090 级显卡的容量。时间卡点也很刻意:英伟达与微软已确认,搭载 RTX Spark 超级芯片的笔记本将于 10 月 16 日上市。 一个必须算进账的提醒来自社区实测经验:24GB 只是权重的体积,上下文和 KV 缓存一上长任务还会往上加,且本次发布没有第三方跑分,快与准目前都是官方自证。 换句话说,单卡能跑,但别指望把上下文随意开满;等 Hugging Face 上有人真拿它跑完一轮,再决定切换工作流也不迟。IT时代网电焊工_波力
生态已经接好线
加速不来自模型本身,而是整条链条。硬件端,64GB 统一内存版本的桌面AI计算机DGX Spark以4999美元起售价,由宏碁、华硕、戴尔等OEM厂商推向市场。 软件端,本地部署组件 NVIDIA PAIR 脱离测试阶段并加入 llama.cpp 支持,智能体还能通过开源路由库 Switchyard 在本地与云端模型之间分配请求,在尽量保住结果质量的前提下减少云端用量。 生态端,官方明确这是给本地智能体准备的,GitHub Copilot、Perplexity 等工具里接入本地模型只需要点几下。 安全性同样补了一环:英伟达 OpenShell 与微软执行容器为智能体带来沙箱隔离,管控本地智能体的行动边界与凭据使用。华尔街见闻IT时代网电焊工_波力
值得关注什么
这次发布并不孤立:同一天,阶跃星辰开源 Step 5 Preview,Meta 开源 816B 参数 Muse Spark Open,开源大战白热化。 而英伟达的打法更直接——卖铲的人开始把"配卡定制"的模型连同权重、训练数据和配方一起放出来,用吞吐量而不是极限智力做卖点,把模型能力按自己显卡的显存规格切成块,推动本地智能体生态反哺硬件销售。对个人用户,眼下更稳妥的姿势不是立刻切换:等社区跑分和 RTX Spark 首批实测落地,验证"5倍吞吐量"在真实工作流中是否兑现;下一个节点在10月23日,OEM 整机与更小的端侧模型同日补齐,届时本地智能体的软件栈再补一格,再决定把工作流里的多少比例从云端挪回桌面也不迟。哔哩哔哩