卖铲子的人,自己下场淘金了。
10月15日,英伟达一口气放出三款Nemotron 3.5系列开放模型。这一次,老黄把自己的名字,写进了"本地部署大模型"的菜单里。

24GB显存,装下一个74B多模态
对本地玩家最有感的,是Bolt 74B-A9B:总参数74B,每轮只激活9B(MoE架构),原生2比特量化,官方口径24GB显存设备就能装下——一张4090或者3090,就摸到了门槛。NVIDIA官方博客艾瑞网
规格也不糊弄:262K上下文,能看图、能看视频,专为本地智能体打造,llama.cpp、Ollama、LM Studio首日就能跑。B站上已经有人放出了完整的部署教程。NVIDIA官方博客哔哩哔哩
同门另外两款:Super VL,总参数120B、激活12B,把推理、工具调用和图像、文档、视频理解塞进同一个模型,官方宣称单卡智能体吞吐最高做到同规模的5倍;更小的Bolt E4B瞄准只有4GB内存的小设备,10月23日开放。知乎
时间点选得很明白
10月14日,英伟达公布RTX Spark软件更新日程,白纸黑字写着Bolt 74B"专为RTX Spark上的智能体应用打造"。两天后,Spark笔记本正式上市。模型开路、机器收钱,老黄的经典连招。IT时代网NVIDIA官方博客

但评论区不买账
B站一条五万多播放的对比视频,标题损到骨子里:“拼尽全力无法战胜华为盘古”。UP主的结论更狠:这模型在OpenRouter上免费用,但"没有免费使用的价值"。哔哩哔哩
高赞评论更直接——“原来事120b啊,不知道的还以为是16b大模型”,同为百B级,“为什么千问3.8 flash next会好一大截呢”;另一条63赞的短评只有一句:“目前看来,就连免费也无法作为它的优势。”。哔哩哔哩
还有分析向的账号扒了扒官方话术:更快更省的数字,大多绑着自家硬件——4位激活加速只在Blackwell上有效,首词延迟砍85%的部署方案,是在16张B200上测出来的。用开源把智能体的默认路径锁进自家硬件——“真正在卖的不是模型,而是默认设置。”哔哩哔哩
本地党到底要不要下
分两种情况。
手里正好有24GB卡、或者刚提了RTX Spark,想跑一个常驻的多模态智能体——看截图、看视频、带长上下文那种,Bolt 74B-A9B值得上手。激活参数只有9B,推理速度不会慢,而且它是这个硬件档位里少数"官方亲自调优"的模型,连训练数据和配方都一起开源了。NVIDIA官方博客

但如果追求的是每GB显存的纯聊天、纯代码能力,社区的风向标仍然是Qwen3.8-Flash-Next和DeepSeek那一挂。Nemotron 3.5这波不是来卷王座的,是来卖"全家桶"的。
真正的信号在别处:连卖铲子的都愿意白送模型了,说明"本地智能体"这条路线被验证了——模型、数据全留在自己机器上,医疗、金融行业不用再把病历和流水送上云。接下来看10月23日的E4B,能把本地AI的门槛拉到多低。微博
最后提个醒:74B塞进24GB的前提,是2比特量化。量化越狠,能力打折越多,下载前最好先想清楚——你要的到底是"官方优化"这块牌子,还是真需要它干活。