Nemotron 3 Super vs Ultra:550B参数如何做到高效推理?
01参数规模与激活机制
| 维度 | Nemotron 3 Super | Nemotron 3 Ultra |
|---|---|---|
| 总参数量 | 1200 亿 | 5500 亿 |
| 激活参数量 | 120–127 亿 | 550 亿 |
| MoE 专家数量 | 512 个(激活 22 个) | 未明确披露,推测超千级 |
| 上下文窗口 | 100 万 Token | 100 万 Token |
02吞吐性能与推理速度
吞吐量是 Nemotron 3 系列的核心优势之一。Super 在 8K 输入 / 64K 输出的智能体任务中,吞吐量达 GPT-OSS-120B 的 2.2 倍、Qwen3.5-122B 的 7.5 倍。Ultra 则进一步将速度优势扩展至每秒 300+ Token,在 DeepInfra 平台实测中远超 DeepSeek 与 Moonshot 的 50–100 Token/s。这一性能提升源于多项技术协同:NVFP4 4-bit 量化使 Blackwell GPU 上的吞吐提升 4–5 倍;多 Token 预测(MTP)技术允许单次前向传播预测多个未来 Token,减少自回归循环次数。值得注意的是,部分用户反馈在复杂 PDF 处理等场景中仍存在响应延迟,表明实际部署效果受任务类型影响。234
吞吐性能对比
官方与技术媒体数据
“Nemotron 3 Super 吞吐量比 Qwen3.5 高 7.5 倍”[3]
“Ultra 输出速度 >300 tok/s,远超同类”[5][14]
“MTP 技术使推理速度提升 3 倍”[10]


用户实测反馈
“处理复杂 PDF 文档时响应缓慢”[34]
“性能不稳定,需进一步优化”[34]
03长上下文与智能体任务适配
两款模型均原生支持 100 万 Token 上下文窗口,专为多智能体工作流设计。Super 在 EnterpriseOps-Gym 排行榜以 27.3 分登顶,优于 Kimi-K2.5 与 DeepSeek v3.2;Ultra 则在 PinchBench 智能体生产力测试中达 91%,与 Kimi K2.6 并列第一。其长上下文能力依赖混合 Mamba-Transformer 架构:Mamba 层以 O(N) 复杂度高效处理长序列,Transformer 层作为“全局锚点”保障关键信息检索精度。RULER 1M 基准测试中,Super 得分 91.75%,而 GPT-OSS-120B 仅 22.30%。不过,Ultra 在长远规划类任务(如企业运筹)得分 33%,低于 GLM-5.1 的 40%,显示其强项更偏向执行而非战略规划。156
- 上下文处理:100 万 Token 窗口 + 混合架构防止“目标漂移”
- 智能体基准:Super 登顶 EnterpriseOps-Gym;Ultra 在 PinchBench 与 Kimi 并列
- 任务侧重:Ultra 擅长编码与多源整合,长远规划非最强项
04技术架构与训练策略
Super 与 Ultra 共享三大核心技术:LatentMoE、混合 Mamba-Transformer 主干、NVFP4 原生训练。LatentMoE 在路由前对 Token 进行潜空间压缩,使 Super 能以单专家成本调用 4 倍专家数;Ultra 则延续此设计,提升专家协作稳定性。两者均使用 25 万亿 Token 预训练数据,并针对智能体框架后训练:Super 覆盖 21 种环境,Ultra 则适配 Hermes Agent、OpenHands 等主流平台。值得注意的是,Ultra 是首个全程 NVFP4 训练的 550B 模型,仅最后 15% 层及注意力模块保留 BF16 以保精度。这种量化策略使模型可在 H100 或 B200 上部署,但社区指出其显存需求仍超 300GB,非个人用户友好。278
05能力评估与市场定位
在 Artificial Analysis 智能评分中,Ultra 获 48 分,为美国开源模型最高,但仍低于中国 Kimi K2.6 的 54 分。Super 得分为 36 分,明显落后于 Ultra。GDPVal 基准测试中,Ultra NVFP4 版本得 47.9%,远低于 GPT-5.5 的 84.9%,但英伟达强调此类基准未必反映真实智能体任务表现。从定位看,Super 面向高频任务执行,Ultra 则定位于“最强大脑”角色,处理架构决策与跨源综合分析。企业应用方面,CrowdStrike 与 Palantir 已接入 Ultra 用于安全运维与复杂任务自主执行,而 Super 更多用于代码生成与工具调用等中等复杂度场景。91011
当前文章无评论,是时候发表评论了