什么值得买App下载 App ›
连续签到专享现金活动

Nemotron 3 Super vs Ultra:550B参数如何做到高效推理?

01参数规模与激活机制
Nemotron 3 Super 与 Ultra 均采用混合专家(MoE)架构,但参数量级存在显著差异。Super 总参数为 1200 亿,推理时激活约 120–127 亿参数;Ultra 则将总参数提升至 5500 亿,激活参数同步增至 550 亿。这种设计并非简单堆叠参数,而是通过稀疏激活控制计算成本。例如,Ultra 虽总参达 550B,但实际推理负载相当于一个 55B 的稠密模型。相比之下,Super 的激活比例约为 1/10,而 Ultra 同样维持该比例,确保在扩大知识容量的同时不显著增加单次推理开销。123
维度Nemotron 3 SuperNemotron 3 Ultra
总参数量1200 亿5500 亿
激活参数量120–127 亿550 亿
MoE 专家数量512 个(激活 22 个)未明确披露,推测超千级
上下文窗口100 万 Token100 万 Token
02吞吐性能与推理速度
吞吐量是 Nemotron 3 系列的核心优势之一。Super 在 8K 输入 / 64K 输出的智能体任务中,吞吐量达 GPT-OSS-120B 的 2.2 倍、Qwen3.5-122B 的 7.5 倍。Ultra 则进一步将速度优势扩展至每秒 300+ Token,在 DeepInfra 平台实测中远超 DeepSeek 与 Moonshot 的 50–100 Token/s。这一性能提升源于多项技术协同:NVFP4 4-bit 量化使 Blackwell GPU 上的吞吐提升 4–5 倍;多 Token 预测(MTP)技术允许单次前向传播预测多个未来 Token,减少自回归循环次数。值得注意的是,部分用户反馈在复杂 PDF 处理等场景中仍存在响应延迟,表明实际部署效果受任务类型影响。234

吞吐性能对比

官方与技术媒体数据
  • “Nemotron 3 Super 吞吐量比 Qwen3.5 高 7.5 倍”[3]

  • “Ultra 输出速度 >300 tok/s,远超同类”[5][14]

  • “MTP 技术使推理速度提升 3 倍”[10]

用户实测反馈
  • “处理复杂 PDF 文档时响应缓慢”[34]

  • “性能不稳定,需进一步优化”[34]

03长上下文与智能体任务适配
两款模型均原生支持 100 万 Token 上下文窗口,专为多智能体工作流设计。Super 在 EnterpriseOps-Gym 排行榜以 27.3 分登顶,优于 Kimi-K2.5 与 DeepSeek v3.2;Ultra 则在 PinchBench 智能体生产力测试中达 91%,与 Kimi K2.6 并列第一。其长上下文能力依赖混合 Mamba-Transformer 架构:Mamba 层以 O(N) 复杂度高效处理长序列,Transformer 层作为“全局锚点”保障关键信息检索精度。RULER 1M 基准测试中,Super 得分 91.75%,而 GPT-OSS-120B 仅 22.30%。不过,Ultra 在长远规划类任务(如企业运筹)得分 33%,低于 GLM-5.1 的 40%,显示其强项更偏向执行而非战略规划。156
  • 上下文处理:100 万 Token 窗口 + 混合架构防止“目标漂移”
  • 智能体基准:Super 登顶 EnterpriseOps-Gym;Ultra 在 PinchBench 与 Kimi 并列
  • 任务侧重:Ultra 擅长编码与多源整合,长远规划非最强项
04技术架构与训练策略
Super 与 Ultra 共享三大核心技术:LatentMoE、混合 Mamba-Transformer 主干、NVFP4 原生训练。LatentMoE 在路由前对 Token 进行潜空间压缩,使 Super 能以单专家成本调用 4 倍专家数;Ultra 则延续此设计,提升专家协作稳定性。两者均使用 25 万亿 Token 预训练数据,并针对智能体框架后训练:Super 覆盖 21 种环境,Ultra 则适配 Hermes Agent、OpenHands 等主流平台。值得注意的是,Ultra 是首个全程 NVFP4 训练的 550B 模型,仅最后 15% 层及注意力模块保留 BF16 以保精度。这种量化策略使模型可在 H100 或 B200 上部署,但社区指出其显存需求仍超 300GB,非个人用户友好。278
05能力评估与市场定位
在 Artificial Analysis 智能评分中,Ultra 获 48 分,为美国开源模型最高,但仍低于中国 Kimi K2.6 的 54 分。Super 得分为 36 分,明显落后于 Ultra。GDPVal 基准测试中,Ultra NVFP4 版本得 47.9%,远低于 GPT-5.5 的 84.9%,但英伟达强调此类基准未必反映真实智能体任务表现。从定位看,Super 面向高频任务执行,Ultra 则定位于“最强大脑”角色,处理架构决策与跨源综合分析。企业应用方面,CrowdStrike 与 Palantir 已接入 Ultra 用于安全运维与复杂任务自主执行,而 Super 更多用于代码生成与工具调用等中等复杂度场景。91011

评论

评论区空态插画

当前文章无评论,是时候发表评论了