NVIDIA 正通过 Jetson Thor 芯片加速物理 AI 的落地。这款新一代边缘计算节点不仅解决了实时推理的关键延迟问题,更揭示了英伟达从云端训练到边缘部署的完整技术布局,为理解物理世界的智能化进程提供了清晰的蓝图。
智能速览
Blackwell 架构通过双裸片与高速互联实现统一算力。
Jetson Thor 芯片为边缘端提供高密度算力与超大内存带宽。
Holoscan 技术直连传感器与 GPU,绕过 CPU 以降低数据延迟。
MIG 功能让单颗 GPU 可分割成多个实例,并行处理不同任务。
英伟达打造了从云端训练、仿真验证到边缘部署的物理 AI 全链路。
精华内容
Jetson Thor 的问世不仅是硬件的迭代,更是英伟达物理 AI 战略的关键落子。其内部的创新设计,正是为了解决 AI 走入物理世界的核心挑战。
Blackwell 底座
Blackwell 架构作为新一代 GPU 的基石,通过将两颗极限光刻尺寸的裸片以 10TB/s 的超高速片间互联技术融合,实现了前所未有的统一算力。
其第二代 Transformer 引擎与 Blackwell Ultra Tensor Core 协同工作,可动态调整算力,为 LLM 和 MoE 模型带来最高 2 倍的注意力层加速与 1.5 倍的 AI 计算性能提升。
通信方面,NVLink 交换机芯片在 72 GPU 的集群中能提供 130TB/s 的总带宽。同时,全新的 Microscaling Precision 数据格式通过引入共享缩放因子,有效扩展了数据表示范围,对大规模计算更为友好。
边缘实时推理
Jetson Thor 作为新一代边缘推理核心,在紧凑体积内实现了高达 2070 Sparse FP4 TFLOPs 的峰值算力,并配备了 128GB LPDDR5X 内存,提供 273GB/s 的带宽,相较上一代 Orin 芯片实现全方位飞跃。
针对传感器数据处理延迟这一关键痛点,Thor 创新性地设计了 Holoscan 高保真传感器桥接器。该技术在 FPGA 上运行网络协议,使传感器数据绕过 CPU 直接写入 GPU 显存,对 USB 相机等设备可实现高达 5 倍的性能提升。
此外,MIG 技术支持将单一 GPU 划分为多个独立实例,允许在同一设备上并行运行感知、决策、控制等多个 AI 模型,实现高效的低延迟多任务协作。
物理 AI 闭环
英伟达的物理 AI 布局构建了一个从虚拟到现实的完整闭环。开发流程始于云端,利用 DGX 系统训练基础大模型;随后在 OVX 平台结合 Omniverse 高保真仿真环境,对模型进行微调、数据生成和全面验证,确保其在部署前的可靠性与安全性。
验证通过后,模型最终被部署到 AGX 或 Jetson 等边缘计算设备上,在真实物理世界中执行任务。
这一全流程由 Jetson Software Stack 和 Jetson AI Lab 等软件工具链串联,为开发者提供了从模型开发到落地部署的一站式支持,极大地加速了物理 AI 的应用进程。
从 Blackwell 架构到 Jetson Thor,英伟达正系统性地将 AI 能力从云端推向物理世界边缘。这套完整的软硬件协同方案,不仅解决了实时智能交互的核心难题,也预示着一个万物皆可智能交互时代的到来。下一个挑战,将是开发者如何利用这些工具,创造出改变生活的机器人应用。