从Jetson Thor了解nvidia在物理AI的布局

源自公众号:AI Infra之道

01-27 20:33

NVIDIA 正通过 Jetson Thor 芯片加速物理 AI 的落地。这款新一代边缘计算节点不仅解决了实时推理的关键延迟问题,更揭示了英伟达从云端训练到边缘部署的完整技术布局,为理解物理世界的智能化进程提供了清晰的蓝图。

从Jetson Thor了解nvidia在物理AI的布局智能速览

  • Blackwell 架构通过双裸片与高速互联实现统一算力。

  • Jetson Thor 芯片为边缘端提供高密度算力与超大内存带宽。

  • Holoscan 技术直连传感器与 GPU,绕过 CPU 以降低数据延迟。

  • MIG 功能让单颗 GPU 可分割成多个实例,并行处理不同任务。

  • 英伟达打造了从云端训练、仿真验证到边缘部署的物理 AI 全链路。

从Jetson Thor了解nvidia在物理AI的布局精华内容

Jetson Thor 的问世不仅是硬件的迭代,更是英伟达物理 AI 战略的关键落子。其内部的创新设计,正是为了解决 AI 走入物理世界的核心挑战。

Blackwell 底座

Blackwell 架构作为新一代 GPU 的基石,通过将两颗极限光刻尺寸的裸片以 10TB/s 的超高速片间互联技术融合,实现了前所未有的统一算力。

其第二代 Transformer 引擎与 Blackwell Ultra Tensor Core 协同工作,可动态调整算力,为 LLM 和 MoE 模型带来最高 2 倍的注意力层加速与 1.5 倍的 AI 计算性能提升。

通信方面,NVLink 交换机芯片在 72 GPU 的集群中能提供 130TB/s 的总带宽。同时,全新的 Microscaling Precision 数据格式通过引入共享缩放因子,有效扩展了数据表示范围,对大规模计算更为友好。

边缘实时推理

Jetson Thor 作为新一代边缘推理核心,在紧凑体积内实现了高达 2070 Sparse FP4 TFLOPs 的峰值算力,并配备了 128GB LPDDR5X 内存,提供 273GB/s 的带宽,相较上一代 Orin 芯片实现全方位飞跃。

针对传感器数据处理延迟这一关键痛点,Thor 创新性地设计了 Holoscan 高保真传感器桥接器。该技术在 FPGA 上运行网络协议,使传感器数据绕过 CPU 直接写入 GPU 显存,对 USB 相机等设备可实现高达 5 倍的性能提升。

此外,MIG 技术支持将单一 GPU 划分为多个独立实例,允许在同一设备上并行运行感知、决策、控制等多个 AI 模型,实现高效的低延迟多任务协作。

物理 AI 闭环

英伟达的物理 AI 布局构建了一个从虚拟到现实的完整闭环。开发流程始于云端,利用 DGX 系统训练基础大模型;随后在 OVX 平台结合 Omniverse 高保真仿真环境,对模型进行微调、数据生成和全面验证,确保其在部署前的可靠性与安全性。

验证通过后,模型最终被部署到 AGX 或 Jetson 等边缘计算设备上,在真实物理世界中执行任务。

这一全流程由 Jetson Software Stack 和 Jetson AI Lab 等软件工具链串联,为开发者提供了从模型开发到落地部署的一站式支持,极大地加速了物理 AI 的应用进程。

从 Blackwell 架构到 Jetson Thor,英伟达正系统性地将 AI 能力从云端推向物理世界边缘。这套完整的软硬件协同方案,不仅解决了实时智能交互的核心难题,也预示着一个万物皆可智能交互时代的到来。下一个挑战,将是开发者如何利用这些工具,创造出改变生活的机器人应用。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章