张大妈

从Jetson Thor了解nvidia在物理AI的布局

源自小红薯:AI Infra之道

01-28 12:56

英伟达正构建一个从云端到边缘的完整物理AI生态。通过Blackwell架构和Jetson Thor等硬件,其实现了训练、仿真到部署的闭环,为机器人等领域的应用提供了底层技术支持。

从Jetson Thor了解nvidia在物理AI的布局智能速览

  • Blackwell架构采用双裸片设计,实现10TB/s片间互联。

  • Jetson Thor面向边缘端,提供T5000级算力支持实时推理。

  • 英伟达构建“云端训练-仿真验证-边缘部署”物理AI三平台闭环。

  • Holoscan技术能直入GPU显存,显著降低传感器数据处理延迟。

  • 第二代Transformer引擎与TensorRT-LLM结合,加速大模型推理。

从Jetson Thor了解nvidia在物理AI的布局精华内容

英伟达的物理AI战略并非空谈,而是通过具体的硬件平台与软件栈,将算力精准地注入到机器交互的每一个环节。

Blackwell创新

Blackwell架构是新一代AI计算的基石。其创新性地采用双裸片设计,通过高达10TB/s的NVLink技术互联,形成一个逻辑统一的GPU。配合第二代Transformer引擎与第五代Tensor Core,它能动态调整算力以进行混合精度计算。实测数据显示,其Ultra TensorCore可实现2倍的注意力层加速和1.5倍的AI计算FLOPS,显著提升大语言模型(LLM)与混合专家模型的训练与推理效率。

边缘算力核心

Jetson Thor是英伟达面向边缘侧实时推理的关键产品。它提供了T5000级别的算力与273GB/s的内存带宽,足以在端侧支撑大模型的运行。通过Holoscan技术,传感器数据可直接写入GPU显存,大幅降低了处理延迟。同时,MIG(多实例GPU)技术允许单个Jetson Thor并行运行多个AI模型或多智能体,为复杂的机器人任务提供了灵活的算力分配方案。

全栈生态

物理AI的实现需要一个完整的闭环生态。英伟达的策略是:在云端,利用DGX平台进行基础大模型的训练;在仿真层,通过OVX服务器配合Omniverse平台进行算法验证与合成数据生成;最后,在边缘侧,将验证过的模型部署到AGX或Jetson系列硬件中,与真实世界交互。Jetson Software Stack和AI Lab则打通了从开发到部署的全流程,确保了整个链条的高效运转。

英伟达通过硬件创新与软件生态的深度整合,为物理AI的未来描绘了一幅清晰的蓝图。当强大的算力无缝覆盖从数字世界到物理世界的每一个节点,下一个由AI驱动的工业革命或许已不再遥远。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
相关兴趣推荐