CES 2026 | NVIDIA BlueField-4助力新型AI原生存储基础设施

2026-01-07 22:02:46 0点赞 0收藏 0评论

英伟达宣布,NVIDIA BlueField-4数据处理器作为全栈NVIDIA BlueField平台的一部分,为 NVIDIA推理上下文记忆存储平台提供支持,这是一种新型AI原生存储基础设施,专为AI新前沿而打造。

CES 2026 | NVIDIA BlueField-4助力新型AI原生存储基础设施

随着AI模型扩展到数万亿参数和多步骤推理,它们会生成大量的上下文数据,并以键值(Key-Value,KV)缓存表示,这对准确性、用户体验和连续性至关重要。

键值(KV)缓存无法长期存储在GPU上,因为这会成为多智能体系统中实时推理的瓶颈。AI原生应用需要一种新型的可扩展基础设施来存储和共享这些数据。

NVIDIA推理上下文记忆存储平台通过扩展GPU内存容量为上下文记忆提供基础设施,实现跨节点的高速共享,与传统存储相比,可将每秒处理的token数量和能效提升高达5倍。

NVIDIA创始人兼首席执行官黄仁勋表示:“AI正在彻底改变整个计算堆栈,现在,存储也加入了这场变革。AI不再是那种单次交互的聊天机器人,而是能够理解物理世界、进行长期推理、基于事实、使用工具完成实际工作并兼具短期和长期记忆的智能协作伙伴。借助BlueField-4,NVIDIA及其软硬件合作伙伴正在为AI新前沿重塑存储堆栈。”

NVIDIA推理上下文记忆存储平台可提升键值(KV)缓存容量,并加速机架规模 AI 系统集群之间的上下文共享,同时为多轮 AI 智能体的上下文持久地提高响应速度和 AI 工厂吞吐量,并支持长上下文、多智能体推理的高效扩展。

基于NVIDIA BlueField-4提供支持的平台,主要功能包括:

NVIDIA Rubin 集群级键值(KV)缓存容量,可提供长上下文、多轮智能体推理所需的规模和效率。

与传统存储相比,能效提升高达5倍。

基于NVIDIA DOCA框架,实现了AI节点之间键值(KV)缓存的智能加速共享,并与 NVIDIA NIXL库和NVIDIA Dynamo软件紧密集成,从而更大限度地提高每秒token处理数量,缩短首个token生成所需的时间,并提高多轮响应速度。

由NVIDIA BlueField-4管理的硬件加速键值(KV)缓存部署可消除元数据开销,减少数据传输,并确保从GPU节点进行安全隔离的访问。

NVIDIA Spectrum-X以太网实现了高效的数据共享和检索,为基于RDMA访问的AI原生键值(KV)缓存提供了高性能网络架构。

包括AIC、Cloudian、DDN、Dell Technologies、HPE、Hitachi Vantara、IBM、Nutanix、Pure Storage、Supermicro、VAST Data和WEKA在内的存储领域创新者,已率先使用了BlueField-4构建新一代AI存储平台,并将于2026年下半年上市。

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松