英伟达发布的BlueField-4 DPU，作为下一代AI平台的关键组件，通过全新的“推理上下文记忆存储”（ICMS）架构，正深刻重塑存储市场。它巧妙地将AI的“记忆”从昂贵的GPU显存转移至大容量NAND闪存，不仅解决了长文本推理的瓶颈问题，更预示着一场存储产业的变革即将到来。
智能速览
BlueField-4 DPU通过ICMS架构解决AI长文本推理的KV缓存瓶颈。
其网络速度和计算性能分别是前代的两倍和六倍。
该架构将AI记忆从GPU显存转移至大容量NAND闪存，能效比最高提升5倍。
每颗GPU预计将配备16TB的NAND闪存，可能引发企业级SSD价格上涨。
存储系统正从“仓库”转变为参与AI推理的“上下文层”。
精华内容
AI的“记忆”问题正成为新的瓶颈，而英伟达的BlueField-4 DPU通过一个巧妙的架构设计，不仅解决了这一问题，更可能引爆整个存储市场的变革。
KV缓存瓶颈与ICMS解法
随着“代理式AI”和长文本推理的普及，AI的“短期记忆”——KV缓存规模激增，迅速占满昂贵且容量有限的GPU显存，成为新的性能瓶颈。
BlueField-4 DPU管理的ICMS平台，核心思路是将KV缓存从GPU显存中解放出来。它把不常用的缓存数据迁移到大容量、低成本的NAND闪存中，形成一个跨集群共享的层级化存储结构。
当AI需要调用这些“记忆”时，BlueField-4能以极快速度将其调回。这种架构变革，使得AI的Token处理速度和能效比最高均可提升5倍。
硬件性能全面跃升
为支撑ICMS架构，BlueField-4的硬件规格实现了巨大飞跃。其网络连接速度从前代BlueField-3的400 Gb/s提升至800 Gb/s，实现了翻倍增长，确保数据传输无瓶颈。
在计算能力上，它集成了64核Grace CPU和高带宽LPDDR内存，整体计算性能达到前代的6倍，能够高效处理复杂的数据调度和管理任务。
此外，它还支持线速加密和NVMe-oF连接加速，并通过ASTRA架构为多租户AI环境提供硬件级的安全隔离。
存储市场的三重冲击
BlueField-4的出现，正从三个层面冲击着存储市场。首先是需求冲击，AI推理的重心从计算转向存储，在Rubin架构中，每颗GPU预计将配备高达16TB的NAND闪存专门存放AI“记忆”。这种万倍于传统服务器的存储需求，可能导致企业级SSD供应紧张并引发价格上涨。
其次是品类冲击，存储系统不再是单纯的“数据仓库”，而是转变为直接参与AI推理过程的“上下文层”，开创了“AI原生存储”新类别。Dell、HPE、IBM等巨头已基于此打造下一代平台。
最后是产业链冲击，存储控制器芯片的地位显著提升，具备相关技术积累的公司将成为这一变革的主要受益者。
英伟达BlueField-4不仅是一次硬件升级，更是对AI基础设施架构的重新思考。它揭示了AI与存储深度融合的未来趋势，将存储从配角推向了舞台中央。或许，一个由AI定义的存储新时代，正由它拉开序幕。
