面对AI智能体推理时GPU大量空转的行业难题，DeepSeek联合清北团队推出全新推理框架DualPath。该框架通过解耦计算与存储访问，实现数据加载与计算的并行处理，直接瞄准了多轮智能体场景下的核心性能瓶颈，有望大幅提升AI服务效率并降低推理成本。
智能速览
GPU空转是AI智能体推理的核心瓶颈，源于KV Cache的I/O限制。
DualPath框架创新性地实现了计算与存储访问的并行处理。
引入双路径加载机制，将庞大的KV Cache切块流式处理。
实测显示，离线推理吞吐量最高提升1.87倍，在线场景提升1.96倍。
该技术标志着AI行业从“算力为王”转向“带宽决胜”的新阶段。
精华内容
随着AI智能体任务日益复杂，传统推理架构已无法应对数据加载瓶颈。DeepSeek的DualPath框架应运而生，它如何从根本上改变游戏规则？
GPU空转之困
在多轮智能体任务中，AI模型需要处理长达数百万token的上下文，这产生了巨大的KV Cache（键值缓存）数据。由于昂贵的GPU显存（HBM）容量有限，行业通常将这部分数据暂存于SSD或主内存中。然而，传统串行架构在调用这些旧记忆时，必须暂停计算，等待数据通过带宽有限的PCIe总线缓慢回传至显存。
DeepSeek的研究指出，在智能体编码场景下，KV缓存命中率高达98.7%，缓存加载量与计算量的比率（GB/PFLOP）约为22。这意味着GPU在大量时间里并非在计算，而是在空等数据，造成了严重的算力浪费。
双路径并行术
DualPath架构的核心，是将“思考”与“回忆”从串行变为并行，即计算与存储访问的解耦。它设计了“存储路径”和“计算路径”两条独立流水线：前者负责从外部存储搬运KV Cache数据块，后者则利用已就绪的数据块立刻开始计算。
这种机制好比在线视频，无需等待整部电影下载完成，只需缓冲一小段即可播放。通过Chunk-based Streaming（块式流处理）技术，庞大的KV Cache被切分成小块，当计算单元处理第N块时，存储单元已在后台预加载第N+1块，实现了数据的无缝流转，彻底榨干了网络带宽。
性能近翻倍
在标准的智能体推理基准测试中，DualPath带来了惊人的性能飞跃。数据显示，该框架将系统的离线推理吞吐量最高提升了1.87倍，在线场景下的每秒智能体运行次数提升了1.96倍。这意味着在同等硬件成本下，Agent的反应速度几乎快了一倍，或者说维持同等体验的成本被直接腰斩。
甚至在由1152块GPU组成的集群上，该系统也展现出了优秀的线性扩展能力，成功支持了4.8万个并发智能体，证明了其在超大规模部署下的潜力。
带宽决胜时代
DualPath的诞生，不仅是一次技术优化，更是一个行业信号。它宣告了单纯堆砌算力的Pre-filling时代正在过去，一个以高效服务智能体为核心的Agentic Serving时代已然来临。当参数规模不再是最主要矛盾时，I/O（输入输出）带宽成为了新的决胜关键。
这种将AI视为基础设施的思维，通过极致的软硬件协同设计，正将AI从“在线计算”的束缚中解放出来，为通往更强大、更通用的AGI铺平了道路。
DualPath框架的问世，不仅是解决了一次性能瓶颈，更是揭示了AI基础设施演进的新方向。它证明了极致的软硬件协同能释放出巨大潜力，为未来更复杂、更长周期的AI智能体应用铺平了道路，或许真正的AGI已不再遥远。
关键评论
网友虽不懂具体技术，但普遍感受到其突破性，称“感觉很牛逼”。
有评论将DeepSeek的高效比作珍惜粮食，认为榨干GPU算力是正确的方向。
有网友将此技术突破与英伟达股价波动联系起来，猜测其可能影响市场预期。
