随着大模型上下文扩展，KV Cache已成为推理服务效率的核心瓶颈。最新综述创新性地从时间、空间、结构三维视角系统梳理优化方法，为LLM基础设施提供全新解决思路。
智能速览
KV Cache显存占用随上下文增长急剧膨胀
时-空-构三维视角重构优化方法论
七大二级类别覆盖主要优化策略
交叉分析揭示七大关键观察
提炼六大开放挑战指明方向
精华内容
面对百余篇优化论文，如何找到系统性的认知框架？该综述从MLSys思维出发，提出时-空-构三维视角，让优化策略的内在逻辑与协同模式变得清晰可见。
瓶颈根源
大语言模型向1M上下文演进过程中，KV Cache问题日益凸显。自回归生成特性要求模型存储历史token的key-value状态，避免重复计算，但KV Cache显存占用随上下文长度呈线性增长，形成内存瓶颈。过去两年相关优化工作爆炸式增长，但现有综述多将KV Cache作为子模块简要讨论，缺乏系统性梳理。
三维视角
该综述创新性地提出以系统行为视角组织KV Cache优化技术，按时间、空间、结构三个维度划分。执行与调度关注KV何时被访问计算；放置与迁移关注KV存储位置；表示与留存关注KV数据形态。这种分类更容易对齐工程实现与组合策略，而非传统按算法或流程划分。
七大分类
基于三维视角，现有工作被系统归类为：以KV为中心的调度（KVS）、流水线与重叠（OVLP）、硬件感知的执行（HAE）、跨内存层级的KV编排（MHO）、跨计算设备的KV编排（CDO）、KV cache压缩（KVCC）、KV cache留存管理（KVRM）。每个类别都有具体技术方法、关键要点和局限权衡分析。
深度观察
通过对百余篇论文的全局交叉分析，揭示了不同维度优化策略的协同模式。研究发现结构维度（如量化）虽然论文最多，但往往在系统中形成孤岛。跨行为共现分析显示，某些组合策略的协同效应被低估，为实际工程应用提供了重要参考。
开放挑战
基于关键观察，综述提炼出六大开放挑战。除了效率与质量的权衡外，特别指出可信度的隐形崩塌问题。例如，优化过程中模型输出的稳定性、一致性等可信度指标往往被忽视。这些挑战为未来研究方向提供了明确指引。
资源生态
为方便社区追踪进展，作者同步维护了Awesome-KV-Cache-Optimization资源库，收录并持续更新sKis领域最新论文和代码实现。这一基础设施将帮助研究者快速定位相关方法，减少重复工作，促进技术交流与合作。
这篇综述不仅系统梳理了KV Cache优化现状，更提出了前瞻性挑战。三维视角为LLM基础设施提供新思路，期待激发更高效可信的系统探索。面对不断增长的上下文需求，这些优化策略将如何演进？
