随着多模态大模型图像分辨率和视频时长的增加，视觉Token数量呈指数级增长，严重制约了模型效率。一篇关于Token压缩的新综述，首次从“压缩位置”系统梳理算法，并提供了实际部署的选型路线图，为高效MLLM和长上下文建模的发展提供了宝贵参考。
智能速览
视觉Token数量激增是制约多模态大模型效率的关键瓶颈。
综述首次提出从“压缩位置”视角，系统梳理各类Token压缩算法。
为实际部署者提供了选择合适压缩算法的实用路线图。
深入探讨了长视频处理、文本指导与纯视觉压缩等核心权衡。
全面对比了Token合并与丢弃、即插即用与重训练等不同技术路径。
精华内容
面对日益增长的视觉Token压力，学术界提出了多种压缩方案。这篇综述的独特之处在于，它不仅列举技术，更提供了一个清晰的框架来理解这些方案在模型不同阶段的作用与取舍。
压缩位置视角
与以往研究不同，该综述的核心创新点在于引入了“压缩位置视角”。它将Token压缩算法的系统应用位置划分为四类：Vision Encoder（视觉编码器）、Projector（投影层）、LLM Backbone（语言模型主干）以及混合架构。
在Vision Encoder阶段压缩，可以最早减少数据量，但可能损失原始视觉信息。
在Projector阶段操作，能够平衡视觉特征与文本表示的映射关系。
而在LLM Backbone中进行压缩，则可以利用语言的上下文信息进行更智能的筛选，但计算成本更高。
选型路线图
该综述从应用者角度出发，构建了一个实用的算法选型路线图。它重点探讨了在实际部署中需要考虑的关键Trade-off，帮助开发者和研究者根据自身需求做出明智决策。
例如，对于需要处理小时级超长视频的场景，哪些压缩策略更有效？在模型资源受限时，应该优先考虑即插即用的轻量模块，还是投入成本进行模型重训练？
核心技术权衡
路线图深入剖析了多组核心的技术权衡。其中，“Token Merging”与“Token Dropping”是两种基本思路，前者通过融合相似Token保留更多信息，后者则直接丢弃冗余Token，速度更快。
另一组关键对比是“Vision-only”与“Text-guided”压缩。后者利用文本信息辅助视觉Token的筛选，通常精度更高，但依赖于文本质量。
此外，综述还清晰地区分了旨在加速训练过程和优化推理效率的模块，为不同阶段的优化提供了明确指导。
这篇综述系统化地梳理了多模态大模型的Token压缩技术，不仅提供了理论框架，更给出了极具实践价值的部署指南。随着模型规模的持续扩大和应用场景的不断丰富，Token压缩技术将成为构建高效、低成本AI应用的关键。未来的研究方向将如何在精度与速度间找到更优的平衡点？
