传统RAG系统因重复编码而效率低下，尤其在处理长文档时计算成本高昂。EmbeddingRWKV模型提出了一种以状态为核心的检索新范式，通过复用模型状态信息，成功将检索速度提升44倍，为构建更高效的RAG系统提供了切实可行的解决方案。
智能速览
传统RAG存在冗余计算和二次方复杂度问题。
新方法以“状态”为核心，连接嵌入与重排序阶段。
EmbeddingRWKV基于线性RNN架构，生成可复用状态。
推理成本与文档长度成功解耦，显著降低开销。
实验证实最高可实现44.8倍的检索加速。
仅用25%的模型层即可保持98.62%以上的性能。
精华内容
EmbeddingRWKV模型的核心在于打破传统RAG的两阶段流水线，它如何通过“状态”这一巧妙设计，实现效率与性能的双重突破？
传统RAG的瓶颈
传统检索增强生成（RAG）系统普遍采用“嵌入模型初选+重排序器精排”的两阶段流水线。这种架构的弊端在于两个阶段完全独立，缺乏信息共享，导致对同一文档的重复编码，造成大量冗余计算。
尤其当面对长文档时，基于Transformer的模型会因其二次方计算复杂度和线性增长的KV缓存内存消耗，使效率瓶颈愈发凸显，严重限制了RAG在实际应用中的响应速度和可扩展性。
状态为核心的革新
为解决上述难题，研究团队提出了以“状态”为核心的新型检索范式。其核心思想是利用一个可复用的状态向量，作为连接嵌入与重排序阶段的桥梁，从而彻底消除重复编码。
具体实现上，团队基于RWKV线性RNN架构，构建了EmbeddingRWKV模型。该模型通过单阶段领域感知课程学习，为每个文档生成一个紧凑且可复用的状态。这种设计使得后续的重排序器无需再次处理整个文档，仅需处理查询词元即可，实现了推理成本与文档长度的解耦。
实证结果与效率
该方法的优越性在多项实验中得到了验证。在MTEB和NanoBEIR等权威检索基准测试中，EmbeddingRWKV不仅展现了优异的嵌入与重排序性能，更在计算效率上取得了突破性进展。
实验数据显示，该模型实现了5.4倍至44.8倍的惊人加速比。尤为关键的是，通过消融实验发现，仅使用模型25%的层进行状态生成，便足以保持原模型98.62%的性能，这极大地释放了计算资源，验证了状态复用策略的高效性。
EmbeddingRWKV通过引入状态复用机制，为RAG技术的效率优化指明了新方向。它不仅在理论上统一了检索流程，更在实践中证明了其巨大的加速潜力，为处理大规模和长文档知识库提供了强大支持。未来，这种以状态为中心的架构会否成为RAG系统的新标准？
