当RAG遇上复杂的多跳问答,常因信息碎片化与噪声而推理失焦。GraphAnchor提出了一种创新方案:在推理过程中动态构建轻量级知识图谱,作为锚点来整合多步线索,有效屏蔽噪声,提升LLM在长上下文下的推理准确性与鲁棒性。
智能速览
GraphAnchor旨在解决RAG在多跳问答中信息碎片化与噪声干扰的难题。
其核心是在推理过程中增量式构建和更新轻量级知识图谱。
该图谱作为结构化锚点,用于挂载关键实体和关系。
通过图剪枝机制,能有效维护核心证据链,防止信息膨胀。
最终显著提升LLM在长上下文下的多跳推理鲁棒性。
精华内容
GraphAnchor的核心思想是将图结构从静态知识库转变为动态的推理暂存区,其工作流程主要通过四个关键步骤来实现,从而精准引导LLM的推理方向。
锚点图构建
并非将检索到的文档全部塞入上下文,而是利用大模型从Top-K文档中提取与问题高度相关的三元组(主体,关系,客体)。这些三元组构成了初始的“锚点”子图,实现了从非结构化文本到结构化知识的初步转化,有效过滤了无关信息。
图合并与对齐
当新的子图被提取后,系统会将其与已有的累积图进行融合。此过程的关键在于实体对齐与关系整合,例如将“US”与“USA”识别为同一实体。通过这一步,模型能够打破单篇文档的限制,建立起跨文档的逻辑联系,为多跳推理奠定基础。
动态图剪枝
为避免图谱随迭代无限膨胀并引入噪声,GraphAnchor引入了剪枝机制。它通过类似PageRank的重要性评分或LLM的相关性判断,剔除与核心推理路径无关的边缘节点。这模仿了人类思考时“遗忘无关细节,保留核心线索”的过程,确保“工作记忆”的清晰与高效。
查询演化决策
在每一步迭代后,系统会将当前的图结构线性化为文本,并交由LLM进行评估。LLM判断图中的信息是否足以回答原始问题。如果信息不足,LLM会基于图中缺失的链路,生成一个更精准的子查询,引导下一轮的检索方向,实现智能化的查询演化。
GraphAnchor证明了图结构可以作为动态推理暂存区,有效弥补了LLM长上下文注意力分散的短板。这种显式的结构化索引比隐式的文本堆叠更能抵抗噪声。未来,动态知识图谱能否成为增强AI复杂推理能力的通用范式,值得期待。