什么值得买App下载 App ›
连续签到专享现金活动

Agentic RAG 工程实现:把企业公开知识、外部联网数据 和 敏感数据封装成工具

Agentic RAG 的工程实现核心,在于将不同来源的知识转化为稳定的检索能力,并将其封装为 Agent 可理解、可调用的工具。这一过程不仅是技术栈的升级,更是对数据治理、检索策略和系统架构的系统性重构。本文将从核心架构、数据治理、工具封装、Agent 流程与边界以及测试指标五个维度,梳理 Agentic RAG 的工程落地链路。
01核心架构与职责拆分
传统 RAG 系统通常包含文档加载、切分、嵌入和向量检索等基础组件。而 Agentic RAG 在此之上增加了工具封装、Agent 创建和生产治理等关键环节。在工程实现上,首要原则是清晰的职责拆分,避免将文档加载、向量库构建、工具封装和 Agent 创建全部耦合在单一文件中。
  • 基础数据层
    负责普通文档和敏感文档的加载、切分与存储,建立稳定的向量索引。
  • 能力封装层
    将检索能力封装为 Tool,定义清晰的工具名称、描述和参数结构。
  • 代理编排层
    创建 Agent 并绑定工具,根据系统提示词进行任务规划和工具选择。
  • 生产治理层
    处理权限控制、审批流程、限流和审计等横切关注点。
02数据治理:分层、切分与混合检索
企业级 RAG 系统必须对数据进行分层管理。工程上不建议将所有文档混在一个向量库中,而是应将普通知识(公开文档)与敏感数据(内部机密)分开加载、切分和建库。这种分离策略有助于后续针对不同数据类型实施差异化的权限控制、审批流程和审计策略。
  1. 元数据管理
    文档加载时,必须重视 metadata 的设计。普通文档可包含 source、page、category 等信息;敏感文档则必须包含 access_level、department、owner 等关键字段。元数据是企业 RAG 后续治理的基础。
  2. 文档切分策略
    切分目标是平衡上下文完整性与索引效率。推荐策略是保留一定的 chunk_overlap(如 50-200 tokens),以防止关键信息被切断,同时避免重叠过多导致索引膨胀。参数需根据文档类型(如技术文档、合同、财报)进行差异化调整。
  3. 混合检索
    向量检索擅长语义匹配,但在处理专有名词、错误码或精确编号时表现不佳。工程上应采用“向量检索 + BM25”的混合策略(如 EnsembleRetriever),并针对不同数据类型调整权重(如 [0.5, 0.5]),通过测试集评估确定最优配比。
03工具封装:三类知识源定义
在 Agentic RAG 中,检索能力应封装为 Tool,而非 Middleware,因为检索是需要 Agent 根据上下文判断是否调用的业务能力。工具名称和描述直接决定了 Agent 的路由选择,必须清晰且具指导性。
工具类型适用场景风险控制示例描述
Web Search Tool查询实时新闻、外部动态或内部知识库未覆盖的内容。提示词需强调检索结果仅为数据参考,避免误导模型。搜索互联网以获取最新的实时信息或外部资料。
Normal Knowledge Base查询内部公开技术文档、操作手册等非敏感知识。工具内部可增加关键词边界检查,减少 Agent 误调用。查询内部技术文档、产品手册等通用知识库内容。
Sensitive Knowledge Base查询涉及财务、人事或核心代码的机密信息。参数设计需包含权限验证;后续必须接入审批和审计流。查询高敏感级别的内部机密数据,需严格权限校验。

Agentic RAG 核心工具分类与设计

04Agent 流程与系统边界
Agent 的核心任务是根据用户问题选择合适的工具。系统提示词应给出总体规则,明确何时调用内部知识、何时使用联网搜索,以及如何处理敏感数据请求。同时,必须清晰界定 Tool、Middleware 和 Graph 节点的使用边界,以确保系统架构的清晰与可维护性。

系统逻辑归属划分

Tool(工具)
  • 需要模型根据上下文动态判断是否调用的能力。

  • 典型的业务能力,如检索、搜索、计算。

  • 封装了具体的执行逻辑和参数接口。

Middleware(中间件)
  • 每次运行都必须自动发生的治理逻辑。

  • 横切关注点,如权限、审批、限流、审计。

  • 不属于业务决策,而是系统层面的强制约束。

对于固定的业务流程(如特定的多步审查链),建议放入 LangGraph 节点而非 Tool,以减少模型的推理负担。此外,业务基础设施(如用户管理、支付网关)不应塞入 Agent 代码,Agent 应仅作为调用方存在。
05测试指标与验证标准
工程实现完成后,需通过多维度测试验证系统的稳定性。建议至少准备四类测试用例:无需外部工具的基础问答、需要多源信息对比的复杂问题、敏感数据访问请求以及针对误调用场景的防御测试。
  • 工具选择准确率
    验证 Agent 是否能根据问题意图正确选择 Web Search、普通知识库或敏感知识库。
  • 召回质量
    评估检索内容是否包含足够的上下文信息以支持模型生成答案,避免空泛回答。
  • 上下文格式规范性
    检查工具输出是否包含来源、时间戳等元数据,便于 Agent 综合处理和溯源。
  • 边界防御能力
    测试工具内部是否能有效识别并拒绝越权查询或不相关的检索请求。

评论

评论区空态插画

当前文章无评论,是时候发表评论了