Agentic RAG 工程实现:把企业公开知识、外部联网数据 和 敏感数据封装成工具
Agentic RAG 的工程实现核心,在于将不同来源的知识转化为稳定的检索能力,并将其封装为 Agent 可理解、可调用的工具。这一过程不仅是技术栈的升级,更是对数据治理、检索策略和系统架构的系统性重构。本文将从核心架构、数据治理、工具封装、Agent 流程与边界以及测试指标五个维度,梳理 Agentic RAG 的工程落地链路。
01核心架构与职责拆分
传统 RAG 系统通常包含文档加载、切分、嵌入和向量检索等基础组件。而 Agentic RAG 在此之上增加了工具封装、Agent 创建和生产治理等关键环节。在工程实现上,首要原则是清晰的职责拆分,避免将文档加载、向量库构建、工具封装和 Agent 创建全部耦合在单一文件中。
- 基础数据层
负责普通文档和敏感文档的加载、切分与存储,建立稳定的向量索引。 - 能力封装层
将检索能力封装为 Tool,定义清晰的工具名称、描述和参数结构。 - 代理编排层
创建 Agent 并绑定工具,根据系统提示词进行任务规划和工具选择。 - 生产治理层
处理权限控制、审批流程、限流和审计等横切关注点。
02数据治理:分层、切分与混合检索
企业级 RAG 系统必须对数据进行分层管理。工程上不建议将所有文档混在一个向量库中,而是应将普通知识(公开文档)与敏感数据(内部机密)分开加载、切分和建库。这种分离策略有助于后续针对不同数据类型实施差异化的权限控制、审批流程和审计策略。
- 元数据管理
文档加载时,必须重视 metadata 的设计。普通文档可包含 source、page、category 等信息;敏感文档则必须包含 access_level、department、owner 等关键字段。元数据是企业 RAG 后续治理的基础。 - 文档切分策略
切分目标是平衡上下文完整性与索引效率。推荐策略是保留一定的 chunk_overlap(如 50-200 tokens),以防止关键信息被切断,同时避免重叠过多导致索引膨胀。参数需根据文档类型(如技术文档、合同、财报)进行差异化调整。 - 混合检索
向量检索擅长语义匹配,但在处理专有名词、错误码或精确编号时表现不佳。工程上应采用“向量检索 + BM25”的混合策略(如 EnsembleRetriever),并针对不同数据类型调整权重(如 [0.5, 0.5]),通过测试集评估确定最优配比。
03工具封装:三类知识源定义
在 Agentic RAG 中,检索能力应封装为 Tool,而非 Middleware,因为检索是需要 Agent 根据上下文判断是否调用的业务能力。工具名称和描述直接决定了 Agent 的路由选择,必须清晰且具指导性。
| 工具类型 | 适用场景 | 风险控制 | 示例描述 |
|---|---|---|---|
| Web Search Tool | 查询实时新闻、外部动态或内部知识库未覆盖的内容。 | 提示词需强调检索结果仅为数据参考,避免误导模型。 | 搜索互联网以获取最新的实时信息或外部资料。 |
| Normal Knowledge Base | 查询内部公开技术文档、操作手册等非敏感知识。 | 工具内部可增加关键词边界检查,减少 Agent 误调用。 | 查询内部技术文档、产品手册等通用知识库内容。 |
| Sensitive Knowledge Base | 查询涉及财务、人事或核心代码的机密信息。 | 参数设计需包含权限验证;后续必须接入审批和审计流。 | 查询高敏感级别的内部机密数据,需严格权限校验。 |
Agentic RAG 核心工具分类与设计
04Agent 流程与系统边界
Agent 的核心任务是根据用户问题选择合适的工具。系统提示词应给出总体规则,明确何时调用内部知识、何时使用联网搜索,以及如何处理敏感数据请求。同时,必须清晰界定 Tool、Middleware 和 Graph 节点的使用边界,以确保系统架构的清晰与可维护性。
系统逻辑归属划分
Tool(工具)
需要模型根据上下文动态判断是否调用的能力。
典型的业务能力,如检索、搜索、计算。
封装了具体的执行逻辑和参数接口。


Middleware(中间件)
每次运行都必须自动发生的治理逻辑。
横切关注点,如权限、审批、限流、审计。
不属于业务决策,而是系统层面的强制约束。
对于固定的业务流程(如特定的多步审查链),建议放入 LangGraph 节点而非 Tool,以减少模型的推理负担。此外,业务基础设施(如用户管理、支付网关)不应塞入 Agent 代码,Agent 应仅作为调用方存在。
05测试指标与验证标准
工程实现完成后,需通过多维度测试验证系统的稳定性。建议至少准备四类测试用例:无需外部工具的基础问答、需要多源信息对比的复杂问题、敏感数据访问请求以及针对误调用场景的防御测试。
- 工具选择准确率
验证 Agent 是否能根据问题意图正确选择 Web Search、普通知识库或敏感知识库。 - 召回质量
评估检索内容是否包含足够的上下文信息以支持模型生成答案,避免空泛回答。 - 上下文格式规范性
检查工具输出是否包含来源、时间戳等元数据,便于 Agent 综合处理和溯源。 - 边界防御能力
测试工具内部是否能有效识别并拒绝越权查询或不相关的检索请求。
当前文章无评论,是时候发表评论了