搭建企业知识库时,是否为 RAG 的 chunk 调优、阈值设置所困扰?一种新思路主张,对于中小规模知识库,让 AI Agent 直接读取文件,或许比依赖 Embedding 更高效、更准确,能从根本上解决信息聚合和知识库更新的难题。
智能速览
传统 RAG 存在调优困难、信息聚合能力差、更新成本高等痛点。
EFKA 项目提出让 AI Agent 直接读文件,实现无需 Embedding 的知识库。
双 Agent 设计将业务逻辑置于 Prompt 中,提升了灵活性和迭代速度。
LLM 上下文窗口扩大、推理成本下降为该方案提供了技术可行性。
该方案更适用于对准确性要求高、文档量小于 10 万的中小型知识库。
精华内容
RAG 的复杂性是否掩盖了其本质?一个名为 EFKA 的开源项目试图回归本源,挑战传统范式,探索一条更直接的技术路径。
RAG 的四大困境
检索增强生成(RAG)在实际应用中面临诸多挑战。首先是 chunk 调优的折磨,开发者需花费大量时间寻找最优分块策略,效果却不稳定。其次,相似度阈值的设定如同玄学,比如用户搜“API 速率限制”,但文档写的是“请求节流”,模型因语义差异可能无法匹配,导致检索失败。
再者,RAG 难以完成信息聚合任务。当用户要求“把 Q1-Q3 的周报汇总成季报”时,所有周报因内容相似被同时召回,但模型无法区分来源,导致结果混乱。最后,知识库更新成本高昂,新增一批文档往往需要重建整个向量索引,过程繁琐且耗时。
EFKA 的新思路
针对上述痛点,EFKA 项目提出了一种颠覆性方案:让 AI Agent 直接读取文件,完全绕过 Embedding。其核心是采用管理员 Agent 和用户 Agent 的双 Agent 架构。管理员 Agent 负责理解用户意图,规划任务,并调用用户 Agent。
用户 Agent 则负责执行具体指令,如读取文件、使用 grep 搜索等。这种设计的关键优势在于,业务逻辑被封装在 Prompt 中,而非代码里。当需求变更时,只需修改 Prompt 即可快速迭代,无需改动和重新部署代码,极大提升了灵活性。
适用场景与局限
这种 Embedding-Free 的方案并非万能,它有明确的适用边界。其局限性在于处理速度相对较慢,因为 Agent 需要实时读取和解析完整文件,而非通过向量快速匹配。因此,它不适用于百万级文档的超大规模知识库,对即时响应速度要求极高的场景也同样不合适。
它的最佳应用场景是文档量在 10 万以内的中小型知识库,尤其是那些对答案准确性要求远高于检索速度的业务。在这样的场景下,牺牲一点速度换来更精准、更少“幻觉”的结果,是值得的。
技术趋势的支撑
EFKA 的出现并非偶然,而是建立在三大技术趋势之上。首先,大语言模型(LLM)的上下文窗口正以前所未有的速度扩大,例如 Claude 已支持 200K token,足以一次性读完一本书,这使得 Embedding 的“信息压缩”优势逐渐减弱。
其次,Agent 的能力越来越强,它们不再是简单的问答机器,而是能够主动使用工具的智能体。让 Agent 自己去搜索和阅读文件,比人为为其切分好“预制菜”更灵活。最后,推理成本的持续下降,让“多读点文件”的代价变得可以接受,为该方案的经济可行性提供了保障。
EFKA 的实践提供了一个反思视角:技术选型应回归业务本质。当方法论的复杂性超过其带来的价值时,或许回归简单才是正解。未来的知识库,会是 Embedding 与 Agent 的共存,还是某种模式的彻底胜出?