面对海量数据的知识获取挑战,优图实验室构建了一套覆盖语义、结构化表与图检索的全栈RAG体系。该体系通过2B级Embedding模型、LLM Reranker、自研GraphRAG框架等创新,显著提升了检索与生成效果,为AI落地提供了高效、精准的技术方案。
智能速览
apd-embedding-2b模型通过多阶段训练实现开源与业务集SOTA。
采用LLM作为Reranker,结合分层知识蒸馏提升检索精准度。
融合Text2SQL与RAG,解决非技术人员对结构化数据的查询难题。
自研GraphRAG框架通过知识树结构,兼顾构图效率与复杂推理能力。
优图GraphRAG的构图Token成本降至百万级,远低于主流方案。
精华内容
这套全栈RAG体系并非孤立模块的堆砌,而是环环相扣的技术集合。下文将深入其核心架构,拆解其实现高性能检索与推理的关键所在。
语义检索基石
优图实验室的apd-embedding-2b模型是语义检索的核心,其通过弱监督与有监督对比学习、指令感知训练的多阶段管线,有效增强了模型的判别能力与指令遵循能力。
模型在数据工程上投入巨大,构建了千万级语料库用于难负样本挖掘,并通过Reranker模型对训练语料进行二次筛选,实现label层面的知识蒸馏,确保了数据质量。
凭借这些优化,apd-embedding-2b在C-MTEB中文榜单的IR与STS任务上均达到SOTA。更重要的是,在业务测试中,该2B模型效果超越了竞品的4B和8B模型,实现了性能与效率的领先。
重排序模型升级
为弥补向量模型无法捕捉查询与文档间深度交互的不足,优图将Reranker升级为LLM架构,显著增强了模型对复杂问题的理解能力和更长的文本支持。
其创新点在于引入了分层知识蒸馏损失,约束模型不同Transformer层的输出保持一致性,使其具备层级输出能力。这意味着用户可根据需求选择不同层的输出,在性能和推理速度间灵活权衡。
结合一套自动化的高质量业务数据构造流程,精调后的LLM Reranker在业务评测中效果显著优于线上版本,有效提升了最终检索结果的准确性。
结构化数据突破
针对企业海量的结构化数据,优图通过融合RAG与Text2SQL技术,让用户能以自然语言查询数据库。其核心是基于多智能体的MAC-SQL框架,通过筛选器、分解器和优化器的协作,处理复杂查询,执行准确率超越ChatGPT-3.5。
此外,对于现实场景中常见的非标准表格文件,团队设计了高精度的智能结构化解析方案,能将嵌套、合并的表格转化为标准结构化表,解析精度超过90%。
结合ES与MySQL的双引擎查询架构,有效弥补了MySQL在模糊查询上的不足,显著提升了复杂查询的召回率与准确性。
图检索技术创新
优图自研的GraphRAG框架,旨在解决现有方案构图效率低、推理能力弱的痛点。其核心创新是构建了包含实体、关系、属性、社区四级知识粒度的知识树结构,融合了图方案的细粒度推理与树方案的层次化摘要优势。
通过创新的S2Dual-perception社区检测算法,构图效率相比SOTA算法Leiden提升近100%。这使得优图GraphRAG在hotpotQA等数据集上的大模型调用Token成本降至百万级,远低于微软GraphRAG的亿级和LightRAG的千万级。
最终,该框架在回答准确率上对比微软GraphRAG提升200%以上,实现了效果与成本的双重突破。
优图的RAG技术体系通过系统性的架构创新,攻克了从语义、结构化到复杂图检索的多项难题,展现了卓越的技术深度与实用价值。未来向Agentic RAG和低成本化演进,将进一步推动AI在千行百业的深度应用。这项技术将如何改变我们的信息交互方式?