Spring Boot 3 + LangChain4j:10分钟构建企业级 RAG 知识库
大语言模型虽具备强大的推理能力,但在处理企业内部私有知识、实时更新文档时存在天然局限。RAG(检索增强生成)技术通过“先检索,再生成”的机制,有效弥补了这一短板。本文将基于 Spring Boot 3 与 LangChain4j 1.x,从零构建一个可运行的 RAG Demo,实现文档摄入、向量化存储及基于知识库的问答功能。
01核心架构与组件
LangChain4j 提供了 RAG 全流程的抽象实现,通过声明式编程极大简化了开发难度。理解以下六大核心组件是构建 RAG 应用的基础。
| 组件名称 | 主要职责 | 作用类比 |
|---|---|---|
| Document | 原始文档抽象,包含文本与元数据 | 待加工的原料 |
| DocumentSplitter | 将长文档切割为适合嵌入的小块 | 切片机(控制 Chunk 大小与重叠) |
| EmbeddingModel | 将文本块转为高维向量 | 给文字打上“口味标签” |
| EmbeddingStore | 存储向量并支持相似度搜索 | 向量数据库 |
| ContentRetriever | 检索问题相关的文本块 | 图书检索员 |
| AiService | 声明式 AI 服务接口 | 自动组装流水线的指挥官 |
在实现模式上,LangChain4j 提供了 Easy RAG、Naive RAG 和 Advanced RAG 三种方式。本文采用 Naive RAG(标准版),它在生产环境中具备最佳的可用性与扩展性平衡。
02环境准备与依赖
- JDK 17+:LangChain4j 最低要求。
- Spring Boot 3.5.x:LangChain4j Spring Starter 1.x 版本的强制要求。
- OpenAI API Key:用于 Chat Model 与 Embedding Model 调用。
在 pom.xml 中引入核心依赖。需注意版本配套,核心库使用 1.12.2,Starter 由 BOM 统一管理。
配置 application.yml,指定 OpenAI 兼容接口(如阿里云百炼)及模型参数。需配置 Chat Model 用于生成回答,Embedding Model 用于向量化。
langchain4j:
open-ai:
chat-model:
baseUrl: https://dashscope.aliyuncs.com/compatible-mode/v1
api-key: ${API_KEY}
model-name: qwen-plus
temperature: 0.2
embedding-model:
baseUrl: https://dashscope.aliyuncs.com/compatible-mode/v1
api-key: ${API_KEY}
model-name: text-embedding-v3
open-ai:
chat-model:
baseUrl: https://dashscope.aliyuncs.com/compatible-mode/v1
api-key: ${API_KEY}
model-name: qwen-plus
temperature: 0.2
embedding-model:
baseUrl: https://dashscope.aliyuncs.com/compatible-mode/v1
api-key: ${API_KEY}
model-name: text-embedding-v3
03核心代码实现
RagConfig 类是 RAG 流水线的装配工厂,负责初始化向量存储、摄入文档并创建检索器。
@Configuration
public class RagConfig {
@Bean
public EmbeddingStore embeddingStore() {
return new InMemoryEmbeddingStore<>();
}
@Bean
public EmbeddingStoreIngestor embeddingStoreIngestor(
EmbeddingModel embeddingModel,
EmbeddingStore embeddingStore) throws IOException {
Path docsPath = new ClassPathResource("docs").getFile().toPath();
List documents = FileSystemDocumentLoader.loadDocuments(docsPath);
return EmbeddingStoreIngestor.builder()
.documentSplitter(DocumentSplitters.recursive(500, 50))
.embeddingModel(embeddingModel)
.embeddingStore(embeddingStore)
.build();
}
@Bean
public ContentRetriever contentRetriever(
EmbeddingModel embeddingModel,
EmbeddingStore embeddingStore) {
return EmbeddingStoreContentRetriever.builder()
.embeddingStore(embeddingStore)
.embeddingModel(embeddingModel)
.maxResults(5)
.minScore(0.6)
.build();
}
}
public class RagConfig {
@Bean
public EmbeddingStore
return new InMemoryEmbeddingStore<>();
}
@Bean
public EmbeddingStoreIngestor embeddingStoreIngestor(
EmbeddingModel embeddingModel,
EmbeddingStore
Path docsPath = new ClassPathResource("docs").getFile().toPath();
List
return EmbeddingStoreIngestor.builder()
.documentSplitter(DocumentSplitters.recursive(500, 50))
.embeddingModel(embeddingModel)
.embeddingStore(embeddingStore)
.build();
}
@Bean
public ContentRetriever contentRetriever(
EmbeddingModel embeddingModel,
EmbeddingStore
return EmbeddingStoreContentRetriever.builder()
.embeddingStore(embeddingStore)
.embeddingModel(embeddingModel)
.maxResults(5)
.minScore(0.6)
.build();
}
}
KnowledgeAssistant 接口通过 @AiService 注解声明,框架会自动将 ContentRetriever 注入其中。开发者只需定义 SystemMessage 和聊天方法即可。
@AiService
public interface KnowledgeAssistant {
@SystemMessage("你是一个专业的产品客服助手。请严格基于知识库回答,若未知请直接告知。")
String chat(@MemoryId String memoryId, @UserMessage String userMessage);
}
public interface KnowledgeAssistant {
@SystemMessage("你是一个专业的产品客服助手。请严格基于知识库回答,若未知请直接告知。")
String chat(@MemoryId String memoryId, @UserMessage String userMessage);
}
ChatController 提供了 REST 接口供外部调用,接收问题并返回基于知识库的答案。
@RestController
@RequestMapping("/api/chat")
@RequiredArgsConstructor
public class ChatController {
private final KnowledgeAssistant assistant;
@GetMapping("/ask")
public ChatResponse ask(@RequestParam(defaultValue = "default") String sessionId,
@RequestParam String question) {
String answer = assistant.chat(sessionId, question);
return new ChatResponse(sessionId, question, answer, System.currentTimeMillis());
}
}
@RequestMapping("/api/chat")
@RequiredArgsConstructor
public class ChatController {
private final KnowledgeAssistant assistant;
@GetMapping("/ask")
public ChatResponse ask(@RequestParam(defaultValue = "default") String sessionId,
@RequestParam String question) {
String answer = assistant.chat(sessionId, question);
return new ChatResponse(sessionId, question, answer, System.currentTimeMillis());
}
}
04运行与常见问题
启动应用后,可通过 curl 测试接口。若遇到回答不准确或报错,可参考以下策略进行排查。
- 检索质量调优:调整 DocumentSplitter 的 chunkSize 和 overlap 参数,例如 FAQ 文本建议 200-300 字符,长手册建议 500-800 字符。
- 依赖冲突:确保 langchain4j-bom 版本与 Spring Boot 3.5.x 兼容,避免 NoSuchMethodError。
- 多格式支持:默认仅支持文本,引入 langchain4j-document-parser-apache-tika 可解析 PDF、Word 等格式。
总结而言,RAG 适合解决私有知识实时查询问题,成本可控且可追溯;而 Fine-tuning 更适合调整模型的语气风格与专业术语。在大多数企业场景下,建议优先采用 RAG 方案。
当前文章无评论,是时候发表评论了