- 发布于
Spring Boot + LangChain4j 实战:用 AI Agent 构建智能客服系统
- 作者

- 姓名
- 刘琦
引言
最近 GitHub 上 AI Agent 项目热度持续走高。Bytedance 的 DeerFlow(45k ⭐)、LangChain 官方(131k ⭐)都是热门仓库。作为 Java 开发者,我们怎么快速把 AI Agent 能力集成到自己的 Spring Boot 项目里?
LangChain4j 是 LangChain 的 Java 实现,支持本地部署、国产大模型对接,完美适配 Spring Boot 生态。本文用实际项目演示:从零构建一个私有知识库问答 Agent。
架构设计
用户提问 → Spring Boot Controller
→ LangChain4j Agent(ReAct 模式)
→ 知识库检索(向量数据库)
→ LLM 推理(支持国产模型:通义/文心/Kimi)
→ 工具调用(查订单/查库存/转人工)
核心优势:私有化部署、数据不出内网、响应速度可控。
集成步骤
1. 添加 Maven 依赖
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-spring-boot-starter</artifactId>
<version>1.0.0-beta1</version>
</dependency>
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-open-ai</artifactId>
<version>1.0.0-beta1</version>
</dependency>
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-community</artifactId>
<version>0.2.0</version>
</dependency>
2. 配置文件
langchain4j:
open-ai:
base-url: https://dashscope.aliyuncs.com/compatible-mode/v1
api-key: ${DASHSCOPE_API_KEY}
model-name: qwen-plus
community:
chat-model: dashscope # 使用阿里通义
3. 定义工具(Tool)
@Component
public class OrderTools {
@Tool("根据订单号查询订单状态")
String getOrderStatus(@P("订单号") String orderId) {
return "订单" + orderId + "状态:已发货,预计3天内到达";
}
@Tool("查询商品库存")
String checkStock(@P("商品SKU") String sku) {
return "商品 " + sku + " 库存:58件";
}
}
4. 构建 Agent
@Configuration
public class AgentConfig {
@Bean
public AiServices<CustomerServiceAgent> customerAgent(
ChatModel model,
List<Tool> tools
) {
return AiServices.builder(CustomerServiceAgent.class)
.chatModel(model)
.tools(tools)
.systemMessage("""
你是一个专业的电商客服助手。
遇到用户咨询订单问题时,必须调用订单工具。
遇到库存相关问题时,必须调用库存工具。
回答要专业、简洁、有耐心。
""")
.build();
}
}
interface CustomerServiceAgent {
String chat(String userMessage);
}
5. Controller 接入
@RestController
@RequestMapping("/api/ai")
@RequiredArgsConstructor
public class AiController {
private final CustomerServiceAgent agent;
@PostMapping("/chat")
public Result<String> chat(@RequestBody ChatRequest req) {
String answer = agent.chat(req.getMessage());
return Result.success(answer);
}
}
接入国产大模型(通义)
国内部署首选通义千问,配置简单且成本低:
@Bean
public ChatModel dashscopeChatModel() {
return DashScopeChatModel.builder()
.apiKey(System.getenv("DASHSCOPE_API_KEY"))
.modelName("qwen-plus")
.temperature(0.7)
.maxTokens(2000)
.build();
}
.env 文件(不上传 Git):
DASHSCOPE_API_KEY=sk-xxxxxxxx
知识库检索增强(RAG)
生产环境建议加上知识库检索:
// 文档分割
DocumentSplitter splitter = DocumentSplitters.recursive(500, 50);
List<Document> chunks = splitter.split(document);
// 存入向量数据库
EmbeddingStore<TextSegment> store = new InMemoryEmbeddingStore<>();
EmbeddingModel embeddingModel = new AllMiniLmL6V2EmbeddingModel();
List<Embedding> embeddings = embeddingModel.embedAll(chunks).content();
store.addAll(embeddings, chunks);
// 检索
List<EmbeddingMatch<TextSegment>> matches =
store.findRelevant(embedding(query), 3);
常见问题
Q:响应速度慢怎么办? A:启用流式输出 + 本地部署量化模型,或接入 Kimi API(响应快、费用低)
Q:怎么防止用户乱问? A:在 systemMessage 里明确边界,遇到无法回答的问题返回固定引导话术
总结
通过 LangChain4j,Java 开发者可以快速构建私有化 AI Agent。相比 Python 方案,Java 集成方案更贴合企业现有技术栈,运维成本更低。配合通义等国产大模型,部署成本也可控。
项目地址:https://github.com/langchain4j/langchain4j | Stars: 131k+