Liuqi.dev
Spring Boot + LangChain4j 实战:用 AI Agent 构建智能客服系统
发布于

Spring Boot + LangChain4j 实战:用 AI Agent 构建智能客服系统

作者
  • avatar
    姓名
    刘琦

引言

最近 GitHub 上 AI Agent 项目热度持续走高。Bytedance 的 DeerFlow(45k ⭐)、LangChain 官方(131k ⭐)都是热门仓库。作为 Java 开发者,我们怎么快速把 AI Agent 能力集成到自己的 Spring Boot 项目里?

LangChain4j 是 LangChain 的 Java 实现,支持本地部署、国产大模型对接,完美适配 Spring Boot 生态。本文用实际项目演示:从零构建一个私有知识库问答 Agent。

架构设计

用户提问 → Spring Boot Controller
  → LangChain4j Agent(ReAct 模式)
    → 知识库检索(向量数据库)
    → LLM 推理(支持国产模型:通义/文心/Kimi)
    → 工具调用(查订单/查库存/转人工)

核心优势:私有化部署、数据不出内网、响应速度可控。

集成步骤

1. 添加 Maven 依赖

<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-spring-boot-starter</artifactId>
    <version>1.0.0-beta1</version>
</dependency>
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-open-ai</artifactId>
    <version>1.0.0-beta1</version>
</dependency>
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-community</artifactId>
    <version>0.2.0</version>
</dependency>

2. 配置文件

langchain4j:
  open-ai:
    base-url: https://dashscope.aliyuncs.com/compatible-mode/v1
    api-key: ${DASHSCOPE_API_KEY}
    model-name: qwen-plus

  community:
    chat-model: dashscope # 使用阿里通义

3. 定义工具(Tool)

@Component
public class OrderTools {

    @Tool("根据订单号查询订单状态")
    String getOrderStatus(@P("订单号") String orderId) {
        return "订单" + orderId + "状态:已发货,预计3天内到达";
    }

    @Tool("查询商品库存")
    String checkStock(@P("商品SKU") String sku) {
        return "商品 " + sku + " 库存:58件";
    }
}

4. 构建 Agent

@Configuration
public class AgentConfig {

    @Bean
    public AiServices<CustomerServiceAgent> customerAgent(
            ChatModel model,
            List<Tool> tools
    ) {
        return AiServices.builder(CustomerServiceAgent.class)
                .chatModel(model)
                .tools(tools)
                .systemMessage("""
                    你是一个专业的电商客服助手。
                    遇到用户咨询订单问题时,必须调用订单工具。
                    遇到库存相关问题时,必须调用库存工具。
                    回答要专业、简洁、有耐心。
                    """)
                .build();
    }
}

interface CustomerServiceAgent {
    String chat(String userMessage);
}

5. Controller 接入

@RestController
@RequestMapping("/api/ai")
@RequiredArgsConstructor
public class AiController {

    private final CustomerServiceAgent agent;

    @PostMapping("/chat")
    public Result<String> chat(@RequestBody ChatRequest req) {
        String answer = agent.chat(req.getMessage());
        return Result.success(answer);
    }
}

接入国产大模型(通义)

国内部署首选通义千问,配置简单且成本低:

@Bean
public ChatModel dashscopeChatModel() {
    return DashScopeChatModel.builder()
        .apiKey(System.getenv("DASHSCOPE_API_KEY"))
        .modelName("qwen-plus")
        .temperature(0.7)
        .maxTokens(2000)
        .build();
}

.env 文件(不上传 Git):

DASHSCOPE_API_KEY=sk-xxxxxxxx

知识库检索增强(RAG)

生产环境建议加上知识库检索:

// 文档分割
DocumentSplitter splitter = DocumentSplitters.recursive(500, 50);
List<Document> chunks = splitter.split(document);

// 存入向量数据库
EmbeddingStore<TextSegment> store = new InMemoryEmbeddingStore<>();
EmbeddingModel embeddingModel = new AllMiniLmL6V2EmbeddingModel();
List<Embedding> embeddings = embeddingModel.embedAll(chunks).content();
store.addAll(embeddings, chunks);

// 检索
List<EmbeddingMatch<TextSegment>> matches =
    store.findRelevant(embedding(query), 3);

常见问题

Q:响应速度慢怎么办? A:启用流式输出 + 本地部署量化模型,或接入 Kimi API(响应快、费用低)

Q:怎么防止用户乱问? A:在 systemMessage 里明确边界,遇到无法回答的问题返回固定引导话术

总结

通过 LangChain4j,Java 开发者可以快速构建私有化 AI Agent。相比 Python 方案,Java 集成方案更贴合企业现有技术栈,运维成本更低。配合通义等国产大模型,部署成本也可控。

项目地址:https://github.com/langchain4j/langchain4j | Stars: 131k+