Skip to content

AI 平台

x-boot-cloud 使用 Spring AI 作为统一抽象层,把模型配置、对话、知识库/RAG、Agent、工作流和工具逐步沉淀到 ai-service

当前能力

根据当前项目状态,AI 平台已经形成以下基础闭环:

  • AI 模型配置与后台模型管理。
  • 后台普通对话和 SSE 流式对话。
  • 会话、消息、调用结果、错误和反馈持久化。
  • 知识库、文档、切片、索引与基础检索。
  • OpenAI-compatible embedding 与 Qdrant 向量库适配。
  • 基于知识库检索上下文的 RAG 回答和引用片段。
  • Agent、工作流定义、节点和执行记录。
  • 工具注册表基础结构。

模型接入

Provider接入方式典型配置
OllamaSpring AI OllamaproviderType=OLLAMA
OpenAISpring AI OpenAIproviderType=OPENAI
DeepSeekSpring AI DeepSeekproviderType=DEEPSEEK
通义千问等OpenAI-compatible endpointproviderType=OPENAI_COMPATIBLE

模型配置通常包括 provider、base URL、model name、temperature、timeout 和启用状态。API Key 应来自环境变量、密钥服务或受控配置中心。

对话链路

text
后台登录用户

admin-api Controller

AiModelConfigFacade / AiChatFacade

ai-service 业务编排

模型 Provider / RAG 检索 / 工作流执行

会话、消息、调用日志与响应

流式对话通过 SSE 返回,但内部 SSE 入口不直接作为外部开放接口;外部请求由 admin-api 代理并负责后台权限和租户上下文。

RAG 边界

RAG 链路包括文档来源、解析、切片、embedding、向量存储、检索和回答引用。知识库、文档、会话和执行记录都需要遵守租户隔离。

当前项目已经具备基础检索与引用回答,混合检索、关键词召回、重排序和更丰富的召回参数属于后续增强方向。

当前进行中与后续方向

工具 / MCP

工具注册表已经落地,保存工具的非密钥元数据。后续继续推进:

  • 工具鉴权配置。
  • 工具调用审计。
  • MCP Client / Server 适配。
  • 工具权限隔离与租户边界。

后续增强

  • Prompt 模板、变量与版本管理。
  • AI 调用量、Token、错误率和慢调用统计。
  • 多模态、OCR、文档写作与业务联动。

安全原则

  • 不在数据库或源码中保存明文 API Key、Token 或完整敏感 Header。
  • 模型配置的读取、测试和使用需要权限控制。
  • 记录调用状态、耗时和错误,但不泄露供应商密钥与敏感响应。
  • AI 业务统一走 admin-api → ai-facade → ai-service,保持入口和安全边界稳定。

以工程化方式构建可演进的 Java 微服务系统