AI 平台
x-boot-cloud 使用 Spring AI 作为统一抽象层,把模型配置、对话、知识库/RAG、Agent、工作流和工具逐步沉淀到 ai-service。
当前能力
根据当前项目状态,AI 平台已经形成以下基础闭环:
- AI 模型配置与后台模型管理。
- 后台普通对话和 SSE 流式对话。
- 会话、消息、调用结果、错误和反馈持久化。
- 知识库、文档、切片、索引与基础检索。
- OpenAI-compatible embedding 与 Qdrant 向量库适配。
- 基于知识库检索上下文的 RAG 回答和引用片段。
- Agent、工作流定义、节点和执行记录。
- 工具注册表基础结构。
模型接入
| Provider | 接入方式 | 典型配置 |
|---|---|---|
| Ollama | Spring AI Ollama | providerType=OLLAMA |
| OpenAI | Spring AI OpenAI | providerType=OPENAI |
| DeepSeek | Spring AI DeepSeek | providerType=DEEPSEEK |
| 通义千问等 | OpenAI-compatible endpoint | providerType=OPENAI_COMPATIBLE |
模型配置通常包括 provider、base URL、model name、temperature、timeout 和启用状态。API Key 应来自环境变量、密钥服务或受控配置中心。
对话链路
text
后台登录用户
↓
admin-api Controller
↓
AiModelConfigFacade / AiChatFacade
↓
ai-service 业务编排
↓
模型 Provider / RAG 检索 / 工作流执行
↓
会话、消息、调用日志与响应流式对话通过 SSE 返回,但内部 SSE 入口不直接作为外部开放接口;外部请求由 admin-api 代理并负责后台权限和租户上下文。
RAG 边界
RAG 链路包括文档来源、解析、切片、embedding、向量存储、检索和回答引用。知识库、文档、会话和执行记录都需要遵守租户隔离。
当前项目已经具备基础检索与引用回答,混合检索、关键词召回、重排序和更丰富的召回参数属于后续增强方向。
当前进行中与后续方向
工具 / MCP
工具注册表已经落地,保存工具的非密钥元数据。后续继续推进:
- 工具鉴权配置。
- 工具调用审计。
- MCP Client / Server 适配。
- 工具权限隔离与租户边界。
后续增强
- Prompt 模板、变量与版本管理。
- AI 调用量、Token、错误率和慢调用统计。
- 多模态、OCR、文档写作与业务联动。
安全原则
- 不在数据库或源码中保存明文 API Key、Token 或完整敏感 Header。
- 模型配置的读取、测试和使用需要权限控制。
- 记录调用状态、耗时和错误,但不泄露供应商密钥与敏感响应。
- AI 业务统一走
admin-api → ai-facade → ai-service,保持入口和安全边界稳定。