|
|
本次更新内容:
1.更换全新前端UI样式
2.登陆页交互滑块验证码弹层显示,验证通过后自动提交登陆数据
3.新增AI模型配置,知识库、MCP服务、智能客服基座
一、模块总览
后台菜单 路由 功能
大模型管理 → 大模型配置列表 /llm/config 管理接入的 LLM/Embedding/Rerank 模型
大模型管理 → mcp服务器配置列表 /llm/mcp 管理 MCP 工具服务器(SSE)
大模型管理 → AI对话 /llm/chat 与模型对话(可调用 MCP 工具)
智能客服 → 知识库管理 /kb/knowledge 创建知识库(绑定模型、分块参数)
智能客服 → 文档管理 /kb/docs 上传文档 → 解析 → 分块 → 向量化入库
智能客服 → 客服对话 /kb/chat 后台在线问答(RAG 检索增强)
智能客服 → 流程编排 /kb/flow 可视化编排客服 SOP 流程
智能客服 → 应用管理 /kb/app 应用/凭证管理,对接 C 端开放 API 与网站挂件
链路关系:知识库 = 知识 + 向量化模型 + 对话模型;文档喂给知识库 → Qdrant 向量化;客服对话用「检索 + 大模型」回答;流程编排把上述能力编排成 SOP。
二、模型接入协议(5 种)
通过数据库 lm_config.model_class 区分(值与字典 lm_protocol 一致):
协议 model_class 值 说明
OpenAI 兼容 openai_compatible 智谱/Kimi/腾讯混元/MiniMax/MiMo/火山方舟/Gemini 兼容端等,通用性最强
Anthropic anthropic Anthropic Claude Messages API
DeepSeek deepseek DeepSeek 原生协议(deepseek-reasoner 可输出思维链)
阿里百炼 qwen DashScope 原生 SDK 协议(Embedding 也用此协议)
Ollama ollama 本地模型(默认 http://127.0.0.1:11434)
三、MCP 服务器配置
MCP(Model Context Protocol)让大模型能调用外部工具(查天气、查订单、建工单等)。
• 入口:大模型管理 → mcp服务器配置列表(/llm/mcp)
• 关键字段:服务器名称、SSE 地址(如 http://服务端/mcp,需服务端实现 SSE 端点)
• 保存后,AI 对话发送时会自动拉取该服务器暴露的工具列表,模型按需调用
四、AI 对话
4.1 使用方式
• 选择模型(下拉:左侧模型名、右侧提供商小徽章)
• 输入问题 → 发送。采用真流式打字:WebSocket chat 事件逐字推送正文,chatThink 事件推送思考过程
• 历史消息通过 lm_chat_list / lm_chat_message 持久化
五、智能客服(知识库 RAG)
基于「检索增强生成」:上传文档 → 切分 → 向量化入 Qdrant → 问答时检索最相关内容 + 大模型生成,回答标注引用来源。
5.1 前置条件(重要)
1. Qdrant 向量库可用:配置 manifest/config/config.yaml
- kb:
- qdrant:
- address: "http://192.168.0.214" [i][i]# Qdrant HTTP 地址[/i][/i]
- grpcPort: 6334 [i][i]# Qdrant gRPC 端口[/i][/i]
- apiKey: "" [i][i]# 可选[/i][/i]
复制代码
• 若 address 为空,知识库功能不可用
• go-client 与 Qdrant 服务端版本必须匹配(主版本一致、次版本差 ≤1),否则向量「假写入」(Upsert 返回成功但实际 0 点),本机 go-client 升级后请同步升级 Qdrant 至 1.19.x
2. TextEmbedding 模型:在大模型配置列表新增一条 TextEmbedding 类型配置(如百炼 text-embedding-v4),知识库创建时选择它
3. 对话模型:至少一条启用状态的 LLM 配置
5.2 知识库管理
字段 说明
名称 / 描述
向量化模型 TextEmbedding 配置(决定向量维度)
对话模型 客服回复用的 LLM
MCP 配置 可选,客服 Agent 可调用工具
分块大小 / 分块重叠 文档切分粒度(如 300 / 50)
检索条数 topK 每次问答检索的分块数(默认 5)
状态 停用后该库不可问答
每个知识库对应 Qdrant 一个独立 collection(命名 kb_{id},Cosine 距离)。
六、流程编排(SOP Workflow)
让客服按预设「标准作业程序」处理多步骤任务:意图识别 → 条件判断 → 路由 → 查询/转人工 → 回复。
核心技术:DSL(JSON)→ 后端用 eino compose.Graph 动态构建执行引擎;前端用 vue-flow 可视化画布编辑 DSL。
4、多语言支持(多语言采用「前端持久化语言 → 请求头传递 → 后端中间件注入 ctx → 输出边界统一翻译」的整体方案,数据库内容(菜单标题/字典标签/网站配置文案)在响应时翻译,前端静态 UI 用 vue-i18n 渲染。)
5、全新安装方式(安装器是一个独立于主程序的 Web 程序(install/install.go),通过浏览器分步完成全部配置。)


演示地址
http://v34.g-fast.cn/sys
账号:demo 密码:Demo123
文档地址
原文链接 |
|