3.3 智能体与 AI 网关
一句话判断
智能体是“开箱即用的 AI 应用”(带 WebUI、带频道、带技能),AI 网关是“统一管模型调用的中控”(管配额、管路由、管审计)。前者让你快速用上 AI,后者让你管住 AI——前者社区版就能玩,后者是企业版的能力。
智能体:不只是“装个聊天应用”
智能体集中在 AI → 智能体 页面安装和管理。页面包含智能体列表、模型账号,以及按智能体类型和版本动态显示的配置能力。
版本边界:社区版最多管理 5 个智能体,专业版和企业版不限数量。企业版用户需要对应的智能体查看或管理权限。
很多人把智能体理解为“装个 ChatGPT-Next-Web”,只对了一半。1Panel 的智能体管理包含五个维度的配置:概览、模型、频道、技能与角色、设置。区别在于:1Panel 把“应用 + 模型账号 + 运维”串成了一条链。
使用前提
官方列了四条:
- Docker 服务和应用商店状态正常;
- 已准备模型服务及 API Key(或先在模型账号里建好);
- 服务器能访问智能体应用镜像和软件源;
- 对外开放 WebUI 或频道前,已完成防火墙、域名、HTTPS 和访问控制配置。
第 4 条是“对外开放”的分水岭:第 1~3 条让你装得上,第 4 条决定你敢不敢给别人用。
安装智能体:五步
- 进入 AI → 智能体;
- 点击 创建,选择页面当前支持的智能体类型;
- 填写名称、应用版本、WebUI 端口、认证信息和允许访问地址;
- 选择或新建模型账号,并按需配置模型池和备用模型;
- 确认参数后提交任务,在任务日志中查看安装结果。
“允许访问地址”是安装时最重要的一个安全字段。 官方明确:
允许访问地址需要使用
http://或https://开头的域名或 IP;只填写可信来源,避免把智能体管理界面直接暴露到公网。
为什么这条值得单拎出来说:智能体的 WebUI 往往带管理功能(配 API Key、看对话记录),暴露到公网 + 弱密码,就是一次数据泄露。内网自己用,就填内网地址;要公网用,先配好域名和 HTTPS。
“备用模型”是进阶选项:主模型挂了(或者厂商限流了),智能体自动切到备用。3.1 节说的“云端为主、本地兜底”就是靠这个实现的。
日常管理:五个标签
| 标签 | 管什么 | 实战要点 |
|---|---|---|
| 概览 | 运行状态、主模型、频道数、技能数、定时任务数、会话数 | 健康度第一眼 |
| 模型 | 主模型、可用模型、备用模型 | 改模型账号时可同步更新智能体配置 |
| 频道 | 微信、企业微信、钉钉、飞书、QQ、Telegram、Discord 等 | 保存频道配置可能自动重启容器 |
| 技能与角色 | 内置/外部/工作区技能;工作区角色 Markdown 文件 | 角色保存后按提示重启容器 |
| 设置 | 认证方式、时区、浏览器开关、NPM 源、配置文件 | 直接编辑配置文件前先备份 |
频道是智能体超越“聊天应用”的地方:配置好后,同一个智能体能被企业微信、钉钉、飞书的群使用——你的群机器人背后是 1Panel 管理的模型和技能。
“修改频道配置可能自动重启容器”这条要记住:配置频道时挑业务低谷,避免正在使用的会话被中断。
技能与角色:技能让智能体能做额外的事(查天气、搜知识库),角色(Role)是预先设定的人设。角色是 Markdown 文件,可以直接编辑——这是进阶玩家定制智能体行为的主要入口。保存后按页面提示重启容器生效。
设置的配置文件编辑:官方建议“直接编辑配置文件前建议先备份;保存后需要重启的配置以页面提示为准”。这和 1.2 节改 OpenResty 配置是同一个心法:先备份,再动手。
多节点与批量操作(企业版)
企业版可以对不同节点上的智能体执行批量任务,并向目标智能体下发 Skill。
| 能力 | 价值 |
|---|---|
| 批量任务 | 十台节点上的智能体一起升级,不用逐台点 |
| 下发 Skill | 一个技能推送到所有节点的智能体 |
官方提醒:提交前应核对目标节点、目标版本和 Skill 来源,任务结果可在任务日志中查看。 批量操作的放大效应是双向的——批量升级方便,批量翻车也同样壮观。先在单节点试,再批量推。
AI 网关:企业版的模型中控
AI 网关用于统一管理模型账号、调用凭证、访问配额和请求转发。客户端只需配置网关的外部连接地址和 API Key,就能通过统一入口调用不同供应商或本地部署的模型。
这是企业版功能。 新版 AI 网关有 8 个功能入口:账号池、模型组、API Key、用户组、智能路由、内容合规、用量统计、设置。
首次配置顺序(官方推荐)
- 在账号池导入模型账号并配置模型映射;
- 按需创建模型组,用于限制用户组可用模型或配置智能路由;
- 创建用户组,设置 QPS、Token 配额和模型范围;
- 创建 API Key,交给客户端使用;
- 按需启用智能路由、内容合规、用量统计和 Elasticsearch。
这个顺序是设计出来的,别跳步:没有账号池就没有可用模型,没有用户组就没有配额载体,API Key 绑定用户组才有意义。
核心概念对照
| 概念 | 作用 | 一句话 |
|---|---|---|
| 账号池 | 上游模型账号 + 权重/优先级 + 模型映射 | “我有哪几个上游” |
| 模型组 | 一组真实上游模型,组内有序不负载均衡 | “这些模型当一类用” |
| 用户组 | 一组 API Key 的 QPS/Token 配额和模型范围 | “这类人能用多少” |
| API Key | 给客户端的凭证,绑定用户组 | “客户端拿什么连” |
| 模型映射 | 请求里的 model 名 → 真实上游模型名 |
“客户端以为在叫谁” |
模型映射是网关的核心价值之一:客户端代码里写死 model: gpt-4o,你在网关把它映射到任何模型——换模型不动代码。
负载策略有两种:
| 策略 | 用法 |
|---|---|
| 权重 | 权重越高承担请求越多(按比例分摊) |
| 优先级 | 数值决定选择顺序(主备切换) |
API Key 管理的两个坑
第一,API Key 只在创建时完整展示。 官方原话:保存好,重置 Token 后原 Token 立即失效,需要同步更新客户端配置。和移动端那条一个道理——敏感凭据只露一次面。
第二,默认用户组不可删除。 API Key 绑定用户组后继承其 QPS、Token 配额和模型范围。
客户端调用方式(官方示例):
curl http://<服务器 IP>:4000/v1/chat/completions \
-H "Authorization: Bearer <API Key>" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-v4-flash",
"messages": [{"role": "user", "content": "Hello"}],
"stream": true
}'
Base URL 用页面顶部的外部连接地址,model 填账号池里的请求模型名;启用智能路由后也可以填 auto。
智能路由:auto 的魔法
智能路由根据请求复杂度,在简单模型组和复杂模型组之间选择模型。只在客户端请求使用 model=auto 时触发;请求其他模型名时按普通转发。
配置流程:
- 在模型组中分别创建简单模型组和复杂模型组;
- 在 设置 → Embedding 配置 Embedding 服务、路由阈值和 TopK;
- 在 设置 → 智能路由 中启用,选择两个模型组;
- 在 智能路由 → 样本 中维护简单/复杂请求样本,生成或重建向量;
- 客户端用
model=auto发请求。
Embedding 服务是智能路由和内容合规的共同依赖。 官方给了一条完整的本地部署路径:用模型下载器下载 Qwen3-Embedding-0.6B-GGUF 到 /opt/1panel/ai/models,应用商店装 llama.cpp,模型目录设 /opt/1panel/ai/models(容器内挂载为 /models),启动参数:
-m /models/Qwen3-Embedding-0.6B-GGUF/qwen3-embedding-0.6b-q8_0.gguf \
--host 0.0.0.0 --port 8080 --embedding --pooling last -c 32768
然后在网关 设置 → Embedding 填 http://127.0.0.1:8080、模型 Qwen3-Embedding-0.6B、API Key 留空(本地 llama.cpp 未配认证时)。点连接测试,成功后保存,再回样本页面重建向量。
“预览”功能很好用:输入一段文本看它被判为简单还是复杂,只走路由判断不真实调用上游——调参时不花 Token。
一个决策参数:路由阈值——请求与样本的相似度达到该值才采用样本匹配结果。阈值太高 → 大量请求走规则判断;阈值太低 → 容易误判。 结合决策日志(记录判定标签、来源、置信度)一起调。
内容合规与用量统计
内容合规支持敏感词匹配(含分组、归一化词、阻断/仅记录两种动作)和基于 Embedding 的语义审核样本。用量统计提供分布、排行榜、调用日志三个视图,支持按用户、模型供应商、模型和关键字筛选。
用量统计是企业里最实用的页面:哪个部门用了多少 Token、哪个模型最贵、缓存命中率多少,全都有。Token 成本失控的企业,十有八九是没用过这个页面。
网关设置还有性能设置(最大并发、等待队列、超时、最大请求体)和 Elasticsearch 设置(保存请求和响应内容以便审计)。Elasticsearch 里可能包含提示词和用户输入,官方提醒按合规要求限制访问范围、账号权限和数据保留周期。
智能体 vs AI 网关:一张决策表
| 你想做的事 | 用什么 | 版本 |
|---|---|---|
| 自己/小团队用 AI 聊天 | 智能体 | 社区版(≤5 个) |
| 群机器人(企微/钉钉/飞书) | 智能体 + 频道 | 社区版 |
| 统一全公司模型调用入口 | AI 网关 | 企业版 |
| 给不同部门设 Token 配额 | AI 网关用户组 | 企业版 |
| 自动选便宜/贵的模型 | 智能路由 | 企业版 |
| 内容合规审计 | 网关内容合规 | 企业版 |
| 十个节点批量管智能体 | 智能体批量任务 | 企业版 |
本节要点
- 智能体社区版最多 5 个,专业版/企业版不限;
- 安装时的允许访问地址只填可信来源,别把管理界面裸曝公网;
- 改频道配置可能自动重启容器,挑低谷操作;
- 角色是 Markdown 文件,保存后按提示重启容器;
- AI 网关是企业版功能,按“账号池 → 模型组 → 用户组 → API Key”的顺序配置;
- API Key 只在创建时完整展示;智能路由只对
model=auto生效; - 智能路由和内容合规都依赖 Embedding 服务,改了 Embedding 要重建向量。
智能体的完整管理说明见 《1Panel 官方文档:功能手册》 的“智能体”与“AI 网关”章节。
下一节:让 AI 长出“手”——MCP 让智能体调用外部工具,Skills Hub 让企业统一管理这些技能,见 3.4 节。
