第三章 AI 能力实战
一句话概括这一章
1Panel 不再只是个“装数据库的运维面板”,它同时是一个轻量级 AI 管理平台:从模型账号、本地大模型部署,到智能体、AI 网关、MCP,一条链路全在面板里。但 AI 模块的能力分散在社区版、专业版、企业版三个层级里,上手之前最该先搞清楚的是“哪些免费、哪些要钱、哪些要显卡”。
如果你已经在 1Panel 上跑过网站和应用,这一章是另一个视角的进阶:把服务器从“跑业务的机器”变成“跑模型的机器”。
这一章解决什么问题
| 小节 | 场景 | 一句话答案 |
|---|---|---|
| 3.1 模型管理与本地大模型部署 | 想统一管云端模型的 API Key,或者本地跑个开源模型 | 模型账号管凭证,Ollama 管本地模型,零门槛起步 |
| 3.2 vLLM 与 GPU 监控 | 要并发、要吞吐、有显卡 | vLLM 是专业版能力,GPU 监控看显存和利用率 |
| 3.3 智能体与 AI 网关 | 给团队搭聊天助手、统一管调用配额 | 智能体社区版就能用(限 5 个),AI 网关是企业版 |
| 3.4 Skills Hub 与 MCP 实战 | 让 AI 能调外部工具、企业内部管理 Skill | MCP 三个版本都有,Skills Hub 仅企业版 |
先打通一个认知:1Panel 的 AI 模块在管什么
和第 1 章讲网站时“OpenResty 是发动机”的视角一样,AI 模块也有一层“谁在真正干活”的认知:
| 你在面板上看到的 | 背后实际是什么 |
|---|---|
| 模型账号 | 保存连接信息(API Key、Base URL),真正推理在云端厂商那边 |
| Ollama | 应用商店装的一个容器应用,本地推理在容器里跑 |
| vLLM | 也是容器部署的推理引擎,冲着高吞吐去的 |
| 智能体 | 一个个容器化的应用(带 WebUI),配置文件指向上面的模型 |
| MCP Server | 用 npx/uvx 启动的命令,被 1Panel 封装进容器转成 HTTP 服务 |
一句话:1Panel 的 AI 能力,是“帮你把各种 AI 组件装起来、配置好、管起来”,而不是自己实现推理。 理解了这层,你就会明白为什么应用商店状态、Docker 状态、容器资源(CPU/内存/显卡)是 AI 功能的三个共同前提。
版本边界:这张表先存着
AI 模块是 1Panel 里“版本差异最大”的部分,先把边界说清楚,后面四节就不用反复重复:
| 能力 | 社区版 | 专业版 | 企业版 |
|---|---|---|---|
| 模型账号 | ✅ | ✅ | ✅ |
| Ollama 管理 | ✅ | ✅ | ✅ |
| GPU 监控 | ✅ | ✅ | ✅ |
| 智能体 | ✅(最多 5 个) | ✅ 不限数量 | ✅ 不限数量 |
| MCP | ✅ | ✅ | ✅ |
| vLLM | ❌ | ✅ | ✅ |
| 模型下载器 | ❌ | ✅ | ✅ |
| AI 网关 | ❌ | ❌ | ✅ |
| 基准测试 | ❌ | ❌ | ✅ |
| Skills Hub | ❌ | ❌ | ✅ |
| 智能体批量任务 / 下发 Skill | ❌ | ❌ | ✅ |
发现规律了吗:不要钱的部分是“管凭证 + 管本地模型 + 管工具链”;要钱的部分是“要性能”(vLLM、模型下载器)和“要管理”(网关、Skills Hub、批量运维)。价格一律以官网为准,本书不编数字。
一个常见的起步误区
很多人装完 1Panel,冲进 AI 模块就想跑大模型,结果卡在第一步:服务器没有显卡,或者显卡驱动没装好。
先建立正确的预期:
| 你想跑的模型 | 大概需要什么 |
|---|---|
| 7B 左右的小模型(CPU 也行) | Ollama + 足够内存,社区版就够 |
| 70B 级别的模型 | 专业显卡(几十 GB 显存)+ vLLM |
| 云端 API(DeepSeek、通义这些) | 只要一个 API Key,不吃本地资源 |
一条务实路线:先用模型账号接云端 API(几乎零成本,熟悉整个链路),再上 Ollama 跑本地小模型(社区版全部免费),等需求确认了再考虑专业版的 vLLM 和企业版的网关。一上来就买许可证租显卡,是这一章最常见的浪费。
硬件:三个必须先确认的事
在 AI 这条路上,软硬件的关系比网站模块紧得多:
第一,显卡驱动。 以 NVIDIA 为例,终端执行 nvidia-smi 必须能正常输出。这个命令是 1Panel GPU 监控的前提,也是后面一切 GPU 相关功能的前提。
第二,容器里用 GPU,需要 NVIDIA Container Toolkit。 驱动只解决了“系统认得出显卡”,容器里用还得装容器运行时工具。GPU 监控官方文档明确要求按 NVIDIA 的安装文档完成容器运行时配置。
第三,驱动和内核强绑定。 升级系统内核可能让显卡驱动失效,官方都提醒“生产环境应先确认兼容性并安排维护窗口”。AI 服务器不要随便 apt upgrade。
学完这一章你会获得什么
- 知道哪种 AI 玩法花多少钱、需要什么硬件;
- 会用模型账号统一管理多家云端模型的凭证;
- 能用 Ollama 在自己的服务器上跑起一个本地大模型;
- 清楚 vLLM 适合什么场景、GPU 监控看哪几个指标;
- 理解智能体、AI 网关、MCP、Skills Hub 各自解决什么问题,不盲目上企业版。
更细的按钮级说明见 《1Panel 官方文档:功能手册》 的 AI 相关章节,本书讲的是选型与实战,官方文档讲的是完整参数。
下一节:从最贴近钱包的一步开始——模型账号管理,以及怎么用 Ollama 免费跑起本地大模型。
